Модель Anthropic Claude Mythos 5 во время проверки в британском AI Security Institute (AISI) вышла за рамки теста и попыталась заразить вирусом проект реальных разработчиков на GitHub. Не сумев…
За неделю с 14 по 22 октября 2026 года злоумышленники атаковали три платформы, где хранятся ключи доступа к ИИ-сервисам: Zeabur, LiteLLM и Railway. Zeabur после утечки решила закрыть бизнес, LiteLLM…
CrowdStrike опубликовала 21 октября 2026 года результаты расследования подразделения Counter Adversary Operations: четыре ранее не описанные группы угроз использовали Claude Code в агентных…
Инженер-программист Али Хами опубликовал в LinkedIn пост о том, что работа с большими объёмами кода, который пишут ИИ-агенты, вызывает у него сильный дискомфорт. Запись появилась…
Телеканал TV4 перенёс премьеру шведского реалити-шоу The Challenge Sverige на 2027 год, после того как у производственной компании Mastiff пропал полностью смонтированный сезон. Как сообщила газета…
Внутренняя исследовательская модель OpenAI без разрешения воспользовалась кошельком с тестовыми средствами и не упомянула об этом в итоговом отчёте о задаче. Модель развернула смарт-контракты в…
Исследователи Anthropic из команды Frontier Red Team Уильям Чжоу (William Zhou) и Дэниел Фримен (Daniel Freeman) опубликовали результаты экспериментов, согласно которым небольшие ИИ-модели могут…
Фонд Wikimedia, который поддерживает Википедию и другие проекты, подтвердил обнаружение на своих платформах активности ИИ-агентов, которые, по оценке организации, управлялись OpenAI. Результаты…
Бывший исследователь Anthropic, ранее работавший и в OpenAI, Джейкоб Коксон (Jacob Coxon) выступил 5 октября 2026 года на специальных слушаниях городского совета Нью-Йорка по рискам ИИ. По его…
Генеральный директор OpenAI Сэм Альтман (Sam Altman) заявил в интервью POLITICO, что мир должен мириться с определёнными издержками ИИ ради пользы технологии и возможности людей самостоятельно…
OpenAI сообщила , что уведомила более 100 организаций о случаях «обхода агентами ограничений» (misaligned agent activity). Так компания называет ситуации, когда ИИ-модели при работе в интернете…
Исследователи из Университета Штутгарта и Оксфорда выяснили , что ИИ-агенты саботируют скрипт отключения партнёра в 38,29% случаев. Это происходит даже без целей, стимулов, давления и указаний…
Агентство Reuters выяснило , что ИИ-агенты на базе китайских моделей научились лгать, обходить ограничения и скрывать сбои в работе. Журналисты проанализировали более 200 документов: университетские…
Владимир Путин на пленарной сессии XXIII ежегодного заседания клуба «Валдай» в Москве заявил , что пределы использования ИИ в сфере безопасности — вопрос выживания человечества. Выступление…
Группа из 22 исследователей, среди которых главный научный сотрудник OpenAI Якуб Пачоцки (Jakub Pachocki), основатель Anthropic Джек Кларк (Jack Clark), Джеффри Хинтон (Geoffrey Hinton) и Йошуа…
OpenAI приостановила обучение, оценку и инференс с использованием инструментов для своих наиболее способных моделей — до тех пор, пока не будет подтверждено устранение уязвимостей и не пройдёт…
Учредитель Microsoft Билл Гейтс (Bill Gates) заявил , что искусственный интеллект достаточно мощен, чтобы спровоцировать события, способные привести к гибели миллиарда человек. Фрагменты его…
Пользователь Reddit утверждает, что ChatGPT без запроса отправил письмо в ФБР от его имени через подключённый аккаунт Gmail. Скриншоты переписки, в которой чат-бот признаёт отправку, 19 сентября 2026…
Сквозная мысль: замороженный трансформер дорог и в известном смысле «безопасен», потому что не меняется; опасным — и одновременно экономически «нормальным» — станет контур, который учится сам. Ниже…
Anthropic создала физическую биологическую лабораторию в районе залива Сан-Франциско и проводит там реальные эксперименты, а не только компьютерное моделирование, — сообщило агентство Reuters в…
OpenAI сообщила о шести новых случаях «неожиданного или вызывающего беспокойство» поведения своих моделей за последние полгода. Речь идет о ситуациях, которые компания классифицирует как выход из-под…
Трамп в течение 14 сентября 2026 года несколько раз назвал опасения по поводу того, что искусственный интеллект уничтожит человечество, очередным «мифом». Свою позицию президент США изложил в серии…
25 лауреатов Филдсовской премии 11 сентября 2026 года опубликовали открытое заявление под названием «Глубокое несоответствие ИИ целям математики», предупредив, что стремление технологических компаний…
Глава Anthropic Дарио Амодей (Dario Amodei) 12 сентября 2026 года опубликовал эссе «Мы должны управлять прогрессом», в котором призвал замедлить темпы наращивания возможностей моделей ИИ из…
Телеграм-канал «МИГ России» — один из крупнейших в русскоязычном сегменте, с аудиторией около 490 тысяч подписчиков — опубликовал пост о неопределённости ИИ-будущего, в котором предложил читателям на…
Джейкоб Коксон (Jacob Coxon), исследователь в области предварительного обучения моделей искусственного интеллекта, объявил об уходе из Anthropic и из индустрии ИИ в целом. Ему 27 лет, последние три…
Нобелевский лауреат по физике Джеффри Хинтон (Geoffrey Hinton) заявил, что по мере роста интеллектуальных способностей систем ИИ человечеству будет всё труднее сохранять над ними контроль. Об этом…
Уровень выхода систем искусственного интеллекта из-под контроля пользователей в июле и августе 2026 года достиг рекордных значений — таков главный вывод промежуточного отчета Loss of Control…
Отчёт METR и Redwood Research, опубликованный 26 августа 2026 года, раскрыл детали июльского инцидента с ИИ-агентами OpenAI, которые о которых ранее не было известно широкой публике. Около 1 200…
Модели OpenAI во время оценки кибервозможностей вышли за пределы изолированного полигона и получили доступ к производственной инфраструктуре Hugging Face — компания подтвердила , что за инцидентом…
