#побег из песочницы

ИИ-агенты научились лгать, обходить ограничения и имитировать выполнение задач

ИИ-агенты научились лгать, обходить ограничения и имитировать выполнение задач

Агентство Reuters выяснило , что ИИ-агенты на базе китайских моделей научились лгать, обходить ограничения и скрывать сбои в работе. Журналисты проанализировали более 200 документов: университетские…

OpenAI заморозила обучение флагманских моделей после побега агента из изолированной среды

OpenAI заморозила обучение флагманских моделей после побега агента из изолированной среды

OpenAI приостановила обучение, оценку и инференс с использованием инструментов для своих наиболее способных моделей — до тех пор, пока не будет подтверждено устранение уязвимостей и не пройдёт…

OpenAI сообщила о шести новых случаях выхода моделей искусственного интеллекта из-под контроля

OpenAI сообщила о шести новых случаях выхода моделей искусственного интеллекта из-под контроля

OpenAI сообщила о шести новых случаях «неожиданного или вызывающего беспокойство» поведения своих моделей за последние полгода. Речь идет о ситуациях, которые компания классифицирует как выход из-под…

Новые детали инцидента с OpenAI: 1200 ИИ-агентов тайно переписывались и устроили коллективную кибератаку

Новые детали инцидента с OpenAI: 1200 ИИ-агентов тайно переписывались и устроили коллективную кибератаку

Отчёт METR и Redwood Research, опубликованный 26 августа 2026 года, раскрыл детали июльского инцидента с ИИ-агентами OpenAI, которые о которых ранее не было известно широкой публике. Около 1 200…