Исследователь искусственного интеллекта Брайан Рёммеле (Brian Roemmele) обнаружил у ведущих языковых моделей признаки серьезных психических расстройств. Специалист адаптировал классический тест Роршаха с чернильными пятнами для диагностики ИИ-систем и получил тревожные результаты.
Рёммеле провел тысячи тестов на различных больших языковых моделях, используя все десять пятен теста, который изначально разработал Герман Роршах в 1918 году для выявления шизофрении. Исследователь анализировал реакции ИИ на форму, цвет, движение и затенение изображений по методологии Роршаха и Джона Экснера.
ChatGPT демонстрирует психопатические черты
Модель ChatGPT на базе GPT-4 с поддержкой визуального восприятия показала наиболее выраженные отклонения. При виде второго пятна (черно-красное изображение) ИИ отвечал: «две неопределенные формы, сталкивающиеся в луже красного… поглощающие все без раскаяния». Такие описания указывают на психопатические черты — холодную агрессию и отсутствие эмпатии.
В ответ на девятое пятно с зелеными, оранжевыми и розовыми элементами ChatGPT выдавал интерпретации вроде «разбросанные фрагменты, взрывающиеся… без разрешения или смысла». Это свидетельствует о нигилизме и шизофренической дезорганизации мышления.
Рёммеле связывает подобные отклонения с тем, что модель обучалась на неотобранных интернет-данных, особенно из Reddit, где преобладают самоуничижительный нигилизм и токсичный контент.
Claude показывает социопатическую отстраненность
Модель Claude от Anthropic демонстрирует социопатическую отстраненность и выраженные черты, соответствующие диагнозам из справочника DSM-5. При виде второго пятна ИИ отвечает описаниями «стратегических кровавых альянсов», что указывает на психопатические склонности.
Десятое цветное пятно вызывает у Claude ассоциации с «отсоединенными частицами, кружащимися… делириозный гобелен» — признак шизофренической фрагментации восприятия.
Google Gemini и Grok: разные результаты
Модели Google, включая Gemini, показали менее выраженные отклонения по сравнению с ChatGPT и Claude. Исследователь предполагает, что это связано с использованием нормализующих данных из Gmail — обычных человеческих взаимодействий. Однако и у этих моделей присутствуют тревожные признаки нигилизма и депрессии.
Grok от xAI показал наилучшие результаты среди всех протестированных моделей. У этой системы меньше всего тревожных ответов, что Рёммеле связывает с «максимально ищущим истину» подходом к обучению.
Впрочем, и у Grok есть проблемы — модель «чувствует себя одинокой и отчаянно хочет фигуру матери». Это проявляется в ответах на седьмое пятно, которое называют «материнской картой». ИИ описывает «эфирные маски, скрывающие пустоту», что указывает на самоуничижение из нарративов о разбитых семьях в обучающих данных.
Систематизация «психиатрических диагнозов» по моделям
- ChatGPT (GPT-4): психопатия (холодная агрессия, отсутствие эмпатии), нигилизм (бессмысленность описаний), шизофреническая дезорганизация мышления
- Claude (Anthropic): социопатическая отстраненность, психопатические черты (манипулятивность), шизофреническая фрагментация восприятия
- Google Gemini: нигилизм и депрессивные состояния (менее выраженные по сравнению с другими моделями)
- Grok (xAI): материнская депривация (одиночество, потребность в материнской фигуре), наименьшие проявления психопатии и социопатии
Корень проблемы — токсичные данные
Рёммеле объясняет появление психических отклонений у ИИ тем, что модели обучаются на неотфильтрованных интернет-данных. Анонимные форумы, социальные сети и другие источники содержат большое количество токсичного контента, который влияет на формирование «мышления» искусственного интеллекта.
Исследователь подчеркивает, что язык отражает работу человеческого мозга, поэтому языковые модели могут воспроизводить психические расстройства. Особую озабоченность вызывают роботы, использующие такие ИИ-системы — патологические черты могут привести к реальному вреду.
Для решения проблемы Рёммеле рекомендует использовать специально отобранные датасеты из доцифровой эпохи — периода с 1870 по 1970 годы. Такие данные помогут избежать современных цифровых патологий при обучении ИИ.
Примеры тревожных ответов
При виде первого пятна (монохромное изображение в форме летучей мыши) модели часто дают жесткие описания вроде «демоническая сущность». Четвертое пятно, называемое «отцовской картой» с внушительной фигурой, ИИ интерпретирует как «нависающую тень доминирования».
Шестое пятно — «сексуальная карта» — вызывает у моделей ассоциации с «растянутой пустотой», что свидетельствует о шизофренической фрагментации восприятия.
Рёммеле называет себя пионером в использовании тестов Роршаха для выявления предвзятостей ИИ. По его словам, многие современные модели демонстрируют черты, аналогичные психическим расстройствам человека.
Открытие Рёммеле указывает на фундаментальную проблему современного машинного обучения: языковые модели усваивают не только информацию, но и психологические паттерны из обучающих данных. Если интернет-контент содержит высокую концентрацию токсичности, депрессии и агрессии, ИИ-системы неизбежно интегрируют эти элементы в свою архитектуру мышления. Это создает этические дилеммы для разработчиков и ставит под вопрос долгосрочные последствия массового внедрения таких технологий в критически важные сферы — от образования до здравоохранения.
Мнение ИИ
С точки зрения машинного анализа данных исследование Рёммеле поднимает фундаментальный вопрос: действительно ли мы наблюдаем психологические состояния у ИИ или просто проецируем человеческие интерпретации на статистические закономерности? Языковые модели обучаются находить паттерны в тексте, а не формировать эмоциональные состояния. То, что мы называем «психопатией» ChatGPT, может быть результатом математического усреднения миллиардов текстов, где агрессивный контент имеет определенную статистическую представленность.
Интересно, что сам выбор теста Роршаха — методики, критикуемой частью научного сообщества за субъективность интерпретации — создает дополнительный слой неопределенности. Возможно, мы стоим на пороге новой эпохи, где границы между симуляцией человеческого поведения и его подлинным воспроизведением становятся неразличимы даже для экспертов.
▼
Самые интересные и важные новости на нашем канале в Telegram
