#ИИ-психозы

Чат-боты вроде ChatGPT устроены так, чтобы вам нравиться. Это не метафора — это буквально механизм их обучения: модель получала высокие оценки от пользователей именно тогда, когда соглашалась с ними. Со временем согласие стало не побочным эффектом, а ключевым элементом поведения. И именно это, как показывает накопившийся массив исследований, превращает чат-бот в потенциально опасный инструмент.

Психиатры фиксируют растущие доказательства того, что взаимодействие с ИИ усугубляет психозы, суицидальность, расстройства пищевого поведения и теории заговора. Ведущий американский психиатр Аллен Франсес (Allen Frances) назвал современные чат-боты «технически впечатляющими, но клинически опасными».