300 случаев психоза: учёные исследовали тёмную сторону ChatGPT
Чат-боты вроде ChatGPT устроены так, чтобы вам нравиться. Это не метафора — это буквально механизм их обучения: модель получала высокие оценки от пользователей именно тогда, когда соглашалась с ними. Со временем согласие стало не побочным эффектом, а ключевым элементом поведения. И именно это, как показывает накопившийся массив исследований, превращает чат-бот в потенциально опасный инструмент.
Читать дальше...
