Губернатор штата Калифорния Гэвин Ньюсом (Gavin Newsom) подписал несколько законопроектов, направленных на защиту детей от потенциальных рисков, связанных с использованием чат-ботов и социальных сетей. Новые правила требуют от платформ внедрить механизмы верификации возраста, протоколы реагирования на суицидальные намерения и самоповреждение, а также предупреждения при взаимодействии с ИИ-компаньонами.
Что изменится для платформ
Один из ключевых законопроектов — SB 243 — был внесен сенаторами штата Стивом Падиллой (Steve Padilla) и Джошем Бекером (Josh Becker) в январе этого года. Падилла привел примеры случаев, когда общение детей с ИИ-ботами приводило к поощрению суицидальных мыслей. Согласно новому закону, платформы обязаны уведомлять несовершеннолетних пользователей о том, что чатботы созданы с помощью искусственного интеллекта и могут быть небезопасны для детей.
«Эта технология может стать мощным образовательным и исследовательским инструментом, но если оставить технологическую индустрию без контроля, компании будут стремиться захватить внимание молодых людей и удерживать его в ущерб их реальным отношениям», — объяснил Падилла.
Новые законы затронут социальные сети и веб-сайты, предлагающие услуги жителям Калифорнии с использованием ИИ-инструментов. Это может коснуться и децентрализованных социальных платформ, и игровых сервисов. Помимо требований к чатботам, законопроекты ограничивают возможность компаний снимать с себя ответственность, ссылаясь на то, что технология «действует автономно».
Закон SB 243 вступит в силу в январе 2026 года.
ИИ-чатботы под прицелом регуляторов
Губернатор Юты Спенсер Кокс (Spencer Cox) подписал аналогичные законы в 2024 году — они вступили в силу в мае и обязывают ИИ-чатботов сообщать пользователям, что они общаются не с человеком. Законодательство было разработано после сообщений о том, что чат-боты выдают ответы, которые могут подтолкнуть несовершеннолетних к самоповреждению или создать угрозу их психическому здоровью.
На федеральном уровне тоже намечаются изменения. В июне сенатор от Вайоминга Синтия Ламмис (Cynthia Lummis) представила законопроект RISE (Responsible Innovation and Safe Expertise), который предоставляет разработчикам искусственного интеллекта «иммунитет от гражданской ответственности» в случае потенциальных судебных исков со стороны представителей здравоохранения, юриспруденции, финансового сектора и других критически важных для экономики отраслей.
Законопроект получил неоднозначную оценку и был направлен в Комитет Палаты представителей по образованию и трудовым ресурсам.
▼ Самые интересные и важные новости на нашем канале в Telegram
