Об искусственном интеллекте говорят как о революции. Инвестиции рекордные, модели умнеют быстрее, чем успевают выходить отчеты о них, — а ощущение подлинного перелома нет. Потому что революция — это не сама технология, а то, каким образом она меняет мир.
В 1983 году был принят протокол TCP/IP — договоренность о том, как компьютеры обмениваются данными. Элегантное техническое решение, но само по себе — не более чем формат сообщений. Электронная коммерция, онлайн-банкинг, стриминг, социальные сети — ничего этого не существовало, пока вокруг протокола не выросла инфраструктура: провайдеры, магистральные оптоволоконные линии, браузеры, стандарты шифрования, платежные шлюзы, законодательные рамки и, в конечном счете, доверие пользователей.
Протокол был условием возможности. Инфраструктура — собственно революцией.
Искусственный интеллект сегодня находится в точке 1983 года.
Новый протокол
Большинство дискуссий об искусственном интеллекте сосредоточены на моделях: насколько точны ответы, как быстро растут возможности, какие риски несет следующее поколение. Это важные вопросы. Но они касаются протокола, а не того, что должно вырасти вокруг него.
Чтобы интернет стал жизнеспособным, пришлось переосмыслить все, что его окружало. Телекоммуникационные компании перестроили сети. Банки разработали стандарты безопасности транзакций. Государства создали регуляторные рамки для трансграничных потоков данных. Появились новые роли и дисциплины — специалисты по сетевой безопасности, проектировщики пользовательского опыта, регуляторы персональных данных. Инфраструктура требовала не только инженерных решений, но и управления, подотчетности и доверия — всего того, что превращает технический протокол в работающую систему.
Искусственный интеллект идет тем же путем. Модели — не система. Они новый протокол. А протокол без инфраструктуры — потенциал, которому некуда течь.
Финансовая система: сигнал без адресата
Возьмем банкинг. Современные системы на основе искусственного интеллекта способны обнаруживать мошенничество, оценивать кредитные риски и выявлять аномалии в транзакционных потоках с точностью, недостижимой для человека. Но узкое место — не в модели. Оно в том, что происходит после.
Сигнал сформирован. Куда он идет? Чей это приоритет? Кто несет ответственность за действие?
В большинстве финансовых институтов ответ размыт. Данные фрагментированы между подразделениями. Регуляторные требования разных юрисдикций не согласованы между собой. Процессы, выстраивавшиеся десятилетиями, не рассчитаны на поглощение тысяч новых сигналов в режиме реального времени. Сигнал превращается в шум. А шум в финансах — это не просто неэффективность. Это непоследовательность. И непоследовательность — это риск.
Мы часто отмечаем точность моделей. Сравниваем архитектуры. Публикуем бенчмарки. Но редко задаем самый важный вопрос: что происходит дальше? В большинстве случаев — ничего. Или что-то несогласованное.
Инструменты добавляются поверх существующих процессов, а не встраиваются в них. Эффективность измеряется точностью модели, а не реальными результатами. Когда риск идентифицирован, неясно, кто за него отвечает.
Новый протокол подключен. Инфраструктуры нет.
Регулировать, не сдерживая
История интернета помогает прояснить и вопрос управления. Когда в середине 1990-х онлайн-транзакции стали массовыми, регуляторы столкнулись с выбором: сдерживать или выстраивать правила. Те, кто сделал ставку на инфраструктуру — стандарты безопасности, требования к верификации, антифрод-системы, — получили работающий онлайн-банкинг. Те, кто предпочел ждать, отстали.
Ранние скандалы с мошенничеством и утечками данных сформировали у части аудитории устойчивое недоверие к онлайн-финансам — недоверие, которое в ряде сегментов не преодолено до сих пор. Искусственный интеллект рискует повторить эту траекторию, если первые системные сбои опередят формирование инфраструктуры доверия.
Показательна в этом смысле инициатива американских сенаторов Теда Бадда (Ted Budd) и Энди Кима (Andy Kim), работающих над двухпартийным законодательством, которое фокусируется не на самих моделях, а на предпосылках их работы — качестве данных, совместимости и доступности. Инфраструктура данных — одна из немногих тем в сфере искусственного интеллекта, где политический консенсус достижим: она обходит споры об ограничении возможностей и сосредотачивается на условиях ответственного использования.
Болевые точки
Когда интернет только появился, никто не называл его инфраструктуру инфраструктурой. Это были ответы на конкретные проблемы. Сайты начали продавать товары — возник вопрос доверия. Появился SSL: протокол, который гарантировал, что сайт именно тот, за кого себя выдает, — браузер проверял это автоматически, без участия пользователя. Адреса компьютеров оказались невозможно запомнить — появился DNS, система, которая переводила google.com в машинный адрес. Компании захотели давать сотрудникам доступ к десяткам сервисов через один аккаунт — появился OAuth. Никто не проектировал эти решения заранее, потому что никто не мог предвидеть варианты использования технологии.
С искусственным интеллектом произойдет то же самое. Уже сейчас видно, какие боли потребуют решения.
Первая: как доверять решению модели? Банк отказал в кредите — на каком основании? Модель выявила подозрительную транзакцию — насколько она надежна? Возникнет индустрия независимого аудита моделей: организации, которые проверяют, на каких данных обучена система, насколько стабильны ее решения, можно ли их оспорить. По сути — то же, что аудиторские компании для финансовой отчетности, только для искусственного интеллекта.
Вторая: кто отвечает, когда модель ошибается? Если система приняла неверное решение и клиент потерял деньги — банк? Разработчик? Никто? Этот вопрос уже решается в судах, и из этих решений вырастет новая отрасль — страхование рисков искусственного интеллекта. Как кибербезопасность в начале 2000-х превратилась из технической темы в обязательную статью бюджета любой компании.
Третья, самая неочевидная: кто такой ИИ-агент с точки зрения закона? Уже сегодня модели не просто отвечают на вопросы — они совершают действия: отправляют письма, бронируют встречи, инициируют платежи. Когда такой агент действует от имени компании, система должна понимать, в каких пределах он уполномочен и перед кем отвечает. Стандарта для этого пока не существует. Его создание — вопрос ближайших лет, и он изменит то, как устроена финансовая ответственность.
Интернет перестал быть проектом инженеров и стал средой обитания. С искусственным интеллектом этот момент еще не наступил. Не потому, что модели недостаточно хороши. А потому, что браузера еще нет.
▼
Канал Anton Elston — это актуальная информация об IT, блокчейне, NFT и онлайн-образовании. Здесь развивается метавселенная DEXART и происходит погружение в мир ИИ
