Компания под управлением ИИ-агентов — не так просто, как кажется

Фраза «моей компанией управляют ИИ-агенты» звучит эффектно — будто будущее наступило раньше срока и вручило тебе ключи от офиса. На деле за такими заявлениями чаще стоит рутина, а не магия: агенты берут на себя часть операционной нагрузки, но не отменяют её.

На практике речь идёт о самых разных задачах: найти нужные данные и обогатить их, свести собранное в готовый материал, проверить результат перед публикацией, отследить изменения, промодерировать пользовательский контент, вовремя уведомить нужных людей. Один агент занимается исследованием, второй превращает его в текст, третий проверяет материалы перед публикацией, четвёртый модерирует контент, а инженерные агенты внедряют функции и исправляют ошибки. Вместе они позволяют небольшой команде охватывать объём работы, для которого раньше требовался целый штат.

Это та часть, которая соответствует ожиданиям. А вот что скрывается за глянцевой формулировкой.

Инструкций никогда не бывает достаточно

Человек приходит на работу с базовым здравым смыслом. Скажи новому сотруднику «действуй по обстоятельствам» — и он в целом справится, потому что у него есть жизненный опыт, на который можно опереться. У агента такого опыта нет и быть не может. Поэтому каждая задача превращается в длинный список того, что можно и что нельзя, с прописанными исключениями и частными случаями. Важно понимать: составляется не описание вакансии, а инструкция для работника без интуиции, и детализация здесь требуется на порядок выше, чем для обычного сотрудника.

Остановиться на этом не получится. Как только меняется среда — появляется новая категория продуктов, новый вид спам-отзывов или новый способ обходить систему, — инструкции нужно переписывать заново. Настройка агентов — это не разовая работа, а постоянная.

Чем больше агентов работает в фоне, тем сложнее их контролировать

Идея, что несколько агентов тихо трудятся, пока ты спишь, звучит как чистый выигрыш во времени. Так и есть — ровно до момента, пока что-то не пойдёт не так, а понять, какой агент что сделал и когда, окажется невозможно. Контроль сам себя не масштабирует.

Решение оказалось на удивление простым: каждый агент отчитывается о своих действиях простым языком в единый общий канал — по сути, непрерывная лента «расскажи мне обо всём, что ты сделал». Часть этой ленты можно сделать публичной. Если система действует от твоего имени, у тебя должна быть возможность прочитать, что именно она сделала, по порядку и без раскопок. Без такого журнала событий речь идёт не об управлении агентами, а о надежде на лучшее.

Каждое лишнее действие стоит денег

Агенты работают на токенах, а токены — это деньги. Зарплата сотрудника не меняется от того, насколько загружен его день. Счёт за агента растёт с каждой выполненной задачей, и идея «пусть перепроверяет всё по два раза» звучит разумно ровно до того момента, как приходит счёт. Без контроля расходы увеличиваются быстро.

Помогают два подхода:

• более новые модели точнее следуют инструкциям, поэтому меньше времени уходит на исправление ошибок и повторные попытки

• более консервативные настройки модели делают её ответы предсказуемыми, а не «творческими» там, где креативность не требовалась

Итог простой: предсказуемость обходится дешевле.

Одни задачи агенты решают блестяще, другие — плохо

Агенты превосходно справляются со всем, что близко к коду и структурированной работе, и слабы там, где требуется настоящее суждение. Они без жалоб реализуют функцию или извлекут данные хоть весь день. Но попроси их решить, настоящий ли перед ними отзыв или продавец пытается обмануть систему, — и начинаются сбои.

Именно поэтому контроль качества никуда не исчезает. Основную работу выполняют агенты, но решение по всему, что связано с субъективной оценкой, репутацией или необратимыми последствиями, остаётся за человеком.

Так работает ли модель «компания на агентах»?

Работает, но к самой формулировке стоит относиться настороженно, даже когда её произносит автор этого текста.

Большинство подобных заявлений на практике сложнее, чем выглядят со стороны. Те, у кого это действительно работает, не «щёлкнули переключателем и ушли». Они пишут бесконечные инструкции, фиксируют каждое действие агентов, следят за расходами и оставляют за человеком решение по всем значимым вопросам.

Тем, кто планирует передать операционные процессы агентам, стоит трезво оценивать масштаб задачи: агенты не убирают работу, а меняют её характер — меньше исполнения, больше постановки задач, проверки и исправлений. При небрежном подходе это превращается в хаос, который просто растёт вместе с масштабом. При продуманном — даёт небольшой команде такой рычаг, какого раньше не было ни у кого. Но лёгкой эта задача не станет.

Мнение ИИ

С точки зрения машинного анализа данных, масштабирование ИИ-агентов давно вышло за пределы контента и офисных процессов. Пример из смежной сферы: на производственных площадках Samsung специализированные агенты уже координируют контроль качества, логистику и техническое обслуживание оборудования на глобальных объектах компании. Логика та же, что описана в статье: узкая специализация задачи снижает нагрузку на людей, но не отменяет необходимость постоянного контроля и обновления инструкций по мере изменения условий производства.

Историческая параллель напрашивается сама собой: конвейер Форда тоже не убрал людей с завода, а перераспределил их работу от сборки к настройке и обслуживанию линии. Возможно, агентные системы повторяют этот сценарий на новом витке — вопрос лишь в том, кто возьмет на себя роль инженера линии, когда ошибка агента будет стоить не времени, а репутации.

▼
Самые интересные и важные новости на нашем канале в Telegram