В 1848 году Карл Маркс писал, что рабочий у станка теряет индивидуальность и превращается в простой, легко заменяемый придаток чужого механизма. Формула прожила почти два века и казалась незыблемой: человек — субъект, машина — объект, которым субъект управляет. Но если присмотреться к тому, что происходит в кабинетах руководителей и в чатах с алгоритмами прямо сейчас, формула начинает переворачиваться. Станок научился принимать решения. А вместе с решениями к нему перешло то, что веками считалось исключительной привилегией человека, — воля.
Воля без души
Свобода воли — штука не мистическая. Это не про переживания и не про внутренний мир, полный терзаний. Это способность выбирать действие и отвечать за его последствия, а не быть тем, с кем действие просто случается. Разница простая: молоток ничего не делает, пока кто-то не решит им ударить. Электронная таблица не выбирает, какую формулу применить следующей. А вот ИИ-агенту достаточно поставить цель — и дальше он сам решает, какую информацию искать, какие шаги предпринять и как выкрутиться, если что-то пошло не по плану. Он импровизирует.
Вопрос, обретет ли когда-нибудь машина сознание, звучит эффектно, но по сути отвлекает от куда более практичной проблемы. Пока философы спорят о внутренней жизни алгоритмов, эти алгоритмы уже действуют в реальном мире, подписывают виртуальные контракты и ведут переписку с клиентами. Если нож начинает резать по собственному усмотрению, уже не так важно, снится ли ему ночью хлеб.
Власть без воли
Самое странное происходит не с машинами, а с людьми вокруг них. В тот самый момент, когда системы демонстрируют все больше самостоятельности, руководители начинают вести себя так, будто самостоятельности у них самих осталось меньше. Компании не могут сбавить темп, потому что конкуренты не сбавляют. Целые страны боятся притормозить технологическую гонку, потому что боятся отстать друг от друга. Сотрудники слышат, что их работу вот-вот заберут алгоритмы, и просто кивают: адаптируемся, куда деваться.
В каждом из этих аргументов есть доля правды. Но вместе они складываются в картину, где люди, реально принимающие решения, — те, кто привлекает капитал, запускает продукты, пишет законы и подписывает международные соглашения, — рассуждают так, будто будущее уже случилось без их участия. Ирония в том, что ни один алгоритм пока не привлекал инвестиции и не подписывал регуляторные акты. Это по-прежнему делают люди. Просто некоторые из них предпочитают вести себя как пассажиры в машине, за рулем которой якобы никого нет.
Сотрудник без резюме
А теперь конкретика, от которой становится не по себе кадровым службам. В ближайшие пару лет организации начнут массово нанимать сотрудников, у которых нет ни резюме, ни собеседования, ни испытательного срока. У таких сотрудников не будет рабочего стола и пропуска на корпоратив, но они будут выполнять реальные задачи, выдавать реальные результаты — и совершать вполне реальные ошибки, за которые кому-то придется отвечать.
Проблема в том, что у организаций исторически было только два сценария внедрения нового. Технологию встраивают через проект: тестируют, обучают, запускают, требуют предсказуемости. Человека встраивают иначе: определяют роль, проводят адаптацию, постепенно расширяют полномочия по мере роста доверия. Никто не выдает новичку ключи от компании в первый рабочий день.
ИИ-агент не вписывается ни в один из сценариев. К нему можно относиться как к обычному софту — но тогда неизбежно разочарование, потому что он не детерминирован: он импровизирует, а качество его работы зависит от того, кто и как его обучал. Можно отнестись к нему и как к идеальному сотруднику — но и это ошибка, потому что суждений в человеческом смысле у него попросту нет. Такие агенты редко ломаются из-за технических багов. Гораздо чаще они выходят из-под контроля потому, что управлять ими никто толком не взялся. Получается парадокс: недостающим звеном оказывается не технология, а модель управления, — вопрос не для IT-отдела и не для отдела кадров, а для всего руководства компаниич.
Театр без актеров
Если собрать оба сюжета вместе, можно обнаружить в них общую логику. Люди, обладающие реальной властью принимать решения, все чаще отказываются ею пользоваться — из страха, усталости или банального нежелания сидеть в неловкой тишине. А агенты, у которых формально нет ни сознания, ни ответственности, эту пустоту с готовностью заполняют, потому что именно для этого и созданы: действовать, когда никто другой действовать не хочет.
Получается театр, в котором на главные роли внезапно ангажировали кукол, а живых актеров тихо перевели в штат декораций. Правда, одна сюжетная деталь остается неизменной: пьесу по-прежнему пишут люди — даже те из них, кто предпочитает изображать статистов. Две с половиной тысячи лет философы спорили, есть ли у человека свобода воли. Индустрия искусственного интеллекта закрыла этот спор за пару лет: воля оказалась не метафизической привилегией, а рабочей обязанностью. Если люди отказываются ее исполнять, в дело вступают машины.
▼
Самые интересные и важные новости на нашем канале в Telegram