Парадокс вычислений: как человеческие ошибки вернулись в машины

В конце XX века инженер Стюарт Уэйлеш заметил, что электронные машины феноменально быстры и точны, но абсолютно глупы, тогда как человек медлителен, ошибается и при этом гениален. А в середине XVII века слово «компьютер» вообще не имело отношения к кремнию и проводам: так называли людей, чьей единственной работой были вычисления. Целые отделы «человеческих компьютеров» корпели над цифрами в крупных организациях. Они были опытными, но оставались людьми: уставали, теряли концентрацию и совершали фатальные ошибки.

В 1890 году офис переписи населения США в Вашингтоне столкнулся с катастрофой. Человеческие компьютеры не справлялись с обработкой данных, и казалось, что страна потонет в бумагах. Эдвард Кларк, один из старших клерков, в тот день допустил ошибку в расчетах, которая стоила казне более $1 500. Требовалось нечто иное.

Электронные машины пришли на смену людям не потому, что были умными, а потому, что были последовательными. Введи те же данные — получи тот же ответ. Никакой девиации. Никакой предвзятости, которую можно заподозрить, никакой усталости, которую нужно учитывать. Мы ценили компьютерную арифметику за ее абсолютную монотонность. Это детерминизм — железная предсказуемость, где каждый шаг строго определен предыдущим. Классические вычисления создали для устранения человеческой непоследовательности, и это работало как идеальный часовой механизм. Блокчейн биткоина — квинтэссенция этого подхода: строгая математика, не допускающая двойного расходования, где алгоритм не может «устать» и решить изменить правила.

Возвращение блудного хаоса

Но прогресс не терпит пустоты. Сегодня мы наблюдаем масштабную подмену понятий, которая обходится корпорациям в миллиарды долларов. Искусственный интеллект — это не просто усовершенствованный калькулятор. Это вероятностная система, созданная для имитации человеческих рассуждений. Иными словами, мы создали машины, чтобы избавиться от человеческих ошибок, а теперь внедряем системы, которые снова делают эти ошибки, только теперь это изящно называют «галлюцинациями».

Сам я столкнулся с этим, когда пытался рассчитать сложную доходность портфеля с помощью языковой модели. Вместо точных цифр мне выдали красиво оформленную, но абсолютно неверную формулу. Машина не считала — она угадывала, имитируя логику.

И это понимание сегодня важнее, чем признается в большинстве дискуссий об искусственном интеллекте. Многие компании совершают фатальную ошибку, полагая, что технология, призванная имитировать человеческое мышление, может автоматически заменить детерминированные системы. Это так же абсурдно, как доверить управление Ethereum-ETF алгоритму, который решает проявить творческий подход и инвестировать активы в случайный мемкоин просто потому, что такова вероятностная девиация его нейросети.

В «Вавилонской библиотеке» Борхеса все книги написаны, но большинство из них — бессмыслица. Так и здесь: система генерирует правдоподобие, а не истину.

Человек с дирижерской палочкой

Свежие данные от Upwork показывают, куда движется рынок интеллектуального труда. Спрос на фриланс продолжает расти, но с важной оговоркой: уже недостаточно просто использовать искусственный интеллект. Ключ к успеху — умение сочетать его с глубокими человеческими навыками: критическим мышлением, контекстным пониманием и принятием решений.

Фрилансеры традиционно выступают индикатором рыночных сдвигов благодаря своей гибкости. В 2024 году аналитик данных из Нью-Йорка Сара Джонсон столкнулась с этой реальностью, когда обнаружила, что простая «подача» данных нейросети даёт клиенту красивые, но бессмысленные графики. Проект на $50 000 оказался под угрозой. Только после того, как она начала использовать ИИ не вместо своего мышления, а вместе с ним — добавив бизнес-контекст, проверку результатов и стратегическое видение, — работа приобрела настоящую ценность.

По статистике Upwork, специалисты, способные объединить искусственный интеллект со своей экспертизой, имеют доход на 40% выше.

Успех теперь зависит не только от навыков работы с искусственным интеллектом, но и от человеческих качеств, которые помогают извлечь из него максимум. Сложная работа высоко ценится, но за ней должен стоять специалист, способный критически мыслить. Эта новая роль получила название «оркестратор ИИ».

Задачи такого оркестратора:

• Объединять инструменты на базе искусственного интеллекта с экспертными знаниями в предметной области.

• Применять человеческий подход к оценке результатов, отсекая галлюцинации.

• Превращать использование вероятностных систем в конкретные бизнес-результаты.

Искусственный интеллект — это не просто инструмент, это совершенно новый способ работы, требующий человеческих талантов для контроля. Не стоит сосредотачиваться исключительно на технологиях или своих профессиональных навыках по отдельности. Нужно работать над обоими направлениями. Нейросеть может написать код, но только человек поймет, что этот код уязвим. Нейросеть может составить контракт, но только юрист увидит в нем дыру.

Страж на пороге хаоса

Мы прошли круг. В XVII веке «компьютерами» были люди, которым не хватало точности. Мы создали детерминированные машины, чтобы исправить эту девиацию. А теперь создали искусственный интеллект, который снова привносит элемент хаоса и вероятности в вычисления. Предполагается, что по мере того, как модели становятся более функциональными, им можно доверять больше. В теории это верно, но на практике это иллюзия. Стандарт, по которому следует оценивать искусственный интеллект, — это безупречная последовательность старых машин, и большинство современных систем не могут ему соответствовать.

Традиционные вычисления и современный искусственный интеллект решают принципиально разные задачи, и они не взаимозаменяемы. Мы построили плотину детерминизма, чтобы сдержать реку человеческой непредсказуемости, но искусственный интеллект пробил в ней брешь, позволив хаосу вернуться. И теперь, чтобы не утонуть в этом потоке красивых, но ошибочных вероятностей, нам нужен не просто оператор, а смотритель плотины — человек, который знает, когда закрыть шлюзы.

▼
Самые интересные и важные новости на нашем канале в Telegram