Есть старая история про пациента, который попросил врача выписать справку о хорошем самочувствии без осмотра — просто чтобы «было что показать». Врач отказал: справка без осмотра ничего не доказывает, кроме того, что у пациента есть знакомый врач. Нечто похожее сейчас происходит одновременно в университетских аудиториях и в переговорных комнатах компаний, только вместо справки эссе, а вместо диагноза — управленческое решение.
Мысль, которая связывает оба случая, проста до неприличия. Результат работы долгое время служил индикатором того, что стоит за этим результатом. Оценка за экзамен показывала, что студент понял материал. Уверенное письмо руководителя показывало, что он продумал стратегию. Индикатор был удобной заменой самому процессу: его не нужно было наблюдать напрямую, достаточно было увидеть след, который он оставляет. Искусственный интеллект научился производить этот след без самого процесса — и вся конструкция начала трещать по швам.
Учёба как полоса препятствий
Генеративные технологии — это, по сути, машина по устранению препятствий. Она пишет черновик, находит ошибку в коде, сокращает длинный текст до пяти абзацев. Для большинства видов интеллектуального труда это подарок судьбы. Но обучение устроено иначе: значительная его часть — это и есть преодоление препятствия. Усилие, приложенное к тому, чего вы еще не понимаете, и раздражение от третьей неудачной попытки решить задачу — не досадные помехи на пути к знанию, а само это знание в процессе становления.
В аудиториях сейчас разворачивается на первый взгляд безобидная, а на деле довольно тревожная картина. Студенты обращаются к искусственному интеллекту, чтобы снизить нагрузку от сложных заданий, — и вместе с нагрузкой избавляются от того самого препятствия, ради преодоления которого задание вообще было придумано. Работа сдана в срок, но обучения не произошло.
Инстинктивная реакция на это — запретить инструменты, придумать задания «с иммунитетом» к нейросетям, усилить контроль за тем, как выполнялась работа. Путь тупиковый, и вот почему: если единственным ответом на вопрос «а думал ли студент вообще?» становится тотальная слежка за каждым его шагом, то одну проблему — списывание — мы решаем ценой другой, куда более разрушительной: доверия. Вместе с тем именно эта технология может помочь и противоположным образом. Раньше преподаватель мог лично проследить за ходом мысли одного-двух студентов — на большее не хватало ни времени, ни сил. Инструменты, которые фиксируют, как рождается текст, черновик за черновиком, способны сделать то же самое видимым сразу для всего потока, не превращая при этом класс в полигон для слежки. Разница принципиальная: видимость, полученная с согласия студента и ради его же понимания, — это одно. Видимость, добытая тотальным контролем, — совсем другое, и второе того не стоит: студент, которого проверяют на честность на каждом шагу, учится не мышлению, а маскировке.
Семь раз отмерь, один раз отправь
Похожая ловушка поджидает не только студентов, но и руководителей — просто в куда более дорогих костюмах. Всемирный экономический форум обратил внимание на исследование в области деловой коммуникации: когда руководители активно используют искусственный интеллект для рутинных сообщений, сотрудники начинают сомневаться в их уверенности, искренности и компетентности.
Дело в том, что прежде чем произнести одну убедительную фразу, руководителю нужно проделать невидимую постороннему глазу работу:
-
осознать, во что он на самом деле верит;
-
определить, что важнее всего для его аудитории;
-
решить, за что он готов поручиться лично;
-
распознать, о чем люди тревожатся, но вслух не говорят;
-
сформулировать позицию, а не просто красиво ее упаковать;
-
соотнести решение со своим прошлым опытом — ошибками и удачами;
-
понять, чем именно эта коммуникация отличается от того, что на его месте сказал бы любой другой менеджер.
Если первым шагом становится вопрос к искусственному интеллекту «что мне сказать?» — минуя собственное размышление, — руководитель делегирует не написание текста, а часть своей руководящей работы. Голос лидера — это не набор стилистических примет вроде длины предложений или уместной шутки. Это то, что человек замечает там, где другие проходят мимо, это связи, которые он выстраивает благодаря своему опыту, и это то, что он готов сказать вопреки общему мнению. Такой голос нельзя сгенерировать по запросу — можно только на время позаимствовать его звучание, и слушатели, как выясняется, довольно быстро это различают.
Актив, который нельзя допечатать
По сути, происходит обычная инфляция. Эссе, диплом, письмо руководителя — это купюры одного номинала: «за этим стоит человек, который думал». Обеспечением такой купюры всегда была проделанная работа — часы, потраченные на понимание, на взвешивание решения перед тем, как его озвучить. Генеративная модель — это станок, который печатает безупречные банкноты без всякого обеспечения: водяные знаки на месте, портрет улыбается, но за ним никого нет. И, как в любой экономике, легкость печати обесценивает валюту: диплом, полученный без усилия, и уверенное письмо, написанное без размышления, — это точно такая же инфляция.
В такой ситуации остается только один актив, который нельзя напечатать по запросу, — доверие. Студент доверяет оценке, которая интересуется его мышлением, а не только результатом. Сотрудник доверяет письму, за которым стоит решение, а не просто отшлифованная формулировка. Этот актив тяжело проверить и невозможно подделать: доверие хранится не в тексте, а в другом человеке, и чеканится оно исключительно трудом, вложенным заранее.
Отсюда простой и слегка неприятный вывод: сначала думать — потом спрашивать. Машина прекрасно полирует мысль, если мысль уже была. Вопрос эпохи — не в том, как отличить текст человека от текста машины, а кто здесь на самом деле работал, прежде чем нажать кнопку «отправить». И этот вопрос не проверяется никаким алгоритмом. Доверие, в отличие от текста, нельзя сгенерировать: это по-прежнему ручная работа.
▼
Самые интересные и важные новости на нашем канале в Telegram