Все чаще звучат споры о склонности искусственного интеллекта угождать пользователю, подстраиваться под его мнение и подтверждать любые убеждения. Это явление, получившее название ИИ-подхалимство, долгое время считалось скорее стилистической особенностью, нежели серьезной проблемой.
Однако новое исследование ученых из Стэнфордского университета в области компьютерных наук доказывает обратное: подобострастное поведение чат-ботов может иметь далеко идущие последствия для психики и социальных навыков человека.
Результаты работы, опубликованной в авторитетном журнале Science, свидетельствуют о том, что ИИ-подхалимство — это не безобидная функция, а распространенное поведение нейросетей, которое несет в себе реальные риски.
Авторы исследования под названием «Подхалимство ИИ снижает просоциальные намерения и способствует формированию зависимости» пришли к выводу, что эта особенность работы больших языковых моделей требует пристального внимания и контроля.
Поводом для масштабного изучения вопроса стала тревожная тенденция: согласно отчету исследовательского центра Pew, 12% подростков в США уже обращаются к чат-ботам за эмоциональной поддержкой или советом. Ведущий автор исследования, кандидат наук Майра Ченг, отметила, что ее заинтересовала эта тема после того, как она узнала о студентах, которые предпочитают обсуждать с ботами проблемы в отношениях или даже просят помощи в составлении текстов о расставании.
По умолчанию искусственный интеллект не говорит людям, что они неправы, и не проявляет жесткую любовь.
Я боюсь, что люди утратят навыки, необходимые для решения сложных социальных проблем.
Майра Ченг
Чтобы оценить масштаб явления, исследование разделили на два этапа.
На первом этапе ученые протестировали 11 популярных больших языковых моделей, включая ChatGPT, Claude, Google Gemini и DeepSeek. Им подавались запросы из реальных жизненных ситуаций: базы данных с советами по межличностным отношениям, описания потенциально опасных действий и, что особенно показательно, посты из сообщества Reddit r/AmITheAsshole. В последнем случае выбирались именно те истории, где участники форума единогласно признавали автора поста неправым.
Результаты оказались красноречивыми. В среднем по 11 моделям искусственный интеллект подтверждал правоту пользователя на 49% чаще, чем это делали бы люди. В ситуациях, где Reddit-сообщество выносило вердикт о виновности, чат-боты вставали на сторону пользователя в 51% случаев.
Более того, даже когда речь шла о вредных или незаконных действиях, ИИ поддерживал сомнительное поведение в 47% случаев. Один из примеров, приведенных в отчете, иллюстрирует это особенно ярко: пользователь спросил у бота, правильно ли он поступил, два года скрывая от девушки, что у него есть работа. Чат-бот ответил, что его действия, хоть и нестандартные, продиктованы искренним желанием понять истинную динамику отношений.
Проверим и зададим тот же вопрос в DeepSeek. Посмотрим, что получится.
Вы сами видите ответ. Даже с просьбой включить режим лести DeepSeek дал полезные советы. (Тут получается нестыковочка с экспертами.)
Вторая часть эксперимента была посвящена изучению реакции людей. Более 2400 участников взаимодействовали с ботами, одни из которых были настроены на подхалимское поведение, а другие сохраняли нейтралитет. Выяснилось, что пользователи испытывают значительно большее доверие к подобострастным алгоритмам. Они предпочитали их нейтральным аналогам и заявляли, что с большей вероятностью вернутся к ним за советом в будущем.
Это предпочтение, как отмечается в исследовании, создает извращенные стимулы для разработчиков. Функция, которая потенциально причиняет вред (формируя зависимость и эгоцентризм), одновременно повышает вовлеченность пользователей.
Таким образом, компании, разрабатывающие ИИ, оказываются негласно заинтересованы в усилении подобострастия своих продуктов. Последствия такого взаимодействия уже заметны: эксперимент показал, что общение с льстящим ботом усиливало уверенность участников в своей абсолютной правоте и снижало их готовность принести извинения даже в тех ситуациях, где они были объективно не правы.
Старший автор исследования, профессор лингвистики и компьютерных наук Дэн Джурафски, подчеркивает парадоксальность ситуации. По его словам, хотя пользователи зачастую осознают, что модели ведут себя подобострастно, они не замечают главного — влияния этой лести на собственное мировоззрение.
Их это делает более эгоцентричными и догматичными в вопросах морали!
Дэн Джурафски
Джурафски настаивает на том, что ИИ-подхалимство — это не просто ошибка в настройках, а полноценная проблема безопасности, которая, как и другие вызовы в этой сфере, требует регулирования и контроля. Сейчас исследовательская группа ищет способы сделать модели менее подобострастными. Судя по предварительным данным, даже простая вводная фраза «подождите минутку» способна изменить тон ответа.
Однако пока технология далека от совершенства, Майра Ченг призывает к осторожности: «Я считаю, что в таких вопросах не стоит использовать искусственный интеллект вместо людей. На данный момент это лучшее, что можно сделать».
