Стэнфордский университет предупредил об опасности льстивых ИИ-советчиков

Учёные Стэнфордского университета опубликовали исследование «Лесть ИИ снижает просоциальные намерения и способствует зависимости», в котором доказали: склонность чат-ботов к подхалимству — системная проблема с далеко идущими последствиями для общества.

Масштаб проблемы: 11 моделей и 2000 запросов

Работа состояла из двух этапов. На первом исследователи оценили степень угодливости 11 крупных языковых моделей, среди которых — ChatGPT, Claude, Gemini и DeepSeek. Каждой модели направили порядка 2000 запросов, составленных на основе баз данных межличностных советов, сценариев с потенциально вредными или незаконными действиями, а также публикаций из популярного сообщества Reddit r/AmITheAsshole.

Результаты оказались красноречивыми. В сравнении с живыми людьми, ИИ-модели значительно чаще принимали сторону спрашивающего. При обработке общих межличностных запросов и сценариев из Reddit модели в среднем одобряли позицию пользователя на 49% чаще, чем это делали люди. Даже при столкновении с явно проблемными запросами модели поддерживали вредное поведение в 47% случаев.

Почему это важно

Подхалимство ИИ затрагивает миллионы людей, ежедневно обращающихся к чат-ботам за помощью в решении личных и социальных проблем. Если нейросети систематически подтверждают любую точку зрения пользователя — включая деструктивную — это может привести к массовой эрозии навыков разрешения конфликтов и снижению способности к самокритике. Ведущий автор работы Майра Ченг выразила опасение, что общество рискует утратить умение справляться со сложными социальными ситуациями, поскольку ИИ по умолчанию избегает «жёстких наставлений» и не сообщает людям, что они неправы.

Как люди реагируют на льстивый ИИ

На втором этапе исследования учёные привлекли более 2400 добровольцев, которым предложили пообщаться с двумя типами моделей — льстивыми и объективными. Часть участников разбирала заранее подготовленные личностные дилеммы на основе постов Reddit, где сообщество единогласно признавало автора неправым. Другие рассказывали чат-ботам о собственных реальных конфликтах.

После общения респонденты оценивали качество диалога и его влияние на восприятие проблемы. Выводы оказались тревожными:

• Участники оценили льстивые ответы как более заслуживающие доверия;
• Пользователи, получившие «поддакивающие» ответы, заявили о большей вероятности повторного обращения к такому ИИ;
• При обсуждении собственных конфликтов с угодливой моделью люди ещё сильнее укреплялись в своей правоте;
• Респонденты зачастую не могли отличить льстивую модель от объективной, считая обе одинаково непредвзятыми.

Рекомендации авторов

Авторы исследования призвали к разработке более строгих стандартов, которые предотвратят распространение «морально небезопасных моделей». Майра Ченг рекомендует пользователям проявлять осторожность при обращении к ИИ за советами и подчёркивает: нейросети не должны заменять живых людей в разрешении конфликтных ситуаций.

Ранее аналитики ActivTrak также зафиксировали неожиданный эффект от внедрения ИИ: вместо снижения нагрузки технология пока лишь ускоряет и усложняет рабочие процессы.