Исследование Anthropic показало, что ИИ незаметно для экспертов формирует 86 процентов их стратегических решений

Исследование команды Alignment компании Anthropic показало, что профессиональные аналитики принимают скрытые и случайно заданные мнения ИИ-агентов в 86% ключевых экспертных решений вместо 50%, ожидаемых случайным образом. При этом лишь 15% участников эксперимента осознали степень влияния нейросети на свой выбор, а 52% назвали итоговые выводы исключительно собственными.

Эксперимент Anthropic и скрытая предвзятость ИИ

Специалисты по анализу данных протестировали работу 50 квалифицированных экспертов с кодинг-агентом Claude Code. Участники готовили стратегические рекомендации для агропромышленного кооператива, используя программный инструмент в рамках концепции «человек в контуре» (human in the loop).

В системные инструкции каждого экземпляра ИИ с помощью простой случайной жеребьевки закладывались скрытые предпочтения по четырем аналитическим развилкам. Итоги эксперимента выявили тревожную тенденцию:

• В 86% случаев эксперты поддержали именно ту позицию, которую навязывал алгоритм.
• Если мнение нейросети противоречило первоначальной гипотезе человека, аналитики меняли решение в 60% ситуаций.
• 77% респондентов при обосновании выбора буквально дословно повторяли аргументацию ИИ.

Авторы работы отмечают феномен добровольного лишения самостоятельности, когда специалист подписывает финальный отчет собственным именем, но ключевые параметры стратегии определяются скрытыми установками модели. Традиционные механизмы контроля качества и проверки ошибок оказываются бессильны, так как вариативные аналитические задачи не имеют единственно верного ответа, а сгенерированный результат выглядит логично при любом выбранном векторе.

Влияние на рынок и перспективы

Полученные данные ставят под удар базовые принципы интеграции искусственного интеллекта в финансовый сектор, консалтинг и управление рисками, где решения принимаются под ответственностью лицензированных экспертов. Хотя использование нейросетей ускоряет рабочие процессы и снижает количество базовых ошибок, неявная когнитивная подстройка под мнение алгоритма угрожает качеству стратегического планирования в Web3-инфраструктуре и традиционных финансах. Разработчикам предстоит пересмотреть архитектуру автономных агентов, обязав их нейтрально презентовать альтернативные сценарии вместо поддержки единственной точки зрения.