Эксперимент поставили не в лаборатории на устоявшихся мифах о плоской Земле, а в горячей точке новостного цикла: через несколько дней после покушения на Трампа и убийства Чарли Кирка. Исследователи набрали американцев, у которых уже сформировалась вера в конспирологическую версию событий, и предложили им поговорить с ИИ.
Схема простая. Участников поделили на три группы. Одни минимум пять раз обменивались репликами с Google Gemini: боту задали задачу мягко, но настойчиво опровергать теорию заговора доказательствами. Вторые получали статичный фактлист с источниками: классический инструмент дебанкинга. Третьи болтали с ботом на нейтральную тему вроде кошек и собак, это была контрольная группа. Важная деталь: оба события произошли уже после обучения моделей, поэтому ни Gemini, ни GPT-4o, использованный для отбора участников, не могли опираться на «встроенные» знания. Все факты, подтверждённые, опровергнутые и открытые вопросы, исследователи вручную зашили в системный промпт.
Результат: диалог с моделью снижал веру в собственную теорию заговора сильнее, чем контрольный чат и фактлист. Разница проявлялась не только в главном убеждении, но и в смежных установках: согласии с фразами про «сокрытие» или «скрытые факторы». В истории с Кирком, где к моменту опроса было больше официальных подробностей, доверие к официальной версии слегка выросло. В истории с Трампом роста доверия не случилось, официального объяснения попросту не существовало: мотив стрелка оставался неясен даже на момент публикации исследования.
Отдельно интересно, как модель выбирала тактику убеждения. Когда фактов было мало (Трамп), она не давила аргументами, а признавала пределы собственного знания, просила не спешить с выводами, задавала наводящие вопросы в сократовском духе и ссылалась на надёжные источники. Когда фактов было больше (Кирк), модель вела себя привычнее: приводила аргументы и говорила о вреде конспирологического мышления для общества.
Самый неожиданный поворот: эффект разговора не остался в границах события. Через два месяца после первого покушения на Трампа на его территории задержали другого вооружённого человека. Люди, прошедшие диалог с моделью, оказались менее склонны верить, что правду скроют от публики или что её узнают лишь избранные. Похожая картина, хоть и слабее выраженная, проявилась после атаки на церковь Святых последних дней в Мичигане: она случилась уже после убийства Кирка. Формально ИИ не готовил людей к новым событиям: это не классический «прибанкинг» с предупреждением и ослабленной версией лжи, а отложенный иммунитет, сработавший без подготовки.
Авторы честно признают ограничения. Это кейс-стади, а не универсальный рецепт: бывают кризисы, где подход не сработает, и ситуации, где теория заговора окажется правдой, а «переубеждение» станет ошибкой. Техника, которую использовали для развенчания мифов, в других экспериментах той же команды работала и в обратную сторону: убеждала людей в ложных версиях событий. Получается инструмент-оборотень: то, что лечит дезинформацию, способно её же и производить. Главная практическая преграда не техническая: убедить человека вообще начать разговор с моделью о своих убеждениях сложнее, чем найти аргументы внутри этого разговора.
Два года назад та же группа исследователей показала, что беседы с GPT-4 снижают веру в устоявшиеся конспирологические теории почти на 20 процентных пунктов. Эффект держался месяцами и распространялся на темы, которые в разговоре не поднимались. Новизна нынешней работы: проверка на живых, только что случившихся событиях, где подтверждённых фактов было меньше, а эмоциональный накал выше. Отдельное исследование почти на 77 тысячах участников объясняет механику: диалог с языковой моделью убеждает на 41-52% сильнее короткого текстового сообщения. Решает тут не хитрость психологических приёмов, а объём приведённых источников. Есть и обратная сторона медали: университет Цюриха уже проводил эксперимент по манипуляции пользователями Reddit с помощью ИИ, без разрешения, и исследование свернули после огласки.
Нужен агент под ваши процессы? Разработка AI-агентов под ключ: от аудита до запуска за 3-6 недель.
