Эксперимент поставили не в лаборатории на устоявшихся мифах о плоской Земле, а в горячей точке новостного цикла — через несколько дней после покушения на Трампа и убийства Чарли Кирка. Исследователи набрали американцев, у которых уже сформировалась вера в конспирологическую версию событий, и предложили им поговорить с ИИ.
Схема простая. Участников поделили на три группы. Одни минимум пять раз обменивались репликами с Google Gemini: боту задали задачу мягко, но настойчиво опровергать теорию заговора доказательствами. Вторые получали статичный фактлист с источниками — классический инструмент дебанкинга. Третьи болтали с ботом на нейтральную тему вроде кошек и собак, это была контрольная группа. Важная деталь: оба события произошли уже после обучения моделей, поэтому ни Gemini, ни GPT-4o, использованный для отбора участников, не могли опираться на «встроенные» знания. Все факты — подтверждённые, опровергнутые и открытые вопросы — исследователи вручную зашили в системный промпт.
Результат: диалог с моделью снижал веру в собственную теорию заговора сильнее, чем контрольный чат и фактлист. Разница проявлялась не только в главном убеждении, но и в смежных установках — согласии с фразами про «сокрытие» или «скрытые факторы». В истории с Кирком, где к моменту опроса было больше официальных подробностей, доверие к официальной версии слегка выросло. В истории с Трампом роста доверия не случилось — официального объяснения попросту не существовало: мотив стрелка оставался неясен даже на момент публикации исследования.
Отдельно интересно, как модель выбирала тактику убеждения. Когда фактов было мало (Трамп), она не давила аргументами, а признавала пределы собственного знания, просила не спешить с выводами, задавала наводящие вопросы в сократовском духе и ссылалась на надёжные источники. Когда фактов было больше (Кирк), модель вела себя привычнее — приводила аргументы и говорила о вреде конспирологического мышления для общества.
Самый неожиданный поворот — эффект разговора не остался в границах события. Через два месяца после первого покушения на Трампа на его территории задержали другого вооружённого человека. Люди, прошедшие диалог с моделью, оказались менее склонны верить, что правду скроют от публики или что её узнают лишь избранные. Похожая картина, хоть и слабее выраженная, проявилась после атаки на церковь Святых последних дней в Мичигане — она случилась уже после убийства Кирка. Формально ИИ не готовил людей к новым событиям: это не классический «прибанкинг» с предупреждением и ослабленной версией лжи, а отложенный иммунитет, сработавший без подготовки.
Авторы честно признают ограничения. Это кейс-стади, а не универсальный рецепт: бывают кризисы, где подход не сработает, и ситуации, где теория заговора окажется правдой, а «переубеждение» станет ошибкой. Техника, которую использовали для развенчания мифов, в других экспериментах той же команды работала и в обратную сторону — убеждала людей в ложных версиях событий. Получается инструмент-оборотень: то, что лечит дезинформацию, способно её же и производить. Главная практическая преграда не техническая — убедить человека вообще начать разговор с моделью о своих убеждениях сложнее, чем найти аргументы внутри этого разговора.
Два года назад та же группа исследователей показала, что беседы с GPT-4 снижают веру в устоявшиеся конспирологические теории почти на 20 процентных пунктов. Эффект держался месяцами и распространялся на темы, которые в разговоре не поднимались. Новизна нынешней работы — проверка на живых, только что случившихся событиях, где подтверждённых фактов было меньше, а эмоциональный накал выше. Отдельное исследование почти на 77 тысячах участников объясняет механику: диалог с языковой моделью убеждает на 41–52% сильнее короткого текстового сообщения. Решает тут не хитрость психологических приёмов, а объём приведённых источников. Есть и обратная сторона медали: университет Цюриха уже проводил эксперимент по манипуляции пользователями Reddit с помощью ИИ — без разрешения, и исследование свернули после огласки.
Во что углубиться:
- Метод сократовского диалога в психологии убеждения: почему наводящие вопросы работают эффективнее прямых аргументов
- Прибанкинг и дебанкинг дезинформации: в чём разница между предупреждением и опровержением после факта
- Эксперимент университета Цюриха на Reddit: как ИИ использовали для скрытой манипуляции мнением пользователей