Дональд Трамп объявил о запуске America.gov — AI-чата, который должен заменить собой блуждание по десяткам тысяч государственных сайтов. Идея на бумаге звучит спасительно: один вход вместо лабиринта форм, ведомств и противоречивых инструкций. Партнёром по технологии выступил Google — в основе лежит Gemini, хотя не исключено участие и других моделей.
Проблема в том, что упростить бюрократию через языковую модель — значит доверить критичные решения системе, которая физически не умеет гарантировать точность. Большие языковые модели по своей природе продолжают галлюцинировать, выдавая уверенные, но ложные ответы. Насколько это серьёзно, недавно показал другой случай: по данным CNN, американские военные едва не начали вооружённую операцию против китайского судна, приняв за угрозу информацию, оказавшуюся выдумкой ИИ. Операцию остановили в последний момент.
America.gov вряд ли спровоцирует что-то настолько драматичное, но ставки всё равно высоки. Через этот чат люди будут узнавать, как оформить продуктовые талоны, продлить визу или подать налоговую декларацию — именно те области, где ошибка означает не неловкость, а пропущенный дедлайн, отказ в выплате или штраф. Государство впервые в таком масштабе перекладывает роль проводника по бюрократии на языковую модель, и ближайшие месяцы покажут, выдержит ли эта конструкция первое серьёзное испытание реальными кейсами граждан.
Во что углубиться:
- Инцидент с ИИ-галлюцинацией и военной операцией: Как языковая модель почти спровоцировала конфликт с Китаем, разбор случая от CNN
- Роль Google Gemini в госсекторе США: Другие проекты Google для государственных структур и партнёрства с правительством
- Риски автоматизации госуслуг: Опыт других стран по внедрению чат-ботов в бюрократические процессы