Восьмичасовой поход на гору Шаста в Калифорнии превратился в многодневное испытание. Виновником, судя по всему, стал не только рельеф.
Трое молодых людей вышли на маршрут в три часа ночи. Правило для этой горы простое: если не дошёл до вершины к полудню — разворачивайся. Они дошли до вершины в семь вечера. Спускаться в темноте не решились, позвонили в офис шерифа за помощью с маршрутом, и в итоге заночевали в каньоне Мад-Крик. Утром их нашли рейнджеры лесной службы и волонтёры.
По данным офиса шерифа округа Сискию, группа готовилась к походу с помощью Google Gemini. Чат-бот посоветовал взять значительно меньше еды и воды, чем требовалось, особенно с учётом того, что плановый однодневный маршрут растянулся на несколько суток. Насколько именно ИИ виноват в решении выйти в три ночи и не развернуться вовремя — вопрос открытый. Но сам факт, что спасательная служба сочла нужным официально указать на роль Gemini, говорит о многом.
Вывод от офиса шерифа звучит буднично, но именно в этом и суть: всегда лучше позвонить в местный офис лесной службы и уточнить актуальную информацию, а не полагаться на ИИ как на единственный источник данных перед выходом в горы. Чат-бот отлично умеет звучать уверенно. Вопрос в том, насколько эта уверенность соответствует реальности маршрута, погоды и снаряжения, которое нужно нести на спине.
Во что углубиться:
- Почему языковые модели уверенно ошибаются в фактах: явление галлюцинаций ИИ и его причины
- Как правильно планировать поход в горы: официальные рекомендации лесных служб США
- Другие случаи, когда советы чат-ботов приводили к реальным опасным ситуациям