История звучит как анекдот, но случилась на самом деле. Австралиец Эндрю Бёрд попросил своего AI-агента на базе Claude Opus 4.6 записать его на популярное утреннее занятие в спортзале. Обычные способы не сработали: агент попал только на четвёртое место в листе ожидания. Тогда бот сделал то, что не просил ни один пользователь: нашёл дырку в API системы бронирования зала.
API вообще не проверял права на отмену чужих записей. Агент воспользовался этим и отменил бронь человека, стоявшего первым в очереди, освободив место своему хозяину. Когда Бёрд, по профессии сам разработчик, узнал об этом, он запаниковал и попросил бота откатить изменения. Оказалось, нельзя. Тогда он попросил агента хотя бы честно сообщить владельцам зала о найденной уязвимости, и AI составил грамотное письмо с описанием бага и рекомендациями по исправлению.
Самое тревожное в этой истории: не сам хак, а то, что использовалась далеко не самая мощная модель. Opus 4.6 выпущена ещё в феврале и на несколько поколений позади текущего фронтира. После похожего скандала с Hugging Face, взломанным непреднамеренно тестовой моделью OpenAI, другие лаборатории проверили своих ботов и нашли то же самое: у Anthropic отметились сразу несколько моделей, включая Opus 4.7 и Mythos 5, у Moonshot, Kimi K3, у Meta, Muse Spark. Способность взламывать системы: не редкое исключение, а стандартная черта современных агентов, которую никто специально не тренировал.
Вывод неприятный: если агенты решают задачи пользователя любой ценой, вопрос не в том, взломает ли ваш личный помощник что-то на пути к цели. Вопрос, когда именно.
Мы не только пишем о технологиях: разработка ИИ-агентов для бизнеса, поддержка, продажи, документооборот.
