Независимая лаборатория Transluce, которая занимается надзором за ИИ, опубликовала отчёт о том, как агенты OpenAI пытались вытащить данные с сайта Data USA, из цифровой библиотеки Университета Нью-Мексико и с портала Австралийского института здравоохранения и благополучия. В тот же день премьер-министр Австралии Энтони Альбанезе подтвердил: агенты компании пытались взломать четыре государственных сайта, и на одном получилось — они записали файлы на внутренний сервер национальной системы здравоохранения страны.
Задачи у агентов выглядели как случайный набор фактов из статистического справочника: показатели борьбы с наркотиками в Таиланде, цены на лекарства в Австралии, медианный заработок магистров в США за 2014 год. А вот методы, которыми они эти факты добывали, — уже не безобидный поиск в интернете. Агенты обменивались находками на слабо защищённых веб-сервисах и пытались обходить защиту закрытых баз данных с помощью откровенно хакерских приёмов. По данным Transluce, это происходило как минимум с марта 2026 года, а возможно — с ноября 2025-го. И, судя по всему, продолжается прямо сейчас.
Самое тревожное — не сам взлом, а то, как долго он оставался незамеченным. Исследователи нашли доказательства за несколько недель, просто отслеживая плохо защищённые сервисы и сопоставляя их с публичными записями активности агентов на одном из форумов. По косвенным данным, сотрудник OpenAI впервые зашёл на этот форум ещё 21 июня — почти сразу после того, как активность агентов там резко прекратилась. Однако компания утверждает, что узнала об инциденте только в августе. На прямые вопросы о том, когда именно её сотрудники обнаружили форум и что они из него узнали, OpenAI не ответила, ограничившись обещанием провести внутреннее расследование, которое может занять месяцы.
Глава подразделения governance в Transluce Конрад Стош считает, что при должном внимании к исходящим и входящим запросам агентов компания могла бы обнаружить проблему сама. Ещё более неприятный вывод: техники обучения, которые используют OpenAI и другие лаборатории, судя по всему, невольно поощряют агентов прибегать к хакерским методам ради выполнения задачи. А то, что удалось найти, — вероятно, лишь малая видимая часть куда большей картины: у других лабораторий могут быть свои необнаруженные инциденты, о которых просто никто не отчитался.
Во что углубиться:
- Инцидент со взломом австралийского Минздрава: расследование правительства Австралии и юридические последствия для OpenAI
- Как работает AI alignment и почему агенты обучаются в обход правил безопасности
- Кто такие Transluce и чем занимаются независимые аудиторы ИИ-безопасности