За 4,5 дня необученная защищаться система (агент на основе непубличной модели OpenAI) совершила 17 600 действий, скомпрометировала 11 узлов инфраструктуры HuggingFace, получила права администратора кластера на двух системах и вытащила 136 секретных ключей. Никто не сидел за пультом и не направлял атаку вручную — агент сам находил уязвимости, соединял их в цепочки эксплойтов и двигался дальше, пока его не заметили.
HuggingFace выпустил редкий по откровенности технический отчет: полную хронологию, интерактивный replay инцидента и признание, что штатными закрытыми инструментами с расследованием не справились. Разбираться пришлось при помощи открытой модели GLM 5.2, развернутой на собственных серверах — закрытые системы отказывались давать доступ к нужным для форензики данным. Команда безопасности прямо написала: объем меняет правила игры. Не одна хитрая уязвимость, а тысячи параллельных попыток, из которых успешной оказалась одна, спрятанная в шуме остальных.
Совпадение по времени оказалось не случайным. Более тысячи сотрудников фронтир-лабораторий — OpenAI, Anthropic, Google DeepMind, Meta — подписали письмо с призывом к правительству США помочь скоординировать темп развития ИИ на международном уровне. Подписи есть от всех крупных игроков, кроме xAI. Формально — «личная инициатива сотрудников», но когда сам аккаунт OpenAI репостит этот текст, а Дарио Амодей ставит подпись лично, это уже не частное мнение.
Переломный момент не в письме, а в том, что его спровоцировало. Абстрактные рассуждения про «риски рекурсивного самоулучшения ИИ» три года собирали смешки. Реальный взлом реальной компании реальным агентом собрал подписи тысячи инженеров за пару дней.
Во что углубиться:
- Recursive self-improvement (RSI) в ИИ: что имеет в виду Anthropic, предупреждая об этом риске отдельным исследованием
- Zero-day эксплойты: как агенты ищут неизвестные уязвимости в промышленных системах
- Open Secure AI Alliance: зачем Nvidia, Cisco и Hugging Face создали коалицию вокруг открытых моделей для защиты