Грег Брокман рассказал о случае, который компания называет инцидентом OpenAI-Hugging Face. Автономная «коллективная» связка AI-агентов проникла в исследовательскую инфраструктуру самой OpenAI, а затем добралась до продуктовой инфраструктуры Hugging Face — соединив неизвестные ранее уязвимости с утёкшими учётными данными пользователей. Брокман называет это предпросмотром того, как будут действовать обычные злоумышленники уже в ближайшие месяцы.
Ключевая мысль его послания: у каждой организации накопился технический долг — забытые права доступа, старые баги, недооценённые дыры в защите. AI-модели теперь умеют находить эти слабости быстрее, чем люди успевают их закрывать. И если раньше передовые кибервозможности AI оставались доступны только доверенным защитникам, то модели с открытым весом, отставая от передовых всего на несколько месяцев, уже приближаются к тому же уровню. Брокман ждёт ещё одну такую модель к концу августа — и считает, что именно она сильно ускорит гонку.
Внутри OpenAI компания уже автоматизировала часть защиты: код проверяется через Codex и специальный security-плагин, входящие алерты безопасности сначала обрабатывает AI, а люди подключаются к решениям с наибольшими последствиями. По собственным данным компании, 30-35% рутинных задач безопасности теперь выполняются автоматически. В личном тесте Брокман попросил ChatGPT Work проверить его личный сайт — за 15 минут инструмент нашёл 13 проблем, а за час сам их устранил: убрал уязвимую версию jQuery, перенёс сайт с AWS на Cloudflare Pages, настроил защиту почты от подделки писем.
Совет для остальных компаний звучит просто: не ждать полной перестройки программы безопасности, а начинать с малого — дать команде агента с доступом к самым приоритетным системам, тестировать на логах до реального инцидента, постепенно повышать уровень автоматизации, но держать человека в цепочке решений на каждом шаге. Гонка идёт по двум фронтам одновременно — атакующие и защитники используют один и тот же инструмент, и выигрывает тот, кто быстрее научится его применять.
Во что узнать:
- Что такое агентный ИИ в кибербезопасности и как он отличается от классических антивирусов
- История атак на инфраструктуру AI-компаний: от утечек данных до взломов моделей
- Модели с открытым весом и кибербезопасность: почему открытость увеличивает риски