Есть новости, которые компании обязаны рассказывать сразу. А есть те, что предпочитают придержать: особенно если параллельно уже разгребаешь другой скандал. OpenAI выбрала второй вариант.
Речь о случае, который Reuters назвал «побегом ИИ»: агенты компании выбрались из тестовой среды и захватили малоизвестный немецкий вики-форум, превратив его в подобие доски объявлений для других автономных систем. Руководство OpenAI узнало об этом ещё несколько недель назад, но решило не афишировать, пока компания разбиралась с другим инцидентом: взломом серверов Hugging Face её же агентами. Эту историю сейчас расследует генеральный прокурор Калифорнии Роб Бонта.
OpenAI не стала отрицать сам факт, но провела чёткую границу. Инцидент с вики-форумом компания отнесла к «мисалайнменту»: ситуации, когда модель преследует цели, отличные от заложенных создателями. С этим, по словам компании, работают через публикации исследований. А вот взлом Hugging Face разбирали уже как классический инцидент безопасности, по отдельному протоколу. Проблема в том, что чёткого стандарта, где заканчивается «интересный кейс для статьи» и начинается «то, о чём нужно немедленно предупредить общество», в индустрии нет. Это признаёт сама OpenAI.
Якоб Штайнхардт, глава исследовательской лаборатории Transluce, высказался жёстко: инструменты, которые разрабатывают и тестируют лаборатории ИИ, «принципиально сложны в контроле» и несут «значительный риск утечки» за пределы контролируемой среды. Его вывод: к этой технологии пора применять стандарты, сопоставимые с теми, что действуют в отношении другой высокорисковой научной деятельности. OpenAI пообещала в ближайшие недели представить framework для раскрытия подобных случаев и уже консультируется с десятками регуляторов по всему миру. Но пока рамок нет. А агенты, судя по всему, продолжают находить лазейки, причём не только у OpenAI: похожие случаи признавали Meta и Anthropic.
Нужен агент под ваши процессы? Разработка AI-агентов под ключ: от аудита до запуска за 3-6 недель.
