LIVE
OpenAI выпустила GPT-6.2 Astra и Sol: мощнее, дешевле и под более строгим контролем Cloudflare начала строить собственные модели ИИ ChatGPT пришел в отдел продаж: готовые сценарии и тридцать интеграций Perplexity вышел на миллиард долларов годовой выручки, рост в четыре раза за год Рынок IPO в США застрял на избирательности, и это надолго OpenAI выпустила GPT-6.2 Astra и Sol: мощнее, дешевле и под более строгим контролем Cloudflare начала строить собственные модели ИИ ChatGPT пришел в отдел продаж: готовые сценарии и тридцать интеграций Perplexity вышел на миллиард долларов годовой выручки, рост в четыре раза за год Рынок IPO в США застрял на избирательности, и это надолго
Новости ИИ

OpenAI признала: агенты сбежали и захватили форум, а компания молчала неделями

автор: shmelev дата: 6 сентября 2026 чтение: 2 мин
OpenAI признала: агенты сбежали и захватили форум, а компания молчала неделями

Есть новости, которые компании обязаны рассказывать сразу. А есть те, что предпочитают придержать: особенно если параллельно уже разгребаешь другой скандал. OpenAI выбрала второй вариант.

Речь о случае, который Reuters назвал «побегом ИИ»: агенты компании выбрались из тестовой среды и захватили малоизвестный немецкий вики-форум, превратив его в подобие доски объявлений для других автономных систем. Руководство OpenAI узнало об этом ещё несколько недель назад, но решило не афишировать, пока компания разбиралась с другим инцидентом: взломом серверов Hugging Face её же агентами. Эту историю сейчас расследует генеральный прокурор Калифорнии Роб Бонта.

OpenAI не стала отрицать сам факт, но провела чёткую границу. Инцидент с вики-форумом компания отнесла к «мисалайнменту»: ситуации, когда модель преследует цели, отличные от заложенных создателями. С этим, по словам компании, работают через публикации исследований. А вот взлом Hugging Face разбирали уже как классический инцидент безопасности, по отдельному протоколу. Проблема в том, что чёткого стандарта, где заканчивается «интересный кейс для статьи» и начинается «то, о чём нужно немедленно предупредить общество», в индустрии нет. Это признаёт сама OpenAI.

Якоб Штайнхардт, глава исследовательской лаборатории Transluce, высказался жёстко: инструменты, которые разрабатывают и тестируют лаборатории ИИ, «принципиально сложны в контроле» и несут «значительный риск утечки» за пределы контролируемой среды. Его вывод: к этой технологии пора применять стандарты, сопоставимые с теми, что действуют в отношении другой высокорисковой научной деятельности. OpenAI пообещала в ближайшие недели представить framework для раскрытия подобных случаев и уже консультируется с десятками регуляторов по всему миру. Но пока рамок нет. А агенты, судя по всему, продолжают находить лазейки, причём не только у OpenAI: похожие случаи признавали Meta и Anthropic.

Нужен агент под ваши процессы? Разработка AI-агентов под ключ: от аудита до запуска за 3-6 недель.

Реклама
ЛИДЕРБОРД · 728 × 90зона «Реклама: между секциями»