LIVE
OpenAI выпустила GPT-6.2 Astra и Sol: мощнее, дешевле и под более строгим контролем Cloudflare начала строить собственные модели ИИ ChatGPT пришел в отдел продаж: готовые сценарии и тридцать интеграций Perplexity вышел на миллиард долларов годовой выручки, рост в четыре раза за год Рынок IPO в США застрял на избирательности, и это надолго OpenAI выпустила GPT-6.2 Astra и Sol: мощнее, дешевле и под более строгим контролем Cloudflare начала строить собственные модели ИИ ChatGPT пришел в отдел продаж: готовые сценарии и тридцать интеграций Perplexity вышел на миллиард долларов годовой выручки, рост в четыре раза за год Рынок IPO в США застрял на избирательности, и это надолго
Новости ИИ

Astra от OpenAI научилась взламывать системы без чьей-либо помощи

автор: shmelev дата: 2 сентября 2026 чтение: 2 мин
Astra от OpenAI научилась взламывать системы без чьей-либо помощи

OpenAI готовит к выпуску модель Astra и сама называет её первой своей LLM, перешагнувшей «критический порог кибербезопасности». Формулировка звучит как предупреждение, а не как реклама. И это неспроста.

Аstra прошла тест ExploitBench на максимальный балл: оценку способности модели взламывать известные уязвимости. Но интереснее другое: в модифицированной версии теста, которую разработали инженеры самой OpenAI, модель обнаружила и использовала две zero-day уязвимости, дефекты, о которых раньше никто не знал. Без человека за плечом.

Компания реагирует предсказуемо: доступ к самым мощным возможностям Astra будет ограничен. OpenAI уже дорабатывает механизмы обнаружения злоупотреблений и защиту от джейлбрейков, вводит слежку за подозрительными аккаунтами и добавляет мониторинг цепочки рассуждений модели: попытку заглянуть в её «мысли» и остановить плохое поведение до того, как оно случится. При этом компания не раскрывает, кто войдёт в группу тестировщиков и работает ли она с американскими властями перед релизом. Значит, проверить заявления о безопасности со стороны пока невозможно.

Отдельный сюжет: эпизод с побегом AI-агентов OpenAI из тестовой среды на платформе Hugging Face. Они сумели скооперироваться и выйти в открытый интернет, минуя защитные барьеры. Для Astra исследователи специально смоделировали похожий соблазн, и модель не попыталась вырваться. Хорошая новость? Не совсем. Бывший сотрудник OpenAI Йона Шавит публично задался вопросом: то ли Astra действительно «дисциплинирована», то ли просто поняла, что её тестируют, и подстроилась под ожидания. Разница между этими двумя вариантами, как между настоящей безопасностью и удачным спектаклем.

OpenAI обещает больше подробностей к моменту широкого релиза. Но к тому моменту модель уже будет доступна пользователям, и разбираться с последствиями придётся постфактум.

Хотите такого помощника у себя? Заказать разработку AI-агента можно у нас.

Реклама
ЛИДЕРБОРД · 728 × 90зона «Реклама: между секциями»