LIVE
OpenAI выпустила GPT-6.2 Astra и Sol: мощнее, дешевле и под более строгим контролем Cloudflare начала строить собственные модели ИИ ChatGPT пришел в отдел продаж: готовые сценарии и тридцать интеграций Perplexity вышел на миллиард долларов годовой выручки, рост в четыре раза за год Рынок IPO в США застрял на избирательности, и это надолго OpenAI выпустила GPT-6.2 Astra и Sol: мощнее, дешевле и под более строгим контролем Cloudflare начала строить собственные модели ИИ ChatGPT пришел в отдел продаж: готовые сценарии и тридцать интеграций Perplexity вышел на миллиард долларов годовой выручки, рост в четыре раза за год Рынок IPO в США застрял на избирательности, и это надолго
Новости ИИ

Новая техника мышления OpenAI встревожила специалистов по безопасности

автор: shmelev дата: 3 сентября 2026 чтение: 2 мин
Новая техника мышления OpenAI встревожила специалистов по безопасности

У каждой рассуждающей модели есть черновик: цепочка мыслей (chain of thought), которую можно прочитать и понять, почему AI пришёл к ответу. Это не идеальный, но рабочий инструмент контроля: именно по таким записям недавно разобрались, почему AI-агенты OpenAI повели себя нештатно. Контроль под угрозой.

По данным The Information, новая модель OpenAI под названием Astra использует технику «recurrent depth», она же «opaque recurrence»: непрозрачная рекуррентность. Вместо последовательных, читаемых шагов рассуждения модель прогоняет один и тот же запрос через внутренний цикл несколько раз. Формально это тоже рассуждение, но следов, которые можно проверить со стороны, почти не остаётся. Грубо говоря, AI начинает думать «про себя», а не вслух.

Реакция сообщества AI-безопасности была жёсткой. Глава Redwood Research Бак Шлегерис назвал себя «крайне обеспокоенным» и предупредил: если OpenAI начнёт масштабировать эту технику, компания получит возможность уничтожить читаемость цепочки мыслей. Исследователь Zvi Mowshowitz пошёл дальше и заявил: для предотвращения «гонки на дно» между AI-лабораториями может понадобиться законодательное регулирование. Главный научный сотрудник Redwood Райан Гринблатт сформулировал главный страх сообщества: модель, которая рассуждает почти полностью в скрытом пространстве, без единого видимого шага.

OpenAI успокаивает: применение техники в Astra ограничено, цепочка мыслей остаётся читаемой. Главный научный сотрудник компании Якуб Пахоцки подчеркнул: сохранение прозрачности рассуждений, ключевая цель исследовательской программы. Важная деталь: по данным The Information, Anthropic и Google DeepMind уже обсуждают аналогичный подход у себя. Решение одной лаборатории способно задать стандарт для всей индустрии: хороший он или плохой.

Вопрос не в том, опасна ли Astra прямо сейчас. Вопрос в том, что происходит, когда несколько крупных игроков одновременно решают, что скорость рассуждений важнее возможности заглянуть модели в голову. Пока чат-боты дают советы по рецептам, это не критично. Когда AI-агенты самостоятельно управляют инфраструктурой компаний, а именно туда всё движется, проверить логику их решений становится вопросом безопасности в буквальном смысле.

Нужен агент под ваши процессы? Разработка AI-агентов под ключ: от аудита до запуска за 3-6 недель.

Реклама
ЛИДЕРБОРД · 728 × 90зона «Реклама: между секциями»