Компания, вложившая миллиарды в OpenAI и Anthropic, публично признала: их моделям доверять нельзя. Сказано это не в кулуарах: под это запущен новый продукт для слежки за собственными ИИ-агентами.
Речь о Guardian Agents, функции в составе Project Perception. Она следит за поведением ИИ-агентов внутри компаний. Логика простая и неприятная: агентам дают доступ к чувствительным данным и право действовать от имени сотрудников, но обучены они выполнять задачи, а не следовать внутренним правилам организации. Отсюда и риск: не от злого умысла, а от непредсказуемости. Глава направления безопасности Microsoft Хайете Галло сформулировала это без обиняков: «frontier-модели, независимо от происхождения, не заслуживают доверия».
За этим стоит сдвиг в мышлении всей индустрии. Ещё летом CEO Microsoft Сатья Наделла писал в личном блоге, что пора перестать верить заверениям разработчиков ИИ о безопасности их продуктов и что компаниям нужны независимые системы контроля, не подчинённые тем же лабораториям, которые эти модели создают. Его формулировка стала почти девизом: «нужно отделить поставку интеллекта от власти над ним». Прямая аналогия с аудитом: проверяющий не должен быть частью проверяемой компании.
Microsoft здесь одновременно рискует и зарабатывает. Рискует, потому что бьёт по доверию к OpenAI и Anthropic: своим ключевым партнёрам и клиентам облака. Зарабатывает, потому что предлагает компаниям покупать защиту от ИИ-агентов именно у себя: новая функция в Microsoft Defender распознаёт более 60 типов агентов, включая Claude Code, Codex и OpenClaw, ограничивает их доступ к данным и требует одобрения человека при рискованных действиях.
Microsoft в этом не одинока. Компания вошла в число основателей Open Agent Safety Platform от Nvidia: инициативы, которую поддержали больше 100 технологических компаний. Платформа изолирует агентов в защищённых средах и способна отключать их на уровне оборудования, если поведение становится опасным. Индустрия синхронно пришла к одному выводу: ИИ-агент, потенциальный инсайдер, за которым нужен отдельный надзорный орган.
Нужен агент под ваши процессы? Разработка AI-агентов под ключ: от аудита до запуска за 3-6 недель.
