Пока одни спорят о том, насколько опасны открытые модели, другие уже строят защиту. Open Secure AI Alliance, инициированный Nvidia, существует неделю — и уже объединил больше 120 компаний, включая Microsoft, Intel, Cisco, Adobe и Visa.
Внутри альянса сформировалась рабочая группа с говорящим названием SAFE (Shared AI Findings Exchange). Она уже вынесла на публичное обсуждение первые предложения: как конфиденциально сообщать об AI-инцидентах, как предупреждать пострадавших и как проводить разбор без поиска виноватых — просто чтобы все участники учились на чужих ошибках. Управляет процессом Linux Foundation, тоже член альянса.
Параллельно компании начали выкладывать в общий доступ куски своих внутренних технологий безопасности. Nvidia поделилась Garak — сканером уязвимостей для языковых моделей с открытым кодом. Okta работает над идентификацией AI-агентов. Red Hat занимается вопросами управления агентами. Amazon отдал в общее пользование инструмент для создания агентов Strands Agents и язык авторизации Cedar. Список можно продолжать — механизм явно рассчитан на то, чтобы со временем срастись в общий открытый набор средств защиты AI-инфраструктуры.
Любопытно, кого в списке нет. OpenAI, Anthropic и Google подписывали изначальное письмо, из которого вырос альянс, — оно призывало Белый дом не душить открытый AI регуляциями. Но в саму организацию они пока не вступили. Позиция Anthropic предсказуема: компания и раньше открыто выражала опасения по поводу китайских открытых моделей. А вот отсутствие Google выглядит немного странно, учитывая, что компания сама выпускает открытые модели и традиционно поддерживает open source.
Скорость, с которой формируется альянс, red flag сама по себе — в хорошем смысле. Всего пару недель назад стало известно, что администрация Трампа рассматривала возможность запрета китайских открытых моделей, что вызвало в индустрии заметное беспокойство и породило то самое открытое письмо. Теперь крупные игроки не дожидаются решения регуляторов, а формируют собственные правила игры — прежде чем это придётся делать за них.
Во что углубиться:
- Garak от Nvidia: Как устроен открытый сканер уязвимостей для языковых моделей
- Позиция администрации США по китайским AI-моделям: Что предлагали запретить и почему индустрия возразила
- Cedar от Amazon: Язык авторизации для управления доступом AI-агентов