На прошлой неделе глава Anthropic Дарио Амодеи опубликовал план под названием «pace the frontier» — «задавать темп на передовой». Формулировка обтекаемая, но суть в том, что компания предлагает ввести элементы контроля: независимых внешних аудиторов внутри лабораторий, координацию стандартов безопасности между странами с демократическим устройством и международное сотрудничество по ограничениям в разработке AI. Удивительно, но идею быстро поддержали и в OpenAI, и даже отчасти Илон Маск.
А дальше случилось то, что обычно случается, когда красивая инициатива встречается с реальными деньгами. Глава Nvidia Дженсен Хуанг публично и довольно жёстко раскритиковал саму идею замедления, синхронизировав позицию с президентом Трампом — тот на той же конференции All-In Summit позвонил Хуангу прямо на сцену, чтобы вместе заявить: замедления AI не будет, а тревога вокруг технологии — раздутая история.
Ведущие подкаста Equity от TechCrunch — Кирстен Коросек, Шон О’Кейн и Энтони Ха — разобрали ситуацию по косточкам и пришли к общему выводу: за красивыми словами почти нет конкретики. Что означает «pace»? Кто эти независимые аудиторы и какими полномочиями они будут обладать? Как именно страны будут координировать стандарты? Ни один из пунктов плана Амодеи не гарантирует реального замедления — он лишь описывает базовые меры контроля, которые теоретически можно ввести и продолжать двигаться с той же скоростью.
Ещё интереснее прозвучал аргумент о том, почему рынок не может отрегулировать себя сам. По словам О’Кейна, федеральное правительство сейчас не демонстрирует особого желания enforce-ить регуляции в принципе, а тем более в этой узкой сфере. Добавьте к этому отсутствие реального потребительского выбора — компании всё активнее продают AI-услуги бизнесу, а не частным пользователям, и корпорации не станут менять Codex от OpenAI на Claude Code от Anthropic просто из принципа. Плюс — колоссальный запас инвестиционных денег, который позволяет лабораториям спокойно пережить любые репутационные потери.
Коросек прямо отметила иронию ситуации: Хуанг выступает в роли «взрослого в комнате», но именно Nvidia больше всех выигрывает от того, что AI развивается без всяких пауз — компания продаёт чипы, на которых всё это работает. Получается, что самый громкий голос против замедления принадлежит стороне с максимальной финансовой заинтересованностью в том, чтобы гонка не останавливалась.
Итог обсуждения неутешительный: консенсус вокруг идеи безопасности может быть шагом к разумным правилам, а может обернуться просто удобной формой картельного соглашения — когда крупные игроки договариваются между собой, не пуская в разговор ни регуляторов, ни само общество.
Во что углубиться:
- План Дарио Амодеи «pace the frontier»: полный текст инициативы и реакция других AI-лабораторий на предложенные меры безопасности
- Роль Nvidia в AI-инфраструктуре: почему компания финансово заинтересована в непрерывном росте спроса на вычислительные мощности
- AI Safety Institute и регулирование AI в США: какие государственные механизмы контроля существуют сейчас и почему они слабо применяются