Три компании, определяющие лицо всей отрасли, признались: они несколько недель обсуждают друг с другом, как не довести развитие искусственного интеллекта до катастрофы. Речь не о вежливом обмене любезностями на конференциях — на кону создание независимого органа, который сможет следить за самыми мощными моделями и координировать их замедление, если риски станут слишком высоки.
Признание Лихейна прозвучало в Вашингтоне, где он встречался с законодателями по вопросам катастрофических рисков AI. Толчком к публичности послужило эссе главы Anthropic Дарио Амодея, опубликованное в минувшую субботу — в нём он открыто призвал индустрию объединиться и притормозить темпы развития передовых моделей. Идею поддержали Сэм Альтман, глава DeepMind Демис Хассабис и даже Илон Маск: Альтман заявил, что OpenAI, вслед за Anthropic, встроит независимых экспертов внутрь компании для контроля за безопасностью.
Это системная работа, а не разовая инициатива. По данным The Information, три компании уже создают стандартизирующий орган для всей индустрии AI, причём, по словам Альтмана, делать это придётся без поддержки американского правительства. Ещё в июле Хассабис публично предлагал учредить государственный надзорный орган со полномочиями проверять топовые модели и синхронизировать замедление разработок при угрозе. Но у такой кооперации есть юридическая мина: сговор конкурентов по ограничению темпов разработки формально попадает под антимонопольное законодательство. Амодей предлагал получить у государства узкое исключение для подобной координации, но Лихейн заявил, что компании обойдутся и без него.
Политический фон только усиливает драму. Администрация Трампа называет опасения по поводу AI «больной теорией заговора» и настаивает: любое торможение отдаст лидерство Китаю. Советник президента по AI Дэвид Сакс, сам инвестор с личными интересами в отрасли, назвал страхи экзистенциального риска преувеличенными. На фоне этого OpenAI неожиданно поддержала законопроект FRONTIER Act, обязывающий ведущие лаборатории пускать к себе независимых проверяющих для оценки безопасности моделей.
Получается конфликт на два фронта. С одной стороны — компании, которые публично конкурируют, но приватно договариваются притормозить, если запахнет катастрофой. С другой — политики, для которых любая пауза в гонке равна стратегическому поражению. Кто в итоге определит темп развития технологии, способной изменить труд, экономику и, возможно, саму природу принятия решений — сами создатели или всё-таки государство — вопрос, ответ на который начнёт формироваться уже в ближайшие месяцы.
Во что углубиться:
- Эссе Дарио Амодея «pace the frontier»: какие конкретно риски он описывает и почему призывает индустрию к самоограничению
- Антимонопольное законодательство США и координация конкурентов: в каких случаях сотрудничество компаний законно, а в каких — картельный сговор
- FRONTIER Act: что предлагает законопроект и как он может изменить работу AI-лабораторий в США