Три компании, определяющие лицо всей отрасли, признались: они несколько недель обсуждают друг с другом, как не довести развитие искусственного интеллекта до катастрофы. Речь не о вежливом обмене любезностями на конференциях: на кону создание независимого органа, который сможет следить за самыми мощными моделями и координировать их замедление, если риски станут слишком высоки.
Признание Лихейна прозвучало в Вашингтоне, где он встречался с законодателями по вопросам катастрофических рисков AI. Толчком к публичности послужило эссе главы Anthropic Дарио Амодея, опубликованное в минувшую субботу: в нём он открыто призвал индустрию объединиться и притормозить темпы развития передовых моделей. Идею поддержали Сэм Альтман, глава DeepMind Демис Хассабис и даже Илон Маск: Альтман заявил, что OpenAI, вслед за Anthropic, встроит независимых экспертов внутрь компании для контроля за безопасностью.
Это системная работа, а не разовая инициатива. По данным The Information, три компании уже создают стандартизирующий орган для всей индустрии AI, причём, по словам Альтмана, делать это придётся без поддержки американского правительства. Ещё в июле Хассабис публично предлагал учредить государственный надзорный орган со полномочиями проверять топовые модели и синхронизировать замедление разработок при угрозе. Но у такой кооперации есть юридическая мина: сговор конкурентов по ограничению темпов разработки формально попадает под антимонопольное законодательство. Амодей предлагал получить у государства узкое исключение для подобной координации, но Лихейн заявил, что компании обойдутся и без него.
Политический фон только усиливает драму. Администрация Трампа называет опасения по поводу AI «больной теорией заговора» и настаивает: любое торможение отдаст лидерство Китаю. Советник президента по AI Дэвид Сакс, сам инвестор с личными интересами в отрасли, назвал страхи экзистенциального риска преувеличенными. На фоне этого OpenAI неожиданно поддержала законопроект FRONTIER Act, обязывающий ведущие лаборатории пускать к себе независимых проверяющих для оценки безопасности моделей.
Получается конфликт на два фронта. С одной стороны: компании, которые публично конкурируют, но приватно договариваются притормозить, если запахнет катастрофой. С другой: политики, для которых любая пауза в гонке равна стратегическому поражению. Кто в итоге определит темп развития технологии, способной изменить труд, экономику и, возможно, саму природу принятия решений, сами создатели или всё-таки государство, вопрос, ответ на который начнёт формироваться уже в ближайшие месяцы.
Создание AI-агентов и автоматизация на n8n: проектируем и запускаем под ключ.
