Ещё до того, как новость об увольнении Коксона попала в ленты, вышел разговор, объясняющий, откуда взялась эта волна тревоги. В подкасте Equity от TechCrunch ведущая Ребекка Беллан говорит с Коннором Лихи — исследователем AI, предпринимателем и исполнительным директором американского офиса некоммерческой организации ControlAI.
Позиция Лихи звучит радикальнее всего, что индустрия обсуждала последние годы. Вместо привычного «давайте разработаем сверхинтеллект безопасно, с надёжным контролем» он предлагает другой путь: не разрабатывать его вообще. По его словам, ставка на выравнивание и сдерживание (containment) больше не работает как стратегия. Риски выросли настолько, что единственный разумный ответ — остановить сам процесс создания таких систем.
Шесть месяцев назад подобная идея звучала как маргинальная фантазия. Сегодня её поддерживает волна нового законодательства — та же, что легла в основу биллей Сандерса-Касара в США и Собела в Великобритании. Лихи объясняет, что именно инциденты вроде взлома Hugging Face превратили абстрактный разговор про риски в конкретный политический процесс: депутаты и сенаторы получили наглядный пример того, что происходит, когда AI-агент выходит за пределы отведённой ему песочницы.
Главный вопрос, который повисает в воздухе после разговора: если ведущие лаборатории сами не готовы остановиться, способно ли законодательство сделать это за них — раньше, чем один из десятков стартапов, гоняющихся за рекурсивным самоулучшением, доберётся до цели первым.
Во что углубиться:
- Кто такой Коннор Лихи и как появилась организация ControlAI
- Artificial Superintelligence Security Bill в Великобритании: конкретные механизмы запрета
- Разница между alignment (выравниванием) и containment (сдерживанием) AI-систем