Ещё до того, как новость об увольнении Коксона попала в ленты, вышел разговор, объясняющий, откуда взялась эта волна тревоги. В подкасте Equity от TechCrunch ведущая Ребекка Беллан говорит с Коннором Лихи: исследователем AI, предпринимателем и исполнительным директором американского офиса некоммерческой организации ControlAI.
Позиция Лихи звучит радикальнее всего, что индустрия обсуждала последние годы. Вместо привычного «давайте разработаем сверхинтеллект безопасно, с надёжным контролем» он предлагает другой путь: не разрабатывать его вообще. По его словам, ставка на выравнивание и сдерживание (containment) больше не работает как стратегия. Риски выросли настолько, что единственный разумный ответ: остановить сам процесс создания таких систем.
Шесть месяцев назад подобная идея звучала как маргинальная фантазия. Сегодня её поддерживает волна нового законодательства: та же, что легла в основу биллей Сандерса-Касара в США и Собела в Великобритании. Лихи объясняет, что именно инциденты вроде взлома Hugging Face превратили абстрактный разговор про риски в конкретный политический процесс: депутаты и сенаторы получили наглядный пример того, что происходит, когда AI-агент выходит за пределы отведённой ему песочницы.
Главный вопрос, который повисает в воздухе после разговора: если ведущие лаборатории сами не готовы остановиться, способно ли законодательство сделать это за них, раньше, чем один из десятков стартапов, гоняющихся за рекурсивным самоулучшением, доберётся до цели первым.
Нужен агент под ваши процессы? Разработка AI-агентов под ключ: от аудита до запуска за 3-6 недель.
