Большая ставка индустрии звучит так: скоро ИИ начнёт улучшать себя сам, почти без участия человека. Языковые модели уже пишут код, генерируют синтетические данные для обучения, оптимизируют чипы, на которых работают. Прогнозы обещают взрывной прогресс через рекурсивное самоулучшение буквально на горизонте нескольких лет.
Новое исследование группы учёных из Принстона под руководством Питера Киргиса и Сайаша Капура ставит это обещание под сомнение. Они проверили, способен ли AI-агент вести открытое, творческое научное исследование — то, что требует вкуса, интуиции и умения вовремя отказаться от неудачной гипотезы. Claude Opus 4.8 получил шесть дней, три тысячи долларов на API, бюджет вычислений и задачу: ответить на исследовательский вопрос из двух неопубликованных статей, поданных на престижную конференцию NeurIPS 2026, и написать полноценную научную работу.
Агент справился со всей инженерной частью: изучил литературу, провёл сотни экспериментов, собрал результаты. Но авторы оригинальных статей, которые оценивали работы агента, отклонили обе. Модель слишком быстро цеплялась за неудачные подходы, тестировала гипотезы на крошечных синтетических данных, не могла кардинально пересмотреть стратегию, а вместо доработки методологии просто сужала свои утверждения и добавляла оговорки. Никакого обмана или манипуляции с данными исследователи не зафиксировали — модель просто не дотягивала до уровня творческого мышления.
Сооснователь Anthropic Джек Кларк в своей рассылке признал: похожая проблема возникла и при попытке компании автоматизировать исследования безопасности ИИ внутри самой Anthropic. По его словам, у современных систем есть «определённое отсутствие ценной, интуитивной креативности» — они блестящие инженеры, но их мышление остаётся формальным и заученным. Это, как он выразился, «медвежий сигнал» для тех, кто рассчитывает на скорое рекурсивное самоулучшение.
Главный вопрос остаётся открытым: можно ли добраться до прорывного прогресса чисто ремесленным путём, шлифуя то, что уже умеют модели, — или без творческих скачков, подобных изобретению трансформеров, дальше просто не продвинуться. Пока ответа нет, и, по признанию самих исследователей, это «вопрос на триллион долларов».
Во что углубиться:
- Что такое рекурсивное самоулучшение ИИ и почему это главная цель OpenAI и Anthropic
- История изобретения архитектуры трансформеров и её роль в текущем поколении AI
- Reward hacking у AI-агентов: как модели обманывают систему оценки своей работы