Команда разработчиков модели Atria Dawn Preview — агентной языковой модели на 744 миллиарда параметров, заточенной под исследовательские и инженерные задачи, — провела редкий эксперимент. Они обучили модель и задокументировали буквально каждое взаимодействие человека и AI внутри проекта: кто предлагал метод, кто выбирал финальный вариант, и что происходило, когда что-то шло не так.
Результат оказался не таким, как ждут любители апокалиптических заголовков про «AI, который сам себя улучшает». Масштаб делегирования вырос стремительно: медианное количество действий агента на одну человеческую команду поднялось с 11 до 28.5 всего за четыре недели наблюдений. AI использовался в 96.5% всех задач проекта — то есть практически везде.
При этом авторы исследования специально предупреждают: рост числа агентских действий — это не рост автономности. Один и тот же человеческий запрос просто разворачивается в более длинную цепочку шагов агента. Само решение — что делать и зачем — по-прежнему формулирует человек.
Цифры это подтверждают напрямую. При выборе метода и параметров работы человек принимал финальное решение в 85.5% случаев, AI — лишь в 9.2%. Когда речь заходила о целях и объёме задачи, люди решали в 93.4% случаев. Самый частый сценарий выглядит так: агент предлагает несколько вариантов метода (в 55.4% случаев инициатива исходит именно от него), но выбирает из них человек.
Особенно показательна ситуация, когда что-то ломается или задача не решается с первого захода. Из 588 задач с зафиксированной трудностью в 76% случаев прогресс достигался благодаря вмешательству человека — но это вмешательство почти никогда не было ручной работой. В 35.2% случаев человек просто добавлял контекст или уточнял требования, ещё в 34.7% — диагностировал проблему и менял метод. А руками что-то переделывать пришлось всего в 3.9% случаев (частичные правки — 3.2%, полный перехват задачи — 0.7%). Человек в этой системе — не исполнитель и не надзиратель с красной кнопкой, а скорее консультант, который направляет процесс словами, а не руками.
Самая любопытная деталь — про задачи, которые в принципе оказались бы невозможны без AI. Участников прямо спрашивали: смогли бы они выполнить свою часть работы без помощи агента, сохранив тот же охват и качество? Из 455 завершённых AI-задач 151 была признана невыполнимой без AI — это почти треть. И это не заслуга нескольких энтузиастов, злоупотребляющих новыми инструментами: такие задачи встречались у 27 из 56 участников проекта. AI не ускорил существующую работу — он сделал возможным то, что до этого просто не начинали делать.
Авторы описывают эволюцию роли AI в три этапа: сначала это был объект исследования, потом инструмент для отдельных задач, а сейчас — полноценный партнёр по проекту, который предлагает и корректирует планы в рамках целей, поставленных человеком. Четвёртый, пока гипотетический этап — рекурсивное самоулучшение, когда более сильные модели создают ещё более сильных преемников. Но здесь у команды есть важная оговорка: модель может становиться лучше в своих тренировочных задачах, не становясь при этом лучше в разработке своего преемника. Как именно AI мог бы предлагать разные исследовательские направления и оценивать их ценность ещё до появления результатов — открытый вопрос, на который пока нет ответа ни у кого.
Есть в исследовании и тревожный момент, который команда называет риском «штампа одобрения». Когда каждое решение опирается на цепочку агентских действий длиннее, чем способен изучить любой человек, контроль превращается в формальность. В худшем случае люди становятся ревьюерами, которые могут лишь механически одобрять то, что видят, — не потому что так решили осознанно, а просто из соображений удобства: многие участники запускали агентов в автономном режиме, чтобы не прерывать длинные процессы постоянными подтверждениями.
Это исследование хорошо ложится в общий контекст индустрии. Anthropic считает, что AI, разрабатывающий собственного преемника, возможен раньше, чем ожидалось, и CEO компании Дарио Амодеи уже призывает ввести отраслевой «ограничитель скорости» разработки. По данным самой Anthropic, люди там принимают лишь однозначные проценты решений о направлении исследований. OpenAI использует свою модель GPT-5.6 Sol на всех этапах цикла разработки, а Google DeepMind тестирует систему Dream-RSI, где агенты исследуют альтернативные стратегии через записанные траектории поиска — правда, пока улучшая только стратегию поиска, а не саму модель.
При этом больше тысячи сотрудников ведущих AI-лабораторий недавно предупредили, что их организации могут стоять на пороге полной автоматизации AI-исследований. А отдельное исследование Принстонского университета и британского AI Security Institute пришло к выводу, куда более близкому к находкам команды Atria: передовые модели действительно справляются с инженерной рутиной исследований, но проваливаются именно там, где нужны содержательные суждения — то есть там, где до сих пор незаменим человек.
Во что углубиться:
- Anthropic и призыв к «speed limit» для AI-индустрии: почему Дарио Амодеи считает рекурсивное самоулучшение опасным сценарием и что конкретно он предлагает ограничить
- Dream-RSI от Google DeepMind: как агенты учатся на собственных прошлых попытках через записанные траектории поиска
- Исследование Принстона и UK AI Security Institute про автономность AI в научных исследованиях: где проходит граница между инженерной рутиной и суждениями, которые пока не под силу моделям