ИИ-агенты уже могут выполнять длинные цепочки работы, но это не значит, что им можно отдать управление бизнесом. Свежий разбор проекта Atria Dawn Preview показывает: агент делает больше шагов, а человек по-прежнему выбирает цель, метод и границы задачи.
Для предпринимателя вывод простой: хороший ИИ-агент — не «автопилот вместо владельца», а рабочий партнер. Он снимает рутину, готовит варианты, проверяет гипотезы и дорабатывает результат, но ключевые решения должны оставаться у человека, который понимает контекст бизнеса.
Что показал проект Atria Dawn Preview?
Команда с участием исследователей Фуданьского университета изучила собственный процесс создания новой языковой модели Atria Dawn Preview. В анализ вошли более 700 журналов задач от 56 участников и журналы агентов, которыми они пользовались.
Сама модель построена на архитектуре mixture-of-experts с 744 миллиардами параметров и ориентирована на исследовательские и инженерные задачи. В проекте использовали конвейер, где каждая задача привязана к реальной среде выполнения: модель вызывает инструменты, получает промежуточные результаты и сверяется с внешними сигналами — тестами, метриками или исходными доказательствами.
Команда заявила, что Atria Dawn Preview лидирует в пяти из 16 тестов, включая веб-поиск и кибербезопасность, но не имеет общего преимущества над конкурентами. Для бизнеса важнее не место в рейтинге, а то, как именно люди и агенты делили работу.
ИИ применяли в 96,5 процента рассмотренных задач. За четыре недели медианное соотношение действий агента к человеческим вводам выросло с 11 до 28,5. Исследователи отдельно предупреждают: это не равно росту самостоятельности. Одно человеческое решение просто запускало больше агентских шагов.
ИИ предлагает, человек выбирает
Главный вывод исследования — агенты стали активнее предлагать и выполнять, но не стали главными в принятии решений. По методам и параметрам самый частый сценарий выглядел так: «ИИ предлагает, человек выбирает». На него пришлось 55,4 процента случаев.
В целом люди приняли 85,5 процента решений о методах и параметрах, а ИИ — только 9,2 процента. Финальное решение о целях и объеме работы люди принимали в 93,4 процента случаев. Даже среди задач, которые участники сочли невыполнимыми без ИИ, человек выбирал цель в 95,4 процента случаев.
Это важная поправка к популярному представлению об автономных агентах. Снаружи кажется: раз агент пишет, ищет, запускает инструменты и исправляет результат, значит он сам «ведет проект». Внутри процесса видно другое: агент расширяет поле вариантов и берет на себя исполнение, но рамку задает человек.
- ИИ хорошо подходит для подготовки вариантов, черновиков, проверок и доработок.
- Человек нужен, чтобы выбрать цель, оценить смысл результата и остановить лишнее.
- Чем длиннее цепочка действий агента, тем важнее заранее определить границы полномочий.
- Автономный режим удобен, но его нельзя включать только потому, что не хочется часто подтверждать шаги.
Что это значит для бизнеса со своим ИИ-агентом?
Если у компании уже есть персональный ИИ-агент или она только думает его завести, главный вопрос не «насколько он умный». Вопрос другой: какие решения агент может принимать сам, а где обязан остановиться и спросить человека.
В исследовании 151 из 455 завершенных задач с ИИ участники оценили как невыполнимые без него. Это примерно треть. Причем такие задачи были распределены между 27 из 56 участников, а не сосредоточены у нескольких опытных пользователей. ИИ не просто ускорял старую работу — он делал возможной работу, которую иначе бы не начали.
Для малого бизнеса это особенно близко. Агент может помочь разгрести файлы, подготовить ответы клиентам, собрать материалы для предложения, найти несостыковки в данных, напомнить о задачах и довести черновик до приемлемого вида. Но владелец или ответственный сотрудник должен решать, какую цель преследует задача, какие данные можно использовать и какой результат считается правильным.
Практически это означает, что перед запуском агента нужны не красивые сценарии, а рабочие правила:
- описать типовые задачи, которые агент выполняет без дополнительного разрешения;
- отдельно перечислить действия, где нужно подтверждение человека;
- назначить ответственного за цели, доступы и качество результата;
- хранить историю задач и решений, чтобы было понятно, почему агент пошел именно этим путем;
- периодически пересматривать правила, если агенту дают новые файлы, инструменты или области работы.
Именно так стоит подходить к внедрению персонального агента в Telegram, с памятью задач и доступом к рабочим данным. В студии NekoAgent мы тоже исходим из этого принципа: агент должен разгружать человека, но не подменять владельца процесса там, где нужна ответственность.
Почему контроль не должен превращаться в резиновую печать?
Исследователи отдельно описали риск «резиновой печати». Когда за каждым решением стоит длинная цепочка агентской работы, которую человек уже не может полностью проверить, надзор становится слабым. В плохом варианте человек видит только готовый вывод и формально соглашается, не понимая, что произошло внутри.
В проекте многие участники запускали агентов в автономных режимах, чтобы длинные процессы не прерывались постоянными подтверждениями. Граница полномочий в таких случаях появлялась из удобства, а не из осознанного решения о том, какую власть можно дать ИИ.
Это очень практичный сигнал для бизнеса. Если агент работает с клиентскими переписками, файлами, таблицами или внутренними знаниями, удобство не должно быть единственным критерием. Нужно заранее решить, где скорость важнее проверки, а где ошибка слишком дорога.
Хорошая модель контроля не требует читать каждый промежуточный шаг. Она требует понятных контрольных точек: цель задачи, источники данных, заметные изменения, итоговое действие. Тогда человек не микроменеджер, а редактор смысла и владелец решения.
Где человек остается незаменимым?
Когда в задачах возникали сложности, 76 процентов из 588 задач с зафиксированной трудностью двигались дальше благодаря вмешательству человека. В 23 процентах случаев агент решал проблему сам. Но характер помощи важнее цифр: человек почти всегда добавлял информацию, а не делал работу за агента.
В 35,2 процента случаев помощь заключалась в добавлении контекста или уточнении требований. В 34,7 процента — в диагностике проблемы и смене метода. Частичные правки составили 3,2 процента, полный перехват работы — всего 0,7 процента.
То есть узким местом была не ручная работа, а суждение. Человек объяснял, что важно, что неверно, какие ограничения не учтены и почему прежний путь не подходит. После обратной связи ИИ сам вносил изменения в 75,4 процента случаев, когда результат требовал доработки.
Для бизнеса это меняет роль сотрудника рядом с агентом. Ему не обязательно конкурировать с ИИ в скорости исполнения. Гораздо важнее уметь ставить задачу, давать контекст, замечать ошибки в логике и принимать итоговое решение.
Повод и фактура: The Decoder: AI agents do more of the work in model development, but humans still make the decisions
Коротко о главном
Может ли ИИ-агент сам принимать решения в бизнесе?
Технически агент может выполнять цепочки действий и выбирать отдельные шаги, но цели, объем работы и важные параметры лучше оставлять за человеком. Исследование Atria Dawn показало, что финальные решения в таких процессах в основном принимали люди.
Чем ИИ-агент отличается от обычного чат-бота?
ИИ-агент не только отвечает текстом, но и выполняет задачи: вызывает инструменты, работает с файлами или данными, получает промежуточные результаты и дорабатывает их по обратной связи. Но границы таких действий нужно задавать заранее.
Какие задачи можно доверить ИИ-агенту в малом бизнесе?
Агенту разумно поручать подготовку черновиков, поиск по данным, сортировку информации, напоминания, первичную проверку и сбор вариантов. Решения с деньгами, клиентскими обязательствами и доступами должны проходить через человека.
Почему опасно просто включить автономный режим агента?
Автономный режим удобен для длинных задач, но может скрыть цепочку решений от человека. Если заранее не определить контрольные точки, проверка легко превращается в формальное одобрение готового результата.