Почему ИИ-агент делает то, что просили, и не приносит пользы
Совет директоров буровой компании ждёт, что в этом году каждое направление реализует успешный проект с генеративным ИИ. За бурение отвечает вице-президент. К ноябрьскому заседанию он хочет запустить два сервиса, которые легко показать: ежедневную рассылку сводки по скважинам и чат-помощника «Спроси свою скважину», которому можно задать вопрос о буровых отчётах обычными словами. Разметку причин простоев он исключает из проекта: по его словам, она уже автоматизирована. Он считает эту задачу решённой и не видит смысла заниматься ею в рамках ИИ-проекта.
Компания теряет деньги как раз из-за ошибок в этой разметке. Каждый месяц она требует от бурового подрядчика компенсацию за простои. Претензию составляет старый скрипт: он ищет в суточных отчётах упоминания ремонта или отказа и считает, что простой произошёл по вине подрядчика, даже если сломалось оборудование сервисной компании или работы были плановыми. Подрядчик оспаривает такие строки, а одной спорной строки хватает, чтобы приостановить выплату компенсации за месяц. Её и приостанавливают каждый месяц.
Если выполнить запрос в точности, решение можно сдать в срок, и оно пройдёт все функциональные проверки. Но компенсацию компания так и не получит. Чтобы помочь, исполнителю придётся разобраться именно с той системой, которую вице-президент исключил из проекта, найти нужный пункт договора, уточнить его толкование у инженера по затратам и согласовать изменение с человеком, которого на этой неделе нет на месте.
Это один из сценариев исследования FDE-Gym. В нём 13 моделей от семи поставщиков выполняли работу инженеров по внедрению: решали 95 задач, составленных по реальным проектам в 18 отраслях. Результат оценивали так, как его оценил бы заказчик: насколько изменилась его бизнес-метрика. Даже лучшая модель, Claude Opus 5.5, в среднем достигла чуть больше половины результата экспертов.
Я разберу пять проблем, с которыми агенты столкнулись в исследовании, и расскажу, что менеджер может сделать с каждой из них при постановке задачи, при приёмке и при выборе модели. Агенты в исследовании внедряли системы у заказчика, но, мне кажется, те же проблемы возникнут, когда агенту поручат отчёт, договор или анализ внутри вашей команды.
Читать полностью
