Блог mysummit.school

Статьи об искусственном интеллекте, машинном обучении и применении ИИ в бизнесе

ИИ-агент в оргсхеме: эффект горячей картошки

10 мин чтения

Представьте: ИИ подготовил бюджетный документ, вы просмотрели его и попросили коллегу проверить ещё раз. В корпоративной системе осталось подтверждение, что документ видели двое. Только первый проверяющий нашёл меньше ошибок, а работу второго исследователи вообще не наблюдали.

Именно такой результат получили Эмма Уайлс, Меган Сюй, Джули Бедард и Мэттью Кропп в рабочей статье о месте ИИ в оргсхеме. Среди менеджеров из компаний, где агенты уже значатся в организационных схемах, участники на 22 процентных пункта чаще просили о дополнительной проверке, которая могла стоить им вознаграждения, когда автора представляли как «ИИ-сотрудника», чем когда его представляли безымянным ИИ-инструментом. При базовой доле 50% это рост на 44%.

Одновременно эти менеджеры приписывали себе на 9 процентных пунктов меньше ответственности, а «системе ИИ» – на 8 процентных пунктов больше. Авторы называют сочетание слабой личной проверки, передачи работы дальше и смещения ответственности эффектом горячей картошки.

Звучит знакомо: формально проверяющих стало больше. Кто в итоге отвечает за весь документ и готов его подписать?

Читать полностью
ИИ-агент в оргсхеме: эффект горячей картошки
Промпта оказалось недостаточно: что Гарвард добавил к GPT-4, чтобы он начал учить
10 мин

Промпта оказалось недостаточно: что Гарвард добавил к GPT-4, чтобы он начал учить

В 2023 году студенты вводного курса физики в Гарварде прошли одно из двух занятий с ИИ-репетитором на базе GPT-4. Медиана их результата в тесте после занятия составила 4,5 балла. После аудиторного занятия с активным обучением медиана была 3,5 балла, при общей исходной медиане 2,75 балла.

Различие статистически значимое: z = -5,6, p < 10⁻⁸. По квантильной регрессии, которая лучше справлялась с особенностью этих данных, размер эффекта находился в диапазоне от 0,73 до 1,3 стандартного отклонения. Заголовок почти пишет себя сам: ИИ обошёл занятие в Гарварде. Работа Кестина и коллег вышла в Scientific Reports, а данные и код анализа авторы выложили целиком – проверить расчёты можно самостоятельно.

Только полезный для менеджера вывод начинается на один уровень глубже. Студенты работали со специально собранной системой, где GPT-4 отвечал внутри жёсткой последовательности, видел заранее написанные решения и следовал педагогическим правилам. Системный промпт был лишь одним компонентом. Причём один важный компонент пришлось из него вынести.

Сотрудник говорит «с ИИ медленнее»: как это проверить
11 мин

Сотрудник говорит «с ИИ медленнее»: как это проверить

Руководитель раздал команде инструмент. Через месяц один из инженеров приходит и говорит: с ИИ у меня получается медленнее, чем руками. Дальше обычно происходит одно из двух. Либо руководитель решает, что человек саботирует, и начинает давить. Либо решает, что инструмент не тот, и сворачивает внедрение.

Обе реакции – догадки. И самое неприятное в них то, что человек, скорее всего, говорит правду, а инструмент при этом, скорее всего, нормальный.

Вопрос ёмкости: куда деть время, которое освободил ИИ
10 мин

Вопрос ёмкости: куда деть время, которое освободил ИИ

В сентябре 2026 года Thomson Reuters Institute опубликовал разбор про средние юридические фирмы, и в нём есть фраза, которая стоит всей статьи: большинство организаций инвестируют в ИИ, но так и не ответили на вопрос, который определяет, появится ли от этих инвестиций ценность. Вопрос не про выбор инструмента и не про бизнес-кейс для партнёров. Вопрос звучит так: что вы делаете с ёмкостью, которую ИИ освобождает?

Речь про юристов, но перенос на любую команду прямее, чем кажется. У вас уже есть лицензии, кто-то в команде уже экономит часы на черновиках, сводках, разборе документов. И с очень высокой вероятностью вы не можете внятно ответить, куда эти часы деваются.

Симуляции вместо осмоса: как учить суждению в эпоху ИИ
9 мин

Симуляции вместо осмоса: как учить суждению в эпоху ИИ

Карл Майес из американского института бухгалтеров сформулировал проблему, которая выходит далеко за пределы его профессии: как узнать, как выглядит хорошо, если ты никогда не делал эту работу руками? Его организация опросила больше тысячи специалистов, и вывод был прямым: у людей не хватает прочного фундамента, чтобы оспорить бота.

Формулировка «оспорить бота» – точнее любой академической. Вся дискуссия о качестве ИИ в итоге упирается в человека, который смотрит на выхлоп и должен сказать «здесь неправильно». Если такому человеку не с чем сравнивать – потому что работу, на которой раньше учились, теперь делает машина, – то проверка вырождается в орфографию.

Скептик в команде: как тренировать оспаривание ИИ
9 мин

Скептик в команде: как тренировать оспаривание ИИ

В исследовании американских бухгалтеров, которое мы разбирали в прошлой части серии, есть формулировка, которую я не могу выбросить из головы: у специалистов недостаточно прочного фундамента, «чтобы оспорить бота». Не «чтобы проверить бота», не «чтобы найти ошибку» – именно оспорить. Глагол из словаря спора, а не аудита.

Рядом стоит цифра: 48% профессионалов боятся, что ИИ негативно влияет на развитие их самостоятельного суждения. Полкоманды живёт с ощущением, что их профессиональное чутьё атрофируется, – и почти нигде это ощущение не превращено в тренировку.

Между страхом и навыком – пустота, которую эта статья и заполняет. Скептицизм по отношению к выхлопу ИИ не черта характера и не должность в штатном расписании. Это тренируемый навык, и тренировать его можно на уровне команды.

Уверенный, правдоподобный, неправильный: проверка отчёта ИИ
10 мин

Уверенный, правдоподобный, неправильный: проверка отчёта ИИ

У одного руководителя из этой отрасли, о котором я недавно читал разбор, в рабочей папке хранится документ со странным названием: журнал исправлений. Прямо в описании аналитического исследования – таблица «Утверждения, отозванные в ходе работы», с причиной отказа от каждого. В соседней папке другой отчёт открывается предупреждением: три утверждения в ранних версиях этого документа были неверны и отозваны.

Оба документа написаны ИИ-агентом. И самое ценное в них – именно список отозванного.

Уйдут первыми: главный кадровый риск ИИ – это мидлы
6 мин

Уйдут первыми: главный кадровый риск ИИ – это мидлы

Есть число, которое я бы показал каждому руководителю, внедряющему ИИ. Почти три из десяти специалистов среднего звена в профессиональных услугах заявляют, что сменят работу в течение двух лет, если ИИ не даст им нужных инструментов, обучения и темпа внедрения. Четырнадцать процентов рассматривают уход в ближайшие двенадцать месяцев. Данные – из сентябрьского разбора Thomson Reuters Institute, и самое важное в них не проценты.

Самое важное: в данных об уходах и вовлечённости это не отображается как AI-проблема.

Рабочее пространство для ИИ-агента: гид для менеджера
8 мин

Рабочее пространство для ИИ-агента: гид для менеджера

Каждая новая сессия с ИИ-агентом начинается с одного и того же. Вот контекст проекта, вот где лежат статусы, вот кто заказчик, вот что мы уже выяснили в прошлый раз. Минут двадцать-тридцать чистого времени – на то, чтобы привести ассистента в рабочее состояние. И так при каждом входе.

Инженеры, которые работают с агентами ежедневно, давно решили эту проблему структурой папок. Я недавно читал разбор одного такого рабочего пространства: около восьмидесяти папок и файлов, и агент осваивается в нём за одно чтение файла. Секрет ровно один, и он не про инструменты.