Повреждение посылки нужно распознать на фотографии. Завтрашний спрос — спрогнозировать. Маршрут доставки — оптимизировать. Письмо — понять и подготовить ответ. Запись в CRM — обновить.
Все пять задач могут находиться в одном проекте «ИИ-автоматизации», но это не одна и та же техническая проблема. Языковая модель полезна для некоторых из них, однако она не становится лучшим механизмом для всех задач и сама по себе не определяет, сколько полномочий должна получить готовая система.
Поэтому необходимо раздельно принять два решения:
- Какую работу выполняет система? Воспринимает, прогнозирует, выбирает, создаёт или действует?
- Как далеко её результат может пройти без подтверждения человека? От изолированного личного инструмента до непрерывно работающего, ограниченного контура управления?
Такое разделение защищает от двух частых ошибок: применения LLM там, где правило или специализированная модель надёжнее, и передачи операционных полномочий лишь потому, что модель умеет сформулировать убедительный ответ.
Короткий ответ
Начинайте с минимальной комбинации, которая решает конкретную единицу работы:
| Неопределённая часть работы | Подходящий стартовый компонент | Что оставить вне модели |
|---|---|---|
| Известное событие должно вызвать известное действие | детерминированное правило или интеграция | исключения и пороги согласования |
| Нужно распознать изображение, речь или документ | модель восприятия | правила приёмки и обработка исключений |
| Нужно оценить будущее значение или риск | прогнозная модель | порог решения и бизнес-реакция |
| Нужно выбрать лучший вариант с учётом ограничений | оптимизационный механизм | цели, запреты и жёсткие лимиты |
| Нужно понять или создать текст | LLM или другая языковая модель | проверенные факты, валидация и значимые обязательства |
| Маршрут между инструментами меняется по контексту | архитектура ограниченного агента | права, бюджеты, условия остановки и восстановление |
Затем дайте всему workflow минимальные полномочия, необходимые для измеримого результата. Более сильная модель сама по себе не является основанием убирать согласование.
Одна система — две независимые оси
Первая ось описывает функциональную роль системы. Вторая — её операционные полномочия.
Их нельзя сворачивать в единый показатель зрелости. Сложная прогнозная модель может не иметь права действовать. Простой оптимизационный алгоритм способен работать в замкнутом промышленном контуре. LLM может быть как личным помощником, так и одним из компонентов ограниченного агента.
Функция: воспринять → спрогнозировать → выбрать → понять/создать → действовать
Полномочия: A0 правила → A1 личный инструмент → A2 copilot → A3 внутри процесса
→ A4 ограниченный агент → A5 управляемый контур
Стрелки не означают, что каждый проект должен двигаться вправо. Это карта разных функций и полномочий, а не универсальная лестница развития.
Первая ось: какая интеллектуальная функция нужна процессу?
1. Детерминированные правила создают надёжную основу
Механизм правил — не ИИ, но он нужен на карте, потому что многие запросы на «ИИ» на самом деле являются задачами обычной автоматизации:
- перенести утверждённое значение между системами;
- проверить наличие обязательных полей;
- рассчитать цену по фиксированному тарифу;
- направить заказ по региону;
- остановить платёж выше установленного порога;
- отправить уведомление после известного события.
Если входы и правила стабильны, код дешевле тестировать, проще проверять и легче аудировать, чем вероятностную модель.
2. Восприятие превращает физический или неструктурированный мир в сигналы
Компьютерное зрение, распознавание речи и извлечение данных из документов отвечают на вопросы: что находится на изображении, что было сказано и какие поля есть в форме?
BMW Group описывает пилот 2025 года на заводе в Регенсбурге: система готовит индивидуальные рекомендации для проверки качества примерно 1 400 автомобилей, выпускаемых ежедневно. Это описание самой компании, а не независимое доказательство ROI. Архитектурный вывод важнее масштаба: модель помогает решить, что проверять, а финальный контроль качества проводят подготовленные специалисты.
3. Прогноз оценивает, что может произойти дальше
Оценка спроса, вероятности отказа, срока доставки, оттока или мошенничества — прогнозные задачи. Результат модели представляет собой оценку с неопределённостью, а не готовое бизнес-решение.
Процессу всё равно нужны порог и ответственный. Риск опоздания доставки в 70% может создать внутреннюю задачу, но не должен автоматически отменять заказ клиента, если такая политика не была отдельно спроектирована и проверена.
4. Выбор и оптимизация ищут лучший вариант в заданных ограничениях
Маршрутизация, составление расписаний, распределение запасов и планирование мощностей часто сильнее зависят от математической оптимизации, чем от генерации текста.
В отчёте об устойчивом развитии UPS за 2014 год ORION описан как сочетание операционных данных, алгоритмов маршрутизации и собственных карт. После полного развёртывания UPS ожидала ежегодного сокращения пробега на 100 миллионов миль и расхода топлива на 10 миллионов галлонов. Это исторический прогноз компании, а не результат Methodfield и не универсальный актуальный benchmark. Полезен сам принцип: сначала определить цель и ограничения, затем оптимизировать выбор.
5. Языковые модели понимают и создают
LLM полезны, когда значение выражено языком:
- классифицировать обращение в нестандартной формулировке;
- извлечь требования из разговора;
- сравнить документ с утверждённой политикой;
- найти релевантные знания и подготовить ответ со ссылками;
- составить черновик резюме, предложения или письма;
- перевести материал с сохранением принятой терминологии.
Языковая модель плохо заменяет точный калькулятор, проверку прав или базу — источник истины. Уверенно написанное предложение ещё не является подтверждённым фактом.
6. Агент — это архитектура, а не ещё один тип модели
Агент объединяет модель, инструкции, инструменты, состояние и цикл, в котором можно выбирать следующий шаг. Его определяет не качество текста, а способность выбирать и вызывать действия в зависимости от контекста.
Поэтому проектирование агента — прежде всего вопрос полномочий. Материал «Нужен ли процессу AI-агент?» помогает выбрать между правилами, помощником и агентом. Статья «Полномочия AI-агента и безопасный контроль» разбирает идентичность, права, согласования, аудит и восстановление.
Вторая ось: какие полномочия должен получить workflow?
Диапазоны A0–A5 ниже — авторская проектная модель Methodfield, а не отраслевой стандарт или юридическая классификация. Буква A означает authority — «полномочия». Она также отделяет эту карту от уровней зрелости, используемых в других материалах Methodfield.
| Диапазон | Режим работы | Что может система | Обязательный контроль |
|---|---|---|---|
| A0 | детерминированная автоматизация | выполнять заранее заданные правила | тесты, журналы и rollback |
| A1 | личный ИИ-инструмент | создавать материал вне операционной записи | пользователь проверяет до применения |
| A2 | copilot | рекомендовать или готовить черновик в рабочем интерфейсе | человек принимает, редактирует или отклоняет |
| A3 | ИИ внутри процесса | после валидации перемещать кейс по внутреннему workflow | схемы, пороги, выборочный контроль и очередь исключений |
| A4 | ограниченный агент | выбирать инструменты и выполнять разрешённые обратимые действия | минимальные права, бюджеты, согласования, аудит и остановка |
| A5 | управляемый автономный контур | непрерывно наблюдать, решать и действовать в узкой области | независимые ограничения безопасности, failover, мониторинг и право человека остановить систему |
Максимальные полномочия не являются целью. Правильный диапазон — минимальный, который устраняет измеримое узкое место, не делая цену ошибки неприемлемой.
Доказательства зависят от задачи, а не от ярлыка
Рецензируемое исследование с участием 5 172 сотрудников поддержки показало, что помощник на базе LLM в среднем увеличил количество решённых обращений в час на 15%; менее опытные сотрудники получили больший эффект. Это аргумент в пользу режима A2 для конкретной задачи и организации, но не доказательство того, что любой copilot улучшает работу каждого специалиста.
В другом рандомизированном исследовании 2025 года METR обнаружила, что 16 опытных open-source разработчиков при выполнении 246 задач потратили с доступными тогда ИИ-инструментами на 19% больше времени, хотя ожидали ускорения. Эти выводы не противоречат друг другу. Они показывают, почему к любому заявлению об эффективности нужно привязывать задачу, пользователя, инструмент и способ измерения.
Матрица выбора для реального процесса
До выбора продукта классифицируйте единицу работы.
| Вопрос | Ответ с меньшим риском | Ответ, требующий большего контроля |
|---|---|---|
| Можно ли выразить правильный результат правилом? | использовать обычную автоматизацию | если нет — изолировать неопределённый шаг |
| Легко ли проверить вывод модели до применения? | может быть достаточно A1 или A2 | усилить валидацию или оставить ручную обработку |
| Меняет ли результат деньги, доступ, обязательства или юридическую позицию? | требовать явного согласования | не выводить полномочия из уверенности модели |
| Обратимо ли действие? | можно тестировать ограниченное автоматическое выполнение | сначала оставить человека в контуре и спроектировать восстановление |
| Можно ли измерить качество по фактическому результату? | рассмотреть поэтапное расширение полномочий | остаться в shadow- или рекомендательном режиме |
| Есть ли независимый слой безопасности? | возможен узкий управляемый контур | не использовать A5 |
Подробный путь расширения полномочий описан в материале «От контролируемой автоматизации к адаптивной автономности».
Пример: гибридный workflow страхового обращения
Один процесс может использовать несколько типов технологий, не превращая одну модель во всю систему.
- Детерминированная интеграция принимает обращение и присваивает неизменяемый идентификатор.
- Извлечение данных читает форму, счёт и фотографии.
- Компьютерное зрение отмечает видимые повреждения, прогнозная модель оценивает риск аномалии.
- LLM сопоставляет описание с извлечёнными доказательствами и готовит структурированное резюме со ссылками на источники.
- Правила проверяют обязательные поля, даты полиса, суммы и пороги.
- Обычные обращения на небольшую сумму могут автоматически попадать во внутреннюю очередь проверки.
- Спорные, дорогие и низкоуверенные случаи решает человек.
- Платёжная система выполняет только утверждённую инструкцию и фиксирует конечное состояние.
LLM работает с языком. Она не рассчитывает условия полиса, не выдаёт себе право на платёж и не становится источником истины.
Семь ворот перед расширением полномочий
1. Единица работы
Назовите один вход, одно решение или преобразование, один выход и одного ответственного. «Применить ИИ в операциях» — не тестируемая постановка.
2. Доказательная выборка
Соберите репрезентативный набор обычных случаев, редких исключений и заведомо плохих входов. Проверяйте весь workflow, а не красивое демо.
3. Последствия
Перечислите, что меняет результат: деньги, обещания клиенту, доступ, безопасность, занятость, юридические права или публичную коммуникацию. Контроль должен соответствовать последствиям, а не названию модели.
4. Права
Давайте каждому компоненту только те данные и действия, которые нужны для текущей задачи. Разделяйте права на чтение, подготовку, утверждение и выполнение.
5. Наблюдаемость
Фиксируйте версии модели и промпта, источники, вызовы инструментов, результаты валидации, согласования, конечные действия и фактические исходы. Не отправляйте чувствительный контент в общую продуктовую аналитику.
6. Восстановление
Определите timeout, предел повторов, идемпотентность, rollback, ручной маршрут и человека, который может остановить workflow.
7. Переход на следующий уровень
Расширяйте полномочия только после того, как согласованные показатели качества, исключений, стоимости и восстановления устойчиво находятся в заданных пределах. Уменьшайте их при изменении процесса, данных или модели.
Как выглядит управляемая автономность
Описание автономного охлаждения дата-центров Google DeepMind 2018 года иллюстрирует A5 в узкой области. Облачная модель предлагала действия каждые пять минут; внутренние ограничения и отдельная локальная система управления проверяли их до выполнения. Операторы могли в любой момент выйти из режима ИИ-управления. Google сообщила, что за девять месяцев улучшение энергоэффективности выросло с 12% примерно до 30%.
Это данные компании о специализированной инфраструктуре, а не ориентир для обычной бизнес-автоматизации. Переносим сам принцип: прямое управление окружено независимыми ограничениями, failover и возможностью ручного вмешательства.
Ответственность не переходит к модели
В деле Moffatt v Air Canada канадский трибунал признал Air Canada ответственной после того, как чат-бот на сайте сообщил неверные условия тарифа для поездки в связи со смертью родственника. Заявителю присудили 812,02 канадского доллара с учётом ущерба, процентов и сборов. Это одно решение конкретного трибунала в отдельной юрисдикции, а не универсальная юридическая консультация. Операционный вывод шире: бизнес отвечает за автоматизацию, представленную в его клиентском канале.
В ЕС требования прозрачности статьи 50 AI Act начинают применяться 2 августа 2026 года; детали и ограниченные переходные положения описаны в актуальном руководстве Европейской комиссии. Функциональная карта и диапазоны A0–A5 из этой статьи не являются compliance-оценкой. Для production-системы по-прежнему нужна отдельная проверка права, защиты данных и рисков.
Измеряйте результат по типу системы
Разным компонентам нужны разные доказательства:
| Компонент | Полезные показатели |
|---|---|
| восприятие | precision, recall, пропущенные критические случаи, доля исправлений извлечения |
| прогноз | калибровка, false positive и false negative, ценность решения относительно baseline |
| оптимизация | улучшение целевой функции, нарушения ограничений, стабильность и стоимость расчёта |
| языковая модель | опора на факты, выполнение задачи, доля правок, небезопасные или неподтверждённые ответы |
| агент | подтверждённые успешные исходы, ошибки инструментов, лишние шаги, стоимость, вмешательства и восстановление |
| весь workflow | время цикла, переделки, исключения, результат для клиента, операционная стоимость и инциденты |
«Потраченные токены» и «запущенные агенты» — технические показатели эксплуатации, а не бизнес-результаты.
Практическая последовательность старта
- Опишите один частый workflow и цену ошибки.
- Отделите детерминированные шаги от неопределённой интеллектуальной работы.
- Назначьте неопределённому шагу функцию: воспринять, спрогнозировать, выбрать или понять/создать.
- Проверьте компонент в shadow-режиме на репрезентативных примерах.
- Начните с A2, если человек способен эффективно проверить результат.
- Добавьте детерминированную валидацию и маршрут исключений до A3.
- Рассматривайте A4 только тогда, когда путь действительно меняется по контексту, а каждый инструмент ограничен правами.
- Оставьте A5 для узких, непрерывно измеряемых областей с независимыми механизмами безопасности.
Слой качества ИИ даёт практическую модель регрессионных тестов, production-мониторинга и release gates для таких систем.
Итоговая позиция
Зрелый вопрос звучит не так: «Какую LLM выбрать для автоматизации этого процесса?» Он звучит так:
Что система должна воспринять, спрогнозировать, выбрать, создать или сделать — и какие минимальные полномочия необходимы для этой работы?
Правила, специализированные модели, языковые модели и агенты дополняют друг друга. Хорошая архитектура даёт каждому компоненту определённую роль, оставляет источник истины вне вероятностного вывода и расширяет полномочия только после готовности доказательств, контроля и восстановления.
Источники
- NIST, ресурсы AI Risk Management Framework (откроется в новой вкладке), версия проверена 2 августа 2026 года.
- BMW Group, Artificial intelligence as a quality booster (откроется в новой вкладке), 28 апреля 2025 года. Данные компании.
- UPS, Corporate Sustainability Report 2014 (откроется в новой вкладке), исторические прогнозы компании по ORION.
- Erik Brynjolfsson, Danielle Li и Lindsey Raymond, Generative AI at Work (откроется в новой вкладке), The Quarterly Journal of Economics, 2025.
- METR, Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity (откроется в новой вкладке), 10 июля 2025 года.
- Google DeepMind, Safety-first AI for autonomous data centre cooling and industrial control (откроется в новой вкладке), 17 августа 2018 года. Данные компании.
- Civil Resolution Tribunal of British Columbia, Moffatt v Air Canada, 2024 BCCRT 149 (откроется в новой вкладке), 14 февраля 2024 года.
- European Commission, Guidelines on transparency obligations for providers and deployers of AI systems (откроется в новой вкладке), 20 июля 2026 года.