Автоматизация бизнеса должна быть скучной. Там не нужен ИИ.

Сейчас хайпуют нейросети. Почти любая задача по автоматизации бизнес-процессов начинается со слов «давайте подключим ИИ». Агент прочитает письмо, разберётся в ситуации, зайдёт в нужную систему, что-нибудь исправит и напишет сотруднику, что всё готово.

Звучит отлично. Но чем больше я занимаюсь реальной автоматизацией, тем чаще прихожу к обратному выводу: большая часть хорошей автоматизации вообще не должна использовать интеллект и «думать».

Возьмём простейший пример:

1. Получить документ.

2. Проверить обязательные поля.

3. Найти организацию в базе.

4. Проверить, не загружали ли документ раньше.

5. Создать объект в учётной системе.

6. Записать результат в журнал.

Программа выполняет это буквально. Одинаковый вход при одинаковых условиях даёт одинаковый выход. Если что-то пошло не так, достаточно открыть журнал: документ не распознан, организация не найдена, API вернул ошибку. Возникла ошибка — остановились в заранее определённом месте, записали её, уведомили оператора.

Теперь заменим скрипт на языковую модель с задачей «посмотреть на ситуацию и решить, что делать». Если задача рутинная и хорошо формализуется, мы просто вставили в надёжный процесс компонент, который каждый раз «размышляет» и интерпретирует происходящее чуть-чуть по-разному. Система стала сложнее, дороже и менее предсказуемой.

Пример автоматизации 1С:Бухгалтерии

У нас большая автоматизация вокруг 1С: документы приходят по почте, обрабатываются, данные уходят в 1С, там создаются документы и выполняются проверки. Операций много, баз и организаций тоже, и хочется, чтобы система сама разбиралась с типовыми проблемами.

ИИ умеет работать с инструментами, читать журналы и анализировать ошибки — так почему бы не поручить ему сопровождение? Мы так и сделали.

Разобравшись с проблемой, агент записывал в память, что случилось, почему и как это исправили. При похожей ситуации не нужно начинать расследование с нуля.

Почти настоящий сотрудник. Проблема оказалась в слове «почти».

Память постепенно превратилась в источник галлюцинаций. Допустим, загрузка сломалась из-за причины X, и решением было Y. Через некоторое время возникает внешне похожая ошибка, но уже по другой причине. Человек посмотрел бы на фактическое состояние системы и начал диагностику заново. Модель видит знакомый паттерн: «Это я уже проходила, причина X». Запись из памяти становится контекстом, вокруг которого строится рассуждение, а новые данные интерпретируются через старое решение.

Хуже того, следующий «решённый» случай тоже попадал в память. Получалась рекурсия: ИИ ссылался на выводы ИИ, сделанные на основе прежних выводов ИИ. Мы хотели накопления опыта, а получили механизм, который уверенно тащит старое объяснение в новую ситуацию.

Или ещё одна иллюстрация. Представьте: агент сто раз подряд выполняет одну и ту же операцию одинаково и получает ожидаемый результат. А на сто первый раз вдруг «задумывается», решает, что в этот раз лучше сделать по-другому, и выбирает другой способ. Для исследовательской задачи такая вариативность может быть полезна. Для бухгалтерского конвейера сам факт, что на сто первый раз система решила переосмыслить уже отработанную операцию, неприемлем.

Где тогда нужен ИИ

Я не призываю вас не использовать ИИ в автоматизации — мы сами используем его довольно много. Просто он не должен работать там, где достаточно скучного алгоритма.

Интересная идея — использовать ИИ как экскурсовода работающей автоматизации. Он не решает, как проводить банковскую выписку: для этого есть программа с жёсткими правилами. Но он может переводить с технического на человеческий.

Автоматизация сообщает: «ImportResult: error, HTTP timeout». Разработчику этого достаточно, бухгалтеру — нет. ИИ может перевести: «Не удалось загрузить документ: сервис три раза не ответил вовремя. В 1С документ не создан, дублей нет. Можно повторить загрузку позже, а если ошибка повторится — передать техспециалисту».

Нейросеть ничего не решила, а объяснила человеку результат работы детерминированной системы. То же самое со статусом: на вопрос «Что по выпискам за сегодня?» модель не загружает выписки и ничего не придумывает. Она вызывает строго определённый метод, получает факты — 143 обработано, 139 загружено, 3 требуют проверки, 1 ошибка соединения — и пересказывает их по-человечески. Она становится интерфейсом к автоматизации, а не самой автоматизацией.

Второе место для ИИ — там, где правила не напишешь. Например, счета приходят в виде сканов, скриншотов, плохих фотографий, и нужно найти в них ИНН, расчётный счёт, БИК, сумму и назначение платежа. Здесь модель справляется лучше набора правил. Но дальше снова начинается скучная программа: проверка длины ИНН, девять цифр БИК, отдельная проверка счёта, поиск организации в базе. Неоднозначные значения не должны молча превращаться в проводку.

Использовать ИИ для работы с неопределённостью — нормально. Создавать неопределённость там, где её не было, странно.

Простой тест

Перед тем как добавить модель в процесс, спросите себя: можно ли однозначно описать правильное действие обычным алгоритмом? Если да — пишем скрипт. Если ошибка может создать неверный документ или испортить данные, критическую часть оставляем детерминированной. Если нужно понять текст, изображение или свободный запрос — это место для модели. И если нужно рассказать человеку, что происходит внутри системы, это один из лучших вариантов применения ИИ, которые я пока вижу.

Итог

Наличие нового мощного инструмента не значит, что им нужно заменять старые. База данных лучше хранит данные, планировщик лучше запускает задачи, а хороший скрипт лучше выполняет известный алгоритм.

Моя формула: внутри — максимально скучные и предсказуемые алгоритмы, сверху — умный интерфейс, который умеет разговаривать с кодом.

Поезд едет по рельсам, и это довольно скучный процесс. Экскурсовод в вагоне может интересно рассказать, что за окном и почему поезд остановился. Но стрелки переводить он не должен.

Пусть ИИ будет экскурсоводом вашей автоматизации.

Если хотите больше практики из реальной жизни про ИИ, автоматизацию и разработку, заглядывайте ко мне в tg-канал.