Граница «код или модель»: где ИИ-агенту нельзя доверять решение

Правило, живущее в промпте, - это намерение, а не механизм. Разбираю, что отдавать нейросети, а что считать кодом, и почему у отказа обязательно должно быть имя.

Когда собираешь ИИ-агента для бизнеса, главный вопрос не «какую модель взять», а где проходит граница между тем, что решает модель, и тем, что решает код. Ошибка здесь стоит денег и клиентов.

Простое правило

Чем дороже ошибка, тем ближе решение к коду.

Арифметика, даты, деньги, идемпотентность - только код. Модель умеет считать, но иногда ошибается уверенно, а отличить уверенную ошибку от правильного ответа по тону нельзя
Смысл текста, формулировки, классификация намерения - модель. Здесь она сильнее любых регулярных выражений
Итоговое решение там, где есть ответственность - код по проверяемому признаку. Модель может вердикт только ухудшить, но не вынести

Правило, которое живёт только в промпте, - это намерение. Механизм живёт в коде

У отказа должно быть имя

Самая опасная поломка в агенте - молчаливая. Агент что-то не понял, отфильтровал, пропустил - и промолчал. Со стороны это неотличимо от нормальной работы: ответов нет, потому что «не было запросов». А на деле были.

Поэтому любой отказ, фильтр или деградация обязаны писать событие в журнал: причину, уверенность и кусок данных. Иначе вы узнаете о проблеме через месяц - от клиента.

Отказывать рано, а не на последнем шаге

Если агент собирается отказать, он должен сделать это на входе, а не после того, как проделал всю работу. Поздний отказ обесценивает то, что к нему вело: собранные данные, потраченные токены, ожидание человека.

Тулсет - это бюджет

Число инструментов у агента - главный драйвер размера промпта, а значит стоимости и скорости. Узкий набор инструментов режет расходы, выключенный режим рассуждений режет задержку. Это разные рычаги, и дёргать их надо осознанно.

Что это даёт на практике

Мои нейросотрудники поднимают конверсию в заявку на 20-35% и освобождают до десяти часов в неделю. Но ровно потому, что деньги, даты и финальные вердикты там считает код, а модель занимается тем, что умеет лучше человека, - разбором живой речи.