Лучший путь эскалации — это функция продукта

AI-продукты много говорят о путях успеха. Меня всё больше интересует, что происходит, когда система недостаточно уверена, ей не хватает нужного инструмента или она встречает случай, который рабочий процесс не предусмотрел.

Хороший путь эскалации может быть ценнее, чем ещё один процентный пункт на среднем бенчмарке. Спросить человека. Использовать более мощную модель. Сузить задачу. Переключиться в режим только для чтения. Остановиться. Эти ветки определяют, будет ли система отказывать полезно или просто станет менее предсказуемой, когда случай становится более важным.

Эскалация часто рассматривается как операционное исключение. Я думаю, она принадлежит дизайну продукта. Система должна сделать оставшиеся безопасные варианты очевидными, а не оставить пользователя с общей ошибкой.