Уточнение — это часть интеллекта

Мы часто судим о системе ИИ по скорости её ответов. По-моему, это создаёт неправильный стимул. Система, которая уверенно выполняет неправильную задачу, не умнее той, что останавливается и спрашивает, чего человек на самом деле хочет добиться.

Один и тот же запрос может означать разные вещи в зависимости от того, в каком режиме находится человек. Он может быть любопытен. Он может мозговать. Он может сравнивать варианты. Он может быть готов к действию. Он может просить систему выполнить что-то с последствиями. Одних слов часто недостаточно, чтобы это понять.

К чему мы на самом деле стремимся? К скорости, экономичности, полноте, обучению, надёжности или чему-то ещё? Эти цели могут указывать на совершенно разные ответы. Если я исследую, мне могут понадобиться несколько возможных путей. Если я выполняю задачу, мне может понадобиться одна рекомендация, необходимые разрешения и ясное определение того, что считается выполненным.

Уточнение иногда рассматривают как трение. В хорошей системе это механизм управления. Система должна знать, когда неясность безвредна, а когда она меняет путь, стоимость, разрешения или последствия настолько, что нужно вернуться и спросить.

Есть режим отказа в другом направлении. Система может задать столько вопросов, что переложит работу обратно на пользователя. Цель не в том, чтобы уточнить всё. Цель в том, чтобы спросить, когда ответ существенно повлияет на то, что произойдёт дальше.

Проще говоря, намерение — это не только то, что просил пользователь. Это тот вид помощи, который, по его мнению, он просит. Полезная система должна уметь это различать или признавать, когда она не может.