Açıklama zeka'nın bir parçasıdır

Genellikle bir yapay zeka sistemini ne kadar hızlı bir cevap ürettiğine göre değerlendiririz. Bence bu yanlış bir teşvik oluşturuyor. Yanlış görevi güvenle tamamlayan bir sistem, durup kişinin aslında ne başarmaya çalıştığını soran bir sistemden daha zeki değildir.

Aynı istek, kişinin içinde bulunduğu moda bağlı olarak farklı şeyler anlamına gelebilir. Merak ediyor olabilirler. Beyin fırtınası yapıyor olabilirler. Seçenekleri karşılaştırıyor olabilirler. Inşa etmeye hazır olabilirler. Sistemi önemli bir şey yapması için söyleyebilirler. Kelimeler tek başına hangisinin söz konusu olduğunu her zaman söylemez.

Aslında neyi optimize ediyoruz? Hız, maliyet, tamlık, öğrenme, güvenilirlik ya da başka bir şey mi? Bu hedefler çok farklı cevaplara işaret edebilir. Araştırıyorsam birkaç olası yol isteyebilirim. Uyguluyor isem bir tavsiye, gerekli izinler ve net bir bitiş tanımı isteyebilirim.

Açıklama bazen uyuşmazlık olarak kabul edilir. İyi bir sistemde, bu bir kontrol mekanizmasıdır. Sistem muğlaklığın zararsız olduğunu ve yolu, maliyeti, izni ya da sonucu dönüp sorması gereken kadar değiştirip değiştirmediğini bilmelidir.

Diğer yönde bir başarısızlık modu vardır. Bir sistem o kadar çok soru sorabiliir ki işi kullanıcıya geri itiyor. Amaç her şeyi açıklamak değildir. Cevap sonrasında ne olacağını maddi olarak değiştireceği zaman sorması gerekir.

Basitçe söylemek gerekirse, niyet sadece kullanıcının istediği şey değildir. Bu, kullanıcının istediğine inandığı yardım türüdür. Yararlı bir sistem farkı ayırt edebilmeli ya da bunu yapamadığını tanıyabilmelidir.