Özerklik tersinirlikle ölçeklenmelidir.

Yararlı sorunun bir yapay zeka ajanının özerk olup olmaması olduğunu düşünmüyorum. Bu çok geniş. Soru, belirli bir eylem için ne kadar özerklik mantıklıdır sorusudur.

Eylem düşük riskli, geri alınabilir ve sınırlı ise, sistemin hızlı hareket etmesini istiyorum. Bir dosya okumak, bilgileri düzenlemek, yerel bir değişiklik denemek veya bir taslak hazırlamak, bir mesaj göndermek, para harcamak, özel bilgileri açığa çıkarmak veya başka birinin bağlı olduğu bir şeyi değiştirmekle aynı süreci gerektirmemelidir.

İşin püf noktası, karmaşıklığı riski takip etmeye yapmaktır. Çoğu sistem iki şeyden birini yapar. Her şeyin önüne aynı onay adımını koyarlar, bu da ajanı kullanması hüsranverici kılar. Ya da ajana geniş erişim verirler ve modele dikkatli olmasını güvenirler, bu da eylem önemsenene kadar işe yarar.

Özerkliğin dinamik olması gerektiğini düşünüyorum. Küçük bir etki alanına sahip geri alınabilir bir eylem devam edebilir ve bir kayıt bırakabilir. Geri almanın zor olduğu bir eylem, önizleme, daha dar izin veya ikinci bir kontrol gerektirebilir. Önemli bir eylem yine bir kişi gerektirebilir. Model durumu değerlendirmeye yardımcı olabilir, ancak kendisi güvensiz hissettiği için kendi yetkisini genişletebilmemelidir.

Bu, faydalı ajanlar ile güvenli olanlar arasında bir seçim değildir. Her önemsiz adımda onay isteyen bir sistem özellikle iyi tasarlanmış değildir. Her başarılı araç çağrısını kendisinin daha fazla erişim alması gerektiğinin kanıtı olarak ele alan bir sistem de değildir.

Pratik hedef basittir: sisteme yararlı olmak için yeterli özgürlük verin ve sonuçlar büyüdükçe yapı ekleyin. Özerklik, ajanın sahip olduğu veya olmadığı bir özellik değildir. Bu, çevreleyen sistemin her iş türü için aldığı bir karardır.