Hakkında

AI sistemleri kurarım ve sermaye tahsis ederim. Hiçbir zaman farklı türde işler gibi hissetmediler. Her ikisi de aynı soruya indirgenir: kimin karar almasına izin verilir ve sonuçtan kim sorumludur.

Şimdi

Dayanıklı özel bağlam, açık yetki içinde kalacak eylemler ve bir kişinin kendi makineleri ile paylaşılan hesaplama arasında hareket edebilecek iş etrafında kişisel bir AI sistemi inşa ediyorum ve test ediyorum. Henüz kamuya açık değildir. Dayanıklı olduğu kısımları yayınlarım. Altlarındaki soru, bir AI sisteminin bilgi üretmekten devredilen otoriteyi kullanmaya geçtiğinde ne olacağıdır: neler görebileceği, neler karar verebileceği, neler yapabileceği ve bu yetki nasıl geri alınabileceği.

İnandıklarım

• Politika olasılıksal olmamalıdır. Bir model bir eylemi önerebilir. Bunu izin veren kural, birinin okuyabileceği, sürümünü tutabileceği ve test edebileceği kod olmalıdır.
• Özerklik geri döndürülebilirlik ile ölçeklenmelidir. Yararlı soru, bir ajanın özerk olup olmadığı değil, belirli bir eylem ne kadar özerkliği taşıyabilir.
• Denetim günlüğü bir kontrol değildir. Bir eylemden sonra yazılan kayıt kanıttır. Eylemi durduramaz.
• Yenilik modellere aittir. Tekrar yazılıma aittir. İlk defa yolu bulmak için bir modeli kullanın. Yol tekrarlanmaya başladığında, onu çağırın.
• Bir kişinin düşünüşü kişinin yakınında yaşamalıdır. Özel bağlam varlıktır. Nereye seyahat etmesine izin verilir tasarımdır.
• Analiz ucuzlaşıyor. Bağlılık değildir. Bir kararı onaylayan kişi, analiz tamamlandıktan sonra bile sonucu taşır.

Buradan gelmesi

Teknoloji alanında çalışmadan önce, Kazakistan'daki ailemi ticari gayrimenkul işletmesini yönettim. Babam ve kardeşim bugün onu yönetiyor ve ben hala yönetim kurulunda görev yapıyorum. Analiz bittikten sonra bir kararın ne kadar pahalıya mal olduğunu buradan öğrendim ve bu nedenle o zamandan beri Teksas'ın tamamında onlarca gayrimenkul projesine yatırım yaptım.

Birkaç yıl boyunca küçük bir nicel fon da yönettim, bir takım ve dış yatırımcılarla. Araştırma ve mühendisliği yönetim ve uyumluluğundan daha fazla sevdim, bu nedenle dış paraya kapadım; şimdi sadece ailemizin sermayesini yönetiyor. MetaVi Labs'ın, bir yaşam bilimleri şirketinin, erken yatırımcısıydım ve kalıyorum.

Bunu söylemesinin nedeni yazıyı açıklaması. Bir sistem hareket ettiğinde, birisi hala sonucu sahipleniyor. Ben o kişi oldum ve aynı zamanda yönetişimin alıcı tarafında oldum. Her ikisi de onu okunan ve çalıştırılan bir şey istiyorum, beklenilen bir şey değil.

Yazı nasıl bir araya geliyor

Yazılar ve daha kısa notlar arasında dört konu işleniyor. Devredilen yetki: bir sistem bilgi üretmekten eyleme geçtiğinde ne değişir. Kişisel AI: kişinin yakınında neler kalmalıdır. Dağıtılmış yönetişim: hiç kimsenin tamamen kontrol etmediği makineler arasında hesaplama geçtiğinde politika nereye bağlanır. Mülkiyet ve teşvikler: kim karar verirse, kim riski taşırsa ve kim sorumlu kalır. Bunlar dört yönden bakılan bir sorudur.

Savunmaya yeterince net bir şeyim olduğunda buraya yazarım. Teksas'ta yaşıyorum.

Bana ulaşmanın yolu e-posta: dastan.aitzhanov@gmail.com. Yayınladığım kod GitHub'da yaşıyor ve seçilmiş genel çalışmalar Çalışmalar sayfasında toplanıyor.