Dastan Aitzhanov
AI sistemleri oluşturuyor ve harekete geçmeye başladıklarında ortaya çıkan yönetişim sorularını yazıyorum.
AI'ı bir mühendis gibi değil, bir sahip gibi düşünüyorum: kim yetkilendirdi, kim ödedi, sonucu kim sahipleniyor, olumsuz etkiyi kim taşıyor ve durdurulabilir mi.
Şu anKalıcı özel bağlam, yetki sınırları içinde kalan eylemler ve bir kişinin kendi makineleri ile paylaşılan işlem arasında hareket edebilen çalışmalar etrafında kişisel bir AI sistemi oluşturuyor ve test ediyorum. İyi sonuçlanan parçaları yayınlıyorum.
Güncel araştırma
AI sistemleri soruları cevaplamaktan devredilen yetkiyi kullanmaya geçerken, bu yetki nasıl verilmeli, sınırlandırılmalı, doğrulanmalı ve iptal edilmeli?
Tekrarlanan soru artık sadece bir modelin ne üretebileceği değil. Çevreleyen sistemin neyi görmesine, kararlaştırmasına ve yapmasına izin vermelidir.
Seçili çalışmalar
Daha iyi yapılandırmaya sahip daha küçük bir model
Bağımsız araştırma · Değerlendirme ve teknik makale
35 adet baş başa kurumsal geri alma testinde, bilgi grafiğine sahip Llama 3.1 8B kendi başına Llama 3.3 70B'yi geçti: %55 daha yüksek çekirdek puan, 13 kat daha düşük giriş-token maliyeti, 3 kat daha düşük gecikme süresi ve doğrulanabilir bir araç çağrısı zinciri.
Yerel AI ve akıllı iskele
Bağımsız araştırma · Sistem deneyi ve teknik makale
Daha küçük bir yerel modeli açık ajan sınırları, gözlemlenebilir iş akışları ve bağımsız kontroller içinde çalıştırma üzerine uygulamalı bir deney.
IoT ve makine öğrenmesi ile endüstriyel varlık izleme
Kamuya açık teknik çalışma · AWS'de ortak yazılmış iki bölümlü teknik çalışma
Endüstriyel telemetri, varlık modelleri, izleme, makine öğrenmesi eğitimi ve zamanlanmış çıkarsamayı bağlamak için ortak yazılmış AWS mimarisi.
Endüstriyel tahmine dayalı bakım için insan incelemesi
Kamuya açık teknik çalışma · AWS'de ortak yazılmış teknik çalışma
Anomali tespiti, insan incelemesi, veri seti iyileştirmesi ve endüstriyel ekipman için model yeniden eğitimini bağlamak üzere ortak yazılmış AWS teknik çalışması.
Araştırma başlıkları
Dört soru deneyleri, makaleleri ve kısacık notları bağlıyor.
Devredilen yetki
Bir AI sistemi bilgi üretmekten eylem almaya geçtiğinde ne değişir?
Kişisel AI
AI sıradan bilgisayarın bir parçası olduğunda kişinin yakınında ne kalmalı?
Dağıtılmış yönetişim
Hesaplama bağımsız olarak sahip olunan makineler arasında geçtiğinde politika nerede uygulanır?
Sahiplik ve teşvikler
Kim karar verir, kim riski taşır ve kim sorumlu kalır?
Son yazılar
Sınırı yönet
Model tabanlı kurallar yeteneğin kıt olduğunu varsayar. Yetenekli modeller küçük ve ucuz hale geldikçe, politika eklenecek dayanıklı yer bir AI sisteminin ne yapabileceğine karar veren katmandır.
Kapasite rıza değildir
Dağıtılmış bilişim, genellikle kullanılabilir makineleri bulma sorunu olarak çerçevelendirilir. Daha zor olan soru, bu makinelerin ne yapacağına karar vermeye kimin izin verildiğidir.
Olasılıksal Zeka, Deterministik Kontrol
Üretken modeller henüz açık olan akıl yürütme içindir. Tekrarlanan kararlar daha dar bir modele aittir, tekrarlanan eylemler sıradan yazılıma aittir.
Son fikirler
Bir ajan hatayı sahiplenebilir. Maliyeti sahiplenemed.
Sorumluluk, olumsuz tarafları üstlenmek demektir. Ödeyemeyeceği parayı harcayan bir ajanın özür sonrası değil, harekete geçmeden önce bir sınırı belirlenmesi gerekir.
Otonomi geri alınabilirlikle ölçeklenmeli
Yararlı soru, yapay zeka ajanının özerk olup olmadığı değil, belirli bir eylem için ne kadar özerklik mantıklıdır sorusudur.
Açıklama zekânın bir parçasıdır
Yanlış görevi güvenle tamamlayan bir sistem, ne zaman sorması gerektiğini bilen bir sistemden daha zeki değildir.
Yenilik modellere aittir. Tekrar yazılıma aittir.
Yolu ilk kez bulmak için üretken bir model kullanın. Yol tekrarlanmaya başladıktan sonra onu çağırın. Bir modeli onu yeniden keşfetmesi için ödemeyin.
İletişime geç
AI sistemleri nasıl yönetilmesi gerektiğini ortaya koyan insanlardan haber almak istiyorum. Sistemleri kurgulayanlar sınırlarını belirliyor, onlardan sorumlu ekipler de yaptıklarından hesap veriyor. Bana dastan.aitzhanov@gmail.com adresinden yazın.