XRack kurumsal yapay zeka ajanlarını denetlenebilir kılıyor

Yapay zeka modellerinin yetenekleri hızla artarken, bu sistemlerin karar alma süreçleri ve eylemleri üzerindeki kontrol ve denetim ihtiyacı da önem kazanıyor. Günümüzdeki dil modelleri güçlü analizler yapabilse de, bir eylemi önermesi o eylemi gerçekleştirmeye yetkili olduğu anlamına gelmiyor; tıpkı bir işlemin 'başarılı' yanıtı vermesinin gerçek dünyadaki sonucunu garanti etmediği gibi. İşte tam da bu noktada, kurumların yapay zeka sistemlerini daha şeffaf ve hesap verebilir hale getirmeyi amaçlayan XRack devreye giriyor.

XRack'in geliştirdiği sistem, yapay zekanın kararlarını hangi bilgilere, kaynaklara ve varsayımlara dayanarak aldığını yapılandırılmış bir biçimde takip ediyor. Bir eylem gerektiğinde ise kimlik, rol, kurumsal politika ve risk seviyesi gibi faktörler kontrol ediliyor. İşlem tamamlandıktan sonra da dış sistemler yeniden gözlemlenerek beklenen sonucun gerçekten oluşup oluşmadığı doğrulanıyor. Örneğin, yapay zeka bir müşteriye iade sözü verdiğinde, bu işlemin kim adına ve hangi yetkiyle yapılabileceği belirleniyor, gerekli ön koşullar kontrol ediliyor ve gerçek sonuç beklentiyle karşılaştırılıyor. Bu süreçte oluşan tüm kararlar, iddialar, yetki kontrolleri ve doğrulanmış sonuçlar, blockchain teknolojisi kullanılarak değiştirilemez bir kanıt zincirine bağlanıyor. Bu sayede denetçilere tam ve eksiksiz bir kayıt sunuluyor.

XRack, geleneksel olarak 'kara kutu' gibi çalışan yapay zeka sistemlerini, kurumların sınırlandırabildiği, yönetebildiği ve hesap sorabildiği yapılara dönüştürüyor. Girişim, 2024 yılında Ege Doğan Dursun ve Hüseyin Ersay tarafından kuruldu ve şu anda 8 kişilik multidisipliner bir ekiple çalışmalarını sürdürüyor. Kurucu ortak Ege Doğan Dursun'un yaklaşık beş yıldır beynin bilişsel işlevleri üzerine yaptığı araştırmalar, XRack'in mimari temellerini oluşturuyor. Ancak XRack, insan beynini taklit etmekten ziyade, beyindeki işlevsel ayrışma prensibini yapay zeka sistemlerini daha gözlemlenebilir kılacak bir yazılım mimarisine uyarlıyor. Bu sayede bağlam oluşturma, hafıza, yetkilendirme ve öğrenme gibi süreçler ayrı ancak bağlantılı sistemler olarak işliyor.

Girişim, henüz gelir elde etmeyen ve ürün doğrulama aşamasında olsa da, hukuk, finans ve üretim sektörlerinden üç kurumla tasarım ortaklığı modeliyle pilot çalışmalar yürütüyor. Bu pilotlarda hukuki istihbarat, karar desteği ve kestirimci bakım gibi senaryolara odaklanılıyor. XRack'in rakiplerinden temel farkı, yapay zeka ajanlarının sadece geliştirilmesi veya izlenmesi yerine, tüm karar ve eylem yaşam döngüsünü tek bir çalışma ortamında yönetmesi. Kimlik, rol, politika, risk ve yetki kontrolleri tamamlanmadan hiçbir işlemin gerçekleşmesine izin vermeyen sistem, aynı zamanda hafızayı geçmiş konuşmaların ötesinde olaylar, dersler ve varsayımlar gibi katmanlarda yönetiyor. Şirket, kurucu ortakların öz kaynaklarıyla finanse ediliyor ve aktif olarak yatırım arayışında. Kısa vadede pilot projeleri ticari sözleşmelere dönüştürmeyi, orta vadede ise farklı sektörlere açılmayı ve uluslararası dağıtım kanalları oluşturmayı hedefliyor. Uzun vadede ise XRack, yapay zeka sistemlerine güvenli sorumluluk devredilmesini sağlayan kurumsal bir işletim standardı oluşturmayı vizyon ediniyor.