Anthropic, yapay zeka çıktılarının kimliğini doğrulayan sistem geliştiriyor
Anthropic, bir yapay zeka modelinin ürettiği çıktının gerçekten o modele ait olduğunu kanıtlayacak açık kaynaklı bir sistem üzerinde çalışıyor.
Yapay zeka modellerinin yaygınlaşmasıyla birlikte, bir çıktının hangi modele ait olduğunu anlamak giderek zorlaşıyor. Anthropic, bu soruna çözüm getirmek amacıyla FlashProve adını verdiği açık kaynaklı bir sistem üzerinde yoğunlaşıyor. Bu sistem, araştırmacıların “kanıtlanabilir çıkarım” olarak adlandırdığı, yani bir çıktının belirli bir modelden geldiğine dair matematiksel bir garanti sunan kriptografik bir kanıt mekanizması sağlıyor. Amaç, kullanıcıların karşılaştıkları yanıtın gerçekten bekledikleri modelden geldiğini teyit edebilmeleri.
FlashProve, e-posta imzalarının bir mesajın gerçek göndericisinden geldiğini doğrulamasına benzer bir mantıkla işliyor. Bu sayede, bir modelin kendisini başka bir model gibi göstermeye çalışan taklitçilere karşı güçlü bir savunma sağlıyor. Hatta, modeli geliştiren ve işleten laboratuvarın bile gizlice daha ucuz bir modelle değiştirerek maliyet düşürmesini veya performans sonuçlarını şişirmek için daha pahalı bir model kullanmasını engelleme potansiyeli taşıyor. Ayrıca, üçüncü tarafların belirli bir görevin gelişmiş bir model tarafından yapıldığına dair iddialarını doğrulamak için de kullanılabilecek.
Sistemin çalışabilmesi için yapay zeka laboratuvarlarının yayınladıkları her modelin “parmak izini” açıkça paylaşması gerekiyor. Bu parmak izleri, daha sonra belirli çıktılarla eşleştirilip kriptografik olarak doğrulanabiliyor. Önemlisi, bu parmak izleri modelin ağırlıklarını, yani iç işleyişini tanımlayan ve Anthropic gibi kapalı model üreticilerinin gizli tuttuğu sayıları ifşa etmiyor. Bu sayede, laboratuvarlar en değerli varlıklarını kaybetmeden parmak izlerini yayınlayabilecek ve sistem ticari modellerle de uyumlu çalışabilecek. Üstelik, doğrulama işlemi yerel bir cihazda bile yapılabilecek kadar hafif olacak şekilde tasarlandı.
Anthropic, bu duyurunun bir parçası olarak sistemin çeşitli unsurlarına ilişkin detaylı teknik özellikleri ve çalışan kodları açık kaynak lisansı altında GitHub’da kamuya açtı. Sistem üzerindeki araştırmalar devam ediyor ve şimdilik Anthropic veya başka bir laboratuvarda konuşlandırma planı bulunmuyor. Araştırmacılar, bu çalışmanın bir ara ilerleme olduğunu ve başkalarının da bu temeli alıp geliştirmesini hedeflediklerini belirtiyorlar.
