Yasaklar Nafile: 'Tehlikeli' Yapay Zeka Modelleri Yolda

Geçtiğimiz hafta Anthropic'in yeni yapay zeka modelleri Claude Fable 5 ve Mythos 5'i çevrimdışına alması, teknoloji dünyasında büyük yankı uyandırdı. Bu durum, ABD hükümetinin bir ihracat kontrol direktifiyle 'yabancı uyrukluların' bu hizmetleri kullanmasını yasaklamasının ardından yaşandı. Şirket, Beyaz Saray ile müzakerelere devam etse de, modelleri henüz yeniden aktif hale getirebilmiş değil.

Anthropic, Mythos 5'in piyasaya sürülmesinden bu yana, modelin yazılım güvenlik açıklarını bulma ve kötü niyetli aktörlerin bunları istismar etme yollarını keşfetme gibi gelişmiş yeteneklere sahip olduğu konusunda uyarıyordu. Şirket, geçen haftaki blog yazısında bu çift yönlü tehlikeye dikkat çekmişti: “Yapay zeka modellerinin ileri düzeydeki birçok kullanımı çift amaçlıdır: siber güvenlik profesyonelleri ve biyoloji araştırmacılarının elinde faydalı olan sorgular, kötü niyetli aktörlerin elinde tehlikeli olabilir.” Bu nedenle, Mythos Preview adlı bir versiyonu başlangıçta Project Glasswing çalışma grubuna özel olarak sunmuşlardı. Fable 5 ise genel kullanıma açılmış, ancak biyoloji ve siber güvenlik sorularına yanıt verme yeteneği özel engellerle kısıtlanmıştı. Ancak Trump yönetimi, Fable 5'in bu koruyucu önlemlerinin devre dışı bırakılabileceğine ve Mythos 5'in tüm yeteneklerine erişim sağlayabileceğine inanarak her iki modeli de kısıtlama kararı aldı, bunu ulusal güvenlik riski olarak gördü.

Uzmanlar ise bu kurumsal çatışmanın sadece acı bir gerçeği ertelediğini ya da gizlediğini belirtiyor: Anthropic şu an öncü olabilir, ancak genel yapay zeka yetenekleri ve diğer şirketlerin ve açık kaynak geliştiricilerin modelleri çok yakın gelecekte Mythos 5'e benzer yeteneklere sahip olacak – hatta belki de şimdiden sahipler. TPO Group'un baş güvenlik sorumlusu Tarah Wheeler, “Anthropic'in diğer rakiplerinin Mythos'a benzer yetenekler geliştirmeyeceğini veya henüz geliştirmediğini düşünmek son derece miyopiktir” diyor. Anthropic'in kendisi de bu noktayı Mythos Preview'in lansmanından bu yana vurguluyor. Şirketin sınır red team lideri Logan Graham, WIRED'a verdiği demeçte, “Asıl mesaj, bunun modelle veya Anthropic ile ilgili olmadığıdır. Bu yeteneklerin 6, 12, 24 ay içinde yaygın olarak erişilebilir olacağı bir dünyaya şimdiden hazırlanmalıyız” demişti. Örneğin, OpenAI de Nisan ortasında siber güvenlik odaklı bir modelin özel sürümünü yayınlamış ve genişletilmiş bir siber güvenlik stratejisi duyurmuştu.

Harvard ve Toronto Üniversiteleri'nden araştırmacı Bruce Schneier, “Bu tek bir modelle ilgili değil; teknolojinin genel eğilimiyle ilgili” diye açıklıyor. “Daha küçük, daha ucuz, açık kaynaklı modeller, bazen tek başlarına bazen de birbirleriyle uyumlu bir şekilde, daha sofistike istemlerle Mythos/Fable'ın performansını yakalayabilir. Ve diğer modellerin de Mythos/Fable'ın yaratıcılığını ve azmini aylar içinde yakalamasını beklemeliyiz – açık kaynaklı modeller için biraz daha uzun sürse de.” Uzmanlar, Beyaz Saray ve dünya genelindeki hükümetlerin, yapay zeka yeteneklerindeki gelişmelerle siber güvenlik ve diğer hassas alanlarda kaçınılmaz olarak karşılaşacakları bu durumu ele almak için çok daha geniş ve şeffaf planlar geliştirmeye odaklanmaları gerektiğini vurguluyor. Bulut güvenlik firması Veracode'un kurucu ortağı Chris Wysopal, “Politika sorusu, bir teknolojinin risk taşıyıp taşımadığı değildir. Soru, belirli bir kısıtlamanın bu riski anlamlı bir şekilde azaltıp azaltmadığı veya esas olarak sistemleri daha güvenli hale getirmeye çalışanları yavaşlatıp yavaşlatmadığıdır” diye ekliyor.