Anthropic'in Yeni Yapay Zekası Fable, Siber Güvenlikçileri Neden Kızdırdı?

Yapay zeka dünyası hızla gelişirken, bu teknolojilerin potansiyel risklerini yönetmek de giderek daha karmaşık bir hal alıyor. Anthropic'in yeni siber güvenlik modeli Fable'ın piyasaya sürülmesi, bu tartışmayı bir kez daha alevlendirdi. Şirket, güçlü Mythos modelinin sınırlı ve halka açık bir sürümü olarak tanıttığı Fable ile kötüye kullanımı engellemeyi hedeflerken, siber güvenlik araştırmacıları ve profesyonelleri bu kısıtlamalardan pek memnun değil.

Sorun ne mi? IBM X-Force'tan tanınmış güvenlik araştırmacısı Valentina “Chompie” Palmiotti'nin de belirttiği gibi, Fable siber güvenlikle uzaktan yakından ilgili her türlü isteği reddediyor. Hatta masum görünen bir blog yazısını okuma talebi bile yapay zekanın güvenlik duvarlarına takılabiliyor. Fable, bu tür bir tetiklenme anında sohbeti durdurup, mesajın 'siber güvenlik veya biyoloji konuları' nedeniyle işaretlendiğini belirtiyor. Şirketin bu katı kuralları koymasının ana nedeni, modelin kötü amaçlı yazılım geliştirmek veya yazılımları tehlikeye atmak gibi riskli faaliyetlerde kullanılmasını engellemek. Biyoloji konusundaki kısıtlamalar da benzer şekilde biyolojik silah geliştirme endişesinden kaynaklanıyor.

Ancak bu iyi niyetli kısıtlamalar, bazı uzmanlar tarafından 'rastgele' ve 'tutarsız' bulunuyor. Siber güvenlik deneyimi yüksek Matt Suiche, Fable'ın güvenli kod yazma isteğini bile siber güvenlikle ilgili bir iş olarak algılayıp, kullanıcıyı kısıtladığını belirtiyor. Ona göre, modelin denetimleri daha çok anahtar kelime tabanlı çalışıyor gibi görünüyor; 'siber güvenlik' ile ilgili herhangi bir ifade hemen güvenlik duvarlarını devreye sokuyor. Fable, bir kısıtlamaya takıldığında Claude Opus 4.8'e geri dönüyor. Elbette, bu durumun yapay zeka modellerinin henüz başlangıç aşamasında olduğu ve güvenlik denetimlerinin zamanla gelişeceği de göz ardı edilmemeli. Suiche, ilk aşamada fazla kısıtlama getirmenin, sonradan gevşetmekten daha iyi bir strateji olduğunu düşünüyor. Anthropic'in model içi kısıtlamaların yanı sıra, siber güvenlik profesyonellerinden Cyber Verification Programı'na başvuru yapmalarını istemesi de dikkat çekiyor. Onay alanlar, Claude'u siber güvenlik işleri için daha az kısıtlamayla kullanabiliyor. Benzer bir program OpenAI'da da 'Trusted Access for Cyber' adıyla mevcut.

Görünen o ki, yapay zeka teknolojileri geliştikçe, güvenlik ve erişim dengesini kurmak, şirketlerin ve sektörün en büyük zorluklarından biri olmaya devam edecek. Fable örneği, bu dengenin ne kadar hassas olduğunu ve kullanıcı deneyimi ile güvenlik kaygıları arasında doğru dengeyi bulmanın ne denli kritik olduğunu bir kez daha ortaya koyuyor. Önümüzdeki dönemde, Anthropic ve benzeri öncü yapay zeka şirketlerinin, siber güvenlik topluluğuyla daha yakın iş birliği yaparak bu kısıtlamaları nasıl evrimleştireceğini merakla bekliyoruz.