Anthropic'in En Güçlü Yapay Zekalarına Hükümet Engeli

Yapay zeka dünyasının önde gelen oyuncularından Anthropic için Cuma günü beklenmedik bir gelişme yaşandı. ABD hükümeti, ulusal güvenlik endişelerini gerekçe göstererek şirketin en güçlü iki yapay zeka modeli olan Claude Fable 5 ve Claude Mythos 5'e erişimi derhal kesmesini emretti. Anthropic bu karara uyduğunu duyursa da, hükümetin bu konuda yanıldığına inandığını açıkça belirtti. Bu direktif, Anthropic'in her iki modeli de dünya genelindeki tüm kullanıcılar için devre dışı bırakmasını zorunlu kılıyor.

Peki bu neden önemli? Mythos, Anthropic'in en yetenekli yapay zeka modeliydi ve şirketin yazılım güvenlik açıklarını tespit etme konusundaki olağanüstü yeteneği nedeniyle sınırlı tutuluyordu. Şirket, Mythos'un test ettiği her büyük işletim sistemi ve web tarayıcısında kusurlar bulduğunu iddia ediyordu. Bu yüzden, modeli geniş kitlelere sunmak yerine, Amazon, Apple, Google, Microsoft gibi yaklaşık 50 kuruluşa savunma amaçlı siber güvenlik çalışmaları için paylaşıldığı Project Glasswing adlı kontrollü bir program başlatmıştı. Sadece üç gün önce piyasaya sürülen Fable 5 ise, Mythos'un daha güvenli, siber güvenlik ve biyoloji gibi yüksek riskli alanlarda yanıtları engelleyen koruyucularla donatılmış bir versiyonuydu. Hatta Vals AI'ın karşılaştırmalı testlerine göre, kamuya açık en yetenekli yapay zeka modeliydi.

Hükümetin kararı ihracat kontrolü eylemi olarak çerçevelense de, Anthropic’in açıklamasına göre asıl endişe Fable 5'in potansiyel bir “jailbreak” (kısıtlamaları aşma) durumu. Şirket, hükümetin sadece “dar, evrensel olmayan potansiyel bir jailbreak” hakkında sözlü kanıt sunduğunu ve bunun modelin belirli bir kod tabanını okuyup yazılım kusurlarını tanımlaması anlamına geldiğini belirtiyor. Dahası, Anthropic bu tür bir yeteneğin OpenAI'ın GPT-5.5 gibi diğer kamuya açık modellerde zaten yaygın olduğunu ve siber güvenlik uzmanları tarafından savunma amaçlı rutin olarak kullanıldığını ekliyor. Anthropic'in genel argümanı, en güçlü güvenlik önlemlerinin modelin kendisinden bağımsız çalışan sınıflandırıcı sistemler aracılığıyla işlediği ve bu nedenle birisi Fable'ı konuşmaya devam etmeye ikna etse bile, en tehlikeli çıktıları engelleyen temel korumaların yerinde kaldığı yönünde.

Bütün bu argümanlar hükümetin harekete geçmesini engellemeye yetmedi ve Anthropic hayal kırıklığını gizlemiyor. Şirket, “Dar bir potansiyel jailbreak bulgusunun, yüz milyonlarca kişiye dağıtılmış ticari bir modelin geri çekilmesi için bir neden olmasıyla aynı fikirde değiliz” diye yazdı. Ayrıca, “Bu standart sektör genelinde uygulansaydı, tüm öncü model sağlayıcıları için yeni model dağıtımlarını esasen durdururduk” ifadelerini kullandı. Bu durum, Anthropic'in bu yıl halka arz olması beklenirken ve rakiplerine kıyasla güvenlik odaklı bir alternatif olarak konumlanmışken ironik bir hal alıyor. Şirketin Mythos'u “çok tehlikeli” olduğu için kısıtlaması, şimdi işini en çok sekteye uğratabilecek türden bir hükümet incelemesini üzerine çekmiş görünüyor. OpenAI'dan Sam Altman'ın bu duruma keyifle baktığı söylenebilir. Altman, daha önce Anthropic'in Mythos'u ele alış biçimini “korku temelli pazarlama” olarak nitelendirmişti. “Bir bomba inşa ettiğimizi, onu başınıza düşürmek üzere olduğumuzu ve size 100 milyon dolara bir bomba sığınağı satacağımızı söylemek açıkça inanılmaz bir pazarlamadır” demişti. Altman, Anthropic'in aylarca yapay zekasının benzersiz derecede tehlikeli olduğunu dünyaya anlatmasının, dünya ve ABD hükümeti de dahil olmak üzere bu sözleri ciddiye almasına yol açtığını öngörmüştü.