Anthropic'ten İki Yeni Yapay Zeka Modeli: Güvenlik ve Erişilebilirlik Dengesi

Yapay zeka dünyasının önde gelen oyuncularından Anthropic, merakla beklenen iki yeni modelini duyurdu: Claude Fable 5 ve Claude Mythos 5. Bu modeller, şirketin daha önce sınırlı bir kitleye sunduğu Mythos Preview'dan çok daha gelişmiş yeteneklere sahip.

Aslında Mythos 5, siber güvenlik alanında yazılımlardaki güvenlik açıklarını tespit etme ve hatta istismar araçları geliştirme potansiyeli taşıdığı için Anthropic'in başını ağrıtan bir modeldi. Şirket, bu güçlü modelin kötü niyetli kişilerin eline geçmesi durumunda yaratabileceği riskler nedeniyle Nisan ayındaki ilk sürümünü sadece belirli teknoloji ortaklarına açmıştı. Şimdi de Mythos 5'i, aralarında ABD hükümetinin de bulunduğu sınırlı sayıda endüstri ortağına sunmaya devam ediyor.

Peki ya genel kullanıcılar? Onlar için Fable 5 var. Bu model, Mythos 5 ile aynı temel altyapıyı kullanmasına rağmen, siber güvenlik, biyoloji ve kimya gibi hassas konulardaki sorulara yanıt vermesini engelleyen katı güvenlik önlemleriyle donatılmış durumda. Bu tür sorgular, daha eski bir model olan Claude Opus 4.8'e yönlendirilecek. Hatta Fable 5 üzerinden daha küçük bir yapay zeka modelini eğitme (distilasyon) girişimleri de aynı şekilde engellenecek.

Anthropic ürün yönetimi başkanı Diane Penn, bu stratejinin, modelin güçlü yeteneklerini faydalı bir şekilde sunarken, potansiyel kötüye kullanımları en aza indirme çabasının bir sonucu olduğunu belirtiyor. Şirket, uzun süren testler ve kullanıcı geri bildirimleri sonucunda bu yaklaşımın en uygulanabilir çözüm olduğuna karar vermiş. Fable 5'in ilk aşamada bazı zararsız soruları bile daha az yetenekli bir modele yönlendirebilecek kadar temkinli davrandığını, ancak zamanla bu sınıflandırmaların daha hassas hale getirileceğini ekliyor. Anthropic, bu güçlü yapay zeka modellerinin yaygınlaşmadan önce siber güvenlik endüstrisinin ve hükümetlerin savunmalarını güçlendirmesi gerektiğini ısrarla vurguluyor. Bu, yapay zeka devlerinin hem teknolojik ilerleme hem de etik sorumluluk arasında nasıl bir denge kurmaya çalıştığının çarpıcı bir örneği.