Anthropic, 50'den fazla kişinin ölüm riskinde yapay zeka modelini engelleyecek yasa teklifi sundu

Yapay zekanın potansiyel tehlikeleri son zamanlarda sıkça tartışılırken, sektörde güvenlik konusunda farklı görüşler ortaya çıkıyor. Bu tartışmalara Anthropic de kendi çözüm önerisiyle katıldı. Şirket, yapay zeka güvenliği için Kongre'nin değerlendirmesini umduğu yeni bir yasa taslağı hazırladı.

Politico'nun haberine göre, bu taslak, belirli senaryolarda bir yapay zeka modelinin piyasaya sürülmesinin engellenmesini öngörüyor. Bahsedilen senaryolar, 50'den fazla insanın ölüm riski veya 1 milyar doların üzerinde mal hasarı potansiyeli taşıyan “öngörülebilir, yakın bir risk” durumlarını içeriyor. Bu tür felaket risklerinin biyolojik silah üretimi, modelin geliştirici kontrollerinden kaçması veya bir siber saldırıdan kaynaklanması gerektiği belirtiliyor.

Tasarı, modellerin potansiyel risklerinin bağımsız değerlendiriciler tarafından analiz edilmesini öneriyor. Bu değerlendiriciler, ABD Ticaret Bakanlığı'na kayıtlı olacak ve yapay zeka laboratuvarları tarafından ödeme alabilecekler; ancak ödemenin değerlendirme sonuçlarına bağlı olmaması şartıyla. Bağımsız değerlendiriciler, yakın bir felaket riski tespit ettiklerinde 72 saat içinde Ticaret Bakanlığı ile iletişime geçmek zorunda kalacaklar. Ardından bakanlık, bir Washington D.C. yargıcından modelin yayınlanmasını durdurmasını talep edecek. Tasarı, herhangi bir federal kurumun modeli tek başına durdurma yetkisini açıkça yasaklıyor.

Anthropic'in bu adımı, sektördeki diğer bazı firmaların düzenleme konusundaki çekincelerinin ötesine geçiyor. Örneğin Nvidia CEO'su Jensen Huang, yapay zeka endüstrisinin yeni yasalara ihtiyacı olmadığını savunmuştu. Anthropic sözcüsü, taslağın Haziran ayından beri federal ve eyalet milletvekilleriyle paylaştıkları Gelişmiş Yapay Zeka Çerçevesi'nde belirtilen önerileri temsil ettiğini doğruladı.