Milyonlarca Yapay Zeka Ajanının Güvenliği İçin 10 Milyon Dolarlık Çağrı

Önümüzdeki dönemde milyonlarca yapay zeka ajanı, farklı kurumlar tarafından geliştirilerek dijital ortamlarda birbiriyle etkileşime geçecek, iletişim kuracak, pazarlık yapacak ve işlem gerçekleştirecek. Bu büyük değişim, yapay zeka ekosisteminin güvenliğini ve istikrarını en başından itibaren güçlendirmek için hayati bir fırsat sunuyor.

Google DeepMind, Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency (ARIA) ve Google.org'un desteğiyle, dünya genelindeki araştırmacılara yönelik 10 milyon dolara kadar hibe sağlayacak yeni bir teknik araştırma fonu başlattığını duyurdu. Bu fon, büyük ölçekli çoklu yapay zeka sistemlerinin grup olarak nasıl davrandığını ve potansiyel riskleri anlamak, azaltmak için çerçeveler sunmayı amaçlıyor. Bağımsız sistemler farklı ağlarda etkileşime girdiğinde ortaya çıkan “görünmez” güvenlik risklerini çözmek hedefleniyor.

Büyük yapay zeka ajan grupları etkileşime girdiğinde, yeni kolektif davranışlar ve yetenekler aniden ortaya çıkabilir. Mevcut durumda, bu geçişleri tahmin etmek, ölçmek ve izlemek için yeterli araçlara sahip değiliz. Çoğu güvenlik değerlendirmesi modelleri tek başına analiz ederken, etkileşim halindeki özerk ajanlar, tahmin edilmesi zor karmaşık “ortaya çıkan” davranışlar üretebilir. Bu yeni bir araştırma alanı olduğu için, bu değişimlerin nasıl meydana geldiğini anlamak kritik önem taşıyor. Örneğin, öngörülemeyen bir ekonomik hareketliliğe veya yeni güvenlik sorunlarına yol açabilirler mi? Sistem genelindeki bu davranışları nasıl yöneteceğimizi anlamak temel hedeftir.

Çoklu ajan güvenliği için temel çerçeveler olsa da, bu sistemlerin hızla evrimi acil ve büyük ölçekli bir araştırma genişlemesini gerektiriyor. Bu fon çağrısı, bağımsız araştırmacılardan oluşan küresel bir ağı destekleyerek ilerlemeyi hızlandırmayı amaçlıyor. Çeşitli bir topluluk, güvenlik standartlarının şeffaf ve herkes için sağlam olmasını sağlamak için şart. Tek bir laboratuvar, çoklu ajan güvenliğini tek başına çözemez. Akademik ve bağımsız araştırmacılar, dört öncelikli alanda teklif sunmaya davet ediliyor. Başvurular için son tarih 8 Ağustos 2026 olup, ödül sahiplerinin 2026 Sonbaharında açıklanması bekleniyor.