DeepMind, Milyonlarca Yapay Zeka Aracısının Etkileşiminden Endişeli

Yapay zeka teknolojileri hızla gelişirken, Google DeepMind'dan dikkat çekici bir uyarı geldi. Şirket, yapay zeka ajanlarının yaygınlaşmasıyla ortaya çıkabilecek yeni risklere karşı bilim insanlarını harekete geçmeye çağırıyor. Geçtiğimiz ay Google I/O etkinliğinde ajan tabanlı araçları öne çıkaran DeepMind, şimdi de bu sistemlerin potansiyel tehlikelerini araştırması için 10 milyon dolarlık bir fon ayırdı.

DeepMind'ın AGI güvenliği ve uyum araştırmaları direktörü Rohin Shah'a göre, insan gözetimi olmadan görevleri yerine getirebilen ve diğer ajanlardan talimat alabilen yapay zeka ajanlarının yaygınlaşması, yepyeni bir risk sınıfı yaratıyor. Bu endişeyi gidermek amacıyla Google DeepMind, Schmidt Sciences, ARIA, Cooperative AI Foundation ve Google.org gibi önemli kuruluşlarla iş birliği yaparak, çoklu ajan sistemlerinin davranışlarını inceleyecek ve güvensiz senaryoları önleyecek çözümler geliştirecek araştırmacılara destek olmayı hedefliyor.

Shah, bu 10 milyon dolarlık fonun, teknoloji devlerinin dışındaki akademik araştırmaları canlandırmak için önemli bir adım olduğunu belirtiyor. Akademinin, sektör laboratuvarlarının öncelikli gündeminde olmayan, çok daha uzun vadeli araştırmalar yapma gücüne sahip olduğunu vurguluyor. Şu anda çoklu ajan güvenliği alanında henüz oturmuş bir araştırma alanı olmadığını ve bunu yaratmayı istediklerini ekliyor. Temel endişe, daha fazla AI ajanının devreye alınması ve birlikte çalışmaya başlamasıyla, hayali senaryoların gerçeğe dönüşebileceği bir dönüm noktasına ulaşılması.

Peki tam olarak hangi risklerden bahsediyoruz? Shah ve Schmidt Sciences'ın Güvenilir Yapay Zeka Bilimi programının lideri James Fox'un aklındaki olasılıklar, internette zaten yaşanan kötü şeylerin süper güçlü versiyonlarına dayanıyor: dolandırıcılıklar, komut enjeksiyonları (bir AI ajanına kötü niyetli talimatlar verilerek kötü amaçlı yazılıma dönüştürülmesi) ve diğer siber saldırı türleri. Fox, toplumun işleyişi için ayrılmaz bir parça olan bu 'dijital ortak alanın' mutlak bir anarşiye dönüşmesini engellemek istediklerini dile getiriyor. İkili, bu tür sistemlerin davranışlarını anlamanın tek yolunun gerçekçi simülasyonlar yapmak olduğunu düşünüyor; tek tek ajanları veya küçük grupları izole bir şekilde inceleyerek tam bir öngörüye sahip olunamayacağını belirtiyorlar. Geleceğin beklenenden çok daha hızlı geldiği de önemli bir not.