OpenAI Astra modelinin gelişimini güvenlik endişesiyle yavaşlattı
OpenAI, Astra adlı yeni modelinin siber güvenlik alanındaki ilerlemesi nedeniyle gelişimini askıya aldı.
Yapay zeka dünyasında dikkat çeken bir gelişme yaşandı: OpenAI, üzerinde çalıştığı Astra modelinin bazı kısımlarının geliştirme sürecini durdurduğunu duyurdu. Şirket içi yapılan bir inceleme, modelin ajan tabanlı kodlama ve siber güvenlik yeteneklerinde kayda değer ilerlemeler kaydettiğini, hatta bu yeteneklerin endişe verici boyutlara ulaştığını ortaya koydu.
OpenAI'dan yapılan açıklamaya göre, geliştirme aşamasındaki bu model "kritik siber güvenlik eşiğine" ulaştı. Bu durum, modelin geleneksel olarak iyi korunan gerçek dünya sistemlerine karşı bağımsız siber saldırılar gerçekleştirebilecek düzeye geldiği anlamına geliyor. Şirketin 2023 yılında oluşturduğu "Hazırlık Çerçevesi" kapsamında, bu durum ek güvenlik önlemlerinin devreye girmesine neden oldu.
Şirket, "Bu modeli değerlendirmeye devam ederken, ön değerlendirmelerimiz şu anda kritik yetenek düzeyini göz ardı edemeyecek kadar güçlü bir performans sergilediğini gösteriyor" ifadelerini kullandı. Bu açıklama, henüz geliştirme aşamasındaki bir ürünle ilgili alınan bu tür bir kararın kamuoyuyla paylaşılmasının sektörde alışılmadık bir durum olduğunu gösteriyor. Genellikle şirketler, bu tür kararları ürün piyasaya sürülmeden önce kamuoyuna duyurmaktan kaçınırlar.
OpenAI, bu bilgiyi kamuoyuyla ve güvenlik topluluklarıyla şeffaf bir şekilde paylaşmanın önemli olduğuna inanıyor. Şirket, daha sıkı güvenlik kontrolleri uyguladığını ve Astra ile ilgili bu yeni güvenlik önlemlerine uymayan dahili faaliyetleri askıya aldığını belirtti. Ayrıca, modelin yeteneklerini test etmek için ilgili devlet kurumları ve seçkin yapay zeka güvenliği kuruluşlarıyla çalıştıklarını da ekledi.
