Satya Nadella yapay zeka modelleri için 'acil durum freni' çağrısı yaptı

Microsoft'un CEO'su Satya Nadella, yapay zeka güvenliğine dair önemli düşüncelerini paylaştı. X üzerinden yaptığı bir paylaşımda Nadella, yapay zeka sistemlerinin güven mimarisini yeniden değerlendirme zamanının geldiğini belirtti. Ona göre, "Süper Zeka'yı iç içe geçmiş kara kutular olarak görüp, sadece önerilerini, cevaplarını ve eylemlerini kabul ya da reddetmekle yetinemeyiz."

Nadella'nın önerdiği yaklaşım, yapay zeka modelini işini organize eden 'koşum takımından' ayırmayı ve kontrol ile güvenlik önlemlerini harici hale getirmeyi içeriyor. Ayrıca, her önemli model eyleminin 'kurcalanamaz, insan tarafından okunabilir kanıtlarla' belgelenmesi gerektiğini ve yetkili bir kişinin bir modeli görev sırasında duraklatma veya tamamen kapatma yeteneğine sahip sistemlerin kurulmasını savundu. "Bir modelin güvenliğinin ihlal edildiğini varsaymalı ve en başından itibaren onu kontrol altına almalıyız," diyen Nadella, bunu bir 'acil durum freni' olarak düşünebileceğimizi ekledi.

Bu yorumlar, önde gelen yapay zeka şirketlerinin modelleri üzerindeki kontrolü kaybettikleri olayların giderek daha fazla kabul edildiği bir döneme denk geliyor. Aynı zamanda, Anthropic CEO'su Dario Amodei'nin daha dikkatli yapay zeka geliştirme planını yayınlamasının ardından geldi. Nadella'nın bu çıkışı, sektörde yapay zeka güvenliği ve denetimi konusundaki tartışmaları daha da alevlendirecek gibi görünüyor.