Satya Nadella, yapay zeka güvenliği için yeni bir mimari önerdi

Microsoft Yönetim Kurulu Başkanı ve CEO’su Satya Nadella, yapay zeka sistemlerinin güvenlik mimarisinin baştan düşünülmesi gerektiğine dikkat çekti. Nadella, X üzerinden yaptığı paylaşımda, aynı girdiye her zaman aynı çıktıyı vermeyen modellerin öngörülebilir sistem tasarımları, insan kontrolü ve güvenilir işletim prosedürleriyle çevrelenmesinin önemini vurguladı.

Nadella'nın önerisine göre, hem kapalı hem de açık kaynaklı gelişmiş yapay zeka modelleri, kurum içinden gelebilecek bir risk olarak ele alınmalı. Bu güvenlik yaklaşımının temelinde, modelin görevlerini yöneten yazılım katmanından (harness) ayrılması ve güvenlik kontrollerinin modelin dışında konumlandırılması yatıyor. Bu sayede, modelin kendisi yerine, onu çevreleyen sistemler aracılığıyla güvenlik sağlanabilecek.

Bu yaklaşımın en çarpıcı unsurlarından biri, Nadella’nın “acil durum freni” olarak tanımladığı mekanizma. Bu mekanizma, yetkili kişilere, bir modelin görevini yürütürken duraklatabilme veya tamamen kapatabilme yetkisi veriyor. Nadella, modelin güvenliğinin ihlal edilmiş olabileceği varsayımıyla hareket edilmesini ve faaliyetlerinin en başından sınırlandırılmasını savunuyor.

Ayrıca Nadella, yapay zeka sistemlerinin izlenebilirlik ilkeleri etrafında tasarlanması gerektiğini belirtti. Bu ilkeler arasında model çeşitliliği, modellerin eylemlerinin insanlar tarafından okunabilir kayıtlarla belgelenmesi, sürekli sistem testleri, bağımsız kontroller ve denetlenebilirlik, faaliyetlerin sınırlandırılması ve güvenlik olaylarının açıklanması gibi maddeler bulunuyor. Mevcut standartların yetersiz kaldığı durumlarda ise yeni sektör standartlarının oluşturulması öneriliyor.

Teknoloji liderleri ve araştırmacıların, yapay zekanın hızla gelişimiyle güvenlik önlemlerinin ne kadar yeterli olduğunu tartıştığı bu dönemde, Nadella’nın bu yaklaşımı oldukça önemli. Güvenliği sadece modelin kendi güvenilirliğine bağlamak yerine, modelin davranışlarını denetleyebilen ve gerektiğinde müdahale edebilen dış sistemler kurma fikri, yapay zeka güvenliğine farklı bir boyut katıyor.