Yapay zeka gözetimini yanıltan Digital Camouflage gömleği geliştirildi

Yapay zeka destekli kameralar, artık sadece görüntü kaydetmekle kalmıyor, aynı zamanda insanları ve nesneleri de otomatik olarak tanıyıp sınıflandırabiliyor. Berlinli sanatçı Simon Weckert, bu sistemlerin zayıf noktalarını hedef alan “Digital Camouflage” adını verdiği bir gömlek geliştirdi.

Gömleğin üzerindeki pembe, turuncu ve yeşil tonlardaki soyut desenler, yapay zekanın insan vücudunu tanımlarken kullandığı görsel ipuçlarını bozmak üzere tasarlandı. Bu renk geçişleri, iç içe geçmiş şekiller ve kesintiye uğrayan vücut hatları, algoritmaların baş, omuz, gövde ve uzuvları tek bir insan figürü olarak birleştirmesini zorlaştırıyor.

Digital Camouflage’ın deseni, “adversarial attack” adı verilen bir yöntemle geliştirildi. Bu yaklaşım, insan gözü için normal görünen ancak yapay zeka modelinin kararını yanıltan görsel unsurları kullanır. Weckert, farklı desenleri yapay zeka modelleri üzerinde tekrar tekrar test ederek gömleğin son tasarımına ulaştı.

Bu proje, Berlin’in Kottbusser Tor bölgesinde başlayan yapay zeka destekli video gözetim uygulamasına bir yanıt olarak ortaya çıktı. Berlin’deki pilot sistemin yüz tanımadan ziyade hareketleri ve olağan dışı davranışları tespit etmek amacıyla kullanılacağı belirtiliyor. Sanatçı, gömleği açık kaynaklı nesne algılama modeli YOLO üzerinde test etti ve denemelerde sistemin Digital Camouflage giyen kişiyi zaman zaman insan olarak sınıflandıramadığını gözlemledi.

Ancak Weckert, tasarımının Berlin’de kullanılan tüm ticari gözetim teknolojileri karşısında aynı sonucu vereceğini iddia etmiyor. Bu nedenle Digital Camouflage, eksiksiz bir anonimlik sağlayan bir güvenlik ürünü olmaktan çok, kamusal alanlarda yaygınlaşan otomatik gözetim teknolojilerinin güvenilirliğini ve sınırlarını sorgulayan sanatsal bir çalışma olarak konumlanıyor. Gömleğin satışından elde edilen gelirin bir kısmı da dijital hakları savunan kuruluşlara aktarılacak.