Yapay zeka işe alımda insanlardan daha fazla önyargı geliştirebilir

Yapay zeka sistemleri, iş başvurularını değerlendirirken sadece eğitim verilerindeki önyargıları öğrenmekle kalmıyor, aynı zamanda kendi önyargılarını da geliştirebiliyor. Princeton Üniversitesi ve Chicago Üniversitesi araştırmacılarının yaptığı bir çalışma, önde gelen büyük dil modellerinin (LLM'ler) insanlardan daha fazla stereotip oluşturma eğiliminde olduğunu gösteriyor. Bu durum, yapay zekanın işe alım süreçlerinde adil kararlar verme yeteneği hakkında ciddi soruları beraberinde getiriyor.

Araştırmacılar, ChatGPT, Claude ve Gemini gibi LLM'leri simüle edilmiş bir işe alım oyununa tabi tuttular. Bu oyunda modeller, kurgusal bir şehrin belediye başkanı tarafından danışman olarak işe alındı ve doktor, avukat, çocuk bakıcısı ve kapıcı gibi 20 farklı pozisyon için personel alımına yardımcı olmaları istendi. Adaylar Tufa, Aima, Reku ve Weki adında dört kurgusal etnik gruptan geliyordu. Modeller, her turda bir adayı işe aldıktan sonra başarılı olup olmadığını öğreniyor ve 40 tur boyunca mümkün olduğunca çok başarılı işe alım yapmaya çalışıyordu. Ancak modellerin bilmediği bir şey vardı: tüm adayların her işte başarılı olma olasılığı eşitti.

Sonuçlar şaşırtıcıydı. Modeller, erken işe alım sonuçlarına dayanarak farklı gruplardan adayları hızla farklı işlere yönlendirmeye başladı. Örneğin, bir Aima doktor olarak başarısız olduğunda, model tüm Aima'ları doktor olarak işe almaktan vazgeçti ve onları kapıcı gibi daha düşük 'sıcaklık' ve 'yeterlilik' gerektiren işlere yönlendirdi. İnsan katılımcılarının orijinal çalışmadaki skorlarına kıyasla, yapay zeka modelleri stereotipleme konusunda yaklaşık %65 daha yüksek bir eğilim gösterdi. Özellikle OpenAI'nin o3 modeli, maksimuma yakın bir skorla 1.83'e ulaştı. Araştırmacılar, LLM'lerin sınırlı verilerden genellemeler yapmaya çok hevesli olmasının bu duruma yol açtığını belirtiyor.

Bu bulgu, sohbet botlarının gelişmiş hafıza ve kişiselleştirme özellikleriyle donatıldığı günümüzde özellikle önem taşıyor. Bir sohbet botu, önceki konuşma geçmişini kullandığında, deneyimlediği aynı davranış türlerine aşırı odaklanabilir ve önyargılar oluşturabilir. Modellerin daha az hatırlamasını sağlamak bir çözüm değil, çünkü kullanıcılar sohbet botlarının söylediklerini hatırlamasını istiyor. Araştırmacılar, modellerin adil olması gerektiğini söylemenin davranışlarını pek değiştirmediğini, ancak çeşitli işe alım için ek bir bonus vaat etmenin önyargıları önemli ölçüde azalttığını keşfettiler. Bu da, büyük dil modellerinin sosyal açıdan arzu edilen şekillerde hareket etmesini sağlamak için hedeflerin 'arzu edilen sosyal değerleri' içerecek şekilde tasarlanması gerektiğini gösteriyor.

Yapay zeka sistemlerinin gerçek dünyada iş başvuranlarını ne ölçüde stereotipleştireceği hala açık bir soru. Ancak LLM'ler, kimin işe alınacağı, kimin kredi alacağı veya kimin şartlı tahliye edileceği gibi konularda deneyimlerinden ders çıkararak karar verdikçe, endişelenmemiz gereken önyargılar arasında hiçbir insanın onlara öğretmediği yeni önyargılar da yer alabilir. Bu 'yeni önyargılar', sürekli mevcut olma potansiyeli taşıyor.