Yapay Zeka Tarafsız Olmaya Çalışırken Kadınları Hikayelerden Sildi!
Yapay zeka sistemlerinin insanlardan devraldığı dil kalıplarını nasıl yeniden ürettiğine ilişkin araştırmalara bir yenisi eklendi. Washington Üniversitesi tarafından gerçekleştirilen çalışma, yapay zeka modellerinin çocuklara yönelik hikayeler oluştururken cinsiyet temsili konusunda beklenmedik ölçüde dengesiz bir tablo ortaya çıkardığını gösterdi.
Araştırmanın sonuçları, önyargıları azaltmak amacıyla geliştirilen bazı yaklaşımların istenmeyen bir başka probleme yol açabileceğine işaret ediyor. Özellikle cinsiyetin belirtilmediği karakterlerde kadınların ve eril olmayan kimliklerin görünürlüğünün ciddi biçimde azalması, yapay zekanın yalnızca mevcut anlatıları kopyalamadığını, bazı kalıpları daha da belirgin hale getirebildiğini ortaya koyuyor.
Yapay Zeka Çocuk Hikayelerinde Kadın Karakterleri Geri Plana İtti
İnsanların mitolojiden masallara kadar nesilden nesile aktardığı hikayeler, yalnızca eğlence amacı taşımıyor. Bu anlatılar aynı zamanda toplumların değerlerini, dünyaya bakışını ve farklı karakterlere yüklediği rolleri gelecek kuşaklara taşıyor. Dijital çağda ise yapay zeka, internet üzerinde bulunan büyük miktardaki metinden yararlanarak benzer anlatıları kendi başına oluşturabiliyor. Washington Üniversitesi araştırmacıları, bu sürecin cinsiyet temsiline nasıl yansıdığını incelemek amacıyla yapay zekadan cinsiyeti belirtilmeyen konuşan hayvan karakterlerin yer aldığı çocuk hikayeleri üretmesini istedi. Ortaya çıkan sonuçlar, araştırmacıların dikkatini çeken belirgin bir cinsiyet farkını ortaya koydu. Yaklaşık 24 bin yapay zeka üretimi hikayenin incelenmesi sonucunda kadın karakterlerin oranının yalnızca yüzde 2 seviyesinde kaldığı belirlendi. Erkek karakterlerin oranı ise yüzde 41'e ulaştı. Hikayelerin önemli bir bölümünde karakterlerin cinsiyeti hiç belirtilmedi.
Tarafsızlık İçin Kullanılan Dil Kadınları Görünmez Kılabiliyor
Araştırmacılara göre yapay zeka sistemlerinin toplumsal önyargıları azaltması amacıyla daha tarafsız ve cinsiyetten bağımsız bir dil kullanmaya yönlendirilmesi, beklenen sonucun tam tersine neden olabiliyor. Cinsiyet belirtmekten kaçınan anlatım biçimi ilk bakışta daha kapsayıcı görünse de çalışma, bunun kadın karakterlerin hikayelerdeki varlığının azalmasına yol açabileceğini gösteriyor. Böylece kadınların özellikle cinsiyetsiz olarak tasarlanan hayvan karakterleri üzerinden anlatıya dahil edilmesi yerine, karakterlerin erkek olarak tanımlanması ya da cinsiyetlerinin tamamen belirsiz bırakılması daha sık görülüyor. Araştırmacılar, bu durumun yapay zekanın insan dilindeki mevcut kalıpları olduğu gibi yansıtmakla sınırlı kalmadığını, bazı durumlarda söz konusu kalıpları farklı biçimde yeniden üretebildiğini değerlendiriyor.
Yapay Zeka Hikayelerinde Klişeler De Tekrarlanıyor
Çalışmanın ortaya koyduğu sorun yalnızca kadın ve erkek karakterler arasındaki dağılımla sınırlı değil. Araştırmacılar, yapay zeka tarafından oluşturulan hikayelerde tekrarlayan anlatı kalıplarının ve klişe karakterlerin de öne çıktığını belirledi. Modellerin birbirine benzeyen hikaye örgülerine yöneldiği ve belirli karakter tiplerini tekrar tekrar kullandığı görüldü. Bilge bir baykuşun diğer hayvanlara öğüt vermesi gibi kalıplaşmış anlatıların farklı hikayelerde yeniden ortaya çıkması, yapay zeka üretimi içeriklerin zaman zaman tekdüze bir yapıya bürünebildiğini gösterdi.
Yapay Zekanın Toplumsal Anlatılara Etkisi Tartışılıyor
Yapay zekanın eğitimden yazılıma, medya içeriklerinden çocuklara yönelik hikayelere kadar çok farklı alanlarda daha fazla kullanılmaya başlaması, bu sistemlerin toplumun düşünce ve anlatı biçimleri üzerindeki etkisini de gündeme taşıyor. Araştırmanın ortaya koyduğu sonuçlar, yapay zeka tarafından üretilen içeriklerin yalnızca teknik doğruluk veya yaratıcılık açısından değerlendirilmesinin yeterli olmayabileceğine işaret ediyor. Hangi karakterlerin görünür olduğu, hangilerinin geri planda kaldığı ve hangi anlatı kalıplarının tekrarlandığı da yapay zeka çağında giderek daha fazla önem kazanıyor.