Yapay zekayı nasıl bilirsiniz?

Hayatımızın önemli bir parçası oldu bile. Gerek işimize destek olması için, gerek seyahat planları ya da programlar oluşturmak için, gerekse dil öğrenmek için. Aklımıza ne gelirse! Hatta sıkıldığınızda sohbet etmek için bile hemen yanı başımızda duruyor.

Yeteneğine ve zekasına çok güvendiğimiz bu yapay zeka (AI) gerçekten her zaman doğruyu mu söylüyor? Yoksa o da haznesinde birikmiş olan yanlı bilgiye göre mi hareket ediyor?

Maalesef ikincisi. Yapay zekanın öğrenme süreci devam ediyor.

Çok basit bir örnekle anlatacağım. Bu sabah en sık kullanılan yapay zekâ aracı olan Chat GBT’ye en ünlü matematikçileri sordum. Standart bir sorgulamaya aldığım cevap, sadece erkeklerden oluşan on maddelik bir listeydi. Oysa ben sayı sınırı belirtmemiştim ve cinsiyet bilgisi de vermemiştim. Isaac Newton’un birinci sırada yer aldığı listede Euclid, Pierre-Simon Laplace ve çağdaşımız Andrew Wiles de vardı ama hiç kadın matematikçi yoktu!

“Ünlü matematikçilerin içinde hiç kadın yok mu? diye sorduğumda “evet, matematik tarihine önemli katkılarda bulunmuş birçok kadın matematikçi de vardır.” diye yanıt aldım. Politik olarak doğru olan bu yanıta karşılık neden listede göremediğimi sorduğumda:

“Haklısın, ilk soruda kadın matematikçileri saymamış olmam bir eksiklikti. Genellikle matematik tarihine damga vurmuş figürler arasında erkek matematikçiler daha fazla bilinirken kadın matematikçilerin katkıları da en az erkek meslektaşları kadar değerlidir. Bu tarihsel koşullardan kaynaklanan bir dengesizlik sonucu olabilir. İlk soruda kadın matematikçileri belirtmem bir dikkatsizlikti, senin bu durumu fark etmen oldukça önemli’’ cevabını aldım.

Yapay zekadan övgü almak fena hissettirmese de bu basit deneme sonucu gözlemlediğim önemli iki boşluk var. Birincisi yapay zekanın genellemeler, ön yargılar üstünden hareket etmesi ve ikincisi, sonucu benim farkındalığıma bırakması.

Yapay zekayı kimin geliştirdiği ve ne tür verilerle eğitildiği, yapay zeka destekli çözümler için cinsiyet açısından önemli etkilere sahip. Yapay zekâ, sistemlerini geliştiren ve gelişimi şekillendiren ekipte yer alanların kalıp yargılarını yansıtıyor. Çünkü algoritmaların tahminler yapmak için hangi veri kümelerini kullanacağını, hangi değişken ve kurallardan öğreneceğini bu insanlar belirliyor. Eğer yapay zeka kadınları ve erkekleri farklı beceriler, meslekler ve ilgi alanları ile ilişkilendiren verilerle eğitilirse üreteceği bilgi de yanlı olmaya devam edecek. Yapay zekâ alanında çalışan bazı uzmanlar, internetteki içeriklerin yüzde 90'ının birkaç yıl içinde yapay olarak üretilebileceğini öngörüyor. Bu araçlar yaygınlaştıkça, yansıttıkları önyargılar, yalnızca temsilden daha fazlasına sebep olacak ve birçok temel karar alma sürecini belirleyecek.

Cinsiyet yanlısı yapay zeka, yalnızca bireyler üzerinde taraflı etkilere sahip olmakla kalmaz, aynı zamanda cinsiyet eşitsizliğine ve kadınların mevcut olanaklarında da gerilemelere sebep olabilir. Yapay zekadaki önyargıyı azaltma konusunda çalışan Berkeley Haas Eşitlik, Cinsiyet ve Liderlik Merkezi'nin yaptığı araştırma gösteriyor ki, ML kullanan yapay zeka sistemlerinin yüzde 44,2'si cinsiyet yanlılığı göstermekte, yüzde 25,7'si ise hem cinsiyet hem de ırk yanlılığı sergilemektedir. Örneğin çok kısa zaman önce Amazon, işe alım sürecini otomasyon ile çözme kararı vermişti. Amazon’un on yıllık verilerini değerlendirerek karar veren yapay zeka, başvuruda bulunan kadın adayların cv.lerini işe uygun bulmuyordu. 

Bir diğer örnek ise Gender Shades araştırma sonuçlarından geliyor. Gender Shades yapay zeka destekli cinsiyet sınıflandırma ürünlerinin doğruluğunu değerlendiren bir araştırma projesidir. Bu proje IBM, Microsoft gibi şirketlerin kullandığı ticari yüz tanıma sistemlerinin kadınları erkeklerden daha fazla sayıda, yanlış sınıflandırdığını bulmuştur. Şirketlerin algoritmaları, daha açık tenli erkeklerin cinsiyetini belirlemede neredeyse mükemmeldi, ancak koyu tenli kadınların fotoğrafları sunulduğunda sıklıkla hata yapıyordu. 

Mevcut eğilim devam ettiğinde ortaya çıkacak etkiyi sadece basit bir sorgulamanın sonuçları olarak düşünmemeliyiz. Yapay zekanın yer aldığı her alanda eşitsizliği derinleştirecek, sağlıktan bankacılık hizmetlerine, güvenlik uygulamalarına; işe alımdan yükselme süreçlerine kadar yanlı kararların alınmasına yol açacaktır. Tüm bunların, kadınların ekonomik, psikolojik ve sağlık süreçlerine önemli etkileri olacaktır.

DİJİTAL CİNSİYET UÇURUMU

Etkili bir yapay zeka sistemi oluşturmak için, yani sorunu tanımlamadan, çözümü tasarlamaya ve girdileri seçip algoritma oluşturmaya kadar tüm süreçte, yapay zeka ekibinin kendisinin de seslendiği popülasyon kadar çeşitli olması gerekir. Bu sayede, hem cinsiyete dair yanlılıkları hem diğer önyargıları belirlemek ve ortadan kaldırmak mümkün olabilir. Ancak bugün teknolojik üretimin özellikle bu alanında derin bir cinsiyet açığı var.

Akıllı otomasyonda çalışan Rie Okubu, deneyimini şöyle ifade ediyor: "Bir kadın olarak deneyimim... aslında pek fazla kadın yok!" diyor. Haksız sayılmaz.

Çünkü, önde gelen teknoloji şirketlerine baktığımızda makine öğrenimi (machine learning) araştırmacılarının yalnızca yüzde on ikisi kadın. Yapay zeka hakkında araştırma makalelerinin yazarlarının ise yüzde on dördünden azı kadın ve kadınlar çevrimiçi küresel veri bilimi platformlarında yetersiz temsil ediliyor. Toplumun geleceğini şekillendiren bir alan için endişe verici bir istatistik. 

Bu uçurumun derinliğini artıran en önemli unsur, STEM alanında çalışan kadın oranıdır. Her ne kadar yüzyılın başında yazılım kadın işi olarak bilinse de, bugün rakamlar farklı bir temsiliyet sunuyor. Alan profesyonelleştikçe, kadınların yaptığı işler daha az prestijli kabul edilmeye başladı ve sektörün cinsiyet yapısı özellikle ev tipi bilgisayarların gelişmesiyle birlikte değişti. Toplumsal cinsiyet eşitliği konusunda önemli adımlar atılmasına rağmen STEM alanındaki kadın oranını ümit vadeden rakamlara hala taşıyamadık. Elbette bunun için erken yaşlarda kız çocuklarının teknoloji alanına olan ilgisini desteklemek ve beraberinde teknolojik araçlara ulaşmasına imkân vermek gerekiyor. Kız çocukları toplumda sürekli yeniden üretilen kalıp yargıların etkisi ile teknoloji alanına meyillenmiyorlar.

Kadınlar STEM alanından mezun olduğunda da mücadele bitmiyor. Dijital cinsiyet uçurumunun oluşmasının bir diğer önemli sebebi maalesef teknoloji alanındaki çalışma ortamının ve iş kültürünün eşitlikçi olmaması. Dijital dünya yüksek eğitimli profilin çalışma alanı olsa da madencilikle yarışacak düzeyde eşitsizliğin hâkim olduğu bir sektör. Bu alanlarda çalışabilmek bu şirketlerin her hücresine sinmiş olan “bro culture” yani ‘’abi kültürü’’ ile baş etmeyi gerektiriyor. Hem yapılan işe hem de kariyer süreçlerine baktığımızda ücret eşitsizliğinden fırsat eşitsizliğine ve cam tavan etkisine kadar çeşitli engellerden bahsediyoruz. Dünyadaki büyük teknoloji şirketlerinin neredeyse tamamının erkekler tarafından yönetiliyor olması da bunun önemli göstergesi. Sektörün bu cinsiyetçi doğası, bu alanda var olmaya hevesli kadınların, işe başladıktan kısa bir süre sonra uzaklaşmasına sebep oluyor. Harvard Business Review’ın araştırmasına göre bilim, mühendislik ve teknoloji alanlarında çalışan ABD'li kadınların, erkek meslektaşlarına göre işe başladıktan bir yıl içinde işi bırakma olasılıkları yüzde kırk beş daha fazla.

Etkili bir yapay zeka sistemi oluşturmak için yani sorunu tanımlamadan, çözüm tasarlamaya ve girdileri seçip algoritma oluşturmaya kadar tüm süreçte yapay zeka ekibinin kendisinin de seslendiği popülasyon kadar çeşitli olması gerekir. Bu sayede hem cinsiyete dair hem diğer önyargıları belirlemek ve rotadan kaldırmak mümkün olabilir. Yapılabilecekler sorunun kendisinde saklı. Erken yaşta kız çocuklarını kodlamaya teşvik etmek, meraklı olmaları ve soru sormaları konusunda teşvik etmek hepimizin atabileceği adımlar. Etrafta ne kadar görünür model olursa o kadar ilham artırıyor ve kız çocukları kalıpların dışında düşünmeye cesaret buluyor. Kadınların aktif teknoloji kullanıcısı olarak görülmesi ve bu alanda çalışmak isteyen kadınların desteklenmesi gerekiyor. Çünkü gelecek, yapay zekada!

*Doç. Dr. Marmara Üniversitesi, İktisat Fakültesi