Algoritmalar, veriler ve ‘yeni normal’
Veri bilimci Cathy O’Neil'ın "Matematiksel İmha Silahları" kitabı Akın Emre Pilgir çevirisiyle Tellekt Yayınları tarafından yayımlandı. O'Neil kitapta, hem birey hem de toplum olarak geleceğimizi şekillendiren "matematiksel imha silahları"nın özgeçmişleri nasıl sıraladığını, kimlere nasıl kredi verdiğini, çalışanları nasıl değerlendirdiğini, seçmenleri nasıl hedeflediğini ve sağlığımızı nasıl izlediğini göz önüne sererken, modelcileri ve politikacıları algoritmalarla ilgili daha fazla sorumluluk almaya davet ediyor.
2000’lerin başında, Francis Bacon’dan ödünç alınan söz sloganlaştırılmıştı: “Bilgi güçtür.” Sonra bu biraz değiştirildi: “Bilgi en önemli silahtır.” Aradan çok uzun zaman geçmedi belki ama hızlı dönüşümler yaşandı ve slogan da bundan payını aldı: “Veri her şeydir.”
Doğrulamaya ya da yanlışlamaya gerek duymadan, “verinin” tanrılaştırılmasıyla veya yaşamın merkezine yerleştirilmesiyle birlikte manipülasyonlar ve yönlendirmeler önemli hâle geldi; siyasetten alışverişe, sağlıktan seyahate, ekonomiden kültür-sanata kadar neredeyse tüm alanlar algoritmalarla şekillendirilir oldu ve bu, “yeni normal”e dönüştü. Başka bir deyişle matematiksel ve istatistiki modeller, yaşamımızda hiç olmadığı kadar etkinleşti; her şey daha demokratik ve eşit olacak diye düşünürken ayrımcılık derinleşti ve demokrasi için alarm zilleri çalmaya başladı.
Veri bilimci Cathy O’Neil, Matematiksel İmha Silahları başlıklı kitabında yukarıdaki tezi öne sürüp Büyük Veri tartışmasına katılırken verilerle ve algoritmalarla biçimlenen modellerin, şeffaf olmadığını, bu nedenle hepsinin birer kara kutu diye nitelenebileceğini söylüyor. Yaratılan hedef kitleyi manipüle etmek için kullanılan bu modeller, hakikate dair şüpheler uyandırıp yeni tartışmaların fitilini ateşliyor.
SAĞIR BİR VERİ EKONOMİSİ
Çocukluğunda ve gençliğinde matematiğin “gerçek dünyanın düzensizliğine karşı tertipli bir sığınak” olduğunu düşünen O’Neil, büyüyüp matematik okuduktan ve çalışmaya başladıktan sonra meselenin farkına varmış. Özellikle hızla değişen dünyada, 2008 krizinin ardından, matematikçi ve istatistikçilerin yeni teknikler geliştirerek insanların “arzularını ve hareketlerini incelediğini”, “kişilerin güvenilirliğini tahmin ettiğini; öğrenci, işçi, sevgili, suçlu olarak potansiyelini hesapladığını” görmüş. Kısacası Büyük Veri ekonomisinin işleyişini ve bununla birlikte bir sorunu fark etmiş: “Veri ekonomisine güç veren matematik tabanlı uygulamalar, yanılabilen insanların tercihlerine dayanıyordu. Bu tercihlerden bazıları şüphesiz çok iyi niyetle yapılıyordu. Buna rağmen bu modellerin çoğu, insanların önyargılarını, yanlış anlamalarını ve yanlı tutumlarını, giderek hayatımızı daha çok yöneten yazılım sistemlerinin içine kodluyordu. Bu matematiksel modeller, aynı tanrılar gibi anlaşılmazdı. Yaptıkları kendi ihtisasları içinde en üst noktaya gelmiş ruhbanlar yani matematikçiler ve bilgisayar bilimcileri dışında kimsenin göremediği şeylerdi. Verdikleri hükümler, yanlış veya zararlı olsa bile tartışmaya ve itiraza kapalıydı. Dahası, toplumumuzun yoksullarını ve ezilmişlerini cezalandırırken zenginleri daha da zenginleştirme eğilimindeydiler. Bu zararlı modellere bir isim buldum: Matematiksel İmha Silahları veya kısaca MİS’ler.”
O’Neil’a göre MİS’lerin en önemli özelliği, yönlendirmelerle ve manipülasyonlarla arzuları biçimlendirip arz-talep dengesini belirlemek ya da bozmak. Hâliyle bu da “kimseyi dinlemeyen”, “kendisine başvuruda bulunulmayan”, tehditlere, tatlı dile ve mantıklı seslere sağır bir veri ekonomisi yaratıyor. Diğer bir ifadeyle, duygusuz ve puanlara dayanan bir algoritma silsilesi çıkıyor karşımıza. Yazarın deyişiyle renkli ve albenili ambalajının ardında karanlık tarafı ağır basan ve ekonominin mikro yönetimini üstlenen, çoğunlukla hilekâr Büyük Veri bu: İnsanların başını döndüren rakamlarla kusurları örten, olumsuzlukları geri plana itip “kazananlara odaklanılması gerektiğini öğütleyen bir sistem…”
ÖĞRENEN MAKİNELER
Yazarın algoritmalar, veriler ve istatistikler şeklinde özetleyerek MİS başlığı altında topladığı rakamsal doneler, modellerin kanaate dönüşmesinde önemli rol oynuyor; böylece “sınanmayan zehirli varsayımlar” üretilebiliyor kolaylıkla. Sonra bir bakmışız ırkçılık, farkına bile varmadan “normalleşiyor.”
O’Neil’ın hatırlattığı kritik bir soru var: Önyargıları ortadan mı kaldırıyoruz, yoksa onları teknolojiyle kamufle mi ediyoruz? Algoritma ve veri ekonomisinin işleyişine bakılırsa yeni önyargılar ve tehlikeli varsayımlar yaratılıyor ve bunlar manipülasyonlar için kenarda bekletiliyor.
Matematiksel İmha Silahları, Cathy O’Neil, Çevirmen: Akın Emre Pilgir, 254 syf., Tellekt Yayınları, 2020.
O’Neil, farklı alanlar arasında mekik dokuyan, gücünü algoritmalardan alan adaletsiz modellerle ilgili hayati bir not düşmüş: “Salgın hastalıklar alanında yapılan bir araştırma, gişe tahminleri için fikir elde etmede kullanılabilir. İstenmeyen postalar için kullanılan filtreler, AIDS virüsünü tanımlayacak şekilde yeniden kurgulanır. Aynısı MİS’ler için de geçerlidir. Yani hapishanelerdeki matematiksel modeller, görünüş itibariyle görevinde başarılı oluyorsa (neticede başarı, insanların etkili bir şekilde yönetilmesine tekabül ediyor) diğer MİS’lerle birlikte ekonominin geri kalanına yayılıp bizi tali bir hasar olarak arkasında bırakabiliyor.”
Ömrümüz boyunca satın alamayacağımız bir eve, kredi çekerek sahip olmamızı sağlayan ve sonra onun elimizden alınmasına aracılık eden bu sistem, hem manipülasyonlarla hem de risk modelleriyle sürekli ayakta kalmayı başarıyor. Yazarın da anımsattığı üzere finans ve Büyük Veri arasındaki bağ, söz konusu “sürdürülebilirlikte” önemli rol oynuyor.
Tabii konunun bir de üstüne bolca spekülasyon üretilen “makine” tarafı var: “Verileri işleyen makineler, sunduğumuz verileri giderek kendi başına inceliyor, alışkanlıklarımızı, umutlarımızı, korkularımızı ve arzularımızı araştırıyor. Otomatik öğrenmeyle ve hızla büyüyen yapay zekâ alanıyla bilgisayarlar, sadece basit talimatları takip ederek verilere dalıyor. Algoritmalar kendi başına örüntüler buluyor ve sonrasında bunları zamanla belli sonuçlarla ilişkilendiriyor. Bir bakıma öğreniyorlar.”
DEVREYE GİRMESİ GEREKEN AHLAK
Yoksulları yakalayan dijital ağlarda, güveni ölçüp sayısallaştırmanın, dolayısıyla “adaleti tesis etmenin” güçlüğünden bahseden O’Neil’a göre tuzağa düşmekten çok tuzağa düşüren Büyük Veri, pseudo bir bilim yaratıyor. İstatistiki kusurların maskelendiği bu sistemde puanlar ve rakamlar, manipülasyonu kolaylaştırdığı gibi yarattığı bulanık ortamda arı bir zihinle eylemde bulunmayı engelliyor.
O’Neil; MİS’lerin âdillik ve etkinlik iddiasının altında, eğitimde eşitsizliği derinleştirmenin, borcu artırmanın, daha fazla insanı hapse göndermenin, yoksulluğu keskinleştirmenin ve demokrasinin altını oymanın yattığını ifade ederken, verilerin kişileri “yüksek risk unsuru” ya da “kolay hedef” hâline getirdiğini ekleyip “MİS’lerin dünyasında yoksul olmak, sürekli daha tehlikeli ve pahalı olmak demektir” diyor.
O’Neil, verilerin ve bilgisayarların hiçbir yere gitmeyeceğini, modellerin hangi verilerle ilgilenip ilgilenmeyeceğini yönlendiren tercihlerle inşa edileceğini ve bu noktada ahlakın devreye gireceğini söylüyor. Son söz yazarın: “Büyük Veri süreçleri, geçmişi kodlara aktarır. Geleceği icat etmezler. Bunun yapılması için ahlaki bir hayal gücü gerekir ve bu sadece insanların yapabileceği bir şeydir. Açık bir şekilde algoritmalarımıza daha iyi değerler gömmek ve ahlaki öncülüğümüzü takip edecek Büyük Veri modelleri yaratmak zorundayız. Kimi zaman bu, hakkaniyeti kârın önüne koymak demektir.”