Adaletin bu mu yapay zeka?

Özlem Altıparmak*

Bilgisayarla ilk karşılaşmanızı hatırlıyor musunuz bilmem. Ben ortaokuldaydım ilk kez Apricot marka bir bilgisayarın önüne oturduğumda. Yıl 1986. Okuduğum Anadolu Lisesi’ne az sayıda bilgisayar alınmış ve bir laboratuvar kurulmuştu. Matematiği iyi öğrencilerden bir seçme yapılmış, ben de her nasılsa o şanslı azınlığa dahil olup bilgisayar dersini almaya layık görülmüştüm. İlk derste hocamız bizi bilgisayarla tanıştırmış ve hepimizin çalışmak üzere birer disketi olmuştu. Hocanın ilk uyarılarından biri, bilgisayarı asla disket takılıyken kapatmamamızdı. Bilgisayar büyük zarar görebilirdi, zaten çok pahalı bir aletti ve bizler çok dikkatli olmalıydık. Heyecanla bu yeni mucize aleti anlamaya çalışırken olan oldu ve ben ikinci dersin sonunda disketimi bilgisayar içinde unutarak mucize aleti kapattım. Durumu fark ettikten sonra nasıl bir panik ve korku yaşadığımı size anlatamam. Kimseye bir şey anlatamadım. Bir yandan beni ha bugün ha yarın müdür odasına çağıracaklar diye beklerken, bir yandan da çok ama çok pahalı olan bu bilgisayarı ailem nasıl öder diye hesap edip durduğum bir haftanın sonunda yeni ders saati geldi ve içinde disket unuttuğum bilgisayarın karşımda sapasağlam durduğunu gördüm.

Bilgisayarla ilk deneyimimin azıcık travmatik olmasından ve küçük çapta bir suç ve ceza sorgulamasıyla başlamasından olsa gerek, diğer sınıf arkadaşlarım bilgisayar, mühendislik gibi alanlarda kariyer yaparken, ben bilgisayarla arama epey mesafe koyup hukukçu olmayı seçtim. Aradan geçen otuz beş yılda kişisel bilgisayar, internet, cep telefonları derken, hayatım hukuk ve bilgisayarla ayrılmaz bir bütün haline geldi. Analog hayatta büyümüş bir “dijital göçmen” olarak elimden geldiğince teknolojinin hızına uyum sağlamaya ve gelişmeleri takip etmeye çalışıyorum. Bu baş döndüren yolculukta adını gittikçe daha sık duyduğumuz bir kavram var: “Yapay Zeka”. Bilimkurgu filmlerinin etkisiyle yapay zeka deyince aklımıza hemen kontrolden çıkmış robotlar ya da dünyanın sonunu getirecek bir “terminatör” geliyor ancak işin aslı pek öyle değil.

Yapay zeka, verili görevleri yerine getirmek için insan zekasını taklit eden ve topladıkları bilgilere göre kendini geliştirebilen işletim sistemleri veya makineler olarak tanımlanabilir. Çok farklı biçimde kullanımı var bu sistemlerin. Müşteri hizmetlerinde kullanılan asistanlar, Facebook uygulamasında arkadaş ve Youtube kanalında otomatik video önerileri, yüz ve ses tanıma gibi bilgi çıkarımları bunlar arasında sayılabilir. Yapay zeka, özel bir şekil ya da işlevden ziyade, genel olarak güçlendirilmiş düşünce, veri analiz yetisi ve süreçleriyle ilgili. Yapay zekanın uzun zamandır kullanımda olsa da günümüzde “derin öğrenme” ile birlikte yapay zekanın aşırı komplike görevleri tek başlarına yerine getirebildiklerini görüyoruz.

Hukukun bir konuyu düzenlemesi için önce durumun ve etkilerin ortaya çıkması gerekir. Bu nedenle yapay zeka, teknolojik gelişmelerin ortaya çıkmasını takiben hukuk içinde düzenlenme yapılan bir alan. Bu düzenlemeler yapılırken de teknolojik gelişimin faydası ve temel değerlerin korunması arasında hassas bir denge gözetmek şart. Çünkü yapay zekanın edindiğimiz bilgiyi, yaptığımız seçimleri ve toplumun işleyişini değiştirme gücü var ve yapay zeka, fayda kadar risk de getiriyor beraberinde. İşte tam da bu noktada insan hakları, demokrasi ve hukukun üstünlüğünü dikkate alarak konuyu tartışmak elzem oluyor.

Adına yapay zeka diyelim ya da demeyelim, algoritmalar çoktan hayatımızın içinde. İşe alınacak en iyi adayı da, doktorun teşhisini de bu algoritmalar belirliyor. Algoritmayı nasıl oluşturduğumuz oldukça önemli çünkü yapay zekaya etik, kişisel veri algısı ve diğer tüm ilkeleri biz veririz. Yapay zeka bunları yorumlar ve sonuçlar çıkarır. Bu sebeple makine öğrenmesinin, açık ve net sınırlar olmadan ve hakların gözetilmediği bir çerçevede geliştirilmemesi gerekir.

Olması gereken böyle ancak, uygulama acaba böyle mi? Korona virüs sürecinde gerek tanı, gerekse dijital takip açısından yapay zekanın yaygın kullanımına tanık olduk. İngiltere’de polis, suçluların tespiti için yüz tarama sisteminde algoritmalardan yararlanıyor ve bu algoritmalar siyahları ve belli grupları potansiyel suçlu olarak tespit etmeleri ve ırkçılığa sebep olmaları nedeniyle eleştiriliyor. Suçu önleme adı altında, suçun işleneceğine ve suçu işleyecek kişiye dair öngörü geliştiren sistemler var. Kredi değerlendirmelerinde, işe alımlarda, sosyal güvenlik sistemlerinde yapay zeka teknolojisinden faydalanılıyor. Bu uygulamalara baktığımızda kırılgan ve dezavantajlı durumda olan birey ve grupların haklarının etkilendiğini, eşitsizliğin ve ayrımcılığın teknoloji vasıtasıyla yeniden üretildiğini görüyoruz. Çok büyük miktarda verinin yapay zeka tarafından kontrolsüz biçimde depolanıp kullanılması özel hayatın gizliliği açısından büyük tehlike arz ediyor. Bu sayede insanlar üzerinde, köklerini teknolojide bulan yeni bir baskı formu kurulması mümkün hale geliyor.

Teknoloji cephesinde bu gelişmeler olurken, konu Avrupa Konseyi’nin de gündeminde. Konsey, bu konudaki yatırımlarını yıllar içinde sürekli olarak arttırdı ve son olarak 2030 yılına kadar ayırdığı bütçeyi 200 milyar Euro olarak açıkladı. 2021 yılında konuyla ilgili bir kanun taslağı çıkarmayı hedefliyor ve Haziran ayında bu konuda özel amaçlı bir Komite kurdu. Komitede Türkiye’nin de arasında bulunduğu ülkelerden temsilciler var.

Peki, yapay zekayı yargı sektöründe kullanan ülkeler var mı? Çin’de adliyelerde yüzden fazla robot görev yapıyor ve bu robotlar vatandaşlara hukuki danışmanlık hizmeti veriyor. Mahkemelerin yükünü azaltmak amacıyla, verilerin taranması (örneğin sosyal medya mesajlarının taranarak suç niteliği taşıyan ifadelerin tespiti) gibi kullanımlar mevcut. Çin, yakın bir gelecekte akıllı yargılamayı yaygınlaştırmayı hedefliyor. Estonya bir diğer ilginç örnek. Sözleşmeye dayalı anlaşmazlıkların çözümünde yapay zeka kullanımı üzerine pilot bir sistem geliştirmişler. Tarafların ellerindeki belge ve bilgileri yüklemesi akabinde yapay zekanın sözleşmeye dayanarak karar verdiği, kararın temyizinin ise insan bir hakim tarafından incelendiği bir uygulama üzerinde çalışılıyor. Hollanda, sığınma taleplerinin kabulü ve trafik cezaları gibi spesifik konularda pilot bir uygulama başlatmış. Avusturya, karar alıcı değil ama hakimin karar almasına yardımcı rolde yapay zeka kullanımı üzerine çalışıyor. Kanada’da online çatışma çözümü ve arabuluculuk uygulamaları gündemde. Algoritmalar yardımıyla tarafların kendi durumları ve BATNA (müzakere edilen anlaşmaya en iyi alternatif) üzerine düşünmelerini mümkün kılan değerlendirme araçları geliştiriliyor.

Avrupa Komisyonu bu gelişmeler karşısında yapay zekanın yargı sistemlerinde kullanımıyla ilgili etik prensipleri bir tüzükle belirleme ihtiyacı duydu. Tüzük, yapay zeka ile yargıda etkinlik ve kaliteyi arttırırken sorumlu bir şekilde davranmayı, Avrupa İnsan Hakları Sözleşmesi ve kişisel verilerin korunmasına dair düzenlemelerdeki haklara saygıyı ve bu sözleşmelere uygunluğu şart koşuyor. Bu prensipleri temel haklara saygı, ayrımcılık yasağı, güvenlik, şeffaflık, tarafsızlık, adillik ve kullanıcı kontrolünde olma şeklinde özetlemek mümkün.

Adil olmak diyoruz ama nedir bu adalet dediğimiz şey? Biz hukukçular, münferit olaylarda adalet peşinde koşmaktan ve verilen bir hükmü adalet kabul etmekten, gerçek anlamda adalet problemi üzerine düşünmez oluyoruz. M. Sandel “Adalet” kitabında farklı adalet yaklaşımlarını açıklar ve varsayımsal durumlar üzerinden ahlaki muhakemenin dayanağını sorgular.

Yanıtlamamızı istediği ilk soru şudur: Kontrolden çıkmış bir tramvayın sürücüsüsünüz ve giderken frenlerin çalışmadığını fark ediyorsunuz. Ray üzerinde beş işçi çalışıyor, çarparsanız hepsi ölecek. İlerde rayların ikiye ayrıldığını görüyorsunuz ve diğer yolda sadece bir işçi çalışıyor. Ne yaparsınız? Bu soruya çoğu insan rayı değiştirir, beş yerine bir kişinin ölümünü tercih ederim diye cevap veriyor. Haydi soruyu değiştirelim. Sürücü değilsiniz, köprü üzerinde bir izleyicisiniz ve tramvayın freninin tutmadığını fark ediyorsunuz. Beş işçi ray üzerinde çalışıyor ve sizin yanınızda oldukça kilolu biri duruyor. Onu köprüden iterseniz sadece onun öleceğini, tramvayın duracağını ve beş işçinin kurtulacağını biliyorsunuz. Siz atlasanız durmayacak çünkü çok zayıfsınız. Yanınızdaki kişiyi köprüden iter misiniz? Durun ve düşünün lütfen. Hayır, itemem; o sorumluluğu alamam mı dediniz çoğu insan gibi? Biraz daha değiştirelim soruyu. Tramvayı süren sizsiniz ve elinizin altında bir buton var. Butona bastığınızda köprünün korkulukları açılacak, korkuluklara yaslanan iri yapılı kişi düşüp treni durduracak ve ray üzerindeki beş işçi kurtulacak. Butona basar mısınız?

Eğer adalet yaklaşımını “refahı maksimize etmek” temelinde kuruyorsanız, üç durumda da çoğunluğun refahı için azınlığı feda etmeniz (tramvayı bir işçi yönüne sürmeniz, köprüde yanınızdaki kişiyi itmeniz ve butona basmanız) gerekir. Adil olan budur. Aynı durumla yapay zeka karşılaştığında bu kararları çok daha hızlı ve tereddütsüz verecektir. Hatta yapay zeka, bir kişiden alınacak organla beş kişi yaşayacaksa, bir kişiyi feda etmenin adil olduğu sonucuna bile varabilir. Bir algoritmayla, organ alınacak en uygun kişiyi seçer ve o kişinin organlarını beş kişiye vererek onları yaşatır. Çoğunluğun refahı ilkesi bunu gerektirir.

Ancak adalete özgürlük temelinde ya da bir erdem olarak yaklaşırsanız, yukarıda sorulara vereceğiniz yanıtlar değişir. Öyle zamanlar olur ki muktedirin yasa ve kurallarıyla belirlenen adalete, yine adalet duygusuyla karşı çıkma hakkımız ve sorumluluğumuz doğar bizim. Adalet her zaman bir rasyonalite içerisinde değerlendirilir ve adil olmayı kabul edilen ilkeler belirler. Yapay zekadan adalet beklerken bizim ona sunduğumuz etik ilkeler bu nedenle çok önemlidir.

Yazıyı bitirirken sizi son bir soruyla baş başa bırakayım istiyorum. “Seçme şansınız olsa, yapay zeka bir hakimin sizin davanızda karar verici olmasını ister miydiniz?”

*Avukat