Ürünün kölesi olmak

“Yapay zekanın tam olarak gelişmesi insanlığın sonunu getirebilir.” Stephen Hawking insanlığı yapay zekaya dair uyarıyor. Hatta Alan Musk gibi teknoloji alanında inovasyonun bayraktarlığını yapan girişimci bir isim ve MIT ve Cambridge gibi dünyanın en saygın üniversitelerinden profesörlerle birlikte bir uyarı mektubu yayınlıyorlar.

Tartışmanın ilgi çekici başlıklarından biri de sürücüsüz arabaların karar verme süreçleri. Evet, kırmızıda dur, yeşilde geç, hatalı sollama yapma vesaire. Özellikle İstanbul trafiğini düşünecek olursak trafik sürücüsüz biçimiyle muhtemelen daha güvenli hale gelecektir. Peki, engellenemez biçimde bir kaza ile karşılaşıldığında sürücüsüz arabamız nasıl bir algoritma ile çalışacak? Örneğin yola bir çocuk fırladı ve fren yapsa bile çocuğa ölümcül biçimde çarpacak ya da direksiyonu kırıp yoldan geçen yaşlı bir çifti ezecek, başka seçeneği yok. Bu araba genç bir insan, yaşlı bir insan, kendi sürücüsü, kazaya neden olan insan gibi değişkenlerden hangilerini göz önüne almalı karar verirken. Kimin hayatı daha değerli?

Meşhur tramvay probleminde insanların ahlaki yargılama süreçlerinde çok da tutarlı olamadıkları gözlenmiş durumda. Freni patlamış bir tramvay içindeki 5 yolcunun ölümüne neden olacak bir yolculukta. Gittiği hatta bir makas var ve makasın yanında duruyorsunuz. Makası değiştirmezseniz içindeki 5 kişi ölecek, değiştirirseniz tramvayın girdiği hatta bakım yapan 1 işçi ölecek ama 5 kişi kurtulacak? Ne yapardınız? Başka bir örnekte zaman makinesi ile geriye gidip Adolf Hitler’in çocukluğunu gördünüz. Milyonlarca insanı kurtarmak için onu öldürür müydünüz? Ya da Adolf banyodayken ayağı kayıp düştü ve başını çarpıp bayıldı. Müdahale etmezseniz küvette boğularak ölecek. Kurtarır mıydınız? Aradaki fark ne? İşte bu sorular o kadar zor ki sürücüsüz araçların kimi kurtaracağı ve kimi öldüreceğine karar verebilmeleri için Stanford Üniversitesinden felsefeci istihdam edilmiş durumda.

Eli biraz daha büyütelim ve sürücüsüz aracımızın karar verme algoritmasına kendini korumasına yönelik de bazı değişkenler eklendiğini düşünelim. Elbette Asimov’un 3 robot yasası çerçevesinde bir insana zarar vermeden yapacaktır ne yapacaksa. Yine de ya işler kontrolden çıkarsa? Bu uyarıların akla getirdiği Terminatör ya da Matrix serilerinde olduğu gibi yapay zekanın üretim araçlarının kontrolünü tamamen eline geçirmesi ardından da insanları köleleştirmesi. Öyle ya, üretim araçlarını eline geçiren her sınıf aynısını yapmamış mıydı tarih boyunca?

Belki de bunları tartışmanın bir anlamı kalmadı, atı alan Üsküdar’ı geçti mi yoksa? Burada Sapiens’in yazarı Harari’yi hatırlamakta yarar var. İnsan mı buğdayı evcilleştirdi, buğday mı insanı diye sorar Harari. İnsan bin yıllardır uyumlandığı avcı-toplayıcı komünal yaşam biçimini buğdayı üretmek üzere terk ederek yerleşik düzene ve mülkiyet ilişkilerinin belirlediği bir dünyaya geçiş yapmıştır. İnsanın buğday üzerinde bir etkisi vardır ama sanki buğdayın insan yaşamına yaptığı etki daha fazla gibidir. Elbette bir takım buğday taneleri tarlada kafa kafaya verip “Bu insanları öyle bir hale getirelim ki bizi yetiştirmek için analarından emdikleri süt burunlarından gelsin” dememişlerdir, eşyanın kanunu gereği bir niyetlilik olmaksızın buğday insanda böyle bir etki bırakmıştır. Bir sığırcık sürüsü uçarken oluşturduğu şekillere bakınca bir niyetlilik varmış gibi algılanabilir ama fraktal boyut tam da böyle şekillenir işte. Küçük ve basit bir iki kuralın tekrarlanması sonucunda karmaşık ve niyetlilik barındırdığı izlenimi veren bir takım fenomenler oluşturur.

Neyse, diyeceğim o ki, belki de teknoloji de buğdayın yaptığının bir benzerini yapmıştır bile türümüze. Teknoloji artık geri dönüşümsüz biçimde kendine uyumlanmaya mecbur bırakmış olabilir insanlığı. Skynet gibi bütünlüklü bir yapı ve niyetlilik barındırmaksızın bile, şu anki haliyle insanlık köleleşmiş olabilir. Teknoloji devrimi tıpkı tarım devrimi gibi insanlığın kendi emek ürününün kölesi haline gelişinin trajedisinde ikinci bir sahne olabilir.

Ya da orta yaşlılığın yenilikten korkusunu entelektüalize etmesinden başka bir şey değildir bütün bu laf kalabalığı. Yine de telefonunuzu ya da bilgisayarınızı bu yazıyı okuduktan hemen sonra kapamayı başaramayacaksınız, değil mi…