İnsan dururken, kim korkar robottan?

Robotik ve yapay zekâ uygulamalarının gelişmesi, insan etkinliklerinin pek çoğunun kısa bir süre içerisinde robotlar tarafından yerine getirilebilmesi potansiyelini taşıyor ve bu potansiyelin gerçekleşmesi durumunda gündelik hayatın ciddi bir biçimde değişmesi ihtimali, geleceği bir yandan heyecan verici, diğer yandan da endişe uyandırıcı kılıyor.

Robotlar giderek pek çok iş alanında insanların yerini alıyor. İşlerin robotlar tarafından yapılması, robotların üretim sürecine getireceği verimliliğin ve bunun neden olduğu refah ve boş zamanın tüm insanlığı özgürleştirmesi ihtimali olsa da, robotların mülkiyeti kapitalistlerin elinde olduğunda bunun insanlık açısından tekinsiz bir gelecek yaratması da kaçınılmaz hale geliyor. Elbette ki, Ümit Akçay’ın geçtiğimiz aylarda Gazete Duvar için yazdığı bu konudaki yazısını hatırlayıp, yazının başlığını, “sorun kapitalizm robotlar değil” diyerek vurgulamak gerekiyor.

TEKİNSİZ SULAR

Diğer yandan geleceğin tekinsiz olduğu hissinin tek nedeni de robotların insanların işlerini elinden alma ihtimali değil. İnsanın kendisine benzeyen, bilinç ve zekâya sahip makineler yapma tutkusu, başka endişeleri de gündeme getiriyor. Kuşkusuz, robot teriminin ilk kez kullanıldığı ve geçen haftaki yazıda bahsettiğim, Osmanlıcasıyla “Alemşümul Sahte Adamlar” yani, Karel Capek’in R.U.R. (Rossum’s Universal Robots) isimli oyunu, hiçbir tutku, tarih ve ruha sahip olmadıkları halde, insanlardan daha güçlü ve zeki olduklarının farkına vararak insanları yok eden robotları ile kendine benzeyen makineler yapmaya çalışmanın insanlığı tekinsiz sulara sürükleyeceği konusunda uyarmaya çalışıyordu.

Üstelik robotların Capek’in oyununda anlatıldığı gibi duygulara, tutkulara sahip olup olmadığı sorusu da yapay zekâ uygulamaları arttıkça zihinleri meşgul eder hale geliyor. Örneğin 2014 yapımı Ex-machina filminde yapay zekâ AVA, “insan gibi” görünme, konuşma, hareket etmenin ötesinde varlığını sürdürebilmek için bir bilince sahip olduğunu, insan gibi düşünebildiğini kanıtlamak zorunda kalıyor. Kanıtlamanın yolu ise “imitasyon (taklit) oyunu” diye de bilinen Turing testini geçmek.

TAKLİT OYUNU

1951’de Alan Turing tarafından geliştirilen ve günümüzde hala yapay zekâ konusunda bir ölçüt kabul edilen test, makine ile insanı ayırt edip edememe üzerine kurulu. İlk ortaya çıkışından bu yana insan bilinci, düşünme, anlama gibi kavramlar etrafında dönen derin tartışmalara konu olan Turing testinin orijinalinde bir paravanın arkasında bir bilgisayar ve bir insan bulunuyor. Bir grup insan sorular soruyor ve aldıkları cevaplardan yola çıkarak bilgisayar ile insanı ayırt etmeye çalışıyorlar. Eğer bilgisayar verdiği yanıtlarla soruları soran kişileri kandırabilirse testi geçmiş sayılıyor, yani “düşünen makine” olarak niteleniyor. Başka deyişle, bir makineden testi geçebilmesi için başarılı bir şekilde insan taklidi yapması bekleniyor.

AVA’nın girdiği testte ise karşısında bir bilgisayar programcısı olan ve kendisini yaratan Nathan’ın şirketinde çalışan Caleb var. Caleb’i bir makine olmadığına inandırmak zorunda olan, ancak bir makine olduğunun anlaşıldığı noktadan sonra da “yaşama tutkusuyla” Caleb’i tanımaya çalışan ve onu nasıl cezbedip kendisine yardım etmesini sağlayacağını düşünmeye başlayan AVA, sonunda hayal gücünü, seksiliğini, farkındalığını, empati ve manipüle etme yeteneklerini kullanarak kendini yok olmaktan kurtarıyor ve Caleb’i ölüme terk ediyor. Elbette bir makine olduğu anlaşılmış olmasına rağmen, tıpkı bir insan gibi davranarak kendi varlığını koruyan AVA’nın testi geçip geçemediği bir soru olarak havada asılı kalıyor.

"İNSAN HATASI"

Geçen yazıda bahsettiğim Asimov’un üç “robotik kuralı”, tam da akıllı robotların kendi çıkarları için akıl yürütmekten alıkoyulmak üzere programlanması anlamına geliyor. Bu üç kuralla bir akıllı robotun kendi varlığını koruması, bir insana zarar vermeme ve bir insanın verdiği emre (elbette başka bir insana zarar vermediği sürece) uyma zorunluluğuna bağlanıyor. Ancak bu kural bile zeki ve bilinç sahibi robotların yarattığı tekinsizlik duygusunu engellemiyor.

Arthur C. Clarke’ın 2001 Bir Uzay Efsanesi adıyla Türkçeye çevrilen kitabındaki HAL 9000 tam da bu duygunun bir diğer kaynağını işaret ediyor. HAL 9000, Discovery adlı uzay gemisinin çıktığı yolculukta, ikisi görev başında, üçü ise görev yerine varana dek uyutulmuş beş insan mürettebatla birlikte. Yolculuk sürerken, aslında olmayan bazı arızalar bildirerek gemideki iki insan mürettebatı, Poole ve Bowman’ı ve dünyadaki kontrol merkezini yanıltıyor. Bütün sistemlerin sorunsuz çalıştığı fark edildiğinde ise kendi görüşünde ısrar ederek “insan hatası”ndan söz ediyor. Poole ve Bowman bir sorun olduğunun farkına varıyorlar ve HAL 9000’ü kapatmak yani düşünebilen bir bilgisayar için ölümün eşdeğerini de içeren bir plan yapıyorlar. Ancak bu planı uygulamadan önce, tüm tereddütlerine rağmen HAL 9000’in ısrar ettiği arızaya dair önerdiği programı uygulamaya koyuluyorlar. HAL 9000 önce arızayı onarmak için dışarı çıkan Poole’u uzay boşluğuna atıyor; arkadaşının peşinden giden Bowman’ın gemiye dönüşüne izin vermiyor ve bu arada uyuyan üç mürettebatın hayat destek sistemlerini kapatarak ölüme terk ediyor. Bowman bilgisayar kontrolü altında olmayan bir acil durum kapısından içeri girip, HAL 9000’i etkisiz hale getiriyor. Ama uzayda yapayalnız kalıyor. Serinin devam kitabı olan 2010 Uzay Efsanesi-2’de HAL 9000’e bu yolculukta verilen görevin tasarım amacı ile çelişki içinde olduğunu ve bilgisayarın içine düştüğü ikilem nedeniyle psikoza girdiğini, durumdan kurtulmanın yolu olarak insan yol arkadaşlarını yok etmeye karar verdiğini öğreniyoruz.

Arthur C. Clarke’in kurguladığı HAL 9000’in psikozu, yapay zekâ ya da bilinç taşıyan makinelere dair önemli endişelerden bir diğerini daha somutluyor. Yapay zeka tasarımları daha karmaşık hale gelirken ve işlemcileri hızlanırken, giderek daha fazla sorumluluk yükleniyorlar. Ancak tasarımcılar tarafından her seferinde yeni bir algoritma yazıp sisteme ekleyerek yapay zekâya yüklenen bu sorumluluklar, istenmeyen sonuçlara neden olabilir mi? Yani yapay zekâ tasarımları mükemmel olsa bile, tıpkı HAL 9000’in iddia ettiği üzere “insan hatası” sözkonusu olduğu sürece tamamen güvenilir yapay zekâ uygulamaları olanaklı mıdır?

SORUN GERÇEKTEN DE ROBOTLAR DEĞİL

Capek’in robotlarının yaratıcılarını öldürmesinin, AVA’nın testi geçip geçemediğini yanıtlamaya çalışmanın ya da HAL 9000’in girdiği psikozun yarattığı tekinsizlik, tam da robotların insan için aynadaki yansıması gibi olmasından, bir yandan çok tanıdık diğer yandan çok yabancı olmasından, insanı en karanlık yanı ile yüzleştirmesinden kaynaklanıyor. İnsanları ya da bütün olarak insanlığı yok etmeye karar veren robotları ele alan, her birisi de farklı gelecek tahayyülleri içeren senaryolar, aslında kendilerini üreten insanı aşan bir zekâya sahip olan robotların artık insana ihtiyaç duymaması temeline dayanıyor.

Şöyle bir bakıldığında süper zeki robotlar insana neden ihtiyaç duysun ki? Birbiriyle savaşan, birbirini öldüren, üzerinde yaşadığı gezegeni kendisiyle birlikte hızla yok olmaya doğru götüren, varolan kaynakları eşit olarak paylaşamayan bir toplumsallığın parçası olarak insanın varlığını, süper zeki robotlara karşı haklı gösterebilmek de oldukça zor. Tüm bunları düşünerek, “sorun insan toplumunun kendisi, robotlar değil” dense, çok da abartılı olmaz gibi görünüyor. Ya da bugünün toplumunu niteleyen kapitalizmin ta kendisi olduğundan, başta söylediğimize dönüp “sorun kapitalizmin kendisi, robotlar değil” diye tekrarlamak gerekiyor.

HÂLÂ VAKİT VAR

Şimdilik robotlar ve yapay zekâ hâlâ insan tarafından programlanabiliyor olsa da, giderek gelişen bilgisayar sistemleri ile herhangi bir insanın yapabileceğinden daha hızlı hesaplamalar yapabildikleri, işleri yerine getirebildikleri ve hatta öğrenme yetisi kazanıyor oldukları şüphe götürmez bir gerçek. Yakın bir gelecekte, insandan daha zeki olan ve hatta insandan daha zeki olduğunu bilen yapay zekâya sahip robotlar üretilebilmesi ihtimali hiç de uzak değil. Bilim insanları insandan daha zeki robotların 20-25 yıl içerisinde üretileceğini iddia ediyorlar. Şimdilik bu süper zeki robotların insanı gereksiz bulup bulmayacağını bilmemize olanak yok. Ama en azından şimdiden görünür olan toplumsal sonuçların bilincine vararak, akıllı robotların yaratacağı refahın tüm insanlık tarafından eşit olarak paylaşılacağı bir toplum tahayyülünü hayata geçirmek için mücadele etmek hâlâ olanak dâhilinde.