Yapay zekâ bizi nasıl değiştirecek?

1.

Bilimkurgu yazarı ve düşünür Isaac Asimov, 1942 yılında, henüz 20 yaşında, “Üç Robot Yasası” ile çıkageldi. 

Yasalar şunlardı:

Bir robot bir insana zarar veremez ya da zarar görmesine seyirci kalamaz. 

Bir robot birinci kanunla çelişmediği sürece bir insanın emirlerine uymak zorundadır. 

Bir robot, birinci ve ikinci kanunla çelişmediği sürece kendi varlığını korumak zorundadır.

Bilimkurgu edebiyatının altın çağıydı. Asimov’dan başka, Arthur C. Clarke, Robert Heinlein gibi yazarlar çığır açan eserler veriyorlardı. Teknolojik yenilikler, savaşın da yardımıyla doludizgin gidiyordu. Uzay araştırmaları, atom enerjisi çalışmaları ilgi çekiyordu. Bilimkurgunun altın çağı içinde yaşanan İkinci Dünya Savaşı’nı nihayete erdiren de teknolojinin zirvesi sayılan atom bombası oldu. Savaş bitmişti ama belirsizliklerle dolu yeni bir dönem başlamıştı; bu yeni dönemin yeni kanunları olacaktı. 

Asimov’un, bugünlerde Christopher Nolan’ın Oppenheimer filmiyle yine konuştuğumuz atom bombasından sadece üç sene önce kaleme aldığı “Üç Robot Yasası”, yeni çağ için erken bir taslak çalışmasıydı. 

Ama eksik bir çalışmaydı. 

Oppenheimer’ın bombasıyla açılan çağa müthiş bir enerji yığılmış; özellikle iletişim ve bilgisayar çalışmalarında epey yol alınmıştı. Asimov’un akıllı robotları bilimkurgu konusu olmaktan çıkmak üzereydi. 

İşler giderek karmaşıklaşıyordu. Yazar, Üç Robot Yasası’ndan kırk küsur yıl sonra, 1985’te listeye yeni bir madde daha ekledi. Bu madde, diğerlerini de önceleyen Sıfırıncı Yasa’ydı (Zeroth Law): “Bir robot insanlığa zarar veremez ya da insanlığın zarar görmesine seyirci kalamaz.”

2. 

Asimov’un yasaları tartışıldı. İşe yarar mı yaramaz mı, gerçekten kullanım alanı var mı yok mu, “zarar”dan kasıt ne, daha bir sürü soru… Ama sonraki yıllarda hızlanan yapay zekâ çalışmalarında, yapay zekânın etik sınırlarını belirleme çabasında, her şeyi önceleyen bu “Sıfırıncı Yasa” sıklıkla gündeme geldi.  

Yazar, “Bir robot, insanlığa zarar verecek hiçbir şey yapamaz” diyordu demesine ama bu zarar nasıl ölçülecekti? Neticede, Asimov’un da kabul ettiği üzere, insan somuttur, insanlıksa soyut. İnsanlığın sınırları çizilebilir miydi? Nerede başlıyordu bu muhtemel zarar? 

Bir süredir tartışıp durduğumuz yapay zekâ çalışmaları işte bu muhtemel zarar hesaba katılmadan yürümüyor. Bugüne dek zihin jimnastiği düzeyinde, “acaba bu yeni teknoloji işimizi elimizden alır mı” minvalinde tartışıyorduk. Şimdi yavaş yavaş başka bir aşamaya geçiyoruz: Kâr - zarar aşamasına... 

Yapay zekânın özellikle tıp alanında, bilim çalışmalarında bize muazzam getirileri olacağı öngörülebilir. Çalışan herkesin elini rahatlatacak kestirme yollar da cabası… Bizi birçok konuda hamallıktan kurtaracaktır. Kendimden örnek vererek söyleyeyim: Yapay zekâ, yaptığım çalışma için okumayı gerekli gördüğüm bir makalenin bana iyi bir özetini verebildiğinde (ki halihazırda bunu kısmen yapıyor), belli bir iş için harcadığım vakti azaltmış olacak. Özetten makalenin veya kitabın işime yarayıp yaramadığını çıkartabiliyorsam belki onun tümünü okuyacağım (belki bunu bile yapmayacağım); işime yaramıyorsa da kafam rahat bir şekilde atlayıp geçeceğim. Ukâla bir bilgeymişçesine, “Sen onu bırak şunu oku” gibi isabetli tavsiyelerde de bulunacaksa ne ala! 

Bu, benim işime yarayan kısmı. Bir cerrah, bir yönetmen, bir lojistik uzmanı, bir mühendis, bir öğretmen de kendi işine yarayan kısımları sayıp dökebilir… Çünkü epey avantaj mevcut.

Ama sadece kâr yok, zarar da var. Dezavantaj yaratan örnekleri ufaktan görmeye de başladık. Örneğin çevirmenler, yapay zekâya iş gördürdüğü ortaya çıkan kurumlara karşı mesleklerini savunuyor (Hafta içinde bu konu hakkında yazmıştım). Bu her yönüyle ilginç bir karşılaşma, bir tür gelecek fragmanı. Çevirmenler insan zihninin ve mesleklerinin inceliklerine dikkat çekmek zorunda kalırken, işin yayıncı tarafıyla yapay zekânın kayıtsız şartsız destekçileri, bunun geri döndürülemez bir süreç olduğundan, herkesin zaman içinde bu trene bineceğinden, karşı koymak yerine standartları oturtmak gerektiğinden bahsediyor.

3.

Bunun geri döndürülemez bir süreç olduğunu söyleyenlerle hemfikirim. Ama incelikleri savunanlarla, böyle bir şey söylenebilir mi bilmiyorum ama, daha çok hemfikirim. 

Yapay zekâya karşı savunmaya geçenleri çağdışı olmakla, hatta bilim karşıtlığıyla suçlayanlar var. Yeni makine kırıcılar gibi görülüyorlar. Ve tabii o klasik, bu tartışmaların olmazsa olmaz cümlesi de hemen sarf ediliyor: “Hattatlar da matbaaya karşı çıkıyordu ama teknolojinin önünü alamazsınız.”

Birçok insanla uyuşamam, anlaşamam ama sanırım en çok da bu tür lafların sahiplerine kendimi uzak hissederim. Çünkü hayatın bana göre en temel düsturlarından birini görmezden gelirler.

O düstur da şu: Bilginin değeri kronolojik olarak artmaz. 

Son öğrenilen ilk öğrenilenden daha kıymetli değildir. Bilgi birikerek, genişleyerek büyür. Çocukluk hatıraları nasıl insanın kendi bilgisinin, kendine dair bilgisinin merkezindeyse, nasıl sonradan öğrenilenlerden daha az önemli, daha az belirleyici değilse; insanlık bilgisinde de ilk öğrendiklerimiz son öğrendiklerimizin gerisinde sayılmaz. Uzaya roket fırlatmamız, ateşi bulmamızdan daha fazla ya da daha az önemli değildir. O roketle ilk yaktığımız ateş arasında bir bağ vardır. Halen vardır. Ayakkabımızı bağlamayı, ıslık çalmayı, sayı saymayı, konuşmayı, okumayı hep yeni baştan öğrenmeyiz. Ama okuyarak yeni bilgiler ediniriz. Gelecekte bir gün yeni bir gezegene ayak bastığımızda, mağaradan çıktığımız günün bilgisini de kullanmış olacağız. Eski bir bilgi olarak da değil üstelik… Tam da aynı duygu ve merakla kullanacağız. Bilgi hiyerarşik değildir, piramitsel değildir; bilgi birikir, bilgi genişler. Sonu da vardır üstelik. Kendi bilgimizden insanlık bilgisine katabilirsek katarız; katamadıklarımız bizimle birlikte ölür.

Biz insanız. Yaptıklarımızla gurur duyuyoruz. Bir sürü savaşla kıyımın yanında evet roket yaptık, Ay’a seyahat ettik. Denizlerin altına indik, dağları aştık, bilgisayarı ve interneti icat ettik. Yapay zekâyı geliştiren biziz. Bilimde, bilgide nereden nereye geldik… 

Ama bizim başka bilgilerimiz de var. Binlerce, yüzbinlerce yılda biriktire biriktire var ettiğimiz, ördüğümüz, koruduğumuz bilgi. Ayakta kalma bilgisi, işbirliği bilgisi, iletişim kurma bilgisi. Hatta dostluk, sevgi; evet onlar da, hatta işin ayakta kalmaya gelip dayandığını düşünürseniz belki en çok onlar.

Yapay zekâya dair bilgimiz de şüphesiz çok kıymetli ama tüm bu diğer bilgilerden daha kıymetli değil. Onlardan biri. Onların bir parçası olarak kıymetli. 

Yapay zekâyı, önceki bilgiyi reddederek kutsuyorsak, önceki sürümleri tamamen silerek güncelliyorsak, kendi kıymetimizi de reddetmiş oluruz. 

4. 

Çeviriyi alalım. Mesela bir kitabı çevirmek, sadece teknik bir süreç değildir. Çeviri merakla işlenen, bilgiyle desteklenen ve genişleyen bir süreçtir. Bunları, işi romantize etmek, süslemek için söylemiyorum; çevirmen arkadaşlarımdan bildiğim kadarıyla, bu süreç bolca kan ve gözyaşı da içerir; üstelik bu işten kazanılan, sarf edilen emeğin genelde çok altındadır. Ama neticede süreç böyle ilerler: Merakla ve bilgiyle... Her çevirmen, çevirdiği her kitapla mesleki anlamda yetkinleşir ama bir yandan da çok şey öğrenir. Çevirdiği kitabın anlattığından fazlasını öğrenir. İnsan olarak da zenginleşir. Her meslekte böyledir ya, bu sürecin verdiği doyum ve sonrasında gelen insanlık bilgisi olmasa kimse de çevirmenlik yapmazdı, bunu bilin. Nihayet, böyle bir süreçten her gün çıkan bir insan, bir bilendir; insana, insanlığa gerekli bir insandır. Sistemden çıkardığınızda, çıkardığınızı sandığınızdan fazlasını çıkarmış olursunuz. Sistemin kıymetini ve kalitesini de azaltmış olursunuz. O sistemi kuran birikimi reddetmiş olursunuz.

Çocukların öğrenmesi de buna benzer. Çocuklar merakla gelişir. Aramakla, denemekle, hata yapmakla gelişir. İnsan, bir arama çubuğunun üstüne soru yazıp cevaba ulaşmakla gelişmez. En azından bugüne kadar öyle gelişmedi. Bundan sonra böyle olacaksa da gerçekten adapte olmamız, onlarca belki yüzlerce kuşağın ömrünü aşacaktır.

Öğrenmemiz, öğretmemiz, birbirimizle ilişki kurmamız, aktarmamız ve hatırlamamız da bir günde veya bir kuşakta, hatta bir yüzyılda ortaya gelişmedi. Yüzbinlerce yılın mahsulünden bahsediyoruz. Tüm öğrenme süreçlerini, bilgiye ulaşma yollarını, merakımızı kullanma yöntemlerimizi, hayattan devşirdiğimiz arama ve ayakta kalma becerilerini güncellemekten bahsediyoruz. Bu iş "matbaa icat oldu diye hattatlar işsiz kaldı o yüzden çok bağırıyorlar” işi değil. Çok temel özelliklerimiz, bizi biz kılan özelliklerimiz bu süreçten etkileniyor. 

Onları korumamız gerekir. Ancak o zaman yapay zekâyla da sağlıklı ilişki kurabiliriz. Onun insanlığa zarar verme ihtimalini de ortadan kaldırırız.

5.

Bu makaleyi yazarken epey yararlandığım, fikirlerini işlemeye çalıştığım bir başka makale var. Yale Üniversitesi’nde İnsan Doğası Laboratuvarı’nı (Human Nature Lab) yöneten hem doktor hem sosyolog Nicholas Christakis’in dört yıl evvel The Atlantic Monthly’de çıkan “How AI Will Rewire Us?” (Yapay Zekâ Bizi Nasıl Değiştirecek?) isimli makalesi… Christakis orada, bugün daha da acil yanıtlanması gereken sorular sormuş: “Yapay zekâyı ne diye görmek gerekir, önce buna bir karar verelim” demiş. Bir makine mi, bir aktör mü? Bir ne?

Sonra da şunu demiş: “Yapay zekâyla donanmış makineler, programlama veya bağımsız öğrenme yoluyla, bize tuhaf gelen zeka ve davranış formları gösterecekler. Sadece tuhaf olanla, bizi, toplumu sahiden tehdit edenleri birbirinden hızlıca ayırmamız gerekir. Yapay zekânın bizi endişelendirmesi gereken yönleri, insanlığın sosyal yaşamının en temel özelliklerini, binlerce yıldır ayakta kalmamızı sağlayan özellikleri etkileyecek yönleridir.”

Merak. İşbirliği. Öğrenme. Aktarma. Yapay zekâlı robotlar bunları birdenbire tehdit etmeye başlamadı. Henüz başlamadı. Biz kendimiz yapay zekâya yaslanarak kendi varlığımızı, kendi birikimimizi tehdit edeceğiz. En azından, bunu önce biz yapacağız. Sonra belki robotların kendisi de bilahare yapacak. 

Asimov, kırk yıl sonra yasalarına bir kat daha çıkarken benzer bir noktadan hareket ediyordu. “Bir robot insanlığa zarar veremez ya da insanlığın zarar görmesine seyirci kalamaz” diyordu.

Ama Asimov insanlığın zarar görmesine seyirci kalınmasını muhtemelen insandan beklemiyordu. Bilimkurguda her zaman bir küçük yanılgı payı vardır. Belki bir beşinci yasa daha eklemek gerekecek.