1.
Frank Herbert’ın büyük eseri, en güzel bilim-kurgulardan “Dune”da çok şey görürsünüz de bir şey eksiktir… Geleceğe özgü olduğunu düşündüğümüz koca koca uzay gemileri, kanat çırpan hava araçları, tuhaf ve epey gelişkin silahlar kitapta (ve filmde) vardır da basit bir ekrana rastlayamazsınız.
Bilgisayar yoktur Dune’da.
Herbert, 1960’larda yazdığı bu dünyayı bilgisayarsız tasarlamıştır. Eser bize “düşünen makineler” ve insanlar arasında yaşanan bir savaşın 10 bin yıl sonrasını anlatır. Makineler tarihin bir noktasında çok gelişmiş ve insanlıkla savaşa tutuşmuştur. Savaş insanlığa çok pahalıya patlamış; zar zor galip gelebilen insanlar, düşünen makinelerle bağlantılı gördükleri bilgisayarları toptan yasaklamıştır.
Bu yüzden Dune evreninde ekran yoktur. Bilgiler eski usullerle öğrenilir. Mesela kitaplardan…
2.
Herbert, bu eseri bugünlerde yazsaydı, Dune evreninin geçmişindeki insanlar herhalde adlı adınca “yapay zekâ” ile savaşmış olurdu.
Belki kitapta bu savaşa dair anlatı da daha uzun olurdu. İnsanlar belki çok daha katı olurdu. Belki bu savaşı tümüyle kazanmış görünmezlerdi. Belki bu konuda daha da kaygılı olurlardı.
Belki, belki, belki…
Bunlar edebiyatın ve hayal gücünün konusu. Kimsenin kalemini nasıl kullanacağını bilemeyiz. Ama bildiğimiz bir şey var. Birçok insan bugün de kaygılı. O kadar kaygılı ki hayali Dune’un geçmişindeki büyük belayı gerçek Dünya’nın geleceğindeki olası belalarla eşliyorlar.
3.
“Birçok insan” dediğim… Tanıdık bildik insanlar.
Son zamanların herhalde en ilginç gelişmelerinden biri, teknolojinin liderleri konumundaki bir grup biliminsanı, düşünür ve siyasetçinin, yapay zekânın barındırdığı potansiyel tehlikelere karşı yazdığı açık mektup oldu.
Future of Life Enstitüsü kanalıyla yayımlanan mektubun imzacı listesi epey yüklü. İçinde Elon Musk da var; Apple’ın kurucu ortağı Steve Wozniak da var, Kıyamet Saati’nin yöneticisi Rachel Bronson da var.
Mektup, görünürde bir endişe mektubu. Yapay zekânın bugün ulaştığı aşamadan ve kontrolsüz halinden endişe duyanların mektubu.
İçeriğine geçmeden evvel; mektubun neden bugün yazıldığına bakalım.
Sebebi esasen, Open AI şirketinin geliştirdiği, geçen haftalarda yeni versiyonu piyasaya sürülen ve epey fırtına koparan, “dil modeli” tabanlı sohbet, arama ve her şey programı ChatGPT.
Bilen biliyordu da, ChatGPT yapay zekâ teknolojisinin nerelere geldiğini bütün dünyaya gösterdi. Bu alanda şu anda müthiş büyük bir yatırım var. Milyarlarca dolar harcanıyor.
Microsoft işin içinde; Open AI’ın en büyük yatırımcılarından biri zaten o. Arama motoru Bing’e, dil modeline dayanan yapay zekâyı yapıştırdı bile. Google, aynısını “Bard” ismini verdiği dil modeliyle deniyor ve bu uğurda ciddi para akıtıyor. Aksi takdirde, Google arama motorunun neredeyse bir on beş yıldır sektörde sağladığı dominasyon tarih olacak.
Ama işte bu dil modeline dayalı yapay zekânın görünür üstünlüğüyle gelen bir tartışma var. Hepimizin aklındaki birçok yeni soru…
Yapay zekâyla donanmış makineler bizi işsiz mi bırakacak? Günün birinde makineler insanların yerine mi geçecek? Hatta yapay zekâ bir şekilde insanlığı ortadan mı kaldıracak?
Şimdi bunları sokaktaki insanın sorması bir şey; bunları bu işle her gün haşır neşir olan insanların sorması bir başka şey.
Açık mektupta yapılan tam da bu. Mektup özetle, “Yapay zekâ, birçok iş kolunda insanla rekabet edebilir hale geldi; peki biz bu duruma karşı ne yapacağız” diyor ve çok sert başka sorulara geçiyor:
Makinelerin, haber alma kanallarımızı dezenformasyonla doldurmasına izin vermeli miyiz?
Birçok işi, hem de bizi tatmin eden, bize haz veren birçok işi makinelere devretmeli miyiz?
Günün birinde sayıca ve zekâca bizi geçecek, bizi geçersiz hale getirecek ve nihayet bizim yerimizi alacak gayrıinsan zihinler geliştirmeli miyiz?
Medeniyetin kontrolünü kaybetme riskini almalı mıyız?
Kısacası “yoksa biz yavaş yavaş Dr. Frankenstein mı oluyoruz” diyorlar. Mary Shelley, 1818’de yazdığı Frankenstein’da, tutkusunun esiri olup bir canavar yaratan bir bilim insanı portresi çizmişti. İmzacılar şimdi aynı doğrultuda gidildiğini düşünüyor.
4.
Peki ne öneriyorlar?
Birincisi, “bir duralım” diyorlar. “Altı ay boyunca kimse bir şey geliştirmesin, ChatGPT-4 bir sınır olsun ve geçilmesin” diyorlar. Bu taraklarda bezi olan herkesin derhal durmasını talep ediyorlar.
Dahası, ola ki durulmadı, “hükümetler devreye girsin” diyorlar. Epey sert bir istek.
İkinci mesele de durulduğu zaman yapılacaklar:
Güvenlik protokolü kurulsun, bu protokol dış uzmanlar tarafından denetlensin, yapay zekânın ekonomiden siyasete verebileceği potansiyel zararlarla baş etmek için kurumlar oluşturulsun…
“Kısacası bu iş kurala ve protokole bağlansın, kafasına esen, kafasına estiği gibi yapay zekâ geliştiremesin” diyorlar.
Aksi takdirde mevcut sistemin yıkılacağını düşünüyorlar.
5.
Sahiden çok ilginç bir mektup bu. Bir anlamda tarihi de bir mektup.
Bugüne kadar yapay zekânın tehlikeleri konusunda, hatırı sayılır kişilerden reaksiyon gelmişti. Fizikçi Stephen Hawking mesela, Dune’u çağrıştırır şekilde, “yapay zekânın, kendini tasarlar hale gelmesiyle insanı ortadan kaldırabileceğini” anlatmıştı.
İlginçtir, genellikle bu konularda hırslı görünen, hatta Open AI’in ilk yatırımcılarından biri olan (ama yine de bu mektuba imza veren) Elon Musk da bugüne dek benzer ifadeler kullanmış, yapay zekânın insanlığın sonunu getirebileceğini öne sürmüştü.
Böyle sayısız yorum var. Bu mektubun tarihselliği, şimdi herkesin beraber ses vermesinde.
Mektubun ikinci özelliği, mektupta yapay zekâya atom bombası muamelesi yapılması.
Neredeyse nükleer silahtan bahseder gibi konuşuluyor. Benzer parametrelerle konuşuluyor. “Herkes aynı seviyede olsun, kimde ne olduğu bilinsin, denetime açık olsun, fazla geliştiren cezalandırılsın ve sistem dışına itilsin…”
Siyasi çağrışımları o kadar güçlü bir mektup ki bu… Bir yandan bunun tıpkı nükleer sahipleri kulübü gibi üye sayısı sınırlı bir kulüp kurma çabası olduğu da düşünülebilir.
Madem yapay zekâ geleceğin teknolojisi… Öyle herkeste olmalı mı? Birkaç devlet, birkaç şirket… Sanki bu düşünülmüş.
Gerisi ne olacak?
Gerisini, bu mektuba katılmayanlarda arayalım. Hem gözlerin aradığı ama bulamadığı insanlarda hem de fikren katılmayanlarda…
6.
Kimler yok mektupta?
Mesela ChatGPT’yi geliştiren Open AI Ceo’su Sam Altman imzacı değil.
Gezegen felaketleri konusunda hep düşünür görünen Microsoft kurucusu Bill Gates de imzacı değil.
Meta’nın sahibi Mark Zuckerberg yok.
Google’dan kimse yok.
Yani bu son işte, dil modelli yapay zekâlardan ekmek yemeyi uman kim varsa o yok. Bir tek her günahın keçisi Elon Musk var.
Bahsettiğim o seçkin kulüp, ufaktan kurulmuş bile. Üstelik halihazırdaki üyeleri en ufak bir düzenleme çabasına bile yanaşmıyorlar.
Bir sistem meselesi bu. Bazıları sistemin kurallı olmasını ve sınırlı sayıda üyeye eşit rol dağıtılmasını istiyor, bazıları vahşi olmasını… Ama neticede sistem duruyor. Sistem kuruluyor.
Gelelim bu mektuba fikren katılmayanlara.
Onlar makul bir grup. Bu mektupta söylenenlerden ziyade söylenmeyenlere dikkat çekiyorlar.
Bu konularda bir otorite olan, yaptığı çalışmaya mektubun da referans verdiği Washington Üniversitesi’nden linguist Emily Bender, bazı konularda söylenenlere katılmakla birlikte, “mesele esasen yapay zekânın güçlenmesinde falan değil” diyor:
“Sorun yapay zekânın birkaç elde toplanması” diyor. “Sorun, diktatörlere destek atabilecek olmasında” diyor. “Enformasyon ekosistemine ve çevreye büyük zarar verme ihtimalinde” diyor.
Kısacası bu işleri durdurmak değil şeffaflaştırmak gerek diyor.
Yani sorun bu sistemi güç sahiplerinin kafasına göre kurma çabasında. Bu işlerin seçkinler kulübe haline gelmesinde.
Sorun yine Dr. Frankenstein’da.
Canavardan değil, Dr. Frankenstein’ın hırsından korkmalı esas.
Ben yapay zekânın nerelere gidebileceğini merak edenlerdenim. Hep felaket senaryosu konuşuyoruz; biraz haksızlık ediyoruz. Yapay zekâ sağlıktan eğitime bin türlü fırsat da sağlayacaktır.
Ama ben insana pek güvenmiyorum.
O yüzden yapay zekâdan çok insanın hırsının denetlenmesi gerektiğini savunuyorum. Şüphesiz, bu mektubun imzacıları da sınıfsız imtiyazsız kaynaşmış bir kitle değil. Aralarında Dr. Bender gibi, benim gibi düşünenler de vardır, hatta sayıları da epey çoktur. Neticede bu mektup, siyasi çağrışımları beni rahatsız etse de esasen iyi niyetli bir çaba. İnsanlığın geleceğinin tehlikede olduğu düşünülüyor, önlem alınmaya çalışılıyor.
Bana kalırsa, yapay zekâ gelişirken insanın kendi kapasitesine de biraz olsun önem verilmeli. İnsan da biraz gelişmeli.
“Dune evreninde bilgisayar yok” demiştik. Peki hesap işlerinin altından nasıl kalkılıyor? Bir çözüm, insanların kendi beyni…
Hesaplamaları “mentat” adı verilen insanlar yapıyor. Dune’da mentatlık önemli bir iş. Bilgisayarlar ortadan kalktıktan sonra, zihnini bilgisayarın yerini alacak şekilde eğitmiş insanlar, tık tık tık sayıyorlar bilgileri.
Düşünüyorlar yani. Az şey mi?
İnsanlığın geleceğinde insanın kendisi, kapasitesi de biraz olsun isterim doğrusu. En azından Dune’daki gibi…