Radikal belirsizlik çağı başlıyor

1.

Mark Zuckerberg’in Metaverse’ü kurduğunu tüm dünyaya ilan ettiği videoyu hatırlıyor musunuz? Sanal bir Zuckerberg, sanal bir alemde dolaşıyor, arkadaşlarıyla karşılaşıyor ve çeşitli kostümler giyip çıkararak, bir dolu aktiviteye katılarak eğleniyordu. 

Tamam yeni bir dünyayı anlatmasına anlatıyordu da o videoyu ilk seyrettiğimde bana neyin fazla kekremsi geldiğini uzun süre anlamadım. Şimdi biliyorum. Coşkulu görünüyordu ama esasen tutuktu. Eğlenceli görünüyordu ama donuktu. Video güya “gelecek” tarifi yapıyordu ama “şimdi”nin” epey sıkıcı bir versiyonundan başka bir şey değildi. 

Coşku… İyi bir şeyler yapıldığına, dünyanın değişeceğine dair samimi bir inanç. Rutinin, geleneğin tüm o ağırlığına, yaşlılığına kafa tutan genç bir heves…

Bunlar o videoda yok. Bugünlerde teknolojiye dair neredeyse hiçbir işte yok. Ama bir zamanlar, çok değil daha bu bin yılı dönerken vardı. Coşku her yerdeydi. Yeni bir dünya kuruluyordu.  Bu yeni dünyayı kuranların geçmişle alakası olmayan yeni vaatleri vardı. Bu değişim enerjisi herkese çekici geliyordu. 

2. 

Yirmi beş otuz yıl evvel bu yenilik vaatleriyle, bu değişim coşkusuyla gündemimize girenler, yeni bir dünya kuranlar bugün kurdukları o dünyanın sahipleri. Bize interneti verdiler, hayatlarımızı ve dünyanın ritmini değiştirdiler. 

Değişime dair hevesleri de devam ediyor. Yeni vaatleri var. 

Ama bu yirmi beş-otuz yılda bir şey değişti. Bu vaatler aynı coşkulu tonda dile gelmiyor. Hep bir donukluk, hep bir grilik. En yüksek beklentiler hep bir bedelle beraber anılıyor. 

En başta yapay zekâ. İnsanla yapay zekâ el ele tutuşacak ve başka bir seviyeye çıkacağız; bugün baş edemediğimiz dev problemleri yapay zekânın sayesinde aşacağız ama… Hep bir ama var. Üstelik bu “ama”yı dillendirenler kahvede pişpirik oynayanlar değil dükkânın sahipleri. 

Her yerde hazır ve nazır Elon Musk... Google’ın eski CEO’su Eric Schmidt… Yeni dünyanın kurucu babalarından Bill Gates… Ayrıca eski dünyanın bir mensubu olan Stephen Hawking ve bir dünya akademisyen, yazar çizer,  teknoloji uzmanı.

İnsanlığın makinelere mahkûm olma ihtimalinden başlayıp, insan varlığının tamamen ortadan kalkmasına kadar geniş bir yelpazede uyarılarda bulunuyorlar.

3.

Bu kadar ileri gitmeyenler bile çok iyimser değil. Eric Schmidt mesela, yapay zekâ kullanan programların mesela nefret söylemini ölçüsüz büyütmeye aday olduğunu anlatıyor ve bir distopya resmi çiziyor. 

“Yönelmekte olduğumuz teknolojik devrim insanlığın zekâsı açısından ciddi bir ilerleme. Bizinle iletişim kuracak, bize isabetli tavsiyeler verecek bir yardımcımız olacak. Çok güçlü bir yardımcı. Bu da birçok başka meseleye yol açacak.”

Atlantic dergisinin teknoloji yazarı Charlie Warzel ona “bu problemleri yaşamaya, bedel ödemeye değer mi” diye sorduğunda da “Evet, değer” diyor Schmidt. “Değer çünkü tek başımıza altından kalkamayacağımız, iklim değişikliği gibi büyük meselelerimiz var” diyor. “Bu yüzden daha akıllı olmamız lazım” diyor. 

Akıllı olacağız ama ne pahasına? 

Yapay zekâyı inşa edenler yeterince akıllı mı?

Schmidt’e verelim sözü yeniden: “On beş sene önce sosyal medyayı inşa ettiğimizde bu tür konuları anlamıyorduk. Seçimlere müdahale edilebileceğini veya birtakım çılgın insanların ortaya çıkacağını kestiremiyorduk. Ne olup bittiğinin farkına varmadık. Şimdi yeniden aynı hataları yapmamamız lazım.”

4.

Eric Schmidt hata yapmaktan korkuyor. O coşkulu dönemlerde hata yaptıklarını söylüyor. Şimdi frenli gidiyor. Çünkü bir bedel ödenmesi gerektiğinin farkında. 

Ben de Schmidt’gillerden korkuyorum. İlla Schmidt’in kendisinden değil ama temsil ettiği gruptan. Kendi kurdukları dünyanın sahibi olanlardan. Kapitalizmin son ve muazzam güçlü ekibinden. 

Bu korkunun kristalleşmiş halini bilimkurgu yazarı Ted Chiang, yazar Ezra Klein’a anlatıyor: “Yapay zekâ ile ilgili korkuların en iyi kapitalizm korkusunda tezahür ettiği kanaatindeyim. Teknolojiye dair hemen tüm korkular için de geçerli bu. Kapitalizmin teknolojiyi aleyhimize kullanacağına dair bir anksiyetenin ifadesi bu korkular. Teknoloji ve kapitalizm öylesine iç içe ki onları birbirinden ayırmak artık çok zor.”

5.

Chiang haklı. 

Bu korkuların üstüne kendi korkusunu ekleyen Ezra Klein daha da haklı: 

“Devletlerin bu teknolojileri kontrol etmesi daha da endişe verici. Hükümetlerin yapay zekâ işine girmesi, ki birçok örneği var, kanımı donduruyor.”

6.

Değişim devam ediyor.

Geçen hafta piyasaya sürülen ChatGPT-4 hoş geldi, sefa geldi. İnsanlığın tekâmülüne katkısı olmasını umacağız. Meraklıyız, kullanacağız, gelişmeye bakacağız ama bedava peynirin sadece fare kapanında olduğunu da unutmayacağız. Unutmamalıyız. 

O ilk coşku kayboldu. Yeni dünyanın sahipleri bile bedeller ödemekten bahsediyor. Bunu dikkate almalıyız. 

Bir dolu hata yapan insanların illa yeniden hata yapacaklarını ve esas güdülerinin kâr maksimizasyonu olduğunu da dikkate almalıyız.

Teknoloji yazarı Charles Warzel’ın ifadesiyle “radikal belirsizlik çağı”na girmiş bulunuyoruz. Memleketten dolayı biz radikal belirsizliklere aşinayız; şimdi onlar düşünsün deyip geçebiliriz ama...

Yine de bir kapanda gezindiğimizi unutmayalım.