Araştırma: Süper akıllı bir yapay zekayı denetleyemeyiz

David Nield

Yapay zekânın insan türünü alt edeceği fikri on yıllardan beridir konuşuluyor ve bir grup bilim insanı, Ocak 2021’de, üst düzey bir bilgisayarın barındırdığı süper zekâyı kontrol edip edemeyeceğimize ilişkin bir karara vardı. Cevap mı? Onu kontrol etmek neredeyse imkansız.

Mesele şu ki, insanların kavrama gücünün çok ötesinde bir süper zekayı kontrol etmek için analiz edebileceğimiz bir süper zeka simülasyonuna ihtiyacımız var. Fakat eğer bunu kavrayamayacaksak, böyle bir simülasyonu yaratmak da mümkün değil.

ANLAYAMIYORSAN DENETLEYEMEZSİN!

2021 tarihli makalenin yazarlarına göre, bir yapay zekanın ne gibi senaryolar üretebileceğini anlayamadığımız bir durumda ‘insanlara zarar vermemek’ gibi kurallar da koyamayız. Eğer bir bilgisayar sistemi programcılarımızın kapasitesinin üstündeki bir seviyede çalışıyorsa, ona artık bir sınırlama getiremeyiz.

Araştırmacılar, “Bir süper zeka, temelde, tipik olarak ‘robot etiği’ başlığı altında tartışılan olgulardan farklı bir sorun oluşturuyor” diye not ediyorlar.

“Bunun sebebi, bir süper zekânın çok karmaşık olması ve bu yüzden potansiyel olarak anlayamadığımız amaçlara ulaşmak doğrultusunda, potansiyel olarak birçok farklı kaynağı harekete geçirme becerisine sahip olması.”

Araştırma ekibinin ortaya koyduğu gerekçelerin bir kısmı, Alan Turing’in 1936 yılında öne sürdüğü ‘duraksatma’ [ing. halting] sorunundan kaynaklanıyor. Sorun, bir bilgisayar programının yanıt ararken bir neticeye ulaşıp ulaşmayacağını (bu yüzden duraksayabilir) ya da yalnızca bir yanıt bulmaya çalışırken sonsuza dek bir döngüde takılı kalıp kalmayacağını bilmek üzerine odaklanıyor.

Turing’in bazı zekice hesaplamalarla ispatladığı üzere, kimi belirli programlar bağlamında bunu bilebilirken, şu ana dek yazılabilecek her potansiyel program için bunu bilmemize olanak sağlayacak bir yol bulmamız mantıksal olarak imkansız. Bu gerçek, bizi, süper akıllı bir durum söz konusu olduğunda, muhtemel olan tüm bilgisayar programlarını aynı anda hafızasında tutabilen bir yapay zekaya geri getiriyor.

NE YAPACAĞINA KENDİSİ KARAR VERECEK

Yapay zekanın insanlara zarar vermesini ve dünyayı yok etmesini önlemek amacıyla yazılacak herhangi bir program, belki bir sonuca varabilir (ve işleyişini durdurabilir) ya da böyle olmayabilir; her iki durumda da kesin biçimde emin olmamız matematiksel bağlamda mümkün değil ve bu da kontrol edilemeyeceği anlamına geliyor.

Almanya’da bulunan Max-Planck İnsani Gelişim Enstitüsü’nde bilgisayar bilimci olan Iyad Rahwan, ocak ayında verdiği bir demeçte, “Aslında bu durum, sınırlayıcı bir algoritmayı işlevsiz hale getiriyor” demişti.

Araştırmacıların aktardığı kadarıyla, yapay zekaya bir miktar etik öğretmenin ve -hiçbir algoritmanın tam anlamıyla kesin olarak yapamayacağı- dünyayı yok etmemesini telkin etme seçeneğinin alternatifi, süper zekanın becerilerini sınırlamak olabilir. Mesela, internetin kimi bölümleriyle ya da belirli ağlarla bağlantısı kesilebilir.

Son dönemde gerçekleştirilen araştırma, bunun, yapay zekanın erişimini sınırlayacağını savunarak bu fikri de reddediyor; burada öne sürülen gerekçe, “Şayet onu insanların kontrolü dışındaki sorunları çözmek için kullanmayacaksak, neden onu yaratalım” şeklinde.

CİDDİ SORULAR SORMAMIZIN ZAMANI GELDİ

Eğer yolumuza yapay zeka ile devam edeceksek, kontrolümüz altında olmayan bir süper zekanın ne zaman ortaya çıkacağını dahi bilemeyebiliriz; onu anlaşılmaz kılan şey de işte bu. Bu gerçek ise, ilerleyeceğimiz doğrultuyla ilgili ciddi sorular sormaya başlamamız gerektiği anlamına geliyor.

Max-Planck İnsani Gelişim Enstitüsü’nden bilgisayar bilimci Manuel Cebrian, “Dünyayı kontrol eden süper akıllı bir makine, kulağa bir bilim kurgu öğesi gibi geliyor” diyor. “Ne var ki, programcıların henüz nasıl öğrendiklerini kesin olarak anlamadığı ama kimi mühim görevleri bağımsız biçimde yerine getiren makineler halihazırda mevcut.”

“Bu yüzden, bunun bir yerden sonra insanlık açısından kontrol dışı ve tehlikeli bir hale gelip gelmeyeceği sorusu karşımızda duruyor.”

Araştırma, Journal of Artificial Intelligence Research [Yapay Zeka Araştırmaları] adlı dergide yayınlandı

Yazının orijinali Science Alert sitesinden alınmıştır. (Çeviren: Tarkan Tufan)