AB'den 'yapay zeka' ile ilgili ilk düzenleme: 4 risk grubuna ayrıldı

DUVAR - Avrupa Birliği (AB) Komisyonu, yapay zeka ile ilgili kurallar çerçevesini içeren dünyadaki ilk yasal düzenleme teklifini açıkladı. Buna göre, yapay zeka sistemleri "kabul edilemez risk", "yüksek risk", "sınırlı risk" ve "minimum risk" olmak üzere 4 ana gruba ayrıldı.

KABUL EDİLEMEZ RİSK: İnsanların güvenliği, geçim kaynakları ve haklarına ilişkin açık tehdit olduğu düşünülen yapay zeka sistemleri kabul edilemez risk grubunda yer aldı ve bunların kullanımı yasaklandı.

İnsan davranışlarını manipüle eden, özgür iradeyi önleyen, hükümetler tarafından sosyal puanlama yapılmasını sağlayan uygulamalar ve yapay zeka sitemleri "kabul edilemez" risk grubuna dahil edildi.

YÜKSEK RİSK: Bu grupta ise ulaştırma gibi kritik altyapı, eğitim, robotlu ameliyat, işe alım sürecinde CV değerlendirme, kredi derecelendirmesi, delil güvenliği, göç, iltica ve sınır yönetimi, seyahat belgelerinin doğrulanması, yargı ile demokratik süreçler sıralandı.

Bu gruptaki yapay zeka sistemlerinin piyasaya sunulmadan önce uyması gereken sıkı yükümlülükler getirildi. Bu sistemlerin ayrımcılık yapması engellenecek, sonuçların izlenebilir olması sağlanacak ve yeterli ölçüde insan gözetimine tabi tutulacak.

Bütün biyometrik kimlik saptama sistemleri katı koşullar içeren yüksek risk grubuna dahil edildi. Emniyet yetkilileri halka açık alanlarda biyometrik kimlik saptama sistemlerini özel durumlarda kullanabilecek. Terör tehdidini önlemek, kayıp çocukları aramak, ciddi bir suçu kavuşturmak veya bir şüpheliyi tespit etmek için biyometrik kimlik tespit sistemlerine başvurulabilecek. Yapay zeka sistemlerinin bu tür kullanımları sınırlı olacak ve adli veya bir başka bağımsız kuruluşun izine tabi tutulacak.

SINIRLI RİSK: Sınırlı risk grubunda yer alan yapay zeka sistemleri bazı şeffaflık yükümlülüğüne tabi olacak. Kullanıcıların bu grupta yer alan "sohbet robotları" ile görüşme yaparken bir makine ile etkileşimde bulunduklarının farkında olması ve bilinçli karar almaları sağlanacak.

MİNİMUM RİSK: Yapay zeka destekli video oyunları veya istenmeyen e-posta filtreleri gibi uygulamalar minimum risk grubunda yer aldı. Vatandaşların hakları veya güvenliği için minimum veya hiç risk içermeyen bu gruptaki yapay zeka sistemlerine müdahale edilmedi.

AVRUPA YAPAY ZEKA KURULU OLUŞTURULACAK

Söz konusu yapay zeka alanında denetim sorumluluğu ve yetki ulusal makamlarda olacak. Bu alanda uygulama ve standartların geliştirilmesi amacıyla Avrupa Yapay Zeka Kurulu oluşturulacak.

Söz konusu düzenleme teklifinin yürürlüğe girmesi için Avrupa Parlamentosu (AP) ve üye ülkelerin onayı gerekiyor.

Düzenleme yasalaştığında, AB ülkelerinde faaliyet gösteren ABD teknoloji şirketlerinin faaliyetleri de sınırlandırılmış olacak. (AA)