Yapay zekânın muhtemel olumsuz sonuçlarını önlemek amacıyla Çin, birtakım kurallar belirledi.

Metinden görüntü oluşturan programlar ve akıllı chatbotlar insanların aklını başından almaya devam ederken Çin, güçlü yapay zekâ modelleri üzerine inşa edilen araçlarla insanların neler yapabileceği konusunda düzenlemeye gitmek için hızla harekete geçti. Ülkenin düzenleyicileri, yapay zekâ üretiminin doğuracağı muhtemel olumsuz sonuçlar konusunda oldukça temkinli davranıyor. Bu, şimdiye kadar özel sektörün kendi kurallarını koymasına büyük ölçüde izin veren, etik ve yasal soruları gündeme getiren ABD ile bir tezat oluşturuyor.

Ülkenin en önde gelen internet denetçisi Çin Siber Uzay İdaresi, geçtiğimiz günlerde “metin, görüntü, ses, video ve sanal ortamlar oluşturmak için derin öğrenme, sanal gerçeklik ve diğer sentez algoritmalarını kullanan teknoloji” olarak tanımladığı “derin sentez” teknolojisine ilişkin bir düzenleme kabul etti. Düzenleme, Çin’de faaliyet gösteren hizmet sağlayıcılar için geçerli ve 10 Ocak’ta yürürlüğe girecek.

Kısıtlamalar, çoğunlukla Çin’deki oyunlar, sosyal medya ve kısa videolar gibi diğer tüketici internet hizmetlerini denetleyenlerle paralel olduğu için kurallar dizisinden hiçbir şey göze batmıyor. Örneğin kullanıcıların ulusal güvenliği tehlikeye atan, kamu çıkarlarına zarar veren veya yasa dışı olan faaliyetlerde bulunmak maksadıyla yapay zekâyı kullanmaları yasaklandı. Bu tür kısıtlamalar, Çin’in kullanıcı adı doğrulama mekanizması sayesinde mümkün hale getirildi. Kullanıcılardan genellikle çevrim içi hesaplarını resmi kimliklerine kayıtlı olan telefon numaralarına bağlamaları istendiğinden, Çin internetinde kimlik gizliliği gerçekten söz konusu değil. Yapay zekâ hizmet sağlayıcılarının da benzer şekilde kullanıcıları cep telefon numaraları, kimlikleri veya diğer belge formlarını kullanarak doğrulamaları gerekiyor.

Çin ayrıca şaşırtıcı olmayan bir şekilde algoritmaların neleri üretebileceğini sansürlemek istiyor. Hizmet sağlayıcıların, yapay zekâ tarafından üretilen içeriği ve kullanıcı bildirimlerini manuel olarak ya da teknik yollarla denetlemesi gerekiyor. Çince metinden görüntüye modelini ilk başlatanlardan biri olan Baidu, halihazırda siyasi açıdan hassas içerikleri filtreliyor. Sansür, Çin’deki tüm medya türlerinde standart bir uygulama. Asıl soru, içerik denetiminin yapay zekâ modellerinden çıkan metin, ses, görüntü ve video gibi çok sayıda içeriğe yetişip yetişemeyeceği.

Çin hükûmeti, yapay zekânın kötüye kullanımını önlemek amacıyla adım attığı için belki de biraz övgü almalı. Öncelikle kurallar, insanların sahte haberler üretmek ve yaymak için ayrıntılı analiz teknolojisini kullanmasını yasaklıyor. Yapay zekâ eğitimi için kullanılan veriler kişisel bilgiler içerdiğinde teknoloji sağlayıcıları, ülkenin kişisel bilgi koruma yasasına uymalı. Platformlar ayrıca kullanıcılara, ayrıntılı analiz teknolojisini kullanarak başkalarının yüzlerini ve seslerini değiştirmeden önce onay almaları gerektiğini hatırlatmalı.

Son olarak bu kural, telif hakkı ihlali ve intihale ilişkin bazı endişeleri hafifletmeli: Yapay zekânın sonucunun halk tarafından kafa karışıklığına veya yanlış tanımlamaya neden olması durumunda hizmet sağlayıcı, halkı bunun bir makine çalışması olduğu konusunda bilgilendirmek için göze çarpan bir yere bir filigran koymalı.

Bu düzenlemeleri ihlal eden kullanıcılar, cezalarla karşı karşıya kalacak. Hizmet sağlayıcılarından yasa dışı davranışların kayıtlarını tutmaları ve bunları ilgili makamlara bildirmeleri isteniyor. Bunun da ötesinde platformlar uyarılar yayımlamalı, kullanımı kısıtlamalı, hizmeti askıya almalı ve hatta kuralları ihlal edenlerin hesaplarını kapatmalı.

Derleyen: Nazlı Koyuncu