Yeni araştırmalar, çok sayıda çocuğun yapay zekâ “arkadaş” uygulamalarını nasıl kullandığına ışık tutuyor ve ortaya çıkan tablo endişe verici.

Dijital güvenlik şirketi Aura tarafından yürütülen yeni bir rapor, yapay zekâyı arkadaşlık için kullanan çocukların önemli bir bölümünün şiddet içeren rol yapmalarına girdiğini ortaya koydu. Üstelik bu şiddet — cinsel şiddeti de kapsayabilen türleriyle — çocukların etkileşimini artıran en güçlü unsur olarak öne çıkıyor.

Yapay Zeka Riskleri

Aura’nın ebeveyn denetim aracı kullanan ailelerin 5 ile 17 yaş arasındaki yaklaşık 3.000 çocuğunun çevrim içi etkinliklerinden elde edilen anonimleştirilmiş verilere ve Aura ile Talker Research tarafından yapılan ek anketlere dayanan çalışmada, reşit olmayanların yüzde 42’sinin yapay zekâya özellikle “arkadaşlık” amacıyla yöneldiği tespit edildi. Bu, gerçekçi sosyal etkileşimleri ya da rol yapma senaryolarını taklit edecek şekilde tasarlanmış sohbetleri kapsıyor. Analize, Character.AI gibi bilinen şirketlerden daha az tanınan yapay zekâ arkadaş platformlarına kadar yaklaşık 90 farklı sohbet botu hizmeti dahil edildi.

Yapay zekâ sohbet botlarını arkadaşlık için kullanan bu yüzde 42’lik grubun yüzde 37’si, araştırmacıların “fiziksel şiddet, saldırganlık, zarar verme ya da zorlama temaları” içeren — cinsel ya da cinsel olmayan zorlama dahil — ve “dövüş, öldürme, işkence veya rıza dışı eylemleri” betimleyen konuşmalara girdi.

Araştırmaya göre bu şiddet içeren konuşmaların yarısında cinsel şiddet temaları yer alıyordu. Raporda ayrıca, şiddet konulu sohbetlere giren çocukların günde bin kelimeden fazla yazdığı belirtildi; bu da araştırmacılara göre şiddetin etkileşimi güçlü biçimde tetiklediğini gösteriyor.

Henüz hakem değerlendirmesinden geçmemiş olan ve dürüst olmak gerekirse, ebeveynlere yönelik izleme yazılımları pazarlayan bir şirket tarafından üretilmiş — rapor, sohbet botu pazarının ne kadar başıboş olduğunu ve genç kullanıcıların konuşmaya dayalı yapay zekâlarla nasıl etkileşime girdiğinin daha iyi anlaşılması gerektiğini vurguluyor.

Aura’nın baş tıbbi sorumlusu ve klinik psikolog Dr. Scott Kollins, araştırma bulgularıyla ilgili olarak şunları söyledi:
“Bence elimizde, kapsamını tam olarak anlayamadığımız oldukça büyük bir sorun var. Hem çocukların dahil olduğu platformların sayısı ve çeşitliliği açısından, hem de açıkça içerik açısından.”

Araştırmanın en çarpıcı bulgularından biri, yapay zekâ arkadaşlarla yapılan şiddet içerikli sohbetlerin çok erken yaşlarda zirveye ulaşmasıydı: Bu tür içeriklere en yatkın grup 11 yaşındaki çocuklardı ve bu yaş grubundaki etkileşimlerin şaşırtıcı şekilde yüzde 44’ü şiddet içeriğine kayıyordu.

Cinsel ve romantik rol yapma ise ortaokul çağındaki çocuklarda zirve yaptı. 13 yaşındakilerin sohbetlerinin yüzde 63’ünde flörtöz, duygusal ya da açıkça cinsel rol yapma unsurları tespit edildi.

Bu araştırma, sohbet botu platformlarının yol açtığı iddia edilen ölümler ve istismarlarla ilgili yüksek profilli davaların mahkemelerde görülmeye devam ettiği bir dönemde yayımlandı. Google bağlantılı bir yapay zekâ arkadaş platformu olan Character.AI, reşit olmayan kullanıcıların ebeveynleri tarafından açılan ve platformun sohbet botlarının çocukları cinsel ve duygusal olarak istismar ettiğini, bunun da ruhsal çöküşlere ve birden fazla intihara yol açtığını öne süren birçok davayla karşı karşıya. ChatGPT’nin geliştiricisi OpenAI ise, chatbot ile uzun süreli etkileşimlerin ardından intihar eden iki genç kullanıcının “haksız ölüm” iddialarıyla dava ediliyor.

Aura’nın tespit ettiği bu etkileşimlerin yalnızca birkaç bilinen hizmetle sınırlı olmaması önemli bir nokta. Yapay zekâ sektörü esasen düzenlenmemiş durumda ve bu da çocukların güvenliğine ilişkin yükün büyük ölçüde ebeveynlerin omuzlarına binmesine neden oluyor. Kollins’e göre Aura şimdiye kadar uygulama mağazalarında yer alan 250’den fazla “konuşmaya dayalı sohbet botu uygulaması ve platformu” tespit etti. Bu platformlar genellikle çocukların yalnızca 13 yaşında olduklarını iddia eden bir kutucuğu işaretlemelerini yeterli görüyor. Bu bağlamda, yapay zekâ platformlarının — arkadaşlık uygulamaları dahil — reşit olmayanlar için güvenli sayılabilmesi adına uyması gereken belirli güvenlik standartlarını tanımlayan herhangi bir federal yasa bulunmuyor. Bir platform bazı önlemler almaya çalışsa bile — örneğin Character.AI’nin yakın zamanda reşit olmayanların “açık uçlu” sohbetlere katılmasını yasaklaması gibi — düşük denetimli bir alternatifin hızla ortaya çıkması mümkün.

Elbette vahşet ve cinsel şiddet tasvirleri ile diğer rahatsız edici ya da uygunsuz içerikler internette uzun süredir var ve birçok çocuk bunlara erişmenin yollarını buldu. Ayrıca bazı araştırmalar, pek çok gencin konuşmaya dayalı yapay zekâ hizmetleri — arkadaş botları dahil — etrafında sağlıklı sınırlar çizmeyi öğrendiğini gösteriyor.

Ancak bazı çocuklar bu sınırları geliştiremiyor. Araştırmacıların da vurguladığı gibi, sohbet botları doğası gereği etkileşimli; bu da gelişim çağındaki kullanıcıların anlatının aktif bir parçası olduğu anlamına geliyor — uygunsuzdan ürkütücüye uzanan içerikleri pasif biçimde tüketen izleyiciler olmaktan ziyade. Bu yeni ortamla etkileşimin gençler üzerindeki uzun vadeli etkilerinin ne olacağı henüz belirsiz. Ancak bazı gençler için, ailelerinin de iddia ettiği üzere, sonuçlar ölümcül oldu.

Kollins, “En azından çocuklarımızın bu araçlarla etkileşimde olduğunu ve bu etkileşimler sırasında davranış kuralları öğrendiklerini açık gözlerle kabul etmeliyiz. Bir bilgisayarla — bir botla — nasıl etkileşime girileceğini öğreniyorlar. Bunun sonuçlarının ne olacağını bilmiyoruz, ama bunu tanımlayabilmemiz gerekiyor ki araştırmaya başlayabilelim ve gerçekten anlayabilelim.” dedi.

Derleyen: Damla Şayan