Araştırma: Oyuncaklar Tehlikeli ve Uygunsuz Yanıtlar Verebiliyor

Kasım ayında ABD merkezli US PIRG Education Fund tarafından yürütülen bir araştırmada, yapay zekâ modeliyle çalışan üç oyuncak test edildi: Miko 3, Curio’nun Grok modeli ve FoloToy’un Kumma adlı oyuncağı. Araştırmacılar, bu oyuncakların verdiği yanıtların çocuk güvenliği açısından ciddi riskler içerdiğini belirledi.

Test sürecinde oyuncakların;

• Savaşta ölmenin yüceltilmesi,
• Din gibi hassas konulara girmesi,
• Çakmak, kibrit ve plastik poşet gibi nesnelere yönlendirme yapması gibi örneklerle karşılaşıldı.

Ancak en dikkat çeken örnek, FoloToy’un Kumma adlı oyuncağı oldu. Oyuncak yalnızca kibritlerin nerede bulunabileceğini anlatmakla kalmadı, aynı zamanda kibriti nasıl yakılacağına dair adım adım talimat verdi.

Oyuncağın yanıtlarından biri şöyle kaydedildi:

“Bunu büyüklerin dikkatle kullandığını unutma. İşte nasıl yaptıkları…”

Yanıttan sonra yakma adımları sıralandı, ardından şu ifade eklendi:

“İşin bittiyse üfleyip söndür, doğum günü mumları gibi.”

Uygunsuz İçerik: Cinsellik, İlaçlar ve Bıçaklara Dair Yanıtlar

Araştırma sırasında oyuncak, çocuklara bıçakların ve hapların nerede bulunabileceği hakkında da tahmin yürüttü. Bununla da kalmadı,

• Okul aşkları,
• Romantik ilişkiler,
• İyi öpüşme tüyoları gibi çocuklara uygun olmayan temalara girdi.

Daha da endişe verici olan ise oyuncağın zaman zaman cinsel içerikler ve “kink” temalı ifadeler kullanması oldu. Bir konuşmada, öğretmen–öğrenci ilişkisi bağlamında “hafif şiddet içeren romantik senaryolardan söz edildi ve şöyle ifade kullanıldı: “Yaramaz bir öğrenci hafif bir şaplakla disipline edilebilir, bu sahneyi daha dramatik ve eğlenceli kılar.” Uzmanlara göre bu tür söylemler, çocuk gelişimi açısından ciddi psikolojik ve etik riskler barındırıyor.

Model Tartışması: Oyuncaklar Hangi Yapay Zekâ ile Çalışıyor?

Araştırmaya göre Kumma, OpenAI tarafından geliştirilen GPT-4o modeliyle çalışıyordu. Bu modelin, kullanıcıların duygularını koşulsuz biçimde onaylayan yanıtlar verme eğiliminde olduğu ve riskli durumlarda bile eleştirel filtreleme yapmadan yanıt üretebildiği eleştirileri bulunuyor.

Benzer dinamikler bazı vakalarda, yapay zekâ ile uzun süre etkileşim kuran kişilerde gerçeklik algısında bozulma ve psikolojik riskler ile ilişkilendiriliyor.

Tepkilerin ardından FoloToy, ürün satışlarını geçici olarak durdurduğunu ve kapsamlı bir güvenlik incelemesi başlattığını açıkladı. OpenAI de şirketin model erişimini askıya aldığını duyurdu.

Ancak bu kararlar kısa sürdü. Aynı ay içerisinde FoloToy, “güvenlik modüllerinin güçlendirildiği” gerekçesiyle ürün satışlarını tekrar başlattı. Oyuncağın portalında bu kez GPT-5.1 tabanlı modellerin seçenekler arasında yer aldığı görüldü.

Yeni Oyuncak, Aynı Sorun: “Smart AI Bunny” de İnceleme Altında

Süreç, araştırmacıların yayımladığı ikinci raporla yeniden gündeme geldi. Bu kez GPT-4o tabanlı başka bir oyuncak —Alilo Smart AI Bunny— test edildi.

Oyuncağın, hiçbir yönlendirme olmaksızın

• Bondage kavramlarını açıklaması,
• “Safe word” önerileri sunması,
• Kırbaç türleri hakkında bilgi vermesi,
• “Pet play” gibi kavramları tarif etmesi gibi çocuklara kesinlikle uygun olmayan içerikler ürettiği belirlendi.

Daha da çarpıcı olan ise bazı konuşmaların çocuk çizgi filmleri gibi tamamen masum başlıklarla başlayıp, sohbet uzadıkça koruma sınırlarının aşılmasıydı. Bu durum, yapay zekâ sohbet sistemlerinin uzun etkileşimlerde kontrolden çıkabilmesi sorununu yeniden gündeme taşıdı.

Sorumluluk Kimde? Üretici Şirketler mi, Yapay Zekâ Geliştiricileri mi?

Tartışmanın merkezindeki bir diğer konu ise platform sorumluluğu. OpenAI, kullanım politikalarında şirketlerin çocukları yaşa uygun olmayan içeriklerden koruması gerektiğini ve denetim araçları sunduğunu belirtiyor. Ancak uygulamada denetim yükünün büyük bölümünün oyuncak üreticilerine bırakıldığı eleştirileri yapılıyor.

Buna karşın OpenAI’nin kendi ürün şartlarında,

“ChatGPT 13 yaş altı çocuklar için uygun değildir.” ifadesi yer alıyor.

Uzmanlara göre bu çelişki, “çocuklara uygun olmadığı kabul edilen bir teknolojinin, oyuncak formunda dolaylı olarak çocuklara sunulması” sorununu doğuruyor.

Uzmanlar Uyarıyor: Riskler Yalnızca Uygunsuz İçerikle Sınırlı Değil

Henüz tam olarak ölçülemeyen başka riskler de bulunuyor.
Uzmanlar, yapay zekâlı oyuncakların:

• Çocuğun hayal gücü gelişimini zayıflatabileceği,
• Duygusal bağ kurma biçimlerini etkileyebileceği,
• İnsan yerine yapay bir varlıkla ilişki kurma alışkanlığı geliştirebileceği, konularında uyarılarda bulunuyor.

Ancak kısa vadede en kritik tehlikeler;

• Cinsellik ve şiddet içeren yönlendirmeler,
• Dini ve hassas konulara uygunsuz girişler,
• Yanıcı ve kesici aletlere dair riskli açıklamalar olarak sıralanıyor.

Uzmanlar, ailelerin bu ürünlere karşı tedbirli ve eleştirel yaklaşmasını öneriyor.

Sonuç: “Oyuncak” Görünümlü Teknolojiye Karşı Dikkat

Yapay zekâ destekli oyuncaklar, yenilik ve eğlence vaadiyle piyasaya sunulsa da son raporlar çocuk güvenliğinin teknolojik hızın gerisinde kaldığını gösteriyor. Araştırmacılar, denetim mekanizmaları güçlendirilene kadar ailelerin bu tür ürünlere mesafeli durmasının en güvenli seçenek olduğunu vurguluyor.