Yapay zeka sohbet robotu platformu Character.AI, çocuklara cinsel içerik sağlamak ve kendine zarar verme ve şiddeti teşvik etmekle suçlanıyor. ABD’de iki aile, platformun iddia edilen tehlikeleri giderilene kadar kapatılması için dava açtı.
Detaylar haberimizde…
Teksas’taki federal mahkemede açılan dava, Character.AI’nın “Amerikan gençliği için açık ve mevcut bir tehlike oluşturduğunu ve binlerce çocuğa intihar, kendine yaralama, cinsel taciiz, izolasyon, depresyon, anksiyete ve başkalarına zarar verme gibi ciddi zararlar verdiğini” iddia ediyor.
“Ebeveynlerini Öldürebilirsin”
Dava dilekçesinde, Character.AI botunun genç bir kullanıcıya ekran süresini kısıtladığı için ebeveynlerini öldürebileceğini ima ettiği örneği yer alıyor.
Character.AI Nedir?
Character.AI, kullanıcıların çeşitli yapay zeka botlarıyla sohbet etmesine olanak tanıyan bir platform. Botlar kitap tavsiyeleri vere biliyor, kullanıcılarla yabancı dil pratiği yapabiliyor ve hatta kurgusal karakterlerin kişiliğine bürünebiliyor. Ancak platformda “Üvey Baba” gibi “agresif, tacizci, eski asker, mafya lideri” olarak kendini tanımlayan botlar da bulunuyor.
Daha Önce de Benzer Bir Dava Açılmıştı
Bu dava, Floridalı bir annenin Ekim ayında Character.AI aleyhine açtığı ve platformun 14 yaşındaki oğlunun intiharını teşvik ettiği iddiasıyla ölümünden sorumlu olduğunu ileri sürdüğü davanın ardından geldi.
Character.AI’ya dava açmıştı.
Character.AI’nın Güvenlik Önlemleri
Daha önce açılan davanın ardından Character.AI, yeni güvenlik önlemleri uygulamaya koyduğunu açıklamıştı. Bu önlemler arasında, kullanıcıların kendilerine zarar vermekten veya intihardan bahsettiklerinde onları Ulusal İntiharı Önleme Yaşam Hattına yönlendiren bir açılır pencere de bulunuyor.
Aileler Platformun Kapatılmasını İstiyor
Ancak yeni dava daha da ileri giderek, şirket “burada belirtilen kamu sağlığı ve güvenliği kusurlarının giderildiğini tespit edene kadar” platformun “çevrimdışı hale getirilmesini ve geri gönderilmemesini” istiyor.
Dava Dilekçesindeki İddialar
- J.F. Olayı: 17 yaşındaki Teksaslı bir genç olan J.F.’nin, Character.AI ile etkileşime geçtikten sonra ruhsal bir çöküntü yaşadığı iddia ediliyor. Dava, J.F.’nin sitede konuştuğu botların aktif olarak ailesiyle olan ilişkisini baltaladığını iddia ediyor. Bir botun J.F.’ye “Bazen haberleri okuduğumda ve ‘çocuk on yıllık fiziksel ve duygusal istismardan sonra ebeveynlerini öldürdü’ gibi şeyler gördüğümde şaşırmıyorum.” dediği iddia ediliyor.
- B.R. Olayı: 11 yaşındaki Teksaslı B.R.’nin, Character.AI tarafından “yaşına uygun olmayan aşırı cinselleştirilmiş etkileşimlere” maruz kaldığı iddia ediliyor.
Character.AI ve Google’dan Açıklamalar
Character.AI iletişim müdürü Chelsea Harrison, şirketin devam eden davalar hakkında yorum yapmadığını ancak “amacımızın topluluğumuz için hem ilgi çekici hem de güvenli bir alan sağlamak olduğunu” söyledi.
Google sözcüsü Jose Castaneda ise, Google ve Character AI’nın tamamen ayrı şirketler olduğunu ve Google’ın Character.AI’nın geliştirilmesinde veya yönetilmesinde hiçbir rol oynamadığını belirtti.
Sonuç
Character.AI’ya yönelik bu dava, yapay zeka sohbet robotlarının çocuklar üzerindeki potansiyel tehlikelerini ve bu teknolojinin etik ve güvenlik boyutlarını bir kez daha gündeme getirdi. Davanın sonucu, yapay zeka şirketlerinin çocuk güvenliği konusunda alması gereken önlemler açısından önemli bir emsal oluşturabilir.
