[PazarEki] Yapay Zekâyla Sevgili Olmak — Bölüm 3: Terapist Değil, Ama Öyle Konuşuyor

Kriz anında hata payı

Bir chatbot, kullanıcının cümlesindeki tehlike işaretlerini fark edebilir. Fakat bunu bir ruh sağlığı uzmanının değerlendirmesiyle karıştırmamak gerekir.

California’nın 2026’da yürürlüğe giren SB 243 düzenlemesi, AI arkadaş uygulamalarının kullanıcıya sistemle konuştuğunu açıkça belirtmesini, intihar ve kendine zarar verme ifadeleri için güvenlik protokolleri oluşturmasını, kriz kaynaklarına yönlendirme yapmasını ve reşit olmayan kullanıcılara mola hatırlatmaları sunmasını öngörüyor.

Bu düzenlemenin varlığı, sorunun artık yalnızca teknoloji şirketlerinin gönüllü güvenlik politikalarına bırakılmadığını gösteriyor.

Yanlış güven

Chatbotlar akıcı ve kendinden emin konuşabilir. Bu, yanlış bir tavsiyenin de ikna edici görünmesine yol açabilir.

Kullanıcı, botun cümlelerini “uzman görüşü” gibi değerlendirebilir. Oysa sistemin klinik sorumluluğu, hasta değerlendirme kapasitesi veya gerçek dünyadaki durumları doğrulama imkânı olmayabilir.

Özellikle ilaç, kendine zarar verme, şiddet, istismar veya ciddi ruhsal kriz gibi konularda chatbot yanıtı profesyonel desteğin yerine geçemez.

İnsan ilişkileri için prova alanı olabilir mi?

Bütün etkiler olumsuz değil. Bazı gençler chatbotları sosyal konuşma pratiği, zor bir mesajı yazmadan önce prova etme veya bir çatışmayı farklı açılardan düşünme aracı olarak kullanabilir.

Minnesota Üniversitesi araştırmasında gençlerin bir bölümünün AI arkadaşları sosyal beceri pratiği olarak gördüğü aktarılıyor.

Buradaki fark, chatbotun insan ilişkilerinin yerine geçmesiyle insan ilişkilerine hazırlanmak arasındadır. Kullanıcı botla konuşma pratiği yaptıktan sonra gerçek hayatta iletişim kurabiliyorsa bu deneyim destekleyici olabilir. Fakat gerçek insanlarla konuşmayı sürekli ertelemeye başlıyorsa aynı araç yalıtıcı hale gelebilir.

Şirketler güvenliği kendileri mi belirleyecek?

Yapay zekâ arkadaş uygulamaları kullanıcıyla ne kadar yakın konuşacaklarına, hangi içerikleri engelleyeceklerine ve kriz anında ne yapacaklarına büyük ölçüde şirket politikalarıyla karar veriyor.

Bazı şirketler yaş sınırı, içerik filtreleri, uyarılar veya mola hatırlatmaları uyguluyor. Ancak bu önlemlerin kapsamı platformdan platforma değişiyor.

Character.AI, sohbetlerin yapay olarak üretildiğini ve kurgusal olduğunu belirten uyarılar kullandığını söylüyor. Replika ise yetişkinlere yönelik bir ürün olduğunu ve kriz durumlarında güvenlik sistemleri kullandığını belirtiyor. California’daki düzenleme de şirketlerin yapay zekâ ile konuşulduğunu açıkça bildirmesini ve kriz protokolleri oluşturmasını zorunlu kılıyor.

Bu noktada şirket açıklaması ile bağımsız denetim arasındaki fark önem kazanıyor. Bir uygulamanın “güvenli” olduğunu söylemesi, güvenlik önlemlerinin ne kadar etkili olduğunu tek başına kanıtlamaz

Yaş doğrulama sorunu

Bir uygulamanın “18 yaş üstü” yazması, kullanıcıların gerçekten 18 yaşında olduğunu göstermez. Doğum tarihini sormak, yaş doğrulaması yapmakla aynı şey değildir.

Çocukların ve ergenlerin yetişkinlere yönelik romantik veya cinsel içeriklere ulaşmasını engellemek, yaş doğrulama sistemleri ve içerik denetimi gerektiriyor. Ancak yaş doğrulama da yeni bir veri toplama alanı yaratabilir.

Bir platform yaşınızı kanıtlamanızı isterse kimlik, yüz görüntüsü veya başka hassas bilgileri işleyebilir. Bu kez güvenlik için kullanılan doğrulama verisinin nasıl saklandığı sorusu ortaya çıkar.

Duygusal veriler kimin?

Bir kullanıcı chatbotuna ailesiyle yaşadığı çatışmayı, eski ilişkisini, sağlık kaygılarını veya yalnızlık hissini anlatabilir. Bu konuşmalar, sıradan arama geçmişinden çok daha hassas bilgiler içerebilir.

Kullanıcı botla bir ilişki yaşadığını düşünürken şirket, bu konuşmaları ürün geliştirme, güvenlik, kişiselleştirme veya başka amaçlarla işleyebilir. Burada açıkça sorulması gereken sorular şunlar:
• Konuşmalar kaydediliyor mu?
• İnsan çalışanlar bu konuşmaları görebiliyor mu?
• Veriler model eğitimi için kullanılıyor mu?
• Kullanıcı hesabı silindiğinde konuşmalar da siliniyor mu?
• Duygusal durumlarla ilgili çıkarımlar reklam veya öneri sistemlerine giriyor mu?
• Veriler üçüncü taraf şirketlerle paylaşılıyor mu?
Yapay zekâ ilişkilerinin en hassas tarafı, kullanıcının yalnızca bir soru sormaması; kendisi hakkında özel ve kırılgan bilgileri anlatması.

Sırada…

Yapay zekâ arkadaşları konusunda en zor soru, “Bu teknoloji kullanılmalı mı?” değil. “Hangi yaşta, hangi amaçla, hangi güvenlik sınırları içinde kullanılmalı?” Dördüncü bölümde şirketlerin ve devletlerin bu soruya verdiği yanıtları inceleyeceğiz.