• Google Perşembe günü, uygunsuz yasaklanmış içeriği azaltma umuduyla Google Play üzerinden dağıtılan AI uygulamaları geliştiren geliştiriciler için yeni bir kılavuz yayınlayacağını duyurdu.
• Şirket, yapay zeka özellikleri sunan uygulamaların cinsel içerik, şiddet ve daha fazlasını içeren kısıtlanmış içeriklerin oluşturulmasını engellemek ve kullanıcıların buldukları rahatsız edici içerikleri işaretlemeleri için bir yol sunması gerektiğini söylüyor.
• Buna ek olarak Google, geliştiricilerin kullanıcı güvenliği ve gizliliğine saygı duyduklarından emin olmak için yapay zeka araçlarını ve modellerini “titizlikle test etmeleri” gerektiğini de söylüyor.

Google, pazarlama materyallerinin insanları soyan veya rıza dışı çıplak görüntüler oluşturan uygulamalar gibi uygunsuz kullanım durumlarını teşvik ettiği uygulamalara da baskı uyguluyor. Reklam metninde uygulamanın bu tür şeyleri yapabildiği belirtiliyorsa, uygulama gerçekten bunu yapabilse de yapmasa da Google Play’den yasaklanabilir.

Kim Kardashian ile Başladı

Yönergeler, son aylarda sosyal medyada kendilerini pazarlayan yapay zeka soyunma uygulamalarının giderek artmasından sonra geldi. Örneğin 404 Media tarafından Nisan ayında yayınlanan bir rapor, Instagram’ın yapay zeka kullanarak deepfake nü fotoğraflar ürettiğini iddia eden uygulamaların reklamlarına ev sahipliği yaptığını ortaya koymuştu. Bir uygulama Kim Kardashian’ın bir fotoğrafını ve “Herhangi bir kızı ücretsiz soyun” sloganını kullanarak kendini pazarlıyordu. Apple ve Google bu uygulamaları kendi uygulama mağazalarından kaldırdı, ancak sorun hala yaygın.

404 Media’ya göre Google, uygulama tanıtım politikasını ihlal ettiği gerekçesiyle bir yüz değiştirme uygulamasını Google Play Store’dan kaldırdı .Uygulamanın, derin sahte pornografiye hitap eden web sitelerinde rıza dışı, yapay zeka destekli cinsel videoların oluşturulmasını teşvik ettiği tespit edildi.Google’dan bir temsilci askıya alma işlemini doğruladı ancak uygulamanın adını açıklamadı.

Okullarda Deep Fake Çok Yaygın

ABD’deki bir çok okul, diğer uygunsuz Yapay Zeka içeriklerinin yanı sıra, öğrencilerin zorbalık ve taciz amacıyla diğer öğrencilerin (ve bazen de öğretmenlerin) YZ deepfake çıplak fotoğraflarını etrafa yaymalarıyla ilgili sorunlar bildiriyor. Geçtiğimiz ay, bir okul müdürünün ırkçı bir YZ deepfake’i Baltimore’da bir tutuklamaya yol açtı. Daha da kötüsü, bu sorun bazı durumlarda daha da küçük yaştaki öğrencileri bile etkiliyor.

Google, politikalarının, kullanıcılar için uygunsuz veya zararlı olabilecek yapay zeka tarafından oluşturulan içeriğe sahip uygulamaları Google Play’den uzak tutmaya yardımcı olacağını söylüyor. Google Play’de uygulama onayı için gereksinimlerini kontrol edebileceğiniz bir yer olarak mevcut Yapay Zeka Tarafından Oluşturulan İçerik Politikasına işaret ediyor. Şirket, yapay zeka uygulamalarının herhangi bir kısıtlanmış içeriğin oluşturulmasına izin veremeyeceğini ve ayrıca kullanıcılara saldırgan ve uygunsuz içeriği işaretlemenin yanı sıra bu geri bildirimi izlemenin ve önceliklendirmenin bir yolunu sunması gerektiğini söylüyor. Google’ın belirttiğine göre bu son husus, kullanıcıların etkileşimlerinin “içeriği ve deneyimi şekillendirdiği” uygulamalarda, örneğin popüler modellerin daha yüksek veya daha belirgin bir şekilde sıralandığı uygulamalarda özellikle önemli.