- Bazı internet kullanıcıları, homofobik, ırkçı ve propagandacı şarkılar yaratmak için yapay zeka müzik araçlarını kötüye kullanıyor ve başkalarına bunu nasıl yapacaklarını öğreten kılavuzlar yayınlıyor.
Çevrimiçi platformlarda güven ve güvenlik operasyonlarını yöneten bir hizmet olan ActiveFence’e göre, Mart ayından bu yana “nefret söylemi ile ilgili” topluluklarda, azınlık gruplarını hedef alan saldırgan şarkılar yazmak için yapay zeka müzik oluşturma araçlarını kötüye kullanma yolları hakkında konuşmalarda ciddi artış oldu. ActiveFence araştırmacıları bir raporda, bu forumlarda ve tartışma panolarında paylaşılan yapay zeka tarafından üretilen şarkıların, şehitlik, kendine zarar verme ve terör eylemlerini kutlarken etnik, cinsiyet, ırksal ve dini gruplara karşı nefreti kışkırtmayı amaçladığını söylüyor.
Nefret dolu ve zararlı şarkılar yeni bir olgu değil. Ancak korkulan şu ki, kullanımı kolay ücretsiz müzik üretme araçlarının ortaya çıkmasıyla birlikte, bu tür şarkılar daha önce bu araçlara ya da bilgi birikimine sahip olmayan kişiler tarafından da üretilebilecek – tıpkı görüntü, ses, video ve metin üreticilerinin yanlış bilgi, dezenformasyon ve nefret söyleminin yayılmasını hızlandırdığı gibi.
Bir ActiveFence sözcüsü verdiği demeçte, “Bunlar, daha fazla kullanıcı bu şarkıları nasıl oluşturacağını ve başkalarıyla nasıl paylaşacağını öğrendikçe yoğunlaşan eğilimler” dedi ve ekledi “Tehdit aktörleri, bu platformları farklı şekillerde kötüye kullanmak ve kötü niyetli içerik oluşturmak için belirli güvenlik açıklarını hızla tespit ediyor.”
“Nefret” şarkıları yapmak
Udio ve Suno gibi yapay zeka müzik araçları, kullanıcıların oluşturulan şarkılara özel sözler eklemesine izin veriyor. ActiveFence’e göre, platformlardaki güvenlik önlemleri yaygın hakaretleri ve aşağılayıcı ifadeleri filtreliyor, ancak kullanıcılar geçici çözümler bulmuş durumda.
Raporda belirtilen bir örnekte, beyazların üstünlüğünü savunan forumlardaki kullanıcılar, içerik filtrelerini aşmak için kullandıkları “Yahudiler” yerine “jooz” ve “Şeytan” yerine “say tan” gibi azınlıkların ve saldırgan terimlerin fonetik yazılışlarını paylaştı. Bazı kullanıcılar şiddet eylemlerinden bahsederken “my rape” yerine “mire ape” gibi boşlukları ve yazımları değiştirmeyi önerdi.
TechCrunch web sitesi bu geçici çözümlerden birkaçını, yapay zeka tarafından üretilen müzikleri oluşturmak ve paylaşmak için kullanılan en popüler araçlardan ikisi olan Udio ve Suno üzerinde test etti. Suno hepsine izin verirken, Udio saldırgan sesteş sözcüklerin hepsini değil ama bazılarını engelledi.
E-posta yoluyla ulaşılan bir Udio sözcüsü TechCrunch’a şirketin platformunun nefret söylemi için kullanılmasını yasakladığını söyledi. Suno ise yorum talebine yanıt vermedi.
ActiveFence, incelediği topluluklarda, Yahudiler hakkında komplo teorilerini tekrarlayan ve onların toplu katliamını savunan yapay zeka tarafından üretilen şarkılara; IŞİD ve El Kaide terör örgütleriyle ilişkili sloganlar içeren şarkılara ve kadınlara yönelik cinsel şiddeti yücelten şarkılara bağlantılar buldu.
Şarkının etkisi
ActiveFence, şarkıların – örneğin metinlerin aksine – duygusal bir ağırlık taşıdığını ve bu nedenle nefret grupları ve siyasi savaş için özellikle bir güç olduğunu savunuyor. Firma, 70’lerin sonu ve 80’lerin başında İngiltere’de düzenlenen ve antisemitik ve ırkçı “hatecore” müzik alt türlerinin ortaya çıkmasına neden olan beyaz güç rock konserleri serisi Rock Against Communism’i örnek gösteriyor.
ActiveFence sözcüsü, “Yapay zeka zararlı içeriği daha cazip hale getiriyor – birisinin belirli bir nüfus hakkında zararlı bir anlatı vaaz ettiğini düşünün ve sonra birisinin herkesin söylemesini ve hatırlamasını kolaylaştıran kafiyeli bir şarkı yarattığını hayal edin. Grup dayanışmasını güçlendiriyor, çevre grup üyelerini telkin ediyor ve aynı zamanda bağlı olmayan internet kullanıcılarını şok etmek ve rencide etmek için kullanılıyorlar.” dedi.
Derleyen: Okan Köroğlu
