• 2024 Beyaz Saray yarışı, ABD Başkanı Joe Biden’ı taklit eden ve özellikle ses deepfake’leri konusunda endişe yaratan yapay zeka destekli yanıltıcı bilgi tehlikesi ile karşı karşıya.
• Pindrop tarafından yayımlanan ayrıntılı bir analizde, Biden robocall’u oluşturmak için yapay zeka ses klonlama girişimi ElevenLabs tarafından geliştirilen bir metinden sese sisteminin kullanıldığı belirtildi.
• Bu durum, kampanyacıların yapay zeka araçları konusunda daha sıkı önlemler alınması ya da robocall’ların tamamen yasaklanması yönündeki talepleri tetikledi.

2024 Beyaz Saray yarışı, ABD Başkanı Joe Biden’ı taklit eden ve özellikle ses deepfake’leri konusunda endişe yaratan yapay zeka destekli yanıltıcı bilgi tehlikesi ile karşı karşıya. Robocall, Biden’ın sesini dijital olarak taklit ederek imza cümlelerinden biri olan “What a bunch of malarkey” sözünü de kullandı.

Geçen ay New Hampshire sakinlerini demokratların ön seçiminde oy kullanmamaya çağıran bir robocall, eyalet yetkililerini olası seçmen baskısı konusunda bir soruşturma başlatmaya sevk etti. Bu durum, kampanyacıların yapay zeka araçları konusunda daha sıkı önlemler alınması ya da robocall’ların tamamen yasaklanması yönündeki talepleri de tetikledi.

Dezenformasyon araştırmacıları; ucuz, kullanımı kolay ve izlenmesi zor olan ses klonlama araçlarının yaygınlaşması sayesinde yapay zeka destekli uygulamaların çok önemli bir seçim yılında yaygın şekilde kötüye kullanılmasından korkuyor. AFP’ye konuşan siber güvenlik firması Pindrop’un CEO’su ve kurucu ortağı Vijay Balasubramaniyan, “Bu, kesinlikle buzdağının görünen kısmı. Bu seçim döngüsü boyunca çok daha fazla deepfake görmeyi bekleyebiliriz.” dedi.

Pindrop tarafından yayımlanan ayrıntılı bir analizde, Biden robocall’u oluşturmak için yapay zeka ses klonlama girişimi ElevenLabs tarafından geliştirilen bir metinden sese sisteminin kullanıldığı belirtildi. Skandal, ABD siyasi koridorunun her iki tarafındaki kampanyacıların etkili kampanya mesajları için gelişmiş yapay zeka araçlarından yararlandığı ve teknoloji yatırımcılarının ses klonlama girişimlerine milyonlarca dolar yatırdığı bir dönemde ortaya çıktı. Bloomberg News’e göre Balasubramaniyan, Pindrop’un elindeki verileri, geçtiğimiz ay şirkete 1,1 milyar dolar değer biçen bir yatırımcı fonu sağladığını duyuran ElevenLabs ile paylaşıp paylaşmadığını söylemekten kaçındı.

ElevenLabs AFP’nin tekrarlanan yorum taleplerine yanıt vermedi. Web sitesi kullanıcıları herhangi bir dilde anında doğal yapay zeka sesleri yaratmak için metinden sese sistemlerine yönlendiriyor. Firma; güvenlik yönergeleri kapsamında kullanıcıların Donald Trump gibi siyasi figürlerin ses klonlarını, yapay olduğunu açıkça gösterecek mizah veya alay ifadelerini kullanmaları halinde oluşturabileceklerini belirtiyor.

ABD’li yetkililer, yapay zeka tarafından üretilen robocall’ları yasa dışı hâle getirmeyi düşünüyordu. Sahte Biden çağrısı, bu çalışmalara yeni bir ivme kazandırdı.

Kamu Vatandaşı adlı sivil toplum kuruluşunun başkanı Robert Weissman, “Siyasi deepfake dönemi geldi çattı. Politikacılar, acilen koruma önlemleri almalı yoksa seçim kaosuyla karşı karşıya kalacağız. New Hampshire deepfake’i, deepfake’lerin kafa karışıklığına yol açabileceği pek çok yolu hatırlatıyor.” dedi.

Yapay zeka ses araçlarının yaygınlaşması, tespit yazılımlarını geride bıraktıkça bu tür endişeler de artıyor. TikTok’un sahibi ByteDance, kısa süre önce bir kullanıcının sesini istenen herhangi bir alternatife gerçek zamanlı olarak dönüştüren bir yapay zeka aracı olan StreamVoice’i tanıttı.

Tim Harper şunları söyledi: “Bu eylemlerle bile, bu araçların hizmet şartlarınızı ihlal eden zararlı içerik üretmek için kullanıldığını tespit etmek gerçekten zor ve gerçekten pahalıdır. Bu durum, güven ve emniyete yatırım yapılmasını ve risk olarak seçim bütünlüğünü merkeze alan bir yapı oluşturma taahhüdünde bulunulmasını gerektiriyor.”

Derleyen: Esin Özcan