Bir anne, kızının sesini kullanan yapay zekânın kurbanı oldu. Yapay zekâ, anneden kızı için 1 milyon dolar fidye istedi.

Arizona’da yaşanan olayda Jennifer DeStefano, “kızının serbest bırakılması” için 1 milyon dolar talep eden korkunç bir telefon aldığını söyledi.

Jennifer DeStefano tanımadığı bir telefon numarasın tarafından arandığı sırada 15 yaşındaki kızı Brie, bir kayak gezisi için şehir dışındaydı.

Anne telefonu açtığında kızının “Anne!” deyip ağladığını duydu. DeStefano ne olduğunu sorduktan sonra kızından, “Anne, her şeyi batırdım.” cevabını aldı. Kızı ağlamaya devam ediyordu.

DeStafona, kızının sesinin ardından bir erkek sesinin telefondan geldiğini söyledi. Adam DeStafona’nın kızına “Başını geriye koy ve uzan.” diyordu.

DeStafona, adamın telefonu aldığını ve “Beni dinle, kızın bende. Polisi ararsan ona istediğimi yapacağım ve onu Meksika’ya bırakacağım.” dediğini söyledi.

Anne, o anda dehşete kapıldığını ve arkadan kızının yardım çığlıklarını duyduğunu söyledi.

Konuşmanın devamında telefondaki adam para talep etti. Adam önce 1 milyon dolar talep etti ardından DeStefano parası olmadığını söyleyince adam talebini 50 bin dolara düşürdü.

DeStefano telefonla konuştuğu sırada diğer kızının dans stüdyosundaydı ve etrafı ona yardım etmek isteyen annelerle çevriliydi. Kadınlardan biri polisi ararken diğer bir kadın ise DeStafano’nun kocasını aradı. O sırada DeStafano telefonla konuşmaya devam etti.

Sadece 4 dakika içinde anne, kızının güvende olduğunu öğrendi. DeStafano, kızının güvende olduğunu öğrenince hemen telefonu kapattı ama hâlâ telefondaki sesin kızına ait olduğuna dair annenin aklında herhangi bir şüphe yoktu.

DeStefano, “Tamamen onun sesiydi. Bu onun ağlamasıydı, böyle ağlardı.” dedi.

15 yaşındaki çocuğun bunların hiçbirini telefonda söylemediği ortaya çıktı. Telefondaki ses, sadece yapay zekânın oluşturduğu bir kopyaydı.

Arizona Eyalet Üniversitesinde AI konusunda uzmanlaşmış bilgisayar bilimi profesörü olan Subbarao Kambhampati, ses kopyalama teknolojisinin hızla geliştiğini söyledi.

Kambhampati, “Artık kulaklarınıza güvenemezsiniz.” dedi.

Kambhampati, önceden bir sesin kopyalanması için sesin kopyalandığı kişiden çok sayıda örnek alınmasını gerektiğini fakat bugünlerde sesin sadece üç saniyeyle kopyalanabileceğini söyledi. Ayrıca günümüzde ses kopyalama, sesin tonlamasını ve duyguyu da yakalıyor.

Kambhampati, “Bu yeni oyuncağın iyi kullanımları olacağı gibi oldukça endişe verici kullanımları da olabilir.” dedi.

FBI’ın Phoenix ofisinden sorumlu Özel Ajan Yardımcısı Dan Mayo, ses kopyalama teknolojisini kullanan dolandırıcıların avlarını genellikle sosyal medyada bulduğunu söyledi. Bunun gibi dolandırıcılıkların kurbanı olmaktan kaçınmak için Mayo, herkesin profilini özel modda kullanmasını öneriyor.

Mayo “Profilinizi kilitli tutmalısınız. Sorun şu ki, eğer profiliniz herkese açıksa bunun gibi insanlar tarafından dolandırılmaya izin vermiş olursunuz; çünkü onlar kişiler hakkında mümkün olduğunca fazla bilgi içeren herkese açık profiller arayacaklar ve o profili bulduklarında o kişiyi dolandıracaklar.” dedi.

DeStefano’ya gelince, dolandırıcılara para göndermediği için mutlu ama bu durum onun travma geçirmesini engelleyemedi.

Derleyen: Serap Atabey