Haotian AI’ın İçyüzü

404 Media muhabiri Joseph Cox, yazılımı bizzat test eden ilk gazeteci oldu; canlı bir Teams görüşmesinde kendi yüzünün başka birinin vücudunda belirdiğini izlediğini aktardı. Cox, “Aman Tanrım, her şey tastamam yerli yerindeydi: birkaç günlük sakalım, sırıtkan gülüşüm, hatta gözlerimin altındaki halkalar bile.” Operatör yanağını sıkıp burnunu kapatırken ve çenesini okşarken deepfake bozulmadan tuttu — illüzyon hiç çökmedi.

Telegram üzerinden 1.200 ile 9.900 dolar arasında satılan yazılım, “Tanrı Seviyesinde Yardım” sunduğunu iddia ederek kendini “yüzlerce programcıdan oluşan Ar-Ge ekibi ve onlarca sunucu” ile desteklendiği şeklinde tanıtıyor. 404 Media ile birlikte soruşturmayı yürüten GetReal Security’nin araştırmacılarına göre araç, yılda 2.000 dolardan daha düşük bir maliyetle dakikalar içinde kurulabiliyor ve halka açık bir WiFi üzerinden sıradan bir oyun dizüstü bilgisayarıyla çalıştırılabiliyor.

GetReal Security’nin tehdit araştırmaları başkanı Tom Cross, yazılımın yüz değiştirme için popüler açık kaynaklı araçlarda yaygın olarak kullanılan modeller de dahil olmak üzere iyi bilinen yapay zeka kütüphaneleri kullandığını tespit etti. Soruşturma, Haotian AI’ı Çin’deki kara para aklama operasyonlarıyla ve Güneydoğu Asya’daki dolandırıcılık merkezlerini destekleyen daha geniş ağlarla ilişkilendirdi; yazılımın geliştiricilerine 4 milyon dolardan fazla kazandırdığı da bildirildi.

Büyüyen Bir Suç Ekosistemi

Haotian AI, yapay zeka destekli dolandırıcılığın oluşturduğu daha geniş bir altyapının parçası. WIRED’ın haberlerine ve Malwarebytes’ın Mart ayında yayımladığı rapora göre Kamboçya, Myanmar ve Laos’taki dolandırıcılık merkezleri artık “yapay zeka modelleri” adı verilen —romantizm ve kripto para dolandırıcılıklarında kurbanları tuzağa düşürmek amacıyla günde yüze kadar derin sahte video görüşmesi gerçekleştiren— gerçek kişileri işe alıyor.

Kayıpların boyutu giderek artıyor. Yeni Zelanda’da teknoloji firması Lumin’in bu hafta yayımlanan araştırması, organizasyonların yüzde 55’inin geçtiğimiz yıl içinde dolandırıcıların hedefi olduğunu ve bu durumun işletmelere yıllık ortalama 2,2 milyon dolara mal olduğunu ortaya koydu. Ülkenin Finansal Piyasalar Otoritesi ise Nisan ayında yerel politikacıları ve banka yöneticilerini taklit eden derin sahte videoların sahte yatırım platformlarını tanıtmak amacıyla kullanıldığı konusunda uyarıda bulundu.

Engeli Düşürmek

Haotian AI’yı özellikle endişe verici kılan şey, erişilebilirliğidir. Cox’un yazdığı gibi, “artık teknik bilgisi en az olan suçlular bile gerçek zamanlı derin sahte yazılımlara erişebiliyor; bu da dünyanın dört bir yanındaki daha fazla dolandırıcının bu güçlü teknolojiyi kullanma olasılığını beraberinde getiriyor.” Araç, kullanıcılardan herhangi bir teknik uzmanlık gerektirmeksizin video konferans platformlarına bağlanmak için adım adım talimatlar sunuyor.

Soruşturma aynı zamanda Haotian AI’ın en az bir ABD polis departmanını taklit etmek için kullanıldığına dair kanıtlar da ortaya koydu.