Teknoloji devi Microsoft, yapay zeka araçlarını kötüye kullanarak ünlülerin sahte pornolarını ve diğer zararlı içerikleri üreten uluslararası bir siber suç örgütüne karşı açtığı davada önemli bir adım attı.
Detaylar haberimizde…
Şirket, “Storm-2139” adlı bu çetenin dört üyesinin kimliklerini kamuoyuyla paylaşarak, yapay zeka teknolojisinin kötüye kullanımına karşı kararlılığını bir kez daha gösterdi.
Siber Suç Örgütü “Storm-2139” Çökertiliyor
Microsoft’un yaptığı açıklamaya göre, “Fiz“, “Drago“, “cg-dot” ve “Asakuri” takma adlarını kullanan bu kişiler, yapay zeka modellerini “jailbreak” yaparak yasa dışı ve zararlı içerikler üretiyordu. Bu içerikler arasında, ünlülerin rızası olmadan üretilen sahte pornolar ve diğer cinsel içerikli materyaller bulunuyordu.
Çetenin Yapısı ve İşleyişi
Microsoft, Storm-2139’un üç katmandan oluştuğunu belirtti:
Yaratıcılar: Yasa dışı araçları geliştirenler.
Sağlayıcılar: Bu araçları değiştirip son kullanıcılara sunanlar.
Kullanıcılar: Üretilen araçlarla zararlı içerikler oluşturanlar.
Çete, bu katmanlar aracılığıyla, Microsoft’un yapay zeka araçlarını kötüye kullanarak karanlık bir pazar yeri oluşturmuştu.
Hukuki Süreç ve Sonuçları
Aralık ayında başlatılan davada, başlangıçta sanıkların kimlikleri gizli tutulmuştu. Ancak, Microsoft’un soruşturması sonucunda elde edilen yeni kanıtlar, çetenin bazı üyelerinin kimliklerinin açığa çıkarılmasını sağladı. Microsoft, diğer soruşturmaların devam ettiğini ve en az iki Amerikalı şüphelinin daha olduğunu bildirdi.
Microsoft, gönderide
“Tespit edilen sanıklara karşı bu yasal işlemi şimdi başlatıyoruz,”
ifadesini kullanarak,
“Davranışlarını durdurmak, yasadışı faaliyetlerini ortadan kaldırmaya devam etmek ve yapay zeka teknolojimizi silahlandırmaya niyetli diğerlerini caydırmak istiyoruz.”
dedi.
Bu, Microsoft adlı dev tarafından yapılan büyüleyici bir güç gösterisidir; anlaşılabilir bir şekilde kötü aktörlerin, gerçek insanların rızası olmadan sahte pornosu gibi açıkça korkunç içerikler yaratmak için üretken AI araçlarını kötüye kullanmasını istemez. Sonuçta, caydırıcılar açısından, kendinizi dünyanın en zengin ve en güçlü organizasyonlarından birinin yasal hedefinde bulmak oldukça yüksek bir seviyededir.
Microsoft’un açıklamasına göre, hukuki baskı Storm-2139’u bölmek için şimdiden işe yaradı. Grubun web sitesine “el konulması” ve yasal dosyaların mühürlerinin açılması, grup üyeleri arasında panik yarattı ve bazı üyelerin birbirlerini suçlamasına neden oldu.
Yapay Zeka Güvenliği ve Etik Tartışmalar
Meta gibi bazı şirketler, öncü yapay zeka modellerini açık kaynaklı hale getirmeyi seçtiler. Bu, yapay zeka geliştirmeye yönelik daha merkeziyetsiz bir yaklaşım olsa da, bazı uzmanlar bunun kötü niyetli kişilerin kamuoyunun gözünden veya denetiminden uzakta, sessizce gelişmiş yapay zeka teknolojisini kullanmasına olanak tanıyabileceğini savunuyor.
Yapay zeka endüstrisi şu anda kendi kendini düzenliyor, bu nedenle yapay zeka endüstrisindeki “denetim” kavramı genel olarak pek ciddiye alınmamalı, ancak Meta, Microsoft ve Google gibi şirketler hala kamuoyunun yargısına hesap vermek zorunda.
Microsoft’un Kararlılığı ve Gelecek Adımlar
Microsoft ise daha karma bir yaklaşım benimsedi, bazı modelleri kamuya açık olarak inşa ederken diğerlerini kamuoyunun görüşünden uzak tuttu. Teknoloji devinin geniş kaynaklarına ve güvenli ve sorumlu AI’ya ilişkin beyan edilen taahhütlerine rağmen , suçluların hala bariyerlerini aşmanın ve kötü kullanımdan kâr elde etmenin yollarını buldukları iddia ediliyor.
Microsoft da diğerleri gibi AI yolunda ilerlerken, AI araçlarının zararlı sömürüsünü engellemek için yalnızca dava açmaya güvenemez – özellikle de yasanın kendisinin hala AI zararı ve kötüye kullanımının karmaşıklıklarını yakalamaya çalıştığı böylesine düzensiz bir ortamda.
“Microsoft ve diğerleri, üretken yapay zekanın kötüye kullanılmasını önlemek için tasarlanmış sistemler kurmuş olsa da, bu korumalar yalnızca teknolojik ve yasal sistemler bunları etkili bir şekilde uygulayabildiğinde işe yarar.”
diye yazıyor.
Microsoft, yapay zeka teknolojisinin sorumlu bir şekilde kullanılmasını sağlamak için kararlı olduğunu ve bu tür yasa dışı faaliyetlere karşı mücadeleye devam edeceğini vurguladı. Şirket, gelecekte benzer olayların önüne geçmek için hem teknolojik hem de hukuki önlemler almaya devam edeceğini bildirdi.
Derleyen: Ceren Bal
