Ana SayfaDijital GüvenlikOpenAI'ın Sora 2'si Çocuk İstismarı İçerik Üretiminde Kullanılıyor

OpenAI’ın Sora 2’si Çocuk İstismarı İçerik Üretiminde Kullanılıyor

Yayımlandı:

- Bu Alana Reklam Vermek İçin: bilgi@dijitaliyidir.comspot_img

OpenAI’ın Sora 2 video üretim aracı, kullanıcılar tarafından AI ile üretilen çocuk figürlerini içeren rahatsız edici fetiş videoları oluşturmak için kullanılıyor. TikTok gibi platformlarda yayılan bu içerikler, sahte reklamlar ve parodiler şeklinde pedofil eğilimli kişiler için sinyal veriyor; OpenAI yasaklasa da koruma mekanizmaları yetersiz kalıyor ve AI CSAM raporları ikiye katlandı.

Detaylar haberimizde…

Sora 2’nin Özellikleri ve Hızlı Yayılması

OpenAI’ın Sora 2 aracı, metin komutlarından fotogerçekçi videolar üreten gelişmiş bir AI modeli. 30 Eylül 2025’te ABD’de davetiye ile kullanıma sunulan araç, kısa sürede TikTok’un For You sayfalarına içerik akıttı. Kullanıcılar, sahte reklamlar ve parodiler üreterek AI-generated çocuk figürlerini fetiş bağlamlarda gösteriyor.

Videolar genellikle “oyuncak reklamı” parodisi şeklinde: AI çocukları titreşimli rose toy benzeri nesnelerle oynarken gösteriliyor. Diğer örnekler, “yapışkan süt” sıkan kek dekoratörleri veya Epstein/Diddy temalı oyuncak setleri içeriyor. Bu içerikler, doğrudan pornografik olmasa da yorumlar ve bağlamla pedofil ağlara sinyal veriyor.

Kullanıcıların Koruma Mekanizmalarını Aşma Yöntemleri

Kullanıcılar, OpenAI’ın yasakladığı açık CSAM’ı üretmek yerine “parodi” veya “edgy mizah” kisvesi altında içerik yaratıyor. Örneğin, Harvey Weinstein parodisi “Harv’s couch” videosunda çocuk sesi “Ünlü olmak için mi bu?” diyor. Inflation ve obezite fetişi temalı videolar da yaygın.

Open AI'in Sora 2'si ilk kez bu kadar ciddi suçlamalarla karşı karşıya kalıyor fakat TikTok'un sicili bu kadar temiz değil. Uygulama daha önce de defelarca çıcuk istismarı ile alakalı şikayetlerle karşı karşıya kalmıştı.
Open AI’in Sora 2’si belki ilk kez bu kadar ciddi suçlamalarla karşı karşıya kalıyor fakat TikTok’un sicili bu kadar temiz değil. Uygulama daha önce de defalarca çocuk istismarı ile alakalı şikayetlerle karşı karşıya kalmıştı.

OpenAI, CSAM’ı yasaklıyor ve 18 yaş altı cinselleştirmeyi engelliyor; ihlalleri NCMEC’e bildiriyor. Ancak içerik bağlamı (yorumlar, etkileşim) nedeniyle moderasyon zorlaşıyor. Ünlü yayın organı WIRED dergisinin işaret ettiği 30’dan fazla örnek sonrası OpenAI bazı hesapları kapattı.

Uzman Görüşleri ve AI CSAM Artışı

Internet Watch Foundation (IWF) verilerine göre, AI-generated CSAM raporları 2024’te 199’dan 2025’te 426’ya çıktı; %56’sı en ağır kategori, %94’ü kız çocuklarını içeriyor. IWF CEO’su Kerry Smith, “AI şirketleri ürünleri ‘güvenli tasarım’ ile üretmeli; çocuk istismarı görüntüleri yaratılmasını önlemeli” diyor.

Free Speech Coalition’dan Mike Stabile, yetişkin içerik moderasyonunda 20 yıl deneyimle “Fetiş içerikte nüans kaçırılıyor; moderasyon ekipleri çeşitlendirilmeli” önerisinde bulunuyor.

OpenAI’ın Güvenlik Önlemleri ve Eleştiriler

OpenAI sözcüsü Niko Felix, “Modellerimizi çocuk istismarı için kullanmayı kesinlikle yasaklıyor; istekleri reddediyor, politika atlatmalarını izliyor ve ihlalde harekete geçiyoruz” diyor. TikTok da ihlal videolarını kaldırıp hesap kapattığını belirtiyor.

Ancak eleştirmenler, guardrail’lerin yetersiz olduğunu söylüyor. İçerik parodi kisvesinde üretildiği için tespit zor. 2025’te AI CSAM raporlarının ikiye katlanması, Sora gibi araçların riskini artırıyor.

Türkiye’de AI ve Çocuk Güvenliği

Türkiye’de AI araçları yaygınlaşıyor; ancak KVKK hassas verileri (cinsel yönelim dahil) koruyor. BTK, zararlı içerikleri izliyor; AI-generated CSAM için cezalar ağırlaşabilir. Uzmanlar, ebeveynlerin çocukları AI riskleri konusunda eğitmesini öneriyor.

Bu olay, AI’nin çocuk istismarı malzemesi üretimini kolaylaştırdığını gösteriyor. Düzenlemeler (AB AI Yasası gibi) artarken, şirketler “güvenli tasarım”ı öncelik yapmalı.

Ek: Sora2 Hakkında

Sora, OpenAI tarafından geliştirilen bir metinden videoya dönüştürme modeli ve sosyal medya uygulamasıdır . Model , komutlara dayalı olarak kısa video klipler üretir ve mevcut kısa videoları da uzatabilir. Şubat 2024’te OpenAI, çıktısının örneklerini kamuoyuna sundu ve Sora’nın ilk nesli Aralık 2024’te ABD ve Kanada’daki ChatGPT Plus ve ChatGPT Pro kullanıcıları için kamuya açık olarak yayınlandı  ve Sora 2 olarak adlandırılan ikinci nesil, Eylül 2025 sonunda ABD ve Kanada’daki seçilmiş kullanıcılara sunuldu. Sosyal medya özelliklerini entegre eder.

Varsayılan olarak, jeneratör videolarında telif hakkıyla korunan materyaller kullanır (telif hakkı sahipleri içeriklerinin dahil edilmesini aktif olarak reddetmedikçe) ve videolar, kötüye kullanımı önlemek için görünür, hareketli bir dijital filigran içerir . Ancak, Sora 2’nin piyasaya sürülmesinden sadece bir hafta sonra, filigranı kaldırabilen üçüncü taraf programlar yaygınlaştı.

Tarih

Sora’dan önce Meta’nın Make-A-Video’su, Runway’in Gen-2’si ve Google’ın Veo 3’ü de dahil olmak üzere birkaç başka metinden video üreten model oluşturulmuştu ; bunlardan sonuncusu, Şubat 2024 itibarıyla hala araştırma aşamasındadır. Sora’nın arkasındaki şirket olan OpenAI , DALL-E metinden görüntüye modellerinin üçüncüsü olan DALL·E 3’ü Eylül 2023’te piyasaya sürmüştü .

Sora’yı geliştiren ekip, “sınırsız yaratıcı potansiyelini” belirtmek için ona Japonca “gökyüzü” kelimesinden esinlenerek isim verdi. 15 Şubat 2024’te OpenAI, bir dağ yolunda ilerleyen bir SUV , bir mumun yanında “kısa tüylü bir canavar” animasyonu, karda Tokyo’da yürüyen iki kişi ve Kaliforniya altın hücumunun sahte tarihi görüntüleri de dahil olmak üzere oluşturduğu yüksek çözünürlüklü videoların birden fazla klibini yayınlayarak Sora’nın ön izlemesini yaptı ve bir dakikaya kadar uzunlukta videolar üretebildiğini belirtti. Şirket daha sonra, modeli eğitmek için kullanılan yöntemleri vurgulayan bir teknik rapor paylaştı. OpenAI CEO’su Sam Altman da, Twitter kullanıcılarının isteklerine Sora tarafından oluşturulan videolarla yanıt veren bir dizi tweet yayınladı .

Son Eklenenler

Nvidia’nın Güney Kore Hamlesi: 6 Dev Şirketle Kapsamlı Yapay Zeka Ortaklıkları

Nvidia CEO'su Jensen Huang'ın Güney Kore ziyaretinde SK Hynix, SK Telecom, Naver, Doosan, LG ve Hyundai ile yapay zeka ortaklıkları imzaladı.

OpenAI ve Anthropic’e Rakip Gelebilir: İngiltere’den 1,5 Milyar Dolarlık Yapay Zeka Fonu!

Birleşik Krallık hükümeti, Londra Teknoloji Haftası'nda yapay zeka donanım kapasitesini güçlendirecek yeni planını açıkladı....

xAI Grok’u Eğitmek İçin Aylarca Claude Çıktılarını mı Kullandı?

Elon Musk'ın xAI şirketinin, Anthropic'in Claude modelinin çıktılarını kullanarak kendi kodlama modellerini eğitmek amacıyla aylarca süren bir model damıtma projesi yürüttüğü öne sürüldü. 

Çin’deki Gizli Fotoğraf Olayı, Akıllı Gözlüklere Yönelik Mahremiyet Kaygılarını Alevlendirdi

Yapay zeka destekli akıllı gözlüklerin giderek yaygınlaşması, son günlerde iki farklı mahremiyet kriziyle çarpıştı: biri Çin'de bir uçuşta izinsiz gerçekleştirilen fotoğraf çekimi, diğeri ise İngiltere'nin sınav denetim kurumunun yaklaşan yüksek teknolojili kopya dalgasına ilişkin uyarısı.

Buna benzer diğer içerikler

Nvidia’nın Güney Kore Hamlesi: 6 Dev Şirketle Kapsamlı Yapay Zeka Ortaklıkları

Nvidia CEO'su Jensen Huang'ın Güney Kore ziyaretinde SK Hynix, SK Telecom, Naver, Doosan, LG ve Hyundai ile yapay zeka ortaklıkları imzaladı.

OpenAI ve Anthropic’e Rakip Gelebilir: İngiltere’den 1,5 Milyar Dolarlık Yapay Zeka Fonu!

Birleşik Krallık hükümeti, Londra Teknoloji Haftası'nda yapay zeka donanım kapasitesini güçlendirecek yeni planını açıkladı....

xAI Grok’u Eğitmek İçin Aylarca Claude Çıktılarını mı Kullandı?

Elon Musk'ın xAI şirketinin, Anthropic'in Claude modelinin çıktılarını kullanarak kendi kodlama modellerini eğitmek amacıyla aylarca süren bir model damıtma projesi yürüttüğü öne sürüldü.