- OpenAI, yapay zeka tarafından oluşturulan görselleri tespit edecek bir araç geliştiriyor.
- Bu araç, görselin DALL-E tarafından mı başka bir yapay zeka tarafından mı oluşturulduğunu sınıflandırmak için geliştiriliyor.
- OpenAI ayrıca Coalition for Content Provenance and Authenticity standartlarını karşılamak için filigran kullanımını geliştirecek.
Microsoft tarafından desteklenen ve görsel oluşturucu DALL-E’nin arkasındaki yapay zeka şirketi OpenAI, dün dijital görüntülerin yapay zeka tarafından oluşturulup oluşturulmadığını tespit etmeyi amaçlayan yeni bir aracın piyasaya sürüldüğünü duyurdu.
Kimlik doğrulama, yapay zekanın hızlı gelişiminde önemli bir endişe kaynağı haline geldi ve yetkililer toplumu bozabilecek sahte ürünlerin çoğalmasından endişe duyuyor. Şirkete göre OpenAI’nin şu anda test aşamasında olan görüntü algılama sınıflandırıcısı; belirli bir görüntünün, şirketin DALL-E 3 gibi üretken yapay zeka modellerinden birinden kaynaklanma olasılığını değerlendirebilir.
OpenAI; daha önceki bir sürüm üzerinde yapılan dahili testler sırasında aracın, DALL-E 3 görüntülerinin yaklaşık yüzde 98’ini doğru bir şekilde tespit ettiğini ve yapay zeka olmayan görüntülerin yüzde 0,5’inden daha azını yanlış işaretlediğini söyledi. Bununla birlikte şirket, değiştirilmiş DALL-E 3 görüntülerinin tespit edilmesinin daha zor olduğu ve aracın şu anda diğer yapay zeka modelleri tarafından üretilen görüntülerin yalnızca yüzde beş ila onunu tespit edebildiği konusunda uyardı.
OpenAI ayrıca daha fazla şirketin Coalition for Content Provenance and Authenticity (C2PA) standartlarını karşılamak için imza atmasıyla artık yapay zeka görüntü meta verilerine filigran ekleyeceğini söyledi. C2PA, filigranlama ile dijital içeriğin kaynağını ve özgünlüğünü belirlemek için teknik bir standart belirleyen bir teknoloji endüstrisi girişimi.
Meta, geçtiğimiz ay mayıs ayından itibaren C2PA standardını kullanarak yapay zeka tarafından üretilen medyayı etiketlemeye başlayacağını söyledi. Bir başka yapay zeka devi olan Google da bu girişime katıldı.
Derleyen: Esin Özcan
