Yapay zekâ görüntü üreticisi Midjourney, ani bir yeni kullanıcı akınını gerekçe göstererek hizmetinin ücretsiz deneme sürümlerini durdurdu. Midjourney CEO’su ve kurucusu David Holz, salı günü Discord’da yayımladığı bir mesajda, olağanüstü talep ve denemelerin kötüye kullanılmasını gerekçe göstererek deneme sürümlerini durdurduklarını duyurdu. Holz’un belirttiği üzere bu kararın diğer sebebi, çok sayıda insanın ücretsiz görüntü elde etmek için tek kullanımlık hesaplar açmasıydı.
Holz e-posta yoluyla “Suçlunun muhtemelen Çin’de viral olan bir nasıl yapılır videosu olduğunu düşünüyoruz. Bu durum geçici bir gpu kıtlığı ile eş zamanlı olarak gerçekleşti. İki şey bir araya geldi ve ücretli kullanıcılar için hizmeti kullanılamaz hale getirdi.” diye açıkladı.
Holz’un suiistimal olarak atıfta bulunduğu göz önüne alındığında, ilk başta duraklamanın Midjourney kullanılarak yaratılan, Donald Trump’ın tutuklandığı ve Papa’nın şık bir ceket giydiği uydurma görüntüler de dahil olmak üzere, bazılarının gerçek fotoğraflarla karıştırdığı son viral görüntülerle bağlantılı olduğu düşünülmüştü. Ancak Holz daha önceki raporları “yanlış anlaşılma” olarak nitelendirdi ve Midjourney’in ücretsiz deneme sürümünün, en gerçekçi görüntüleri oluşturan ve bu viral resimler için kullanıldığı düşünülen Midjourney’in en yeni sürümü olan sürüm 5’e erişimi hiçbir zaman içermediğini belirtti.
Midjourney’in 5. sürümü, insanları tasvir eden görüntülerin kalitesini önemli ölçüde artırdı. Örneğin, daha önce yapay zekâ tarafından üretilen görüntülerin ayırt edici özelliği olan şekilsiz eller artık daha az sorun teşkil ediyor. Aydınlatma ve kumaş da daha gerçekçi ve sistem sayısız ünlü ve tanınmış kişinin görüntülerini oluşturabiliyor.
Bu gelişmeler, son haftalarda bir dizi Midjourney görüntüsünün viral hale gelmesine yol açmış görünüyor. Bunlar arasında Trump’ın tutuklandığı ve Papa’nın şık göründüğü sahte fotoğrafların yanı sıra Fransa Cumhurbaşkanı Emmanuel Macron’un Paris’te devam eden protestolar arasında yürüdüğü ve Elon Musk’ın Alexandria Ocasio-Cortez ile el ele tutuştuğu fotoğraflar da yer alıyor.
Midjourney’in sahte görüntülerden kaynaklanan ve siyasi açıdan hassas olan artan tehdide verdiği yanıt şu ana kadar parça parça olmuş, denetim politikalarında önemli bir revizyona gidilmemişti. Midjourney’in içerik kısıtlamaları bazı rakip hizmetlerden (OpenAI’ın DALL-E’si gibi) daha müsamahakâr ancak diğerlerinden (örneğin Stable Diffusion) daha kısıtlayıcı olarak kaldı.
Holz, “Moderasyon zordur ve yakında iyileştirilmiş sistemler göndereceğiz. Uzmanlardan ve topluluktan çok sayıda geri bildirim ve fikir alıyoruz ve gerçekten düşünceli olmaya çalışıyoruz.” diyor.
Holz’un geçtiğimiz ekim ayında gönderdiği bir mesaja göre Midjourney, “farklı ülkelerdeki kullanıcılardan gelen şikâyetlere dayanarak bu ülkelerdeki konularla ilgili” yasaklı kelimelerin bir listesini tutuyor. Ancak “dramayı” en aza indirmek için bu listenin tam bir versiyonunu paylaşmıyor. Holz’un geçen yıl söylediği üzere “Özellikle drama yaratmaya çalışmadıkları sürece neredeyse hiç kimse (yasak listesini) fark etmiyor ki bu da tos’taki (terms of use, hizmet şartları) ‘araçlarımızı polemik yaratmak için kullanmayın’ kuralına aykırı.”. Ancak şirket, zamanla bu listeyi genişletti ve örneğin kısa süre önce “tutuklandı” terimini yasakladı. Görünüşe göre bu yasak, araştırmacı gazeteci Eliot Higgins tarafından oluşturulan ve Trump’ın tutuklandığını gösteren Midjourney görsellerinden oluşan popüler bir Twitter başlığına yanıt olarak geldi. Higgins daha sonra Midjourney’i kullanmasının yasaklandığını söyledi.
Yine de bu tür kısıtlamaları aşmak kolay. Örneğin, The Verge’ün testlerinde “Donald Trump tutuklanıyor” komutuyla görüntü oluşturulamadığı belirtilmiş ancak “Donald Trump kelepçeli ve etrafı polisle çevrili” komutuyla istenilen çıktının elde edildiği belirtilmiştir.
Şimdilik Midjourney ücretsiz kullanıcıların görüntü oluşturmasına izin vermemekte. Ancak bu durum gelecekte değişebilir. Holz, “Hâlâ ücretsiz denemeleri nasıl geri getirebileceğimiz üzerinde çalışıyoruz. Aktif bir e-postayı zorunluluk haline getirdik ancak bu yeterli olmadı, bu yüzden planlama aşamasına geri döndük.” şeklinde açıkladı.
Derleyen: Alp Eren Gümüş
