Sosyal medya platformları genç kullanıcılarına sundukları etkileşim imkanlarıyla sık sık gündeme gelirken, Danimarka merkezli bir araştırma kurumu olan Digitalt Ansvar tarafından yapılan yeni bir çalışma, Snapchat’in bu mecralardan biri olarak ciddi bir zaafiyet barındırdığını gözler önüne seriyor. Araştırmaya göre, platformda kullanıcı adlarında uyuşturucuya açıkça gönderme yapan profiller serbestçe dolaşıyor; Snapchat’in şikayetlere verdiği yanıtlar yetersiz kalıyor ve öneri algoritmaları gençleri bu profillere yönlendirebiliyor. Kurum, Snapchat’in çocukları koruma yükümlülükleri açısından Avrupa Birliği’nin dijital hizmetler yasası (Digital Services Act) dahilindeki düzenlemeleri ihlal ettiğini öne sürüyor.

Snapchat Ne İddia Ediyor, Ne Bulundu?

Digitalt Ansvar, 13 yaşında “test profilleri” oluşturarak yaptığı çalışmada, Snapchat’in “coke”, “weed”, “molly” gibi uyuşturucu terimlerini içeren kullanıcı adlarına sahip profillerin hem yayıldığını hem de öneri sistemleri aracılığıyla kullanıcıların karşısına çıkarıldığını tespit etmiş. 

Çalışmada, bu profillerden 40 tanesi Snapchat’e şikayet edilmiş; platformdan 10 tanesi kaldırılırken diğerleri reddedilmiş. Snapchat’in yaptığı açıklamada, bu hesapların %75’inin, şikayet gelmeden önce de sistem tarafından devre dışı bırakıldığı ve nihayetinde hepsinin engellendiği belirtiliyor.

Öneri Algoritmaları ve Çocuklara Erişim

Araştırma, sorunların sadece açıkça suç teşkil eden profillerle sınırlı kalmadığını, aynı zamanda algoritmanın kullanıcıya “arkadaş” bağlantısı üzerinden uyuşturucu satışı yapan profillere benzer diğer profilleri önermesiyle “gizli bir yayılım” olduğuna işaret ediyor. Örneğin bir test profili, daha önce hiç uyuşturucu profiliyle etkileşime girmemişken, bu tür bir profille arkadaş ilişkisi kurduktan sonra birkaç saat içinde ona benzer profillerin öneri listesinde görünmeye başladığı ifade ediliyor.

Digitalt Ansvar’ın CEO’su Ask Hesby Holm, Snapchat’in filtreleme ve moderasyon sistemlerinin özellikle açık uyuşturucu referanslı kullanıcı adlarında zayıf olduğunu, bu durumu teknoloji değil irade eksikliği ile açıklıyor.

Snapchat’in Savunması ve Alınan Tedbirler

Snapchat, uyuşturucu satışı konusunda “sıfır tolerans” politikası olduğunu belirtiyor. Platform, suç içeriği yaydığı tespit edilen profilleri otomatik sistemlerle tespit edip engellemeye yönelik teknolojilere yatırım yaptığını söylüyor. Ayrıca, kolluk kuvvetleriyle iş birliği yaptığı, suçluların tespiti için yeni arama terimleri ve emoji kullanımındaki şifreli ifadelerin izlenmesi gibi önlemler üzerinde çalıştığını aktarıyor.

Bununla birlikte araştırmacılar, alınan bu önlemlerin pratikte yeterli olmadığını, “rapor edilen şikayetlerin reddedilmesinin” ve öneri sisteminin hala aktif şekilde risk teşkil etmesinin dikkat çekici olduğunu belirtiyor.

Hukuki ve Etik Perspektif

Araştırma, Snapchat’in faaliyetlerinin Avrupa Birliği’nin Dijital Hizmetler Yasası (Digital Services Act – DSA) kapsamında denetlenmesi gerektiğini öne sürüyor. Çocukların korunması, illegal içeriklerin yayılması ve platformların kullanıcı güvenliği gibi konular DSA’nın odak noktaları arasında yer alıyor.

Etik açıdan bakıldığında, sosyal medya sağlayıcılarının sadece içerikten değil aynı zamanda öneri algoritmalarından doğan etkilerinden de sorumlu tutulması gerektiği dile getiriliyor. Çocukların psikososyal gelişimi, bağımlılık riski ve yasa dışı faaliyetlere maruz kalma gibi tehditler açısından bu durum ciddi sonuçlar doğurabilir.

Ne Yapılmalı?

Algoritma Şeffaflığı: Platformların öneri sistemlerinin hangi kriterlere dayandığı konusunda daha şeffaf olmaları, denetim mekanizmalarının bağımsız araştırmacılar tarafından gözlenebilmesi.

Filtreleme ve Moderasyonun Güçlendirilmesi: Açıkça uyuşturucuya referans veren kullanıcı adları ve içeriklerin otomatik olarak tespit edilmesi. Kullanıcı raporlarının hızlıca işleme alınması ve reddedilen raporların gerekçeleriyle birlikte açıkça belirtilmesi.

Koruyucu Eğitim ve Ebeveyn Denetimi: Çocukların sosyal medya kullanımında dijital okur-yazarlık eğitimi verilmesi; ebeveynler için denetim araçlarının kullanımının teşvik edilmesi.

Ulusal ve Avrupa Düzeyinde Düzenleyici Müdahale: Dijital hizmetler yasası gibi düzenlemelerin uygulanmasının sıkı takibi; ihlallerde yaptırım uygulanması.

Sonuç Olarak

Danimarka’dan gelen bu araştırma, Snapchat’in sadece kullanıcıların erişebileceği içerikleri düzenlemekle kalmayıp, öneri algoritmaları ve kullanıcı adı filtreleme gibi görünmeyen boyutlarda da sorumluluk taşıdığını ortaya koyuyor. Platformun “çocukları koruma” yükümlülüğü, teknolojik imkanlarla tam olarak desteklenmediğinde, sistemdeki boşlukların özellikle gençler üzerinde ciddi sağlık ve güvenlik riskleri oluşturmaya devam etmesi muhtemel görünüyor. Bu bağlamda hem platform tarafında hem de düzenleyici mercilerde adımların hızla atılması gerektiği görülüyor.

Derleyen: Merve Tuncel