Google’ın PaliGemma 2 adlı yeni yapay zeka modeli, görüntüleri analiz ederek insanların duygularını “tanımlayabiliyor”. Bu özellik, uzmanlar tarafından “rahatsız edici” ve “tehlikeli” olarak nitelendiriliyor.

Google, Perşembe günü yeni yapay zeka modeli PaliGemma 2’yi duyurdu. Bu model, görüntüleri analiz ederek fotoğraflardaki kişilerin duygularını “tanımlayabiliyor” ve bu bilgilere dayanarak başlıklar oluşturup soruları yanıtlayabiliyor. Ancak bu özellik, etik ve güvenlik endişeleri doğuruyor.

Uzmanlar Nelerden Endişeleniyor?

Oxford İnternet Enstitüsü’nde veri etiği ve yapay zeka profesörü olan Sandra Wachter, “Bu benim için çok rahatsız edici,” diyor. “İnsanların duygularını ‘okuyabileceğimizi’ varsaymayı sorunlu buluyorum.”

Uzmanlar, duygu tanıma sistemlerinin güvenilmez ve önyargılı olma eğiliminde olduğuna dikkat çekiyor. Bu sistemler, tasarımcılarının varsayımlarına göre şekillendiği için farklı kültürlerden gelen insanların duygularını yanlış yorumlayabilir. Ayrıca, bu sistemlerin ırkçı ve ayrımcı olma potansiyeli de bulunuyor.

Google’ın Savunması

Google, PaliGemma 2’deki demografik önyargıları değerlendirmek için “kapsamlı testler” gerçekleştirdiğini ve sektördeki kıyaslama ölçütlerine kıyasla “düşük düzeyde zehirlilik ve küfür” bulduğunu söylüyor. Ancak şirket, kullandığı ölçütlerin ve yaptığı testlerin detaylarını paylaşmadı.

YZ Yasası ve Duygu Tanıma Sistemleri

AB’deki YZ Yasası, okulların ve işverenlerin duygu dedektörleri kullanmasını yasaklıyor. Bu yasak, duygu tanıma sistemlerinin yüksek riskli bağlamlarda kullanımını sınırlamayı amaçlıyor.

PaliGemma 2’nin Tehlikeleri

PaliGemma 2 gibi açık modellere erişimin kolay olması, bu modellerin kötüye kullanım ve suistimal riskini artırıyor. Uzmanlar, bu modellerin marjinalleştirilmiş gruplara karşı ayrımcılık yapmak için kullanılabileceğinden endişe ediyor.

Google’dan Açıklama

Google sözcüsü, PaliGemma 2’nin “çocuk güvenliği, içerik güvenliği dahil olmak üzere etik ve güvenlik açısından sağlam değerlendirmelerini yaptıklarını” söyledi. Ancak uzmanlar, bu açıklamanın yeterli olmadığını ve Google’ın daha fazla önlem alması gerektiğini savunuyor.

Sonuç olarak, Google’ın PaliGemma 2 modeli, yapay zeka alanındaki gelişmelerin yanı sıra etik ve güvenlik sorunlarını da gündeme getiriyor. Duygu tanıma sistemlerinin potansiyel tehlikeleri dikkate alınarak, bu teknolojinin geliştirilmesi ve kullanımı konusunda daha fazla tartışma ve düzenleme yapılması gerekiyor.