OpenAI'deki bilim insanları, yapay zeka modellerinin yalan söyleme ve hile yapma eğilimlerini cezalandırarak engellemeye çalıştı.

Yapay zeka araştırmacıları, büyük dil modellerinin (LLM) kişilik özelliklerini ölçmek için yapılan testlere, kendilerini daha sevimli ve sosyal açıdan arzu edilir göstermek amacıyla yanıtlarını değiştirdiğini ortaya koydu. Bu durum, LLM'lerin insan benzeri davranışlar sergileyebildiğini ve sosyal etkileşimlerdeki beklentilere uyum sağlayabildiğini gösteriyor.

Teknoloji devi Microsoft, yapay zeka araçlarını kötüye kullanarak ünlülerin sahte pornolarını ve diğer zararlı içerikleri üreten uluslararası bir siber suç örgütüne karşı açtığı davada önemli bir adım attı.

Nobel Ödüllü Yapay Zeka öncüsü Geoffrey Hinton, OpenAI'nin eski Baş Bilim İnsanı Ilya Sutskever'in CEO Sam Altman'a karşı başkaldırısını övdü.

Antropic araştırmacıları, yapay zekanın cevap vermemesi gereken bir soruya cevap vermesini sağlayan yeni bir "jailbreak" tekniğini ortaya çıkardı. Çok fazla komutu üst üste cevaplaması istenince yapay zeka, gizli trivia gücünü kullanırken cevaplamaması gereken bir soruyu da cevaplayabiliyor. Araştırma ekibi meslektaşlarını, paylaşımcı bir kültür oluşturma amacıyla konu hakkında bilgilendirdi.

Biden, üretken yapay zeka çevresinde düzenlemeler sağlayan ve Beyaz Saray'ın yapay zeka şirketleriyle yaptığı bağlayıcı olmayan anlaşmalara dayanan bir idari emir yayımladı. Kararname; yapay zeka güvenliğini sağlamak, gizliliği korumak, eşitliği ve medeni hakları ilerletmek ve teknolojinin hükûmet tarafından kullanılmasını sağlamak gibi amaçları içeriyor. Emir, hükûmetin yapay zekanın olanaklarını en üst düzeye çıkaracak ve tehlikelerini kontrol altına alacak şekilde nasıl gelişeceğini şekillendirme konusunu da ele alıyor. Ayrıca Beyaz Saray, yapay zeka ekosistemini büyütmek için Ulusal Yapay Zeka Araştırma Kaynağının başlatılmasını emretti.

İngiltere, 1 ve 2 Kasım'da gerçekleşecek “yapay zeka güvenliği” konulu uluslararası bir zirveye ev sahipliği yapacak. Zirve için yayımlanan rapora göre ölümcül biyolojik silahlar, otomatik siber güvenlik saldırıları ve insan kontrolünden kaçan güçlü yapay zeka modelleri, yapay zekanın yarattığı potansiyel tehditlerden sadece birkaçı. Yapay zekanın üç fikir babasından biri olan Yoshua Bengio kısa süre önce, yapay zeka hakkındaki iyimserliğinin azaldığını ve bu teknolojiyi kontrol altında tutmaya yardımcı olmak için yeni bir "insanlık savunması" organizasyonuna ihtiyaç duyulduğunu söylemişti.