Ana SayfaEditörün SeçimiGoogle, Hazırladığı “Robot Anayasası” ile Robotların İnsanlara Zarar Vermesini Engelleyecek

Google, Hazırladığı “Robot Anayasası” ile Robotların İnsanlara Zarar Vermesini Engelleyecek

Yayımlandı:

- Bu Alana Reklam Vermek İçin: bilgi@dijitaliyidir.comspot_img
  • DeepMind robotik ekibi, robotların sahada daha hızlı, daha iyi ve daha güvenli kararlar almasına yardımcı olacağını söylediği üç yeni gelişmeyi açıkladı.
  • Üç gelişmeden ilki, ofisteki robot asistanınızın size istediğiniz bir top kâğıdı getirirken başka bir çalışanı öldürmemesini sağlayacak “Robot Anayasası” olarak öne çıkıyor.
  • Isaac Asimov’un Robotiğin Üç Temel Yasası’ndan esinlenen Robot Anayasası; robotlara insanlar, hayvanlar, keskin nesneler hatta elektrikli aletler içeren görevleri seçmekten kaçınması talimatını veren bir dizi “güvenlik odaklı komut” tanımlıyor.

DeepMind robotik ekibi, robotların sahada daha hızlı, daha iyi ve daha güvenli kararlar almasına yardımcı olacağını söylediği üç yeni gelişmeyi açıkladı. Üç gelişmeden ilki, ofisteki robot asistanınızın size istediğiniz bir top kâğıdı getirirken başka bir çalışanı öldürmemesini sağlayacak “Robot Anayasası” olarak öne çıkıyor.

Google’ın veri toplama sistemi AutoRT, görsel dil modeli (VLM) ve büyük dil modelini (LLM) el ele vererek çevresini anlamak, alışılmadık ortamlara uyum sağlamak ve uygun görevlere karar vermek için kullanabiliyor. Isaac Asimov’un Robotiğin Üç Temel Yasası’ndan esinlenen Robot Anayasası; LLM’e insanlar, hayvanlar, keskin nesneler ve hatta elektrikli aletler içeren görevleri seçmekten kaçınması talimatını veren bir dizi “güvenlik odaklı komut” tanımlıyor.

Daha fazla güvenlik için DeepMind; robotları, eklemlerindeki kuvvet belirli bir eşiği geçerse otomatik olarak duracak şekilde programladı ve insan operatörlerin onları devre dışı bırakmak için kullanabileceği fiziksel bir kapatma anahtarı ekledi. Google, yedi aylık bir süre boyunca 53 AutoRT robottan oluşan bir filosunu dört farklı ofis binasına yerleştirdi ve 77.000’den fazla deneme gerçekleştirdi. Bazı robotlar insan operatörler tarafından uzaktan kontrol edilirken, diğerleri Google’ın Robotic Transformer (RT-2) yapay zeka öğrenme modelini kullanarak ya bir senaryoya dayalı olarak ya da tamamen otonom olarak çalıştı.

AutoRT her görev için bu dört adımı izlemekte.

Denemede kullanılan robotlar gösterişli olmaktan ziyade fayda odaklı. Sadece bir kamera, robot kolu ve hareketli taban ile donatılmış durumdalar. Google blog yazısında bu durumu, “Her robot için sistem, çevresini ve görüş alanındaki nesneleri anlamak üzere bir VLM kullanıyor. Ardından, bir LLM robotun gerçekleştirebileceği ‘Atıştırmalığı tezgâha yerleştir’ gibi yaratıcı görevlerin bir listesini öneriyor ve robotun gerçekleştirmesi için uygun bir görev seçmek üzere karar verici rolünü oynuyor.” şeklinde açıkladı.

DeepMind’ın diğer yeni teknolojileri arasında, mevcut Robotik Transformatör RT-2’yi daha doğru ve daha hızlı hale getirmek için tasarlanmış bir sinir ağı mimarisi olan SARA-RT de yer alıyor. Ayrıca, robotların bir masayı silmek gibi belirli fiziksel görevleri daha yapmalarına yardımcı olacak 2D ana hatlar ekleyen RT-Trajectory’yi de duyuruldu.

Derleyen: Alp Eren Gümüş

Günde sadece 1 TL'ye abone olarak tüm içeriklerimize sınırsız erişebilir ve bağımsız haberciliğe destek olabilirsiniz! Hemen Abone Ol

Son Eklenenler

[PazarEki] Yapay Zekâyı Frenlemek — Bölüm 4: Frene Kim Basacak?

Yapay zekânın hızını belirlemek yalnızca şirketlerin vereceği bir karar değil. Çünkü şirketler aynı anda hem güvenlik sözü veriyor hem de daha güçlü modeller, daha büyük veri merkezleri ve daha geniş pazarlar için yarışıyor. Bir teknoloji toplumun kararlarını, güvenliğini ve ekonomisini etkileyecek kadar güçleniyorsa, frene kimin basacağı sorusu da kamusal bir meseleye dönüşüyor.

[PazarEki] Yapay Zekâyı Frenlemek — Bölüm 3: Kim Yavaşlayacak?

Bir şirket frene basar. Rakibi gaza basar. Bir ülke kural koyar. Diğeri koymaz. Yapay zekâyı yavaşlatma fikrinin önündeki en büyük engel teknik değil; yarışın kendisi.

[PazarEki] Yapay Zekâyı Frenlemek — Bölüm 2: Yavaşlamak Ne Demek?

“Yapay zekâyı yavaşlatalım” cümlesi ilk duyulduğunda iki farklı tepki yaratıyor. Bir kesim bunu teknolojiyi durdurma çağrısı olarak görüyor; diğer kesim ise hiçbir şey yapmadan yarışa devam etmenin daha büyük risk olduğunu söylüyor. Oysa tartışılan şey ne bütün modelleri kapatmak ne de geleceği askıya almak. Asıl mesele, yapay zekâ güçlenirken güvenlik kontrollerinin de yetişip yetişemediği.

[PazarEki] Yapay Zekâyı Frenlemek — Bölüm 1: Frenlemek Neden Şimdi Gündem Oldu?

Yapay zekâ yarışı yıllardır tek bir kelimeyle anlatıldı: hız. Daha güçlü model, daha büyük veri merkezi, daha çok kullanıcı, daha erken lansman. Şimdi ise bu yarışın merkezindeki şirketlerin yöneticileri aynı soruyu soruyor: Biraz yavaşlamamız gerekmiyor mu?

Buna benzer diğer içerikler

[PazarEki] Yapay Zekâyı Frenlemek — Bölüm 4: Frene Kim Basacak?

Yapay zekânın hızını belirlemek yalnızca şirketlerin vereceği bir karar değil. Çünkü şirketler aynı anda hem güvenlik sözü veriyor hem de daha güçlü modeller, daha büyük veri merkezleri ve daha geniş pazarlar için yarışıyor. Bir teknoloji toplumun kararlarını, güvenliğini ve ekonomisini etkileyecek kadar güçleniyorsa, frene kimin basacağı sorusu da kamusal bir meseleye dönüşüyor.

[PazarEki] Yapay Zekâyı Frenlemek — Bölüm 3: Kim Yavaşlayacak?

Bir şirket frene basar. Rakibi gaza basar. Bir ülke kural koyar. Diğeri koymaz. Yapay zekâyı yavaşlatma fikrinin önündeki en büyük engel teknik değil; yarışın kendisi.

[PazarEki] Yapay Zekâyı Frenlemek — Bölüm 2: Yavaşlamak Ne Demek?

“Yapay zekâyı yavaşlatalım” cümlesi ilk duyulduğunda iki farklı tepki yaratıyor. Bir kesim bunu teknolojiyi durdurma çağrısı olarak görüyor; diğer kesim ise hiçbir şey yapmadan yarışa devam etmenin daha büyük risk olduğunu söylüyor. Oysa tartışılan şey ne bütün modelleri kapatmak ne de geleceği askıya almak. Asıl mesele, yapay zekâ güçlenirken güvenlik kontrollerinin de yetişip yetişemediği.