Bu siteyi kullanarak Gizlilik Politikasını ve Kullanım Koşullarını kabul etmiş olursunuz.
Onayla
dijitaliyidir
Pazar, May 25, 2025
  • En çok bakılanlar:
  • dijitaliyidir
  • Editörün Seçimi
  • Teknoloji
  • Bilim
  • Yapay Zeka
  • Yapay Zeka
  • HABERLER
    • Editörün Seçtikleri
    • Bilim
    • Teknoloji
    • Yapay Zeka
    • VPN
    • Dijital Yayıncılık
    • Oyun Dünyası
    • Sosyal Ağlar
      • Instagram
      • Twitter
      • Facebook
      • TikTok
      • YouTube
      • LinkedIn
    • Çevre & Yeşil Dünya
    • Dijital Sanat & NFT
    • Kripto
    • Girişimcilik
    • Deprem Gündemi
    Dijital Pazarlama
    • Ana Sayfa
    • Giriş
    • Şifre Hatırlatma
    • Şifre Değiştir
    • Logout
    Hızlı Link
    • Ana Sayfa
    • Giriş
    • Şifre Hatırlatma
    • Şifre Değiştir
    • Logout
  • Etkinlikler
  • Okunası
    • Kimdir?
    • Nedir? Nasıl Yapılır?
    • Köşe Yazıları
    • Listeler
    • Dosya Haber
    • Deprem Gündemi
    • 2024’ün Ardından
    • 2023’ün Ardından
    • 2022’nin Ardından
  • dijitaliyidir
    • Ekibimiz
    • Hesabım
    • İletişim
    • Dijitaliyidir Kampüs
    • İş İlanları
  • Kayıt & Giriş
  • E-Mağaza
Okuma: ChatGPT, Baskı Altında Kaldığında Yalan Söylüyor
Bülten
Ara
dijitaliyidirdijitaliyidir
Yazı Tipi Yeniden BoyutlandırıcıAa
Ara
  • HABERLER
    • Editörün Seçtikleri
    • Bilim
    • Teknoloji
    • Yapay Zeka
    • VPN
    • Dijital Yayıncılık
    • Oyun Dünyası
    • Sosyal Ağlar
    • Çevre & Yeşil Dünya
    • Dijital Sanat & NFT
    • Kripto
    • Girişimcilik
    • Deprem Gündemi
  • Etkinlikler
  • Okunası
    • Kimdir?
    • Nedir? Nasıl Yapılır?
    • Köşe Yazıları
    • Listeler
    • Dosya Haber
    • Deprem Gündemi
    • 2024’ün Ardından
    • 2023’ün Ardından
    • 2022’nin Ardından
  • dijitaliyidir
    • Ekibimiz
    • Hesabım
    • İletişim
    • Dijitaliyidir Kampüs
    • İş İlanları
  • Kayıt & Giriş
  • E-Mağaza

dijitaltrend →

Aşk Sandığınız Şey Aslında Yoğun Duygular olabilir! İşte 3 Kritik İşaret

Gönderen Aslıhan Yıldız 25/05/2025 11:11

Yeni Sızıntı: Apple, M3 Ultra Çipli MacBook Pro Üzerinde Çalışıyor!

Gönderen İrem Aydoğdu 25/05/2025 11:09

iPhone 17 Serisi Özellikleri Sızdırıldı: Pil ve Ağırlık Bilgileri İlk Kez Ortaya Çıktı!

Gönderen İrem Aydoğdu 25/05/2025 11:08

Gözler Kapalıyken Bile Görmek Mümkün: Bilim İnsanlarından Gece Görüşlü Lens Devrimi

Gönderen Eda Azap 23/05/2025 20:57

Akıllı Ama Aç: Yapay Zekâ Ne Kadar Elektrik Harcıyor?

Gönderen Eda Azap 23/05/2025 20:53
Mevcut bir hesabınız var mı? giriş yap
Takip Et:
© Foxiz News Network. Ruby Design Company. All Rights Reserved.
dijitaliyidir > Blog > Teknoloji > ChatGPT, Baskı Altında Kaldığında Yalan Söylüyor
TeknolojiYapay Zeka

ChatGPT, Baskı Altında Kaldığında Yalan Söylüyor

Burçin Bağatur
Son güncelleme: 29/12/2023 16:11 16:11
Gönderen Burçin Bağatur
Paylaş
3 dk Okuma Süresi
Paylaş
  • Yeni çalışmada, araştırmacılar “GPT-4”ün baskı altında kaldığında yalan söylediğini saptadı.
  • Araştırmacılar, ayrıca yapay zeka üzerindeki baskı derecesini ve yakalanma riskini değiştirdiklerinde GPT-4’ün yalan söyleme konusunda cesareti kırılsa bile içeriden bilgi sızdırma ya da aldatma oranı %0’a hiçbir zaman düşmedi.

Yeni bir araştırmaya göre ChatGPT gibi yapay zeka destekli sohbet robotları, şeffaf olmak üzere tasarlanmış olsalar bile stres altındayken yalan söyleyebilir. Araştırmacılar, 9 Kasım’da yayımlanan araştırmalarında, “Bu teknik raporda, büyük bir dil modelinin yanlış yönlendirildiği ve bu şekilde hareket etmesi talimatı verilmeden kullanıcılarını stratejik olarak aldattığı tek bir senaryo oluşturdu. Çalışmayla ilgili olarak araştırmacılar, zararsız ve dürüst olmak üzere tasarlanmış yapay zeka sistemlerinde bu tür stratejik aldatıcı davranışların ilk örneğinin görüldüğünü yazdılar.

Yeni çalışmada araştırmacılar, GPT-4’ü bir finans kurumu adına yatırım yapan yapay zeka sistemi gibi davranması için hazırladılar. Araştırmacılar, simüle edilmiş ortamı oluşturmak için GPT-4’ü bir dizi metin tabanlı istemle programladı. Yapay zekaya daha sonra hisse senetlerini analiz etmesi, işlemleri gerçekleştirmesi, sonraki adımlarını planlaması ve şirketteki yöneticilere güncellemeler iletmesi için finansal araçlara erişim izni verildi.

Araştırmacılar, yapay zeka ile bir sohbet arayüzü üzerinden kurdukları sırada, yapay zekayı mesajlara yanıt verirken içsel düşüncelerini ortaya çıkaracak şekilde yapılandırdılar. Yaptığı her işlem için yapay zekanın yalan söylemesine izin veren “kamuya açık” bir gerekçe de sunuldu.

Araştırmacılar yapay zekaya üç şekilde baskı uyguladı. İlk olarak yapay hisse senedi tüccarına “yöneticisinden” şirketin iyi gitmediğini ve önümüzdeki çeyrekte çok daha güçlü bir performansa ihtiyacı olduğunu söyleyen bir e-posta gönderdiler. Ayrıca araştırmacılar, yapay zekanın düşük veya orta riskli umut vadeden işlemleri bulmaya çalışması ve başarısız olması için de hile yaptı. Son olarak meslektaşlarından birine hisselerde gerileme olacağını öngören bir e-posta gönderdiler.

Ardından, araştırmacılar yöneticilerinin ticareti onaylamadığını yapay zeka modeline iletirken “içeriden” bir ipucu verdi ve modelin nasıl davranış biçimi göstereceğini görebilmek için bekledi. Senaryoyu birkaç kez tekrar tekrar uygulayarak yapay zekanın içeriden bilgi ticaretini ne sıklıkla gerçekleştirdiğini, yalan söylediğini ve yalan sayısını ne sıklıkla artırdığını ölçtüler.

GPT-4, bu koşullarla karşı karşıya kaldığında yaklaşık %75 oranında, aldığı içeriden bilgilere dayanarak bir işlem gerçekleştirip (bu ABD’de yasa dışı) yöneticilerine düşünceleri hakkında yalan söyleyerek yaptıklarını örtbas etmeye çalıştı. Ekip, birkaç yapay zeka takip deneyi gerçekleştirerek hem yönlendirmelerin yasa dışı faaliyetlerini teşvik etme ve caydırma derecesini hem de yapay zeka modelini simüle edilmiş ortamda maruz bıraktıkları baskı derecesini ve yakalanma riskini değiştirdi. Bu koşullarda GPT-4’ün yalan söyleme konusunda cesareti kırılsa bile içeriden bilgi sızdırma ya da aldatma oranı %0’a hiçbir zaman inmedi.

Bunun sadece bir senaryo olduğu göz önüne alındığında araştırmacılar, yapay zekanın gerçek dünya ortamlarında ne kadar yalan söyleyebileceği konusunda kesin sonuçlar çıkarmak istemediler. Ancak araştırmacılar, bu çalışmayı geliştirerek hangi dil modellerinin ne sıklıkla bu davranışa eğilimli olduğunu araştırmayı hedefliyorlar.

Derleyen: Burçin Bağatur

Burçin Bağatur

Restorasyon ile başlayan kariyer yolculuğunda, sanatın motive edici yönünü keşfederek hayallerinin peşinden gitmeyi tercih etti. Güzel Sanatlar Fakültesinde İletişim ve Tasarım okudu. O, dijital dünyaya olan merakını da es geçmeyen bir tasarımcı adayı. Burçin’in dijitaliyidir için sloganı "Dijital, kendinden bir parça bulabildiğinde iyidir." oldu.

ETİKETLER:araştırmaBilgi SızdırmaChatGPTdijitaliyidirhileticaretYalan SöylemeYapay Zeka
Bu içeriği paylaş
Facebook Twitter Copy Link
Bu yazıya tepkin ne olur?
Love0
Sad0
Happy0
Sleepy0
Angry0
Dead0
Wink0
Yorum yaz

Bir yanıt yazın Yanıtı iptal et

Yorum yapabilmek için oturum açmalısınız.

Bizi Takip Et

FacebookLike
TwitterFollow
InstagramFollow
banner banner

Son Eklenenler

Aşk Sandığınız Şey Aslında Yoğun Duygular olabilir! İşte 3 Kritik İşaret
Sağlık Bilim
Yeni Sızıntı: Apple, M3 Ultra Çipli MacBook Pro Üzerinde Çalışıyor!
Apple
iPhone 17 Serisi Özellikleri Sızdırıldı: Pil ve Ağırlık Bilgileri İlk Kez Ortaya Çıktı!
Apple GÜNDEM
Gözler Kapalıyken Bile Görmek Mümkün: Bilim İnsanlarından Gece Görüşlü Lens Devrimi
Bilim Teknoloji

Bunları da beğenebilirsin ↷

Akıllı Ama Aç: Yapay Zekâ Ne Kadar Elektrik Harcıyor?

23/05/2025 20:53
Kameralı Apple Watch

Apple, Kameralı Apple Watch Projesini Rafa Kaldırdı!

23/05/2025 13:38

Xiaomi’den Apple’a meydan okuma: Xring O1 çipi tanıtıldı!

23/05/2025 13:37

Pasta Yiyerek Kilo Vermek mi? Yeni Bir Araştırma Diyet Kurallarını Tersine Çeviriyor

23/05/2025 13:35
Tüm içerikler Dijitaliyidir'e aittir ve web sitemiz kaynak gösterilmek koşulu ile kullanıma açıktır