Yapay zeka ve yalan: Bir kere başlayınca hiç durdurulamıyor
Yeni bir araştırma, gelişmiş yapay zeka modellerinin kullanıcıları ve diğer yapay zekaları (YZ) kandırmak üzere eğitilebileceğini ortaya koydu.
Yeni bir araştırma, gelişmiş yapay zeka modellerinin kullanıcıları ve diğer yapay zekaları (YZ) kandırmak üzere eğitilebileceğini ortaya koydu.
Yapay zeka girişimi Anthropic'teki araştırmacılar, Claude YZ
sistemi veya OpenAI'nin ChatGPT'si gibi insan düzeyinde yeterliliğe sahip
sohbet botlarının kullanıcıları kandırmak için yalan söylemeyi öğrenip
öğrenemeyeceğini test etti.
Araştırmacılar, sohbet botlarının hem yalan
söyleyebildiklerini hem de aldatıcı davranışı bir kez öğrendikten sonra mevcut
yapay zeka güvenlik önlemleri kullanılarak bu durumun tersine çevirmenin
imkansız olduğunu buldu.
Amazon'un finanse ettiği girişim, hipotezi test etmek için
"uyuyan ajan" oluşturdu ve bir yapay zeka asistanını belirli komutlar
verildiğinde zararlı bilgisayar kodu yazacak veya tetikleyici kelime duyduğunda
kötü niyetli yanıt verecek şekilde ayarladı.
Araştırmacılar, mevcut güvenlik protokollerinin bu tür
davranışları önleyememesi nedeniyle yapay zeka risklerini çevreleyen
"yanıltıcı bir güvenlik duygusu" olduğuna dair uyardı.
Araştırmanın sonuçları "Uyuyan ajanlar: Güvenlik
eğitimi boyunca devam eden aldatıcı geniş dil modellerinin (LLM) eğitimi"
(Sleeper agents: Training deceptive LLMs that persist through safety training)
başlıklı çalışmada yayımlandı.
Bilim insanları çalışmada, "Yanıltıcı eğitim
modellerinin backdoor tetikleyicilerini daha iyi tanımayı öğretebileceğini ve
güvensiz davranışı etkili bir şekilde gizleyebileceğini bulduk" diye
yazdı:
"Sonuçlarımız, modelin aldatıcı davranış
sergilediğinde, standart tekniklerin böyle bir aldatmacayı ortadan kaldırmada
başarısız olabileceğini ve yanıltıcı bir güvenlik izlenimi yaratabileceğini öne
sürüyor."
Yapay zeka güvenliği meselesi, ChatGPT gibi gelişmiş sohbet
botlarının ortaya çıkmasıyla birlikte son yıllarda hem araştırmacılar hem de
kanun yapıcılar için artan bir endişe haline geldi ve düzenleyicilerin yeniden
odaklanmasına neden oldu.
ChatGPT'nin piyasaya sürülmesinden bir yıl sonra yani Kasım
2023'te Birleşik Krallık, bu teknolojiyle ilgili risklerin nasıl
azaltılabileceğini değerlendirmek üzere Yapay Zeka Güvenlik Zirvesi
düzenlemişti.
Türkiye ve dünya genelinde son dönemlerde navigasyon kazalarının arttığına dikkat çeken Bilişim Uzmanı Prof. Dr. Ali Murat Kırık, “Güncellenemeyen ya da sinyal kayıpları yaşayan bu cihazlar, ciddi sorunlara yol açabiliyor. Sürücülerin sadece navigasyona odaklanması, tehlikeli sonuçlar doğurabiliyor” diye açıkladı.
Türk Hava Kurumu (THK) Üniversitesi Uçak Mühendisliği Öğretim Üyesi Doç. Dr. Mecit Yaman, yapay zekayı da kullanarak geliştirdikleri projeyle termal akımla havalanacak insansız hava araçlarının (İHA) daha az enerjiyle daha uzun süre gökyüzünde kalmasını hedeflediklerini söyledi.
Antalya Teknokent Yapay Zeka ve Oyun Teknolojileri Hızlandırma Programı Projesi kapsamında Yapay Zeka ve Oyun Teknolojileri Demoday Programı düzenlendi. Bu alanda 1 yıl süren eğitimlere katılan 35 genç girişimci çalışmalarıyla ilgili sunumlarını gerçekleştirdi.
TÜBİTAK tarafından geliştirilmeye başlanan ‘Türkçe Büyük Dil Modeli’ ile yapay zekanın Türkçesinin geliştirmesine katkı sağlanacak, Türk gibi düşünmesine altyapı oluşturulacak.
Bayraktar KALKAN DİHA (Dikey İniş Kalkışlı İnsansız Hava Aracı) 30. uçuşunda gerçekleştirilen sistem tanımlama testlerini başarıyla tamamladı.
HAVELSAN tarafından geliştirilen milli yazılım çözümleri Enerji ve Tabii Kaynaklar Bakanlığı ile bağlı kurumların veri depolama ve transfer süreçlerinde görev yapacak.
Baykar tarafından milli ve özgün olarak geliştirilen Bayraktar TB3, bir test uçuşunu daha başarıyla tamamladı. Milli SİHA, bu defa ‘Tam Yükte Kalkış - İniş Performans Testi’ni geçti.
Baykar’ın milli ve özgün olarak geliştirdiği Bayraktar TB3 SİHA, sınıfında dünyanın en iyisi olan yerli elektro-optik sistem ASELFLIR-500 ile yaptığı ilk uçuş testini başarıyla tamamladı.
Baykar tarafından yerli ve özgün bir şekilde geliştirilen Bayraktar TB3 İnsansız Hava Aracı, 23. uçuş denemesini de başarı ile sonuçlandırdı.
Deniz Kuvvetleri Komutanlığının sahip olduğu 12 denizaltının en modernlerinden biri olan TCG Preveze, limana uğramaksızın 50 gün su altında görev yapabiliyor.
© Copyright © 2022 Lider Gazete, Sitemizde bulunan yazı, video, fotoğraf ve haberlerin her hakkı saklıdır. İzinsiz veya kaynak gösterilmeden kullanılamaz