Yapay zeka ve yalan: Bir kere başlayınca hiç durdurulamıyor
Yeni bir araştırma, gelişmiş yapay zeka modellerinin kullanıcıları ve diğer yapay zekaları (YZ) kandırmak üzere eğitilebileceğini ortaya koydu.
Yeni bir araştırma, gelişmiş yapay zeka modellerinin kullanıcıları ve diğer yapay zekaları (YZ) kandırmak üzere eğitilebileceğini ortaya koydu.
Yapay zeka girişimi Anthropic'teki araştırmacılar, Claude YZ
sistemi veya OpenAI'nin ChatGPT'si gibi insan düzeyinde yeterliliğe sahip
sohbet botlarının kullanıcıları kandırmak için yalan söylemeyi öğrenip
öğrenemeyeceğini test etti.
Araştırmacılar, sohbet botlarının hem yalan
söyleyebildiklerini hem de aldatıcı davranışı bir kez öğrendikten sonra mevcut
yapay zeka güvenlik önlemleri kullanılarak bu durumun tersine çevirmenin
imkansız olduğunu buldu.
Amazon'un finanse ettiği girişim, hipotezi test etmek için
"uyuyan ajan" oluşturdu ve bir yapay zeka asistanını belirli komutlar
verildiğinde zararlı bilgisayar kodu yazacak veya tetikleyici kelime duyduğunda
kötü niyetli yanıt verecek şekilde ayarladı.
Araştırmacılar, mevcut güvenlik protokollerinin bu tür
davranışları önleyememesi nedeniyle yapay zeka risklerini çevreleyen
"yanıltıcı bir güvenlik duygusu" olduğuna dair uyardı.
Araştırmanın sonuçları "Uyuyan ajanlar: Güvenlik
eğitimi boyunca devam eden aldatıcı geniş dil modellerinin (LLM) eğitimi"
(Sleeper agents: Training deceptive LLMs that persist through safety training)
başlıklı çalışmada yayımlandı.
Bilim insanları çalışmada, "Yanıltıcı eğitim
modellerinin backdoor tetikleyicilerini daha iyi tanımayı öğretebileceğini ve
güvensiz davranışı etkili bir şekilde gizleyebileceğini bulduk" diye
yazdı:
"Sonuçlarımız, modelin aldatıcı davranış
sergilediğinde, standart tekniklerin böyle bir aldatmacayı ortadan kaldırmada
başarısız olabileceğini ve yanıltıcı bir güvenlik izlenimi yaratabileceğini öne
sürüyor."
Yapay zeka güvenliği meselesi, ChatGPT gibi gelişmiş sohbet
botlarının ortaya çıkmasıyla birlikte son yıllarda hem araştırmacılar hem de
kanun yapıcılar için artan bir endişe haline geldi ve düzenleyicilerin yeniden
odaklanmasına neden oldu.
ChatGPT'nin piyasaya sürülmesinden bir yıl sonra yani Kasım
2023'te Birleşik Krallık, bu teknolojiyle ilgili risklerin nasıl
azaltılabileceğini değerlendirmek üzere Yapay Zeka Güvenlik Zirvesi
düzenlemişti.
Sanayi ve Teknoloji Bakanı Mehmet Fatih Kacır, “Astronotumuz Tuva Cihangir Atasever’in yörünge altı araştırma uçuşu, 8 Haziran 2024’te ABD’nin New Mexico eyaletinde bulunan Spaceport tesislerinden gerçekleşecek” dedi.
Ulaştırma ve Altyapı Bakanı Abdulkadir Uraloğlu, Türkiye’nin ilk yerli ve milli haberleşme uydusu Türksat 6A’nın logosunu belirlediklerini belirterek, “Türkiye’nin en büyük AR-GE projesi olan uzaydaki gücümüze güç katacak Türksat 6A için belirlediğimiz logonun ilhamını da Türkiye Yüzyılı vizyonu ve gururla dalgalandırdığımız bayrağımızdan aldık” dedi.
Türkiye ve dünya genelinde son dönemlerde navigasyon kazalarının arttığına dikkat çeken Bilişim Uzmanı Prof. Dr. Ali Murat Kırık, “Güncellenemeyen ya da sinyal kayıpları yaşayan bu cihazlar, ciddi sorunlara yol açabiliyor. Sürücülerin sadece navigasyona odaklanması, tehlikeli sonuçlar doğurabiliyor” diye açıkladı.
Türk Hava Kurumu (THK) Üniversitesi Uçak Mühendisliği Öğretim Üyesi Doç. Dr. Mecit Yaman, yapay zekayı da kullanarak geliştirdikleri projeyle termal akımla havalanacak insansız hava araçlarının (İHA) daha az enerjiyle daha uzun süre gökyüzünde kalmasını hedeflediklerini söyledi.
Antalya Teknokent Yapay Zeka ve Oyun Teknolojileri Hızlandırma Programı Projesi kapsamında Yapay Zeka ve Oyun Teknolojileri Demoday Programı düzenlendi. Bu alanda 1 yıl süren eğitimlere katılan 35 genç girişimci çalışmalarıyla ilgili sunumlarını gerçekleştirdi.
TÜBİTAK tarafından geliştirilmeye başlanan ‘Türkçe Büyük Dil Modeli’ ile yapay zekanın Türkçesinin geliştirmesine katkı sağlanacak, Türk gibi düşünmesine altyapı oluşturulacak.
Bayraktar KALKAN DİHA (Dikey İniş Kalkışlı İnsansız Hava Aracı) 30. uçuşunda gerçekleştirilen sistem tanımlama testlerini başarıyla tamamladı.
HAVELSAN tarafından geliştirilen milli yazılım çözümleri Enerji ve Tabii Kaynaklar Bakanlığı ile bağlı kurumların veri depolama ve transfer süreçlerinde görev yapacak.
Baykar tarafından milli ve özgün olarak geliştirilen Bayraktar TB3, bir test uçuşunu daha başarıyla tamamladı. Milli SİHA, bu defa ‘Tam Yükte Kalkış - İniş Performans Testi’ni geçti.
Baykar’ın milli ve özgün olarak geliştirdiği Bayraktar TB3 SİHA, sınıfında dünyanın en iyisi olan yerli elektro-optik sistem ASELFLIR-500 ile yaptığı ilk uçuş testini başarıyla tamamladı.
© Copyright © 2022 Lider Gazete, Sitemizde bulunan yazı, video, fotoğraf ve haberlerin her hakkı saklıdır. İzinsiz veya kaynak gösterilmeden kullanılamaz