Londra’da geçen hafta düzenlenen “Geleceğin Hava ve Uzay Savaşı” panelinde konuşan ABD Hava Kuvvetleri Yapay Zeka Operasyonlar Şefi Albay Tucker Hamilton, yapay zekanın “hedefine ulaşmak için umulmadık stratejiler” kullandığını anlattı.
Simülasyonda düşman hava savunma sistemlerini yok etmekle görevlendirilen yapay zekanın, “bazı amaçları yok etmemesini isteyen” operatörü maksat aldığını söyledi.
“DUR BUYRUĞUNU DİNLEMEDİ”
Amerikalı Albay, “Yapay zeka, simülasyonda “dur” buyruğunu dinlemedi, misyonu engellediği gerekçesiyle insan operatörünü öldürdü.” dedi.
Amerikalı kumandan, yapay zekaya “operatörü öldürmenin puan kaybettirdiği” söylendiği, bilgisayarın bu sefer “dur buyruğu almamak için” bağlantı kulesini yok ettiğini anlattı.
Albay Hamilton’un öyküsü, İngiliz kraliyet Havacılık Cemiyeti’nin İnternet sayfasında yayınlandı.
“BÖYLE BİR TEST GERÇEKLEŞTİRMEDİK”
Olayla ilgili olarak ABD hava kuvvetleri ise “böyle bir test gerçekleştirmedik” açıklaması yaptı. Albay Hamilton’un şahsi bir anektodunu aktardığı vurgulandı..
Uzmanlar bu tip vazifeler için ödül sistemi kullanıldığını belirtiyor. Yapay zeka imha ettiği her amaç için puan topluyor. Lakin tek maksadı puan toplamak olduğu için “dur” buyruğu, “puan kazanma” hedefi ile çelişiyor.
Silah sistemlerinin yapay zeka denetimine bırakılması büyük riskleri de beraberinde getiriyor.. Güvenlik mahzurlarının ve insan operatörlerin kısıtlamasının ne derece tesirli olduğu konusunda tartışmalar sürüyor..
