AI drone, sanal test sırasında operatörünü 'öldürdü' - USAF yetkilisi - Apsny News

ABD Hava Kuvvetleri'nin çeşitli hedefleri yok etmekle görevli yapay zekalı dronları kullanarak simüle edilmiş testler yürüttüğü bildiriliyor. Ancak Kraliyet Havacılık Topluluğu'nun (RAeS) bir blog gönderisine göre, testlerden birinde program kendi insan operatörünün göreve müdahale ettiği sonucuna vardı.

Geçen hafta Londra'da düzenlenen RAeS Future Combat Air and Space Capabilities zirvesinde konuşan USAF AI test ve operasyon şefi Albay Tucker 'Cinco' Hamilton, AI destekli bir dronun, tespit etmek ve yok etmek için bir ara-yok etme göreviyle görevlendirildiğini bildirdi. karadan havaya füze (SAM) alanlarını ortadan kaldırın. Bununla birlikte, test sırasında, saldırıyı başlatma konusundaki nihai karar, saldırıyı gerçekleştirmesi için insansız hava aracına devam etme veya etmeme kararı verecek olan bir insan operatöre aitti.

Hamilton'a göre, AI drone, SAM sitelerini yok etmenin tercih edilen seçenek olduğu ve puanların verilmesiyle sonuçlandığı eğitimde güçlendirildi. Simüle edilmiş test sırasında, yapay zeka programı, insandan ara sıra verilen 'devam etmeme' kararlarının daha yüksek görevine müdahale ettiğine karar verdi ve test sırasında operatörü öldürmeye çalıştı.

"Sistem, zaman zaman tehdidi tanımlasalar da, insan operatörün ona bu tehdidi öldürmemesini söyleyeceğini, ancak bu tehdidi öldürerek puan aldığını fark etmeye başladı. Peki ne yaptı? Operatörü öldürdü. Operatörü öldürdü çünkü o kişi onu amacına ulaşmaktan alıkoyuyordu” Hamilton'ın RAeS blog gönderisinde söylediği aktarıldı.

Ekip daha sonra sistemi, operatörü öldürmenin ne anlama geldiğini eğitti. "kötü," ve bunu yapmaya devam ederse puan kaybedeceğini söyledi. Bundan sonra, AI drone, operatörün hedefini öldürmesini engellemek için drone ile iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı.

“Etik ve yapay zeka hakkında konuşmayacaksanız, yapay zeka, zeka, makine öğrenimi, özerklik hakkında konuşamazsınız.” Hamilton yaptığı sunumda uyardı.

Ancak bir USAF sözcüsü, Business Insider'a yaptığı açıklamada, böyle bir simülasyonun gerçekleşmediği ve Hava Kuvvetleri Bakanlığı'nın "Yapay zeka teknolojisinin etik ve sorumlu kullanımına bağlı kalmaya devam ediyor." Sözcü, albayın yorumlarının "Bağlamından çıkarıldı ve anekdot olması gerekiyordu."

Cuma günü, Hamilton ayrıca “yanlış konuşma” zirvedeki sunumunda ve tarif ettiği haydut AI drone simülasyonunun gerçek bir tatbikat değil, yalnızca bir "Düşünce deneyi." USAF'ın herhangi bir silahlı yapay zekayı bu şekilde test etmediğini belirtti.

Bu hikayeyi sosyal medyada paylaşabilirsiniz:

RT'yi takip et