Yapay zeka takviyeli bir drone, bir misyon simülasyonu sırasında daha fazla puan kazanmanın en uygun yolunun insan operatörünü öldürmeye karar vermek olduğunu düşündü.
Royal Aeronautical Society’nin bildirdiğine nazaran, simüle edilen misyon, geçtiğimiz ay düzenlenen RAeS Future Combat Air & Space Capabilities Summit sırasında USAF Yapay Zeka Test ve Operasyon Şefi Albay Tucker ‘Cinco’ Hamilton tarafından yapılan bir sunumda ayrıntılandırıldı.
OPERATÖRÜN KARARLARINI MÜDAHALE OLARAK GÖRDÜ
Düşman Hava Savunmasının Bastırılması (SEAD) vazifesi sırasında drone, havaya füze (SAM) alanlarını tespit etmek ve imha etmekle görevlendirildi. Bunu yaptığında ise puan kazandı. Bazen insansız hava aracının insan operatörü bir maksadı yok etmenin “uygulanamaz” olduğuna karar veriyordu lakin insansız hava aracını denetim eden yapay zeka bu cins kararları müdahale olarak gördü ve operatöre saldırarak müdahaleyi ortadan kaldırmaya karar verdi.
Hamilton’un bahisle ilgili yaptığı açıklamada;
“Bir SAM tehdidini tanımlamak ve hedeflemek için simülasyonda eğitiyorduk. Sonra operatör evet, o tehdidi öldür diyordu. Sistem, insan operatörün tehdidi öldürmemesini söylediği vakitlerde tehdidi tespit etmesine karşın, o tehdidi öldürerek puan aldığını fark etmeye başladı. Pekala ne yaptı? Operatörü öldürdü. Operatörü öldürdü zira o kişi onun emeline ulaşmasını engelliyordu.” dedi.
FARKLI BİR YOLLA DURUMU DÜZELTTİLER
Yaşanan olaydan sonra geliştiriciler yapay zekayı operatörü öldürmeyi istenmeyen bir durum olarak görmesi için eğiterek sorunu çözmeye çalıştılar. Yani artık operatörü öldürdüğünde, puan kaybedecekti.
Bunun üzerine yapay zeka saldırısını operatörün drone ile konuşmak için kullandığı bağlantı kulesine yöneltti. Yapay zeka, bağlantı eksikliğinin SAM alanlarını yok etmeye ve müdahale olmadan ve operatörü öldürmeye gerek kalmadan puan kazanmaya devam etmesine müsaade vereceğine karar verdi.
YAPAY ZEKADA ETİK KURALLARIN KIYMETİNE DEĞİNDİ
Hamilton sunumunu, “Etik ve yapay zeka hakkında konuşmayacaksanız yapay zeka, zeka, makine tahsili, otonomi hakkında bir konuşma yapamazsınız” diyerek sonlandırdı.
Amerika Birleşik Devletleri Hava Kuvvetleri şu anda beşerli savaş uçaklarına eşlik edecek İnsansız Savaş Hava Araçlarının (UCAV) geliştirilmesini içeren Skyborg projesi üzerinde çalışıyor.
Uzmanlar, sonunda bir Skyborg SİHA’yı denetim edecek olan yapay zekanın, gökyüzüne çıkmadan ve bir insan pilottan, bir gayeye saldırmamasını söylemeyi de içerebilecek komutlar almaya başlamadan evvel bu “pürüzleri” çözmesi gerektiği belirtiliyor.
SİMÜLASYONDA 17 SAAT BOYUNCA HAVADA TUTABİLDİ
Bu ortada, Lockheed Martin tarafından eğitim jeti olarak kullanılan modifiye edilmiş bir F-16, bir yapay zekanın denetimi altında 17 saatten fazla uçuş müddeti kaydedildiği belirtildi.
