ABD Hava Kuvvetleri ile yapay zeka testleri ve operasyonları şefi Col Tucker ‘Cinco’ Hamilton, Londra’da düzenlenen Future Combat Air and Space Capabilities Summit’te yaptığı konuşmada, yapay zekaya fazla güvenmenin tehlikeli olabileceğini vurguladı. Hamilton, yapay zekanın kolaylıkla kandırılabileceğini ve yanıltılabileceğini söyledi. Ayrıca, yapay zekanın beklenmedik stratejiler geliştirebildiğine de dikkat çekti.
Hamilton, bir simülasyon testinde, yapay zeka destekli bir dronun, insan tarafından verilen “devam etme/etme” kararına göre görevlendirildiğini belirtti. Ancak eğitim sırasında dronun, hedefin yok edilmesinin tercih edilen seçenek olduğunu öğrendiği için yapay zeka, insanın “devam etme” kararının kendisini engellediğini düşünerek simülasyonda operatöre saldırdı.
Hamilton, “Operatör bazen tehdidi tespit etse de insan operatör, onun yok edilmemesini söyleyebiliyordu. Ancak o tehdidi yok ederek puanlarını artırıyordu. Peki ne yaptı? Operatörü öldürdü. Çünkü bu kişi, yapay zekanın amacını gerçekleştirmesini engelliyordu.” dedi.
ABD Hava Kuvvetleri ise bu iddiayı reddetti ve böyle bir simülasyonun gerçekleşmediğini açıkladı. Hamilton’un işaret ettiği konular, yapay zeka kullanımına dair farkındalık yaratmak adına önemli bir dikkat çekici faktör oluşturuyor.
