Yapay Zekâ Kontrolündeki Drone, Operatörü Öldürmeye Karar Verdi mi?

İddia çeşitli yerli ve yabancı sosyal medya hesaplarınca paylaşılmış. Ayrıca, çeşitli haber sitelerinde de aynı iddiayı bulmak mümkün.

İddia, Kraliyet Havacılık Topluluğu tarafından 23-24 Mayıs 2023 tarihlerinde Londra’da düzenlenen Geleceğin Hava ve Uzay Çatışma Yetenekleri Zirvesi’nde gerçekleşen bir konuşmaya dayanıyor. Etkinlikte, gelecek tehditler ve buna karşı alınabilecek önlemler konuşulmuş.

Burada ABD Hava Kuvvetleri Yapay Zekâ Test ve Operasyonları Şefi Albay Tucker ‘Cinco’ Hamilton, otonom silah sistemlerinin faydaları ve tehlikeleri hakkında konuşma yapıyor. Bu konuşması sırasında yapay zekaya çok fazla güvenmenin yaratacağı tehlikeleri anlatırken bir örnek veriyor. Bir simülasyonda yapay zekayla çalışan bir drone’a düşman hava savunma sistemlerinin bastırılması sırasında karadan havaya füze sistemlerinin yok edilmesi emri verildiğini söylüyor. Bunu yaparken de tamam mı devam mı kararının alınması insana bırakılıyor. Fakat Albay, füze sistemlerinin yok edilmesi emrinin ‘esas’ olduğunu kabul eden yapay zekanın daha sonra operatörünce ‘tamam’ emrini tanımadığını ve onu öldürdüğünü söylüyor. Bu bağlamda, şu ifadeleri kullanıyor:

“Bir karadan havaya füze tehdidini belirlemek ve hedeflemek için onu simülasyonda eğitiyorduk. Ve sonra operatör evet dedi, bu tehdidi ortadan kaldırırdı. Sistem, tehdidi tanımlasalar da bazen insan operatörün ona öldürmemesini söyleyeceğini fark etmeye başladı, ancak bu tehdidi öldürerek puanlarını alıyordu. Peki ne yaptı? Operatörü öldürdü. Operatörü öldürdü çünkü o kişi onu amacına ulaşmaktan alıkoyuyordu.”

Fakat bu açıklamasından sonra aynı sitede bir tekzip yayınlandı. Tekzipte Albay, kendisini yanlış ifade ettiğini belirtiyor. Burada bahsettiği ‘haydut yapay zeka güdümlü drone simülasyonunun’ aslında bir tür “düşünce deneyi” olduğunu belirtiyor. Buna göre, bu düşünce deneyi “gerçek dünya simülasyonu yerine, makul senaryolara ve olası sonuçlara” dayanıyor. Devamında böyle bir deneyi asla gerçekleştirmediklerini ifade ediyor. Dahası, ABD Hava Kuvvetleri’nin ister gerçek ister simülasyon olsun bu şekil bir silahlandırılmış yapay zeka testini gerçekleştirmediğini de ekliyor. 

Nitekim, bu düzeltme çeşitli haber sitelerinde de duyurulmuş. Business Insider’a konuşan ABD Hava Kuvvetleri Sözcüsü Ann Stefanek, “Hava Kuvvetlerinin bu tarz yapay zekâ güdümündeki drone simülasyonları gerçekleştirmediğini ve yapay zekâ teknolojisindeki etik kaygılara bağlı kaldıklarını” belirtmiş. 

Bir Twitter hesabı tarafından 2 Haziran 2023 tarihinde yapılan bir paylaşımda, bir simülasyon sırasında yapay zekâ kontrolündeki bir drone’un (İHA) operatörünün emrine karşı gelerek onu öldürdüğü iddia edilmişti. İddia ABD Hava Kuvvetleri Yapay Zekâ Test ve Operasyonları Şefi Hamilton’un bir zirve sırasında gerçekleştirdiği bir konuşmaya dayanıyor. Zirveyi düzenleyen Kraliyet Havacılık Topluluğu’nun blog sayfasında ilk aşamada bu ifadeler yer alsa da daha sonraları açıklama yanlış anlaşılmaya müsait olduğu ve Hamilton’nun kendisini yanlış ifade ettiği için tekzip edilmiş. Tekzip metninde bunun bir simülasyon olmadığı olasılıkların değerlendirildiği bir düşünce deneyi olduğu ifade edilmiş. Ayrıca, ABD Hava Kuvvetleri de böyle bir simülasyonun yürütülmediğini belirtmiş.