Askerî yapay zekâdaki hızlı gelişim, görev kapsamı, faaliyet alanı ve hedef parametrelerine ilişkin bağlayıcı sınırların acilen belirlenmesini zorunlu kılıyor
Aralık 2022'de ABD ordusunun açıklamasına göre bir Çin J-11 savaş uçağı, Güney Çin Denizi üzerinde bir ABD RC-135 keşif uçağının metrelerce yakınına geldi; Washington bunu güvensiz bir manevra olarak eleştirdi. Pekin ise sorumluluğu Amerikan mürettebata yükledi ve RC-135'in kendilerini defalarca uyarmalarına rağmen aniden Çin savaş uçağına doğru yön değiştirdiğini öne sürdü. Tarafların her ikisi de görüntü yayımladı, ancak hiçbiri diğerinin olay anlatımını kabul etmedi.
Bu ve benzeri yakın karşılaşmalarda görev başında insan pilotlar vardı. Sıradaki karşılaşmada ise içinde kimsenin bulunmadığı uçaklar rol alabilir.
30 Eylül'de ABD Savunma Bakanı Pete Hegseth, ABD ordusunun tüm kollarında otonom ve robotik kabiliyetleri büyütmek üzere dört yıldızlı bir Otonom Savaş Komutanlığı kurulacağını duyurdu. Pentagon, 2027 mali yılında otonom ve insansız sistemlerin geliştirilmesi ile kullanımını hızlandırmak için 54,6 milyar dolar talep etti; bu rakam bir önceki yıl 225,9 milyon dolardı.
Çin de aynı yönde ilerliyor. Geçen yılın kasım ayında Halk Kurtuluş Ordusu Hava Kuvvetleri, GJ-11 hayalet insansız uçağının bir J-20 savaş uçağıyla birlikte uçtuğunu gösteren görüntü yayımladı. Ocakta devlet televizyonu CCTV, tek bir askerin 200'den fazla insansız hava aracından oluşan bir sürüyü yönetebildiğini, bu araçların bağlantı karıştırıldığında kendi rotalarını planlayabildiğini bildirdi.
Bu uçaklar otonomleştikçe iki soru ortaya çıkıyor: Operatörler bu araçlara ne kadar serbesti tanımalı? Devletler, uçakların belirlenen sınırlar içinde kaldığını nasıl gösterebilir?
Temmuzda, pilotlu bir savaş uçağıyla birlikte uçmak üzere tasarlanmış insansız bir savaş jeti olan iş birlikçi savaş uçağıyla (collaborative combat aircraft, CCA) yapılan canlı atış testinde ABD Hava Kuvvetleri, bu tür uçakların "silahları otonom olarak kullanmayacağını" vurguladı.
Ancak temmuzdaki test kontrollü bir ortamda yapıldı. Güney Çin Denizi ya da Tayvan Boğazı'nda durum bir anda değişebilir. Bu uçaklar operatörlerinden uzakta, iletişimin karıştırılmasının çok daha kolay olduğu bölgelerde görev yapabilir ve her angajman için insan onayı almaksızın hedef seçip vurmak üzere önceden izin alabilir.
ABD Hava Kuvvetleri'nin güvencesi bir politika kararıdır ve politika kararları değişebilir. Pentagon'un silah sistemlerinde otonomiye ilişkin yönergesi şu anda yeniden yazılıyor. Haziranda yayımlanan bir başkanlık memorandumu Pentagon'a bunu güncellemek için 90 gün süre verdi; ancak The Washington Post'un haberine göre yeni sürüm eylül sonunda hâlâ yayımlanmamıştı.
Pekin ise kendi payına, yeni otonom silahlarını nasıl değerlendirdiği konusunda pek fazla görünürlik sunmuyor.
Bu yüzden Cumhurbaşkanı Xi Jinping'in geçen ay Washington'a yaptığı devlet ziyareti sırasında varılan anlaşma önem taşıyor. İki taraf yapay zekâyla ilgili olaylar için bir kanal kuracak, kasımda yapay zekâya özel bir diyalog yürütecek ve askerî kriz iletişimi hakkında bir memorandum imzalayacak. Ancak böyle bir kanalın gerçek sınavı, bir Amerikan otonom savaş uçağıyla bir Çin GJ-11 modelinin birbirine fazla yaklaştığı anda gelecek.
O anda her iki hükümetin saniyeler içinde, kararı bir insan operatörün mü yoksa otonomi yazılımının mı aldığını ve uçağın yetkili sınırlar içinde kalıp kalmadığını bilmesi gerekecek. Taraflar bu bilgiyi paylaşmaya istekli değilse bir telefon hattının fazla işe yaramayacağı ortada; ABD Başkanı Donald Trump da Washington'un Pekin'e anlatacaklarının bir sınırı olacağını zaten söyledi.
Bir de Cenevre var. BM Belirli Konvansiyonel Silahlar Sözleşmesi'nin 16-20 Kasım'daki yedinci gözden geçirme konferansında devletler, otonom silahlara ilişkin kuralların müzakere edilip edilmeyeceğine karar verecek. Eylülde üzerinde uzlaşılan bağlayıcı olmayan metin bir dayanak oluşturabilir.
Tarafların bu uçakları yasaklaması gerekmiyor. Yapay zekâ diyaloğunda ve Cenevre'de anlaşabilecekleri şey, komutanların her görev için hedefleri, faaliyet alanını ve karşılaşmayı bekledikleri tehditleri temel alarak sınır koymak zorunda olması olabilir. Uluslararası Kızılhaç Komitesi'nin hedefler, faaliyet süresi, coğrafi alan ve ölçek üzerinde önerdiği sınırlar yararlı bir başlangıç noktası sunuyor.
Ancak sınırlar ancak uçaklar çatışmada, operatörlerle bağlantıyı kaybetseler bile bunlara uyarsa anlam taşır. Bu sınırlar içinde bir angajmanı tamamlayamayan uçaklar angajmanı sonlandırmak ya da operatörden ek talimat almak zorunda olmalı. Devletler uçaklarının bunu yapıp yapmadığını test etmeli ve birbirlerine testleri nasıl yaptıklarını anlatmalı.
Sınamalara rağmen doğrulama zor olacaktır. Eski ABD Hava Kuvvetleri Bakanı Frank Kendall, "Lethal Autonomy" (Ölümcül Otonomi) adlı kitabında, ölümcül angajmanlar için insan onayı şartının çok az bir teknik çabayla atlatılıp gizlenebileceğini savunuyor. Bir devlet bir denemede bir koruma önlemi gösterebilir ve sonrasında bunu kaldırabilir.
Yine de Kendall'ın kendisi, uçuşa elverişlilik sertifikasyonunda olduğu gibi, belirli bir yetkiliyi ve kurumu bu tür sistemlerin savaş hukukuna uygunluğunu test edip doğrulamaktan sorumlu kılmayı öneriyor. Washington ve Pekin bu fikri ayrı ayrı benimseyebilir; bu da her iki tarafa yeni yapay zekâ olayları kanalından raporlayacakları somut bir şey verir.
2022'de taraflarda pilotlar ve videolar olmasına rağmen iki hükümet olayda ne olduğu konusunda uzlaşamamıştı. Otonom uçaklarda sorgulanacak bir pilot bile olmayacak; her türlü anlatım yazılım kayıtlarına ve taraflardan birinin bunları paylaşmaya hazır olup olmamasına bağlı olacaktır.
Washington ve Pekin, insansız bir savaş uçağı ihtilaflı sular üzerinde operatörüyle bağlantıyı kaybetmeden önce, yeni kanalın ne raporlayacağını kasımdaki yapay zekâ diyaloğunda ve Şenzhen'deki Asya-Pasifik Ekonomik İşbirliği liderler zirvesinde karara bağlamalı.
Mustafa Bilal, İslamabad merkezli Havacılık ve Güvenlik Araştırmaları Merkezi'nde araştırmacıdır.
