Otonom silahların kullanımına ilişkin kesin kurallar artık zorunlu!

Yapay Zeka Destekli Otonom Silahlar İçin Bağlayıcı Kurallar Konusunda Tartışmalar Devam Ediyor

Hükümet uzmanları, İsviçre’nin Cenevre kentinde, otonom silah sistemleri (OSS) konusunda olası bir müzakere mandatı üzerinde çalışmak üzere toplandı. Bu sistemler, insan müdahalesi olmadan hedefleri seçip etkisiz hale getirebilen askeri sistemlerdir.

Bu önemli uluslararası toplantı, Birleşmiş Milletler ve Uluslararası Kızılhaç Örgütü’nün (UÇÖ) acil kontroller çağrısının ardından gerçekleşti. Bu sistemlere bazen medyada “öldürücü robotlar” olarak da rastlanmaktadır.

Ukrayna’daki son gelişmeler, tam otonomiye sahip ve anlamlı insan kontrolü olmayan silahların geliştirilme yolunda önemli bir ilerleme kaydedildiğini gösterdi.

New York Times’a göre, 6 Temmuz’da Rus yapımı bir insansız hava aracı (İHA), Zaporizhzhia’daki bir benzin istasyonuna saldırdı ve üç sivilin ölümüne yol açtı. Bu İHA’yı diğerlerinden ayıran özellik, hedefin seçimi konusunda yapay zeka sisteminin otonom olarak karar vermesidir.

İHA, benzin istasyonuna doğru programlanmıştı. Ancak yaklaştığında, bir yapay zeka sistemi, muhtemelenpropan tanklarını tanıyarak, hedefi otonom olarak seçti.

25 Ağustos’ta Uluslararası Kızılhaç Örgütü Başkanı Mirjana Spoljaric ve Birleşmiş Milletler Genel Sekreteri Antonio Guterres, uluslararası topluma, yapay zeka destekli silahların geliştirilmesi ve kullanımı konusunda yasal olarak bağlayıcı kurallar üzerinde anlaşmaya varmaları için bir çağrıda bulundu.

Yeni teknolojiler, ülkelerin bu tür silahları üretmesini daha ucuz ve kolay hale getiriyor. Bu nedenle, UÇÖ’nün acil kontrol çağrısı son derece önemlidir. Uluslararası toplum, yıllardır süren diplomatik görüşmelere dayanarak yakın gelecekte müzakerelere başlayabilir.

Son on yıldır, hükümetler, yapay zeka destekli silahların uluslararası hukuku nasıl etkilediği ve ne yapılması gerektiği konusunda tartışmaktadır. Bu tartışmalar, “belirli geleneksel silahlar hakkında bir sözleşme”nin (BGÜS) bir parçası olarak yürütülmektedir.

2017’den beri, BGÜS’ün bir parçası olan ve ölümcül otonom silah sistemleri (DAÖS) konusunda uzmanlaşmış hükümetler grubu (HHE), genellikle yılda iki kez toplanmaktadır.

Bu süreçte siyasi anlaşmazlıklar yaşanmasına rağmen, çoğu uzman, otonom sistemlerin kullanımında anlamlı bir insan kontrolünün korunması gerektiği konusunda hemfikirdir.

Ahlaki önem

Bu durum, süreçte yer alan devletlerin, insan kararının askeri hukuk için ne kadar önemli olduğuna dair ortak bir anlayışa sahip olduğunu göstermektedir. Ayrıca, savaşın ahlaki önemi, insan sorumluluğunun önemini vurgulamaktadır.

İnsan kararı aynı zamanda uluslararası insancıl hukukun da temel bir unsurudur. Hedeflerin seçimi, hedeflerin kendileriyle ilgili bağlamsal değerlendirmeler, sivillere yönelik potansiyel zararlar ve diğer önlemler gibi konuları gerektirir. Bu görevler makinelerin üstlenmesi mümkün değildir.

Yapay zeka destekli sistemler, teknolojinin hedef algısı üzerindeki etkisini göstermektedir. Otonom silahlar söz konusu olduğunda, sistemin rolü insan kararını etkilemekten, hedef belirleme işlevini doğrudan yerine getirmeye doğru kaymaktadır.

Herhangi bir yapay zeka sistemi, eğitildiği veya kullandığı verilerin kalitesiyle sınırlıdır. Askeri çatışmalar söz konusu olduğunda, bu tür veriler genellikle yetersizdir ve dinamik insan bağlamları için uygun değildir. Bu durum, birçok sistemin teknik olarak yetersiz olmasına yol açabilir.

Bu sorun, örneğin orantılılık değerlendirmesi gibi konularda belirgin hale gelir. Orantılılık, beklenen sivil zararı ile askeri avantaj arasındaki ilişkiyi değerlendiren bağlamsal bir karardır.

Askeri güçler, karar alma süreçlerinde görünürdeki hassasiyeti artırmak için hedefleme kararlarını nicelleştirmeye çalışabilir. Ancak, yasal karar, her zaman nitelikseldir ve teknik doğruluk, hukukun üstünlüğü veya ahlaki değerlendirme ile aynı anlama gelmez.

Sadece insanlar, diğer insanların temel haklarına ve onuruna saygı göstermenin önemini anlayabilir. İnsan hayatını sona erdirme kararları, hem yasal hem de ahlaki olarak kabul edilebilir olması için mutlaka insanlar tarafından niteliksel bir şekilde verilmelidir.

Bu hüküm ve ilgili açık yönergeler olmadan, hükümetlerin hukuki boşluklara ve ciddi ahlaki sorunlara yol açma riski taşıdığını savunuyoruz.

Özellikle hız ve ölçek odaklı yapay zeka kullanan otonom silahlar, kontrolsüz ve hızlı bir tırmanışa neden olma potansiyeline sahiptir. Krizden savaşa veya çatışmadan daha yüksek şiddet seviyelerine geçiş, hatalı saldırı uyarıları veya basit sensör veya bilgisayar hataları nedeniyle gerçekleşebilir.

Tahmin edilemeyen sistemler, liderlere bu sistemlerin yetenekleri hakkında yanlış bir izlenim verebilir. Bu durum, aşırı güven duygusuna yol açabilir veya önleyici saldırıları teşvik edebilir.

Kaçınılmaz mı?

Yapay zeka destekli silahlar konusunda öne sürülen bir argüman, bunların kaçınılmaz olduğu için gerekli olduğudur. Risk, bileşenlerin daha ucuz hale gelmesi ve kolayca erişilebilir olması nedeniyle, daha fazla ülkenin tam otonomiye yönelmesi durumunda bir silahlanma yarışının tetiklenebilir olmasıdır.

Ancak, bir devletin kendi yükümlülüklerinden kaçınmasını gerektirmez. Kurallara uymak, sivil koruma ve hesap verebilirlik yoluyla askeri gücün meşruiyetinin de bir parçasıdır.

Argümanı tersine çevirerek, yasal olarak bağlayıcı kurallar, mutlak bir gereklilik haline geldiği için kaçınılmaz olabiliriz.

Geçmiş on yılda, hükümetler ve savunuculuk grupları, yapay zeka destekli silahların düzenlenmesi konusunda açık bir öneri hazırlamak için büyük çaba göstermişlerdir. Bazı çabalar, doğrudan insanları hedef alan veya tahmin edilemez olduğu için anlamlı bir şekilde kontrol edilemeyen sistemlerin yasaklanmasını amaçlamaktadır. Diğer tüm yapay zeka destekli silahlar kesinlikle düzenlenmelidir.

Siyasi bir momentum olduğuna dair işaretler vardır. 2025’in Kasım ayında, 156 ülke, otonom silahların yarattığı “ciddi zorluklara ve endişelere” dikkat çeken Birleşmiş Milletler Genel Kurulu kararını kabul etti. Yasal olarak bağlayıcı bir anlaşma mümkün olsa da, bazı ülkeler buna karşı çıkabilir.

Şimdi zamanı geldi. Açık ve bağlayıcı kurallar, giderek artan otonomluğun şiddeti kolaylaştırmamasına ve kontrol etmeye yardımcı olacaktır.

Elke Schwarz siyaset felsefesi profesörüdür, Queen Mary Üniversitesi Londra ve Jessica Dorsey hukuk, ekonomi ve yönetişim asistanı profesörüdür, Utrecht Üniversitesi Hukuk Okulu, Utrecht Üniversitesi.

Bu makale, The Conversation‘da Yaratıcı Commons lisansı altında yeniden yayınlanmıştır. Orijinal makaleyi okuyun burası.