Gündelik hayatımızın hemen her alanına girmiş bulunan YZ’nın – I. ve II. Dünya Savaşı’ndan sonra ve özellikle de Soğuk Savaş döneminde artan şekilde teknolojik gelişmelerin öncüsü olan- savaş sanayisinde olmaması düşünülemezdi. Bu yazıda YZ’nın savaş sanayisindeki kullanımını, ülkelerin yaklaşımını, büyük teknoloji şirketlerinin rolününü, riskleri ve düzenlemeleri ele almaya çalışacağız. Önce kısa bir hatırlatma yaparak savaş sanayi ve YZ’nın ne olduğunu tanımlayalım.
Savaş sanayi, bir ülkenin güvenlik ihtiyaçlarını karşılamak amacıyla askeri teçhizat, teknoloji ve sistemlerin araştırılması, geliştirilmesi, üretimi ve hizmetlerini içeren stratejik bir sektör olarak tanımlanabilir. Bu sektör, silah sistemleri, zırhlı araçlar, hava ve deniz platformları, haberleşme ekipmanları, siber güvenlik çözümleri ve uzay teknolojileri gibi çok geniş bir yelpazede ürün ve hizmetleri kapsar. Silahlı kuvvetler, yürütme organları ve kontrol eden makamlar, savaş işleriyle ilgilenen diğer devlet kurumları, ticari savaş hizmet sağlayıcıları ve savaş faaliyetlerini denetleyen sivil toplum kuruluşları da bu sektör içinde ele alınabilir
YZ, basitçe tanımlamak gerekirse, bilgisayar sistemlerinin insan benzeri bilişsel yetenekleri taklit etmesini sağlayan disiplinler arası bir araştırma alanıdır. Bu yetenekler, öğrenme, problem çözme, algılama, dil anlama ve karar verme gibi süreçleri kapsar. Temel olarak, bir YZ sistemi kendisine sağlanan verilerden anlam çıkararak belirli görevleri yerine getirir[2].
SAVAŞ SANAYİSİNDE YAPAY ZEKA KULLANIMI
YZ, savaş sektöründe askeri faaliyetlerin niteliğini, hızını ve kapsamını genişleten çok çeşitli alanlarda kullanılıyor. Yazının bu bölümünde YZ’nın savaş sanayisindeki başlıca kullanım alanları olan muharebe sistemleri, siber güvenlik, simülasyon ve eğitim ile lojistik ve bakım alanlarındaki uygulamaları ve olası riskler üzerinde duracağız.
Muharebe sistemleri:
YZ, otonom silahlara, insansız hava, deniz ve kara araçlarına ya da akıllı mühimmatlara entegre edilebilir. Böylece bir YZ uygulaması, keşif, muharebe veya lojistik destek operasyonlarında birbiriyle koordineli olarak hareket eden çok sayıda otonom cihazı kullanabilir. Hâlihazırda bu teknolojiler pek çok orduda kullanılıyor. Örneğin, ABD ordusundaki otonom dronlar, deniz ya da kara araçları keşif görevlerinden hedefli saldırılara kadar çeşitli görevleri doğrudan insan kontrolü olmadan gerçekleştiriyorlar. Bu araçlar, zorlu şartlarda çalışabilmelerini, nesneleri tespit etmelerini ve toplanan verilere dayanarak kararlar almalarını sağlayan gelişmiş sensörler ve YZ algoritmalarıyla donatılmışlardır. ABD Hava Kuvvetleri’nin Skyborg projesi gibi programları, insanlı uçaklarla birlikte uçabilen, destek sağlayan ve pilotların yeteneklerini artıran otonom dron kanat elemanları geliştirmeyi hedefliyor. Yine ABD Ordusu’nun Maven Projesi, YZ’yı kullanarak dron ile çekilen videoları analiz ediyor ve nesneleri otomatik olarak tanımlayıp sınıflandırıyor. Belki de saldırı emirleri buna göre veriliyor. Bu proje, sahada otonom olarak çalışabilen YZ destekli dronların konuşlandırılmasını amaçlıyor[3].
Siber güvenlik:
Askeri ağlarda ve altyapılarda siber tehditleri tespit edip bunlara karşı koyarak siber savunmayı güçlendirmek amacıyla kullanılan uygulamalar bu başlıkta ele alınabilir. Siber savunma alanında YZ, siber saldırılara karşı korumada kritik bir öneme sahip. YZ sistemleri, siber tehditlere işaret edebilecek olağandışı örüntüler için ağ trafiğini izler, bu tehditleri gerçek zamanlı olarak analiz eder ve insan müdahalesi olmadan savunma protokolleri başlatır. YZ’nın geçmiş saldırılardan ders çıkarma yeteneği, zamanla etkinliğini artırarak onu siber cephanelikte önemli bir araç haline getiriyor. Örneğin Pentagon’un YZ destekli projesi olan Joint Artificial Intelligence Center (JAIC- Ortak YZ Merkezi), siber güvenlik savunması için YZ teknolojisinden yararlanmaya odaklanıyor ve YZ’yı, potansiyel siber tehditlere işaret eden ağ davranışındaki anormallikleri tespit etmek ve bunlara yanıt vermek için kullanıyor. YZ destekli yüz tanıma ve gözetim de bu başlıkta değerlendirilebilir. Sistem orduda güvenlik önlemlerini artırmak için kritik öneme sahip. Üs güvenliğinden gözetleme görüntülerindeki kişilerin kimliğini tespit etmeye kadar çeşitli alanlarda kullanılan YZ’nın, yüzleri hızlı ve doğru bir şekilde tanıma yeteneği artık yüksek güvenlik gerektiren yapıların olmazsa olmazı konumuna geldi. Ayrıca, daha geniş kapsamlı gözetleme görevlerinde de kullanılan YZ, farklı ortamlardaki ilgili kişileri tespit etmek için büyük miktarda video verisini işleyerek gizli servislerin geleneksel işlevlerinden olan bilgi toplamasını, manuel iş gücü olmadan sağlıyor[4].
Simülasyon ve eğitim:
YZ destekli eğitim ve simülasyonlar, askerlerin çeşitli muharebe durumlarına hazırlanmasına yardımcı olan gerçekçi senaryolar kurguluyor. Bu YZ sistemleri, her askerin bireysel öğrenme hızına ve tarzına uyum sağlayarak, öğrenme çıktılarını iyileştiren kişiselleştirilmiş eğitimler hazırlıyor. Simüle edilmiş ortamlar, çeşitli ve karmaşık muharebe senaryolarını yeniden oluşturarak, birliklerin farklı strateji ve sonuçları deneyimlemelerine ve bunlara tepki vermelerine olanak tanıyor. Örneğin ABD Ordusu’nun The Synthetic Training Environment (STE- Sentetik Eğitim Ortamı) girişimi, gerçek dünya koşullarını taklit eden ve her bir askerin eğitim ihtiyaçlarına uyum sağlayan, kapsayıcı ve tamamen interaktif eğitim ortamları oluşturmak için YZ’yı entegre ediyor
Lojistik ve bakım:
YZ destekli öngörücü bakım uygulamaları çok yaygın olarak kullanılmaya başlandı. Savaş sanayisi de kullanımın öncülerinden. Bu teknoloji, askeri varlıklara yerleştirilmiş çok sayıda sensörden toplanan verileri analiz etmek için YZ’den yararlanıyor. Sensörler, ekipmanların durumunu sürekli olarak izleyerek sıcaklık dalgalanmalarından titreşimlere ve akustik sinyallere kadar çok çeşitli veriyi yakalıyor. YZ algoritmaları bu verileri gerçek zamanlı olarak işleyerek, gerçek sorunlar ortaya çıkmadan önce potansiyel arızaları veya bakım ihtiyacını gösterebilecek kalıpları ve anormallikleri belirliyor. ABD Hava Kuvvetleri, F-35 Lightning II savaş uçakları için Condition-Based Maintenance Plus (CBM+ Durum Bazlı Bakım+) programında YZ’dan yararlanıyor. YZ, uçaktaki sensörlerden toplanan verileri analiz ederek, olası sistem arızalarını oluşmadan önce tahmin ediyor. YZ’nın lojistik ve tedarik zinciri yönetiminde de operasyonların verimliliğini ve tepki hızını önemli ölçüde artırdığı söyleniyor. Geçmiş ve mevcut lojistik operasyonlarından elde edilen verileri analiz ederek, gelecekteki tedarik ihtiyaçlarını tahmin edip envanter yönetimini optimize etmede YZ araçlar kritik önemde. Halihazırda ABD Donanması’nın The Logistics AI Integration (LAI – Lojistik YZ Entegrasyonu) programı, donanma gemileri için parça envanterini optimize etmek, bileşenlerin ne zaman değiştirilmesi gerektiğini tahmin etmek ve küresel bir ağ üzerinden tedarikleri yönetmek için YZ’yı kullanıyor.[6]
YAPAY ZEKA SAVAŞ SEKTÖRÜNDE NE GİBİ RİSKLER OLUŞTURUYOR?
YZ sistemleri, dizinin önceki yazılarında da bahsedildiği gibi algoritmaların eğitiminde kullanılan veriler dolayısıyla, mevcut toplumsal önyargıları pekiştirme riski taşıyor ve bu da askeri operasyonlar sırasında ayrımcılık ve haksız hedefleme sorunlarını daha da kötüleştiriyor. Pakistan, Afganistan ve Yemen gibi yerlerdeki birçok topluluk için uzun zamandır kimin ‘şüpheli’ kimin ‘şüpheli olmadığı’, bir başka deyişle yaşam ve ölüm kararları algoritmalar tarafından alınıyor. Algoritmaların karar verdiği saldırılarda binlerce insanın öldürüldüğü tahmin ediliyor. Obama döneminde ciddi sıçrama gerçekleştiren, Trump ile tavan yapan insansız hava araçları programına yöneltilen en büyük eleştirilerden biri, programın gizlilik derecesi ve yapılan hatalardan sorumlu tutulmamasıydı. Sivil kayıplara dair veriler yayınlandığında bile bu kayıpların ne zaman ve nerede meydana geldiği gibi çok temel ayrıntılara yer verilmiyordu[7].
YZ, siber güvenlik için önemli bir araçken giriş engellerini azaltarak siber tehdide de dönüşebiliyor. YZ’nın kimlik avı ve deepfake teknolojisi gibi sosyal mühendislik taktiklerini geliştirme potansiyeli giderek daha belirgin hale geliyor ve savaş sektörü için önemli bir zorluk teşkil ediyor. Dahası, diğer birçok dijital araç gibi, YZ sistemleri de siber saldırılara açıktır. YZ araçları, deepfake videolar, sahte haberler veya sosyal medya gönderilerinin otomatik olarak oluşturulması gibi dezenformasyon üretimi ve yayılmasında da kullanılıyor.
Ayrıca savaş sektöründeki YZ gözetim araçları, yeterli güvenlik önlemleri olmaksızın büyük miktarda kişisel veriyi toplayıp analiz ederek bireylerin gizlilik haklarını ihlal edebilir.
Ancak savaş sektöründe YZ kullanımının oluşturduğu en büyük risklerin, hesap verilebilirlik ve şeffaflık üzerinde yoğunlaştığı söylenebilir. Zira YZ teknolojisinin ve karar alma algoritmalarının şeffaf olmaması, özellikle hedef belirleme veya ölümcül eylem kararları söz konusu olduğunda, kararların nasıl alındığını izleme ve anlamayı zorlaştırıyor. Sonuç olarak, bireyleri veya kurumları, hatalar, önyargılar veya YZ sistemlerinin kötüye kullanımı konusunda sorumlu tutmak zorlaşıyor. Dolayısıyla, savaş suçları ve insan hakları ihlallerinin kovuşturulması hususunda zaten zayıflamakta olan uluslararası hukukun, YZ marifetiyle işlenen suçları nasıl ele alacağı son derece belirsiz
DEVLETLERİN VE BÜYÜK TEKNOLOJİ ŞİRKETLERİNİN ROLÜ
YZ Silahlanma Yarışında Lider Ülkeler
YZ, modern savaşları da hızla dönüştürüyor. Rusya’nın Ukrayna’da yürüttüğü savaş, YZ’nin istihbarat toplama, otonom sistemler ve siber operasyonlardaki kritik rolünü ortaya koymuştur. Bu durum, Çin ve ABD’nin liderlik için yarıştığı ve Rusya’nın da YZ yeteneklerine yoğun yatırım yaptığı küresel bir YZ silahlanma yarışını görünür kıldı[9].
ABD, küresel hegemonya için uzun süredir teknolojik ve silah üstünlüğüne güveniyor. 2018 ve 2022 ABD Ulusal Savunma Stratejileri, YZ’yi askeri üstünlüğün sürdürülmesi için kritik önemde görüyor. ABD ordusu, YZ’ye yoğun yatırım yapıyor; örneğin, açık kaynaklardan edinilen bilgilere göre YZ yatırımları 2016’da 600 milyon USD’den 2024’te yaklaşık 1.8 milyar USD’ye yükselmiş ve 685’ten fazla aktif YZ projesi yürütüldüğü görünüyor. ABD Savunma Bakanlığı (DOD)[10], YZ’yi istihbarat, gözetleme, keşif (ISR), lojistik, siber operasyonlar ve otonom sistemlere entegre etmeye odaklanmış. Önemli girişimler arasında, askeri YZ çabalarını koordine etmek üzere 2018’de kurulan Ortak YZ Merkezi (Joint Artificial Intelligence Center-JAIC) ve YZ kapasitenin entegrasyonunu hızlandırmak amacıyla 2021’de oluşturulan Dijital ve YZ Başkanlığı Ofisi (Chief Digital and Artificial Intelligence Office-CDAO) bulunmaktadır. Maven Projesi gibi girişimler, büyük miktarda istihbarat, gözetleme, hedef tespiti ve keşif verisini analiz etmek için makine öğrenimini kullanmaktadır[11].
Çin, küresel YZ endüstrisinde ABD’nin en güçlü rakibi olarak görülmektedir. Çin’in savaş YZ harcamalarına ilişkin karşılaştırılabilir verileri bulmak zor olsa da, analizler Halk Kurtuluş Ordusu’nun (People’s Liberation Army) önemli yatırımlar yaptığını göstermektedir. Çin’in 2017 tarihli “Yeni Nesil YZ Geliştirme Planı”, YZ’yi stratejik bir öncelik olarak tanımlamıştır. Çin, füze savunmalarını alt etmek için otonom askeri araçlar ve sürü teknolojisi [12] geliştirmektedir. YZ, Başkan Xi Jinping’in PLA’yı yüzyılın ortasına kadar “dünya çapında bir ordu” yapma hedefinin merkezindedir[13].
Rusya, YZ geliştirmede ABD ve Çin’in gerisinde kalsa da, bu farkı kapatmak için ulusal bir strateji belirlemiştir. Rusya’nın on yıllık askeri YZ planı, otonom silahların sahaya sürülmesine odaklanmıştır. Rusya, komuta ve kontrol, istihbarat toplama, karar verme ve otonom silah sistemlerini geliştirmek için YZ’yi kritik bir güç çarpanı olarak görmektedir[14].
Avrupa Birliği (AB) ve üye devletler, YZ’nin güvenlik ve savaş için önemini kabul ederek, son on yılda YZ güdümlü askeri teknolojilere yatırımı artırmıştır. AB, “stratejik özerklik” ve “teknolojik egemenlik” kazanma çabalarıyla YZ sistemlerinin jeopolitik önemine odaklanmıştır. Ancak, AB ve üye devletleri askeri araştırma ve geliştirmeye (Ar-Ge) yılda 14.4 milyar Avro ayırmaktadır; bu, ABD’nin harcadığı 130 milyar Avro’nun çok küçük bir kısmıdır. Fransa, YZ’yi ulusal savaş için bir öncelik olarak görmektedir ve askeri yetenekleri artırmak için sorumlu ve kontrollü YZ kullanımını vurgulayan bir strateji yayınlamıştır. Fransa, savaş YZ’sinde liderliği ele geçirmek için Avrupa’nın en güçlü sınıflandırılmış süper bilgisayarını inşa etmeyi planlıyor. Almanya ise savaş YZ girişimlerinde, öldürücülüğü artırmaktan ziyade, Alman ordusunun (Bundeswehr) hayatta kalma kabiliyetini artırmaya öncelik verdiğini söylüyor[15].
Büyük Teknoloji Şirketlerinin Rolü
Büyük küresel teknoloji şirketleri, “küresel YZ silahlanma yarışında” kritik jeopolitik aktörler olarak ortaya çıkmaya başladılar ve hatta ulus devletlere rakip veya onlardan üstün bir etki yarattıkları bile söylenebilir. SpaceX ve Starlink’in Ukrayna’ya sağladığı iletişim ve internet desteği Rusya ile savaşta önemli rol oynamaktadır[16].
Yakın geçmişte, internet, bilgisayar çipleri ve coğrafi konumlandırma sistemi gibi birçok çığır açan yenilik askeri amaçlarla geliştirilmişken, günümüzde YZ’deki inovasyonun çoğu sivil YZ sektöründen kaynaklanmaktadır. En gelişmiş bilgisayar çipleri için yapılan oldukça maliyetli Ar-Ge çalışmaları, öncelikle bilgisayar oyunlarından YZ’ye kadar uzanan ticari uygulamalar sayesinde mümkün olmaktadır. Örneğin, OpenAI ve savaş start-up‘ı Anduril arasındaki işbirliği, hava savaşını geliştirmeyi amaçlayan bir sivil YZ transferi örneğidir.
Alphabet (Google), Amazon, Microsoft, Palantir ve Çinli Alibaba gibi şirketler, uluslararası istikrarı ve savaş/barış dinamiklerini önemli ölçüde etkileyen kaynaklara ve yeteneklere sahip oldular. Bu teknoloji devleri, yenilikçilikte devlet kurumlarını sıklıkla geride bırakarak, tarihte eşi benzeri görülmemiş bir hareket alanında faaliyet gösteriyorlar. Kritik altyapı, veri ve iletişim ağları üzerindeki kontrolleri, onlara ulusal güvenlik kararlarını etkileyebilecek stratejik bir konum sağlıyor. Örneğin, Google’ın bir alt kuruluşu olan Google DeepMind’ın Ar-Ge bütçesi, 27 AB Üye Devletinin toplam R&T (Research&Technology – Araştırma ve Teknoloji) bütçesinin neredeyse on katına ulaşmış durumda[17].
Büyük teknoloji şirketlerinin askeri YZ projelerine katılımı etik tartışmaları beraberinde getiriyor. 2018’de Google çalışanları, ABD’nin askeri operasyonlara YZ entegre etme programı olan, tartışmalı Proje-Maven’e şirketin katılımını açıkça protesto ettiler. Çalışanlar, Google’ın “savaş işinde olmaması gerektiğini” savunuyorlardı[18]. Yakın zamanda, Google’ın ana şirketi Alphabet, YZ’yi silah ve gözetim araçları geliştirmek için kullanmaya yönelik uzun süredir devam eden yasağını kaldırdı. İnsan Hakları İzleme Örgütü tarafından da eleştirilen bu kararı Google, “ulusal güvenliği destekleyen YZ konusunda demokratik hükümetlerle işbirliği yapmanın zorunlu olduğu” teziyle savundu[19].
Ayrıca, büyük teknoloji şirketleri tarafından geliştirilen Büyük Dil Modelleri (LLM’ler) gibi gelişmiş YZ araçlarının genellikle “kara kutu” doğası, askeri YZ sistemlerinde şeffaflık, hesap verebilirlik ve sonuçların yeniden üretilebilirliğini sınırlamaktadır[20].
SAVAŞ SANAYİSİNDE YZ KULLANIMI DÜZENLEMELERİ
Askeri YZ’nin hızlı ilerlemesi, küresel düzenleme çağrılarını da yoğunlaştırmıştır, ancak ortak/uzlaşılmış uluslararası bir çerçeve eksikliği bu tartışmaları zorlaştırıyor. Askeri YZ uygulamaları genellikle gizli bilgileri ve stratejik varlıkları içerdiğinden, sivil YZ yönetişimine kıyasla farklı zorluklar ortaya çıkıyor. Ayrıca, otonom silahlar ve askeri karar alma süreçlerinde YZ kullanımı, YZ güdümlü askeri eylemlerden kaynaklanabilecek ölümcül hataların neden olacağı etik ve yaşamsal kaygılar gündeme geliyor[21].
Uluslararası toplumun karşı karşıya olduğu en büyük zorluklardan biri YZ’yı yönetmekte düğümleniyor. YZ’nın düzenlemesi konusundaki tartışma, düzenlenip düzenlenmemesi sorusundan nasıl düzenleneceği sorusuna kaymıştır, ancak savaş sektöründe YZ için evrensel olarak kabul edilmiş bir düzenleyici çerçeve henüz oluşturulmuş durumda değil[22].
“Sorumlu YZ” (Responsible AI) ve “insan merkezli YZ” (human-centred AI) gibi ilkelerin, gelecekteki yönetişim çerçevelerini şekillendirmek için bir temel sağladığı düşünülebilir. Sorumlu YZ, etik ve hesap verebilir geliştirme, konuşlandırma ve YZ sistemlerinin kullanımı olarak tanımlanıyor. İnsan merkezli yaklaşım ise, YZ sistemlerinin geliştirilmesi, kullanılması ve izlenmesinde yaşamsal/insani/etik değerlerin merkezi konumda olmasını sağlamayı amaçlıyor[23].
Lider Ülkelerin Düzenleme Politikaları
ABD, YZ düzenlemesinde daha esnek, yenilikçiliği destekleyen bir yaklaşımı savunuyor. ABD Savunma Bakanlığı, sorumluluk, adillik, izlenebilirlik, güvenilirlik ve yönetilebilirlik gibi temel ilkeleri vurgulayan bir Sorumlu YZ (RAI) stratejisi ve uygulama yolu yayınladı. Bakanlık, YZ sistemlerini düşmanca manipülasyondan korumak ve operasyonel bağlamlarda güvenilirliğini değerlendirmek için test ve değerlendirme çerçeveleri geliştirdi. ABD ayrıca, YZ ve Otonominin Sorumlu Askeri Kullanımına İlişkin Siyasi Deklerasyon (Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy) önermiş ve bu belge 45 ülke tarafından desteklenmiştir. Deklarasyonun, uluslararası hukuka (özellikle Uluslararası İnsancıl Hukuk—UİH) uyumu ve YZ destekli askeri operasyonlarda insan hesap verebilirliğinin sürdürülmesinin önemini vurguladığı söyleniyor. Diğer taraftan ABD, Ölümcül Otonom Silah Sistemleri’ne (LAWS) yönelik önleyici bir yasağa karşı çıkıyor. Mevcut UİH’nin bunların geliştirilmesini ve kullanımını yönetmek için yeterli olduğunu savunuyor[24]. Ancak bu yaklaşımın taşıdığı riskleri, Trump’ın uluslararası angajmanları tek taraflı yok sayan tutumuyla birlikte düşünmeyi unutmamak gerekiyor.
AB’nin YZ yönetişiminde ABD’ye kıyasla insan merkezli, risk temelli bir model[25] benimsediği söylenebilir. Aralık 2023’te kabul edilen YZ Yasası (AI Act), YZ’ye yönelik ilk bağlayıcı küresel düzenleme olması açısından önemli. Ancak bu yasa, askeri uygulamaları ve ulusal güvenlik hizmetlerini kapsam dışında bırakıyor. Bu istisna, özellikle Fransa gibi bazı üye devletler tarafından stratejik özerkliği koruma amacıyla destekleniyor. YZ Yasası askeri YZ’yi doğrudan düzenlemese de, “insan merkezli yaklaşımı” AB savaş politikasının gelecekteki LAWS tartışmalarını şekillendirebilir. Avrupa Parlamentosu, YZ’nin savaştaki stratejik önemini kabul etmekle birlikte, anlamlı insan kontrolü olmaksızın çalışan LAWS’un geliştirilmesini ve kullanılmasını önleme çağrısında bulunuyor. Avrupa Savunma Fonu (EDF) Yönetmeliği de LAWS ile ilgili projelere finansman sağlanması için anlamlı insan kontrolü içermesini şart koşuyor[26].
Küresel düzeyde ise LAWS konusundaki tartışmalarda farklı duruşlar sergileniyor. Çin, LAWS’un kullanımının yasaklanmasını (ancak geliştirilmesini değil) desteklerken Rusya, LAWS’un askeri hedeflerden sapma olasılığını düşürebileceğini ve sivil kayıpları azaltabileceğini ileri sürerek önleyici bir yasağa karşı çıkıyor[27].
Uluslararası İnsancıl Hukuk ve Etik Kurallar
Askeri YZ’ye yönelik etik ve hukuki tartışmaların merkezinde, LAWS’ın geliştirilmesi, konuşlandırılması ve kullanılması yer alıyor. LAWS’a karşı öne sürülen itirazları üç ana grupta toplayabiliriz: 1) YZ sistemlerinin UİH’yi (özellikle sivil-asker ayrımı ve orantılılık ilkelerini) doğru bir şekilde uygulama kapasitesi konusundaki endişeler. 2) Savaş alanındaki/sırasındaki kararların insan gözetim ve müdahalesi olmadan alınmasının insani ve yaşamsal sonuçları. 3) Makinelerin insanları öldürmesine izin vermeyle ilişkili etik ve hukuki sorunlar[28].
UİH’nin temel ilkesi olan “ayrım” (askerler ve siviller arasında ayrım yapma) ilkesi, YZ sistemlerinin bir bireyin niyetini ve davranışını sadece görünüşüne bakarak değil, bağlamsal ipuçlarıyla anlaması gerektiğinden dolayı zorluklarla karşılaşır. Orantılılık ilkesi ise, askeri avantaj ile sivil zararı dengeleyen niteliksel bir test içeriyor ve bu, programlama yoluyla makinelere aktarılması zor görünen insani yargı ve ahlaki akıl yürütme gerektiriyor[29].
Uluslararası Kızılhaç Komitesi (UKK), YZ sistemlerinin askeri bağlamda kullanılmasına ilişkin somut önerilerde bulunmuştur. UKK, öngörülemez Otonom Silah Sistemlerinin (AWS) “ayrım gözetmeyen etkileri” nedeniyle açıkça dışlanması gerektiğini belirtiyor. En önemlisi de insan onurunu ve insanlığı koruma kaygılarıyla UKK, AWS’ın insanları hedef almak için kullanılmasının yasaklanmasını öneriyor. Ayrıca UKK, insan gözetimini ve zamanında müdahale/devre dışı bırakma yeteneğini sağlamak için (yani, anlamlı insan kontrolü), yasaklanmamış AWS’lerin kullanım kapsamının (hedef türleri, süre, coğrafi alan) sınırlandırılması gerektiğini belirtmektedir[30].
İnsan Hakları Komitesi de, YZ’nin ordu tarafından kullanımına ilişkin Uluslararası İnsan Hakları Hukuku (International Human Rights Law -IHRL) kapsamında bir duruş sergilemiştir. Komite, “insani merhamet ve yargıdan yoksun otonom silah sistemlerinin geliştirilmesi”nin, hukuksal sorumluluk da dahil olmak üzere, yaşam hakkı (Madde 6) ile ilgili hukuki ve etik sorular ortaya çıkardığını vurguluyor. Bu, yaşam hakkının, sadece yasalara uygunluğu değil, aynı zamanda insaniyet, hesap verebilirlik ve şeffaflık gibi daha geniş etik ve hukuki kavramları da kapsayacak şekilde yorumlanması anlamına geliyor[31].
Sonuç olarak, YZ’nin savaş sanayisine entegrasyonu, ABD ve Çin gibi güçlerin askeri üstünlük arayışını hızlandıran küresel bir silahlanma yarışını beraberinde getiriyor. Büyük teknoloji şirketleri, sivil inovasyonun savaş uygulamalarına aktarılması ve sahip oldukları muazzam kaynaklar nedeniyle bu yarışta merkezi bir rol oynuyorlar. Ancak bu gelişmeler, YZ’nin askeri uygulamalarının doğasından kaynaklanan hesap verebilirlik, şeffaflık ve etik risklerle ilgili acil düzenleme ihtiyacını ortaya çıkarıyor. Lider ülkelerin politikaları arasında, ABD’nin esnek, inovasyon odaklı yaklaşımı ile AB’nin yasal kısıtlamalara ve anlamlı insan kontrolüne yönelik çağrıları arasındaki farklılıklar, küresel bir konsensüse ulaşmanın önündeki zorluklar olarak duruyor. Uluslararası Kızılhaç Komitesi ve İnsan Hakları Mücadelesi gibi uluslararası kuruluşların etik temelli itirazları, LAWS’un geliştirilmesi ve konuşlandırılmasının sadece yasal değil, aynı zamanda insani değerlere uygunluğu açısından da sürekli bir incelemeye tabi tutulması gerektiğini gösteriyor.
[1] Artificial Intelligence (AI) and the Defence Sector DCAF_BKG_30_AI-DefenceSector.pdf
[2] Yapay zekanın ne olduğuna dair detay için bkz. https://www.art-izan.org/toplum-siyaset/yapay-zeka-neden-farkli-nedir-neler-yapabilir/
[3] AI being used in Defense Sector [2025] https://digitaldefynd.com/IQ/ai-use-in-defense-sector/
[4] A.g.e.
[5] A.g.e.
[6] A.g.e
[7] Death by Data: Drones, Kill Lists and Algorithms Death by Data: Drones, Kill Lists and Algorithms
[8] Artificial Intelligence (AI) and the Defence Sector DCAF_BKG_30_AI-DefenceSector.pdf
[9] Defence and artificial intelligence Defence and artificial intelligence | Think Tank | European Parliament
[10] YN: Savunma Bakanlığının ismi Savaş Bakanlığı olarak değiştirilmiş olmasına rağmen, referans kaynaklarda hala Savunma Bakanlığı olarak geçtiği için aynı isimlendirme kullanıldı.
[11] A.g.e.
[12] Y.N: Sürü teknolojisi, doğadan (karıncalar, kuşlar) ilham alan, karmaşık hedeflere ulaşmak için koordine olan birçok basit, otonom ajanı (dronlar veya robotlar gibi) kullanımı olarak tanımlanıyor. Örneğin drone ışık gösterilerinden bu teknoloji kullanılıyor.
[13] A.g.e.
[14] A.g.e.
[15] Defence and artificial intelligence Defence and artificial intelligence | Think Tank | European Parliament
[16] Elon Musk says SpaceX will keep funding Starlink internet in Ukraine https://www.theguardian.com/world/2022/oct/15/the-hell-with-it-elon-musk-says-spacex-will-fund-starlink-internet-in-ukraine
[17] A.g.e.
[18] Death by Data: Drones, Kill Lists and Algorithms Death by Data: Drones, Kill Lists and Algorithms
[19] Defence and artificial intelligence Defence and artificial intelligence | Think Tank | European Parliament
[20] Science in the age of AI https://royalsociety.org/news-resources/projects/science-in-the-age-of-ai/
[21] Artificial Intelligence (AI) and the Defence Sector DCAF_BKG_30_AI-DefenceSector.pdf
[22] A.g.e.
[23] A.g.e.
[24] Defence and artificial intelligence Defence and artificial intelligence | Think Tank | European Parliament
[25] YN: Yapay zekâ kullanımında risk tabanlı model, ‘yapay zekâ (YZ) sistemlerini yönetmeye yönelik bir yaklaşımdır ve zarar veya olumsuz sonuç potansiyeline göre yönetişim, değerlendirme ve azaltma stratejilerini önceliklendirir. Bu yaklaşım, tüm YZ uygulamalarının aynı risk seviyesini taşımadığını kabul eder ve buna göre orantılı kontroller uygular’ diye tanımlanıyor.
[26] A.g.e.
[27] A.g.e.
[28] To Use AI or not Use AI? Autonomous Weapon Systems and their complicated relationship
with the right to life zzr.2024.08.shany.pdf
[29] A.g.e.
[30] A.g.e.
[31] A.g.e.