Otonom Silahlarda Hedefi Kim Seçiyor?

Bir asker otonom bir silahı devreye soktuğunda, vurulacak hedefi mutlaka kendisi seçmiş olmayabilir. Asker, operasyon bölgesini, sistemin ne kadar süre çalışacağını ve saldırmasına izin verilen hedef türlerini belirleyebilir; ardından sensör ve yazılımlara önceden tanımlanmış özelliklere uyan bir nesneyi arama, sınıflandırma, takip etme ve ateş açma görevi bırakabilir. Son aşamada ise hiçbir insan hedefi görmemiş veya o hedefe yönelik saldırıyı tek tek onaylamamış olabilir.

Ordular yıllardır füze ve mühimmatları otomatik olarak önleyebilen sistemler kullanıyor. Yapay zeka da keşif görüntülerinin analizinde, hedeflerin belirlenmesinde ve önceliklendirilmesinde görev alıyor. Robotlar ve otomatik savaş sistemleri farklı askeri alanlarda uzun süredir kullanılıyor.

Ancak sistemin görevi insanın karar vermesine yardımcı olmanın ötesine geçtiğinde mesele daha hassas hale geliyor. Bir sistem, etkinleştirildikten sonra başka bir insan müdahalesi olmaksızın hedef seçip ona saldırabiliyorsa insan ile makine arasındaki karar sınırı değişiyor.

Bu konu, 31 Ağustos-4 Eylül 2026 tarihlerinde Cenevre'de düzenlenen Belirli Konvansiyonel Silahlar Sözleşmesi kapsamındaki Hükümet Uzmanları Grubunun 2026'daki ikinci oturumunun da merkezindeydi.

Toplantı, otonom silahların tanımı ve kullanımına ilişkin bazı temel unsurlar üzerinde uzlaşmayla sonuçlandı. Bu gelişme gelecek müzakereler için bir zemin oluşturdu ancak hukuken bağlayıcı bir uluslararası düzenleme konusunda anlaşmaya varılamadı.

Oturumdan birkaç gün önce Birleşmiş Milletler (BM) Genel Sekreteri Antonio Guterres ile Uluslararası Kızılhaç Komitesi (ICRC) Başkanı Mirjana Spoljaric, otonom silahlara açık yasaklar ve kısıtlamalar getiren hukuken bağlayıcı bir uluslararası düzenleme için acilen müzakerelere başlanması çağrısını yineledi.

Guterres ve Spoljaric, makinelerin insanları otonom biçimde hedef almasının "ahlaki bir kırmızı çizgi" olduğunu belirterek dünyanın bu sınırı aşmaya tehlikeli derecede yaklaştığı uyarısında bulundu.

Buna karşın uyarılarla uluslararası anlaşma arasındaki mesafe halen oldukça geniş. Devletler on yılı aşkın süredir olası bir düzenlemenin unsurlarını tartışıyor ancak bunun hukuki niteliği konusunda dahi kesin bir sonuca ulaşabilmiş değil.

Tartışmanın merkezinde pratik bir soru bulunuyor: İnsanın silahı programlaması ve faaliyet göstereceği bölgeyi belirlemesi yeterli mi, yoksa insanın belirli hedefi ve hedefin çevresindeki koşulları anlaması ve saldırıyı gerçekten engelleyebilecek bir fırsata sahip olması mı gerekiyor?

Bir silah ne zaman otonom hale geliyor?

ICRC, otonom silah sistemlerini, etkinleştirildikten sonra insan müdahalesi olmaksızın hedef seçebilen ve bu hedeflere karşı güç kullanabilen sistemler olarak tanımlıyor.

Bu sistemler sensörleri aracılığıyla çevreden aldıkları verilere tepki veriyor ve önceden belirlenen genel bir "hedef sınıfı" üzerinden hareket ediyor. Sistemi kullanan kişi, vurulacak belirli hedefi seçmemiş olabileceği gibi kuvvetin tam olarak nerede ve ne zaman kullanılacağını da önceden bilmiyor olabilir.

ICRC'ye göre bu sistemlerin kullanımındaki temel risklerden biri, ortaya çıkarabilecekleri sonuçların öngörülmesinin ve sınırlandırılmasının güç olması.

Ancak doğrudan bir pilot tarafından yönetilmeden uçan her insansız hava aracı otonom silah sayılmıyor. Bir İHA programlanmış rotayı takip edip irtifasını otomatik koruyabilir ancak hedefi insan seçip saldırı emrini kendisi verebilir. Böyle bir durumda uçuş otomatik olsa da hedef seçimi ve saldırı kararı insanın elinde kalıyor.

Aynı ayrım, fırlatıldıktan sonra hedefi takip eden mühimmatlar için de geçerli.

Operatör belirli bir tankı hedef olarak seçtikten sonra mühimmat kendisini bu tanka yönlendiriyorsa makine hedefe ulaşma görevini üstlenmiş oluyor ancak hedefi seçmiş olmuyor.

Buna karşılık mühimmat belirli bir bölgeye gönderiliyor, burada "düşman tankı" olarak tanımlanan özellikleri taşıyan bir nesneyi kendisi arıyor, tespit ediyor ve saldırıyorsa hedef seçme sürecine de dahil oluyor.

ABD Savunma Bakanlığının silah sistemlerinde otonomiye ilişkin yönergesi de bu iki durumu birbirinden ayırıyor. Buna göre "yarı otonom" sistem, insan tarafından önceden seçilmiş belirli hedeflerle çatışıyor; sistem daha sonra bu hedefleri takip edebiliyor veya kendisini hedefe yönlendirebiliyor.

Otonom silah sistemi ise etkinleştirildikten sonra operatörün başka bir müdahalesi olmadan hedef seçebiliyor ve hedefle çatışabiliyor.

Her yapay zekalı silah otonom değil

Bir silahın yapay zeka kullanması, otomatik olarak otonom silah olduğu anlamına gelmiyor.

Yapay zeka bilgileri analiz etmek veya hedef önerisinde bulunmak için kullanılabilirken nihai saldırı kararı insanda kalabilir.

Bunun tersine, makine öğrenmesi kullanmayan ve yalnızca önceden programlanmış kurallara göre çalışan bir sistem de hedef seçip onunla çatışabilir.

Stockholm Uluslararası Barış Araştırmaları Enstitüsü (SIPRI) de bu nedenle askeri hedefleme sürecinde insana yardımcı olan karar destek sistemleri ile hedef seçimi ve hedefle çatışma işlevlerini yerine getiren otonom silahları birbirinden ayırıyor.

Bu sistemler pratikte çevreleri hakkında bilgi toplayan sensörler ile bu bilgileri işleyerek nesne veya özellikleri belirleyen ve önceden tanımlanmış ölçütlerle karşılaştıran yazılımlara dayanıyor.

Yanlış veya eksik veriler, elektronik karıştırma, aldatıcı hedefler ya da sistemin tasarlanıp test edildiği koşullardan farklı bir ortamda kullanılması hatalara yol açabiliyor.

ABD Savunma Bakanlığının yönergesi; sistem arızaları, yazılım hataları, karıştırma, aldatma ve öngörülemeyen başka şartlara dikkat çekerken SIPRI da kullanılan verilerin kalitesinin ve sistemin faaliyet gösterdiği çevrenin önemini vurguluyor.

Bir sistemin bir aracı doğru biçimde tanıması da tek başına o aracın o anda meşru bir askeri hedef olduğu anlamına gelmiyor.

Nesnenin tanınması teknik bir işlemken, vurulmasının hukuka uygun olup olmadığı hedefin çevresindeki koşullara ve saldırıyı düzenleyen kurallara bağlı.

Savaş alanındaki sistemler ve bildiklerimizin sınırı

Bu teknolojilerin tarihi modern İHA'larla başlamıyor.

Gemilerdeki otomatik savunma sistemlerinin yanı sıra İsrail yapımı "Harpy" mühimmatı, belirli bir hedef sınıfını otonom biçimde arayan sistemlerin erken örneklerinden biri olarak gösteriliyor.

Üretici İsrail Havacılık ve Uzay Sanayii'ne (IAI) göre Harpy, fırlatıldıktan sonra radar sinyali yayan hedefleri önceden konumlarını bilmeye ihtiyaç duymadan otonom biçimde arayabiliyor, tespit edebiliyor ve saldırabiliyor.

IAI sistemi "tamamen otonom" olarak nitelendiriyor. Ancak bu teknik özellikler sistemin işlevini anlamaya yardımcı olsa da üreticinin kendi tanımını yansıtıyor ve her bir savaş alanındaki kullanımın nasıl gerçekleştiğine ilişkin bağımsız kanıt oluşturmuyor.

Ukrayna'daki LITAVR sistemi ise insan ile makinenin aynı silahın farklı aşamalarındaki görev paylaşımını gösteren örneklerden biri.

Ukrayna Savunma Bakanlığına göre İHA uzaktan kontrol özelliğinin yanı sıra hedefi tanıyan ve uçuşun son aşamasında aracı hedefe yönlendiren otomatik bir terminal güdüm sistemine sahip.

Bu aşamada operatör yalnızca hızı kontrol ederken diğer işlevler otomatik olarak yerine getiriliyor.

Ancak bu teknik özellik tek başına LITAVR'ın hangi hedefe saldırılması gerektiğini bağımsız biçimde seçtiğini kanıtlamıyor.

Bu gelişmeler, Rusya-Ukrayna Savaşı'nda İHA'ların ve diğer insansız sistemlerin kullanımındaki daha geniş çaplı artışın bir parçasını oluşturuyor.

Gazze'de Lavender tartışması

Gazze'de ise insan kararı ile otomasyon arasındaki sınır daha belirsiz bir görünüm kazanıyor.

+972 Magazine ve Local Call'un Nisan 2024'te yayımladığı ve altı İsrailli istihbarat görevlisinin ifadelerine dayanan araştırmaya göre "Lavender" adlı yapay zeka sistemi, Filistinlileri Hamas ile İslami Cihad Hareketinin askeri kanatlarına mensup olma ihtimallerine göre sınıflandırmak için kullanıldı.

Araştırmada sistemin yaklaşık 37 bin kişiyi potansiyel hedef olarak işaretlediği aktarıldı.

Aynı araştırmaya göre İsrail ordusu, yapılan dahili bir testte sistemin yaklaşık yüzde 10 hata oranına sahip olduğunun ortaya çıkmasına rağmen Lavender'ın sonuçlarının geniş çaplı kullanılmasına izin verdi.

İstihbarat görevlilerinden biri, insan tarafından yapılan kontrolün bazı vakalarda kişi başına yaklaşık 20 saniye sürdüğünü ve esas olarak hedef gösterilen kişinin erkek olup olmadığının kontrol edilmesiyle sınırlı kaldığını söyledi.

Ancak bu durum Lavender'ı teknik anlamıyla bir otonom silah haline getirmiyor.

Araştırmanın kendi anlatımına göre Lavender saldırıyı gerçekleştiren silahın kendisi değildi ve hedefleme zincirinde insan müdahalesi tamamen ortadan kalkmamıştı.

Bununla birlikte bu örnek başka bir soruyu gündeme getiriyor: Bir makinenin hedef olarak önerdiği kişinin saldırı listesine alınmasından önce yapılan insan kontrolü yalnızca birkaç saniye sürüyorsa, bu müdahalenin gerçek anlamı nedir?

Öte yandan kamuoyuna açık kaynaklardan kesin olarak doğrulanabilen bilgilerin sınırları da önem taşıyor.

ICRC Silahlar ve Çatışmaların Yürütülmesi Birimi Başkanı Laurent Gisel, 25 Ağustos 2026'daki BM Cenevre basın brifinginde, insanları hedef almak amacıyla tamamen otonom silah kullanıldığına ilişkin henüz doğrulanmış bir kanıt bulunmadığını söyledi.

Gisel buna karşın silah teknolojilerindeki gelişimin "gözlemlenen yönünün" bu tarafa doğru ilerlediğini belirtti.

Otonom işlevlere sahip silahların bütünüyle teorik veya geleceğe ait olmadığını da vurgulayan Gisel, gemilerdeki bazı savunma sistemleri dahil bu tür teknolojilerin uzun süredir kullanıldığını ve ölümlere yol açtığını ifade etti.

Bazı sistemlerin hem uzaktan kumandalı hem de otonom modlarda çalıştırılabilmesi de bunların sınıflandırılmasını güçleştiriyor.

ICRC'nin temel kaygısı, özellikle karmaşık ortamlarda güç kullanımı üzerindeki insan kontrolünün giderek azalması.

Komite bu nedenle öngörülemez otonom silahların ve insanları hedef almak üzere tasarlanan sistemlerin yasaklanmasını; diğer otonom silahların ise kullanım süresi, coğrafi alanı ve uygulayabileceği güç açısından sınırlandırılmasını istiyor.

Dolayısıyla insanları hedef alan tamamen otonom bir silah kullanıldığına ilişkin doğrulanmış kanıt bulunmaması, otonom teknolojilerin savaş alanlarında bulunmadığı anlamına gelmiyor. Bu durum daha çok, halihazırda kullanılan teknolojiler ile kamuya açık biçimde kanıtlanabilenler arasındaki sınırı gösteriyor.

İnsan karar zincirinde nerede?

Hedef seçiminden kuvvet kullanımına uzanan süreçte insanın konumunu açıklamak için genellikle üç kavram kullanılıyor.

"İnsan döngünün içinde" (human in the loop) olduğunda saldırının gerçekleşmesi için insanın karar vermesi veya onay vermesi gerekiyor.

"İnsan döngünün üzerinde" (human on the loop) modelinde sistem hedefi kendisi seçip saldırabiliyor ancak süreci denetleyen bir kişi gerektiğinde müdahale edebiliyor.

"İnsan döngünün dışında" (human out of the loop) olduğunda ise sistem etkinleştirildikten sonra hedef seçimi ve hedefle çatışma için ek bir insan müdahalesine ihtiyaç duymuyor.

ABD'nin silah sistemlerinde otonomiye ilişkin yönergesi bu kavramları doğrudan kullanmasa da yarı otonom sistemler, operatör denetimindeki otonom silahlar ve genel olarak otonom silahlar arasında benzer bir ayrım yapıyor.

Ancak bir kişinin ekran karşısında bulunması tek başına ne kadar bilgiye sahip olduğunu veya saldırıya müdahale etmek için ne kadar zamanı bulunduğunu göstermiyor.

Operatör programa güvendiği için öneriyi kabul edebilir, bilgilerin sunuluş biçimi eleştirel değerlendirmeye imkan vermeyebilir veya operasyonun hızı nedeniyle insan kontrolü yalnızca şekli bir prosedüre dönüşebilir.

Bu risklerden biri "otomasyon yanlılığı" olarak tanımlanıyor. Kavram, özellikle baskı ve zaman kısıtlaması altında kullanıcının makine tarafından üretilen öneri veya sonuçlara gereğinden fazla güvenme eğilimini ifade ediyor.

ICRC de askeri yapay zekaya ilişkin değerlendirmelerinde karar destek sistemlerinin kendi çıktılarına aşırı güvenilmesi riskini artırabileceği uyarısında bulunuyor.

Bu nedenle insan teknik olarak karar zincirinde bulunmaya devam ederken bağımsız değerlendirme yeteneği pratikte zayıflayabilir.

İnsan kontrolü yalnızca bir operatörün ekranın karşısında olması veya basabileceği bir iptal düğmesinin bulunmasıyla ölçülmüyor. Operatörün sistemin sınırlarını anlayabilmesi, sistemi denetleyebilmesi ve zamanında müdahale edebilmesi gerekiyor.

Bilgi, saldırıyı durdurma fırsatı geçtikten sonra operatöre ulaşıyorsa teorik olarak iptal imkanının bulunması gerçek bir kontrol sağlamıyor.

ICRC bu nedenle yasaklanmasını talep etmediği otonom silahlar için hedef türlerinin, kullanım süresinin, coğrafi kapsamın, operasyon ölçeğinin ve kullanılabileceği koşulların sınırlandırılmasını öneriyor.

Komite ayrıca etkili insan denetiminin korunmasını ve operatöre zamanında müdahale etme veya sistemi devre dışı bırakma imkanı verilmesini istiyor. Bu önlemlerin amacı, belirli bir saldırıda insan muhakemesi ve kontrolünün gerçekten mümkün olmasını sağlamak.

Makine hata yaptığında kim sorumlu?

Otonom silahlar hukukun dışında faaliyet göstermiyor. Hükümet Uzmanları Grubunun 2019'da kabul ettiği ilkeler, uluslararası insancıl hukukun bu sistemlere de uygulanmaya devam ettiğini ve sorumluluğun makinelere değil devletlere, çatışmanın taraflarına ve kişilere ait olduğunu ortaya koyuyor.

Bununla birlikte tasarım, test ve kullanım aşamalarında çok sayıda kişinin rol aldığı bir olayda sorumluluğun kime ait olduğunu belirlemek zorlaşabiliyor. Devlet sorumluluğu ile bireysel cezai sorumluluk birbirinden ayrılırken, yazılım geliştiricilerin bir sisteme katkıda bulunması da onları daha sonraki her kullanımdan otomatik olarak cezai açıdan sorumlu hale getirmiyor.

Yeni silahların hukuka uygunluğu da kullanılmadan önce incelenmek zorunda. Cenevre Sözleşmelerine Ek I No'lu Protokol'ün 36. maddesi, taraf devletlerin geliştirdikleri veya edindikleri yeni silahların uluslararası hukuka uygunluğunu değerlendirmesini öngörüyor. Otonom sistemlerde bu değerlendirme, sistemin yeterince anlaşılabilir ve öngörülebilir olmasını da gerektiriyor. Yazılımda hedef seçimini etkileyen önemli değişiklikler yapılması halinde hukuki incelemenin yenilenmesi gündeme geliyor.

Cenevre'de insan kontrolü konusunda ayrılık sürüyor

Cenevre'deki son görüşmeler, devletlerin "insan kontrolü" konusunda ortak bir hukuki tanıma henüz ulaşmadığını gösterdi.

ABD, insan muhakemesi ve kontrolünün önemine karşı çıkmazken bunların tek başına bağımsız bir hukuki ölçüt olarak kabul edilmesine itiraz etti. Washington, insan kontrolünü mevcut ayrım gözetme, orantılılık ve saldırıda önlem alma yükümlülüklerinin uygulanmasının bir aracı olarak görüyor.

Brezilya ise bir insanın hedefi önceden seçmiş olmasının, saldırının sonraki koşulları operatör açısından öngörülemez hale geliyorsa sistemi otomatik olarak otonom silah tanımının dışında bırakmaması gerektiğini savundu. Çin ise çatışmanın gerçekleşeceği kesin anın bilinmemesinin belirleyici ölçüt haline getirilmesine karşı çıktı.

Otonom silahlara ilişkin görüşmeler Belirli Konvansiyonel Silahlar Sözleşmesi kapsamında 2014'te başladı, Hükümet Uzmanları Grubu ise 2017'de oluşturuldu. 2026'da tanım, yasaklar, insan kontrolü, test ve değerlendirmeye ilişkin ortak bir zeminde ilerleme sağlansa da bağlayıcı bir anlaşmaya ulaşılamadı.

Bir sonraki kritik aşama, 16-20 Kasım 2026'da yapılması planlanan Sözleşmenin 7. Gözden Geçirme Konferansı olacak. ICRC, burada 2027'de hukuken bağlayıcı bir düzenleme için müzakere yetkisi verilmesini istiyor. Dolayısıyla kasım ayındaki temel soru yeni bir anlaşmanın tamamlanıp tamamlanmayacağı değil, devletlerin yıllardır süren tartışmadan gerçek müzakere aşamasına geçip geçmeyeceği olacak.

İnsan silahı tasarlarken ve devreye sokarken süreçte bulunabilir ancak bir insanın hayatını sona erdirecek belirli karar verilirken zincirin dışında kalabilir.

Gelecekte oluşturulacak kurallar açısından temel mesele, insanın bu süreçteki rolünü denetlenebilir hale getirmek olacak: İnsan neyi biliyordu, neye izin verdi ve neyi önleme imkanına sahipti?

Ancak bu sorular cevaplandığında, güç kullanma kararını gerçekte kimin verdiğini ve bu karardan kimin sorumlu tutulacağını belirlemek mümkün olacak.

Kaynak: AlAraby