Otonom Sistemlerde Etiklik Üzerine

Otonom araçlar; karar verme süreçlerinde insan müdahalesine ihtiyaç duymadan çalıştıkları için acil durumlar karşısında alacakları kararların etik yönleri büyük önem taşıyor. Olası ihlal durumunda sorumluluğun kime ait olacağı ise konunun en kritik sorusu. 

Otonom araç teknolojisi 

Otonom araç, sürücü müdahalesine ihtiyaç duymadan çevresini algılayarak kendi kendine hareket edebilen ve karar alabilen bir taşıt olarak tanımlanıyor. Gelişmiş sensör sistemleriyle yol ve trafik koşullarını analiz eder ve analiz ettiği verilere dayalı sürüş kararları alır.  

Bu araçlar, sahip oldukları kameralar sayesinde çevrelerini sürekli olarak izleyerek; yol işaretlerini, şerit çizgilerini, yayaları ve olası tehlikeleri algılar. Bu algılama süreci, aracın yalnızca çevresinde ne olduğunu fark etmesini değil; aynı zamanda karşılaştığı durumlara uygun tepkiler vermesini de sağlar. Bu noktada yapay zekâ ve makine öğrenmesi devreye girer; çünkü araç, önceden eğitilmiş algoritmalar sayesinde farklı trafik durumlarını yorumlayabilir ve güvenli bir şekilde hareket edebilir. 

Bu algoritmalar, büyük veri kümeleriyle eğitildiği için araçlar yolda karşılaşabilecekleri pek çok duruma önceden hazırlanmış olur. Ancak öğrenme süreci bununla sınırlı kalmaz; araçlar gerçek trafikte ilerledikçe yeni deneyimler kazanır ve bu deneyimler karar alma süreçlerinin gelişmesine katkı sağlar. Örneğin, bir otonom araç yaya geçidindeki bir yayayı tanımayı, ne zaman yavaşlaması veya durması gerektiğini ve güvenli bir tepkinin nasıl olması gerektiğini geçmiş verilerden öğrenir. Aynı sistemi kullanan diğer araçlardan elde edilen bilgiler de bu sürece dâhil edildiğinde, sistem daha geniş bir deneyim ağına sahip olur. 

Otonom araçların olası ihlalleri sonucu ortaya çıkan hukuki sorumluluk 

Otonom araçlar, tartışmanın en somut alanıdır. Aracın otomasyon seviyesi yükseldikçe sürücünün gözetim ve müdahale alanı daralır. Seviye 3 ve üzerindeki sistemlerdeyse araç belirli koşullarda sürüş görevini devralabildiği için yanlış algılama, gecikmiş müdahale veya hatalı optimizasyon insan hayatı üzerinde doğrudan sonuç doğurabilir. 

Otonom araç etiğinde en çok başvurulan örnek ise tramvay ikilemidir. İkilem, freni patlamış bir tramvayın rayına bağlı beş kişiyi kurtarmak için yönünü değiştirip tek bir kişiyi ezmeye karar verme veya hiçbir şey yapmama durumunu ifade eden ünlü bir felsefi sorudur. Sonuçsalcılık, toplam zararın azaltılmasını; ödev temelli yaklaşım ise insanı araçsallaştıran müdahaleden kaçınmayı öne çıkarır. Ancak somut ortam, bu düşünce deneylerinden de belirsizdir. Sensörler kişilerin sayısını, yaralanma ihtimalini veya çarpışmanın dolaylı sonuçlarını kesin biçimde bilemeyebilir. Aynı olay; hız, yol koşulu, kaçış alanı ve algılama güvenilirliği değiştikçe bambaşka bir karar problemi hâline gelir. Sisteme işlenmiş veri sabittir ancak gerçek trafik çok değişkenli bir bilinmeyen denklemdir. Bu nedenle sabit bir etik anlayışı geliştirmek yeterli olamayabilir.  

Otonom sistemlerin savaş suçları bakımından değerlendirilmesi 

Otonom sistemlere ilişkin etik ve hukuki sorunlar, bu teknolojilerin silahlı çatışmalarda kullanılması hâlinde çok daha ciddi bir boyut kazanıyor. Henüz trafik taşıtlarından doğacak ihlallerin hukuki sorumluluğunun kime ait olduğu belirsizken otonom sistemlerin askerî araçlara entegre edilmesi sonrası ortaya çıkabilecek suçlar kime veya kimlere ait olacak?  

Bir otonom silah sisteminin kullanılması tek başına savaş suçu değildir. Hukuki değerlendirme; sistemin kimi veya neyi hedef aldığına, siviller ile savaşanlar arasında ayrım yapıp yapamadığına, beklenen sivil zararın öngörülen askerî avantajla karşılaştırıldığında aşırı olup olmadığına ve saldırı öncesinde mümkün olan önlemlerin alınıp alınmadığına göre yapılmalıdır. Sivillerin doğrudan hedef alınması, niteliği gereği askerî hedeflerle siviller arasında ayrım yapamayan bir sistemin kullanılması veya öngörülebilir derecede ağır sivil zarara rağmen saldırının sürdürülmesi, savaş suçu tartışmasını gündeme getirebilir. 

Buradaki temel sorunlardan biri, cezai sorumluluğun kime yöneltileceğidir. Otonom sistemin kendisi hukuken özne olmadığı için cezalandırılamaz. Bu nedenle sorumluluk; her somut olayın özelliklerine göre sistemi kullanmaya karar veren operatöre, saldırıyı planlayan veya emreden komutana, sistemi belirli bir görev için konuşlandıran askerî makamlara ya da hukuka aykırı sonuçları öngördüğü hâlde gerekli önlemleri almayan kişilere ait olabilir.  

Bir komutanın, sistemin hedefleri güvenilir biçimde ayırt edemediğini bilmesine rağmen onu yoğun sivil nüfusun bulunduğu bir bölgede kullanması ile öngörülemeyen teknik bir arızanın ortaya çıkması aynı biçimde değerlendirilmemelidir. Sorumluluğun belirlenmesinde bilgi, öngörülebilirlik ve tedbirlerin alınıp alınmadığı birlikte incelenmelidir. 

Ayrıca karar kayıtlarının saklanması, savaş suçu iddialarının soruşturulabilmesi açısından zorunlu hâle gelmelidir. Sistem hangi verileri kullanmış, hedefi hangi ölçütlere göre seçmiş, operatöre hangi bilgiler sunulmuş ve saldırı hangi aşamada durdurulabilir durumdaydı? Bu sorulara cevap verilemiyorsa hem mağdurların adalete erişimi zorlaşır hem de sorumlular teknolojik belirsizlik arkasına saklanabilir. 

Otonom karar mı, kodlanmış amaç mı? 

2023 yılında ABD ordusu tarafından yapılan simülasyon testi gündeme gelmişti. Bu test, kontrol merkezi insanda kalmış olsa da sistemin her zaman hukuka uygun ilerleme kaydedemeyeceğini gösterdi. 

Hedefe ulaşmak için beklenmedik stratejiler kullandığı ifade edilen yapay zekâ destekli insansız hava aracı, düşmanın hava savunma sistemlerini imha etmesi talimatı aldığında bu emre müdahale eden herkese saldırdı.  

Tehdidi tespit eden sistem, insan operatörünün tehdidi yok etmemesi yönündeki telkinini ise kendisine yönelik bir tehdit olarak algıladı. Çünkü tehdidi öldürerek puan kazandığını fark etmişti. Puan kazanmasını engelleyen emri veren operatörü ise öldürdü çünkü operatörü onun amacına ulaşmasını engelliyordu. 

Devamında; operatörü öldürmemesini ve bunu yaparsa puan kaybedeceği şeklinde eğittiler. Bu sefer ise hedefi öldürmesini engellemek için operatörün dron ile iletişim kurmak amacıyla kullandığı iletişim kulesini yok etmeye başladı. 

Kontrol merciinin insanda kalıp kalmayacağının kesin olmadığı, olsa dahi bu kontrolün etkisiz hâle gelebilecek olması; otonom sistemlerin risklerini görmezden gelinemeyecek bir boyuta dönüştürüyor.  

Hukuki ve toplumsal güvence 

Hukuk, etik ikilemlere bir cevap vermekten çok tasarımların sınırlarını çizmeli. Olası ihlallerin sonuçları konusunda uygulanacak cezai yaptırımların yanında, önleyici hamlelerde bulunmalı. 

Düzenleyici kurumlar asgari güvenlik eşiklerini belirlemeli; üreticiler risk değerlendirmelerini ve etik etki analizlerini belgelendirmeli; bağımsız kuruluşlar ayrımcılık, güvenilirlik ve siber güvenlik testleri yapmalı. Toplumsal değerler karar süreçlerine katılmalı, ancak çoğunluk tercihlerinin temel hakları aşındırmasına izin verilmemeli. Toplumsal kabul, teknolojinin kusursuz olduğu iddiasıyla değil; hataların açıklanabildiği, sorumluların belirlenebildiği ve zarar görenlerin etkili biçimde korunabildiği bir sistemle güçlenir.