Yapay Zekâ Çağında Prens Kim?

Niccolò Machiavelli, Prens’i kaleme aldığında İtalya siyasi birliğini tamamlamış bir ülke değil; birbirine karşı mücadele eden şehir devletlerinin, hanedanların, cumhuriyetlerin ve yabancı orduların oluşturduğu parçalı bir coğrafyaydı. 

Hükümdarın gücü; ordusunun sadakati, hazinesinin doluluğu, halkının itaati ve danışmanlarının maharetiyle ölçülüyordu. Bundan beş asır sonra iktidarın dekoru değişmiş olsa da güç hâlâ görünmez ağlar içinde dolaşıyor. Fakat yalnızca sarayların taş duvarları arasında değil; milyarlarca insanın kullandığı dijital platformların yazılım katmanlarında da birikiyor. 

Bugünün hükümdarları yalnızca toprakları, limanları veya sınırları yönetmiyor. Bilgi akışını, veri dolaşımını ve dijital kamusal alanı da yönetmek zorundalar. Çünkü çağdaş iktidarın önemli bir kısmı; insanların ne göreceğini, hangi habere ulaşacağını, hangi cümlenin karşısına çıkacağını ve hangi olasılıkları makul kabul edeceğini etkileme kapasitesinden besleniyor. 

İktidarın yeni ordusu: Algoritmalar 

Machiavelli’ye göre bir devletin sağlamlığı iki temel üzerine kuruluydu: iyi yasalar ve iyi silahlar. Üstelik yasaları silahlardan bütünüyle bağımsız düşünmüyor; hükümdarın iktidarını koruyabilmesi için kendi kuvvetlerine sahip olması gerektiğini savunuyordu. Prens’in askerlik üzerine kurulu bölümleri; iktidarın yalnızca hukuki unvanlarla değil, maddi kapasiteyle sürdürülebileceğini anlatır. Yapay zekâ çağında ise bu maddi kapasite yalnızca tank, uçak veya füze sayısıyla ölçülemez. 

Sosyal medya platformları bu dönüşümün ilk büyük laboratuvarlarından biri oldu. Kullanıcının karşısına çıkan içerikler çoğu zaman kronolojik bir akışın doğal sonucu değil. İzleme süresi, etkileşim ihtimali, paylaşım davranışı, benzer kullanıcıların tercihleri ve platformun belirlediği hedefler gibi çeşitli ölçütlere göre sıralanıyor. Üretken yapay zekâ ise bu süreci bir adım daha ileri taşıdı: Algoritmalar artık yalnızca mevcut bilgiyi seçip sıralamıyor; cevap, yorum, görüntü ve anlatı da üretiyor. 

Bununla birlikte algoritmaların kamuoyu üzerindeki etkisini mutlaklaştırmak son derece hatalıdır. Çünkü araştırmalar tek yönlü bir tablo ortaya koymuyor. Örneğin, 2020 ABD seçimleri sırasında Facebook ve Instagram üzerinde yürütülen geniş ölçekli bir deneyde algoritmik akışın kronolojik akışla değiştirilmesi, kullanıcıların platformda geçirdiği süreyi ve karşılaştıkları içerikleri önemli ölçüde değiştirmiş; buna rağmen siyasal kutuplaşma ve bazı temel siyasal tutumlar üzerinde belirgin bir etki göstermemiştir. Buna karşılık X üzerinde yürütülen daha sonraki bir saha deneyi, algoritmik akışın kullanıcıların karşılaştığı siyasal içeriği ve bazı siyasal görüşlerini değiştirebildiğini göstermiştir. Bu farklı sonuçlar, algoritmaların önemsiz olduğunu değil; etkilerinin platforma, tasarıma, kullanıcı davranışına, tarihsel bağlama ve ölçülen sonuca göre değişebildiğini gösteriyor. 

Algoritma, insanları kuklaya dönüştüren sihirli bir aygıt değildir. Fakat siyasal duyguların hangi hızda yayılacağını, hangi içeriklerin ödüllendirileceğini ve hangi davranışların görünürlük kazanacağını etkileyen güçlü bir teşvik sistemi olabilir. 

Paralı askerler ve dışa bağımlı yapay zekâ 

Machiavelli’nin en sert uyarılarından biri, paralı ve yardımcı ordularla ilgiliydi. Ona göre başkasının kuvvetlerine yaslanan hükümdar iki ihtimalle karşı karşıya kalır: Bu kuvvetler yenilirse kendisi de yenilir; kazanırlarsa onların tutsağı hâline gelebilir. Kendi güvenliğini dışarıdan ödünç alan prens, savaşın sonucundan bağımsız olarak siyasal hareket alanını daraltır. 

Yapay zekâ çağında bu uyarı hassas bir analoji sunuyor. Kendi verisini işleyemeyen, kritik hesaplama altyapısını kuramayan, kullandığı modelleri denetleyemeyen ve hizmet sürekliliğini tek bir yabancı sağlayıcının kararlarına bağlayan bir devlet, dijital egemenliğinin bir bölümünü dış aktörlere emanet etmiş olur. 

Yabancı büyük dil modelleri, grafik işlemciler, bulut hizmetleri ve veri platformları bu analoji içinde dijital çağın “paralı askerleri” olarak düşünülebilir. Ancak benzetmenin sınırı iyi çizilmeli: Bir teknolojinin yabancı olması, onu kendiliğinden tehdit hâline getirmez. Bugün hiçbir çağdaş ülkenin bütün yarı iletkenleri, yazılımları, makineleri ve bilgi sistemlerini tek başına üretmesini beklemek gerçekçi değil. Asıl tehlike dışarıdan teknoloji kullanmak değil, o teknoloji olmadan kritik işlevleri sürdüremeyecek ölçüde bağımlı hâle gelmektir. 

Kriz anında hizmet erişimi sınırlandırılabilir, fiyatlandırma ve lisans koşulları değişebilir, kullanılan bir model hizmetten kaldırılabilir veya kritik donanıma erişim zorlaşabilir. Bu nedenle dijital egemenlik, her teknolojiyi sıfırdan yerli olarak üretmekten çok kritik bağımlılıkları tanımak ve vazgeçilmez alanlarda alternatifler oluşturmakla ilgilidir. Başkasının ordusuyla kalıcı güvenlik sağlanamayacağı gibi, başkasının algoritmasına bütünüyle bağımlı kalarak da tam bir dijital egemenlik kurulamaz. 

Prensin danışmanları: Yapay zekâ karar verici mi, karar destekçisi mi? 

Machiavelli, bir hükümdarın niteliğinin çevresindeki danışmanlardan anlaşılabileceğini söyler. İyi danışman seçebilen ve aldığı tavsiyenin değerini tartabilecek bir prens, siyasal muhakeme yeteneğini göstermiş olur. Danışmanın niteliği kadar, hükümdarın danışmanını değerlendirebilme kapasitesi de önemlidir. 

Bugün yapay zekâ, devletin ve şirketlerin yeni danışmanlarından biri hâline geliyor. Bütçelerin dağıtılmasından risk analizine, sağlık hizmetlerinin planlanmasından güvenlik politikalarına kadar pek çok alanda yapay zekâ sistemleri karar vericilere tahminler ve öneriler sunabiliyor. 

Buradaki siyasal mesele, sistemin insandan daha hızlı hesaplama yapıp yapmadığı değildir. Mesele, tavsiyenin nasıl üretildiği ve hangi varsayımlar üzerine kurulduğudur. Yapay zekâ sistemlerinin davranışı; tasarımlarında, eğitimlerinde ve kullanım biçimlerinde belirlenen hedefler, veriler ve teşvikler tarafından şekillenir. “Verimlilik” adı altında hangi değerin öne çıkarılacağına, hangi maliyetlerin kabul edilebilir olduğuna ve hangi risklerin önceliklendirileceğine insanlar ve kurumlar karar verir. Bu nedenle teknik görünen her sınıflandırmanın arkasında bilinçli bir tercih bulunabilir. 

Machiavelli’nin dalkavuklara ilişkin uyarısı burada da anlamlıdır. Saray dalkavuğu hükümdarın duymak istediği cevabı verirdi. Algoritmik dalkavuk ise kullanıcıyı memnun etmeye, etkileşimi artırmaya veya belirli bir kurumsal hedefi gerçekleştirmeye aşırı biçimde yönelmiş bir sistem. İkisi de iktidar sahibini gerçekle yüzleştirmek yerine onun mevcut beklentilerini pekiştirme riski taşır. 

Bu nedenle insanın karar sürecinde bulunması tek başına güvence değil. İnsan, modelin önerisini sorgulamadan onaylayan son imza makamına dönüşebilir. Görünüşte karar insana aittir fakat seçenekleri belirleyen, riskleri sıralayan ve belirli bir yolu “en rasyonel” seçenek olarak sunan sistem, karar alanını önceden biçimlendirmiş olabilir. 

Gerçek insan denetimi, ekranda bir onay düğmesi bulunmasından ibaret olamaz. Karar vericinin modeli sorgulayabilmesi, alternatif bilgi kaynaklarına erişebilmesi, kararın gerekçesini açıklayabilmesi ve gerektiğinde algoritmik tavsiyeyi reddedebilmesi gerekir. Yeni prensin bilgeliği en güçlü danışmana sahip olmasıyla değil, danışmanının sınırlarını anlayabilmesiyle ölçülecektir. 

Prens kim? 

Machiavelli için prens, iktidarı elinde tutan ve onu koruyacak araçları örgütleyen kişiydi. Yapay zekâ çağında ise iktidar daha parçalıdır. Bu nedenle yeni prens ne yalnızca devlet ne de teknoloji şirketidir. 

Bir devlet kullandığı algoritmayı anlamıyor, denetleyemiyor ve gerektiğinde değiştiremiyorsa biçimsel olarak egemen kalabilir fakat karar kapasitesinin bir bölümünü başkalarına devretmiş olur. 

Bir şirket milyarlarca insanın bilgi akışını belirleyebilecek kapasiteye sahip olduğu hâlde yeterli kamusal hesap verme mekanizmalarına tabi değilse, yalnızca ekonomik bir aktör olarak kalmaz; siyasal alanı şekillendiren bir güç merkezine dönüşebilir. 

Bir lider, yapay zekânın tavsiyesini sorgulamadan uyguluyorsa hükmeden kişi olmaktan uzaklaşır ve karar zincirinin törensel son halkasına dönüşme riskiyle karşılaşır.  

Yeni prens bu nedenle tek bir insan değildir. Yeni prens bir ilişkiler düzenidir: Veri, hesaplama gücü, algoritma, sermaye ve siyasal otorite arasındaki bağların oluşturduğu görünmez bir iktidar mimarisi.  

Yeni prensin yüzü yoktur; arayüzü vardır. 

Devletlerin algoritmaları mı yöneteceği yoksa algoritmaları yöneten aktörlerin devletlerin karar alma süreçlerini görünmez biçimde yeniden mi şekillendireceği sorusunun ise cevabını makineler vermeyecek. Yanıtı, teknoloji karşısında kendi virtùsunu oluşturabilen ya da oluşturamayan toplumlar verecek.