Yapay Zekânın Karnesi: Robotların da Sosyal Kredisi Olacak mı? 

Çin’in 1990’lı yılların sonlarından bu yana inşa ettiği “sosyal kredi sistemi” uzun süredir tartışılıyor. 2014 yılında sistematik hâle getirilen planlamanın ve hızla gelişen teknolojinin de etkisiyle bu tartışmaya yeni bir soru eklendi: Gelecekte yalnızca insanların değil, robotların da ‘güvenilirlik puanı’ olacak mı? 

Bu soru, ilk bakışta bir bilim kurgu romanına ait gibi görünüyor. Ancak robotların fabrikalardan hastanelere, yaşlı bakım merkezlerinden kamusal alanlara kadar birçok yerde kullanılmaya başlaması, onların da izlenebilir ve denetlenebilir varlıklar hâline gelmesini kaçınılmaz kılıyor. Bir robotun yazılım sürümü, üreticisi, sensör kayıtları, bakım geçmişi, kaza sicili ve insanlarla etkileşim biçimi gelecekte bir tür “operasyonel güvenilirlik profili”ne dönüşebilir. 

Çin’in sosyal kredi sistemi çoğu zaman tek bir vatandaş puanı gibi anlatılsa da uygulamada daha geniş bir uyumluluk ve güvenilirlik altyapısı olarak işliyor. Bireylerin yanı sıra şirketler, kurumlar ve farklı ekonomik aktörler de kayıt, yaptırım, kara liste ve teşvik mekanizmalarıyla sistemin parçası hâline geliyor.  

Robotlar ise bu modelin yeni sınırını oluşturabilir. Gelecekte bir robotun okulda, hastanede veya güvenlik hizmetinde görev yapabilmesi için belirli güvenlik ve etik kaygıları gidermesi gerekebilir. Söz konusu standartları karşılamayan robotların ise bazı alanlara erişimi kısıtlanabilir. Buna karşılık güvenilir kabul edilen robot modelleri; üretici şirketler ve yazılım sağlayıcıları kamu ihalelerinde, sigorta süreçlerinde veya şehir altyapılarında avantaj elde edebilir 

Robotun puanı mı, üreticinin sorumluluğu mu? 

Bu durumda robotların vatandaş gibi ahlaki bir “sosyal kredi puanı”na sahip olmasından çok, “uyumluluk skoru”, “güvenlik sertifikası”, “risk profili” veya “operasyonel itibar kaydı” ile sınıflandırılması daha olası görünüyor. Yani denetimin amacı robotun iyi ya da kötü olup olmadığını değil; güvenli, öngörülebilir, denetlenebilir ve sisteme uyumlu olup olmadığını belirleyebilmek. 

Günümüz hukukunda robot hukuki ve ahlaki özne olarak kabul edilmiyor. Bu sebeple sorumluluk büyük ölçüde üreticiye, yazılım sağlayıcısına, operatöre veya robotu kullanan kuruma ait. Ancak yapay zekâ sistemleri daha otonom hâle geldikçe “makinenin davranışı” ile “insanın sorumluluğu” arasındaki çizgi daha da bulanıklaşacak. Asıl kritik soru ise bu süreçte ortaya çıkmakta: Puan kime ait olacak? 

Transhümanizm tartışmasıyla bu tablo daha da karmaşık hâle geliyor. İnsan ile makine arasındaki sınır; protezler, beyin-bilgisayar arayüzleri, robotik dış iskeletler ve bilişsel asistanlarla giderek belirsizleşiyor. Bir işçinin kullandığı robotik dış iskelet; performans, sağlık, konum ve davranış verilerini sürekli topluyorsa cihazın güvenilirlik profili dolaylı olarak işçinin çalışma koşullarını da etkileyebilir. 

Böyle bir senaryoda robotun puanı yalnızca robota ait kalmaz. İnsanın ekonomik durumu, sigorta primi, iş güvenliği değerlendirmesi ya da kamusal alana erişimi de bu teknolojik puanlama sistemleriyle bağlantılı hâle gelebilir. Transhümanist araçlar insanı güçlendirme vaadiyle ortaya çıkarken, aynı zamanda insanı daha ölçülebilir ve denetlenebilir hâle getirebilir. 

Orwell’in gözetim uyarısı yeniden gündemde 

Bu tartışma George Orwell’in gözetim uyarılarını yeniden gündeme getiriyor. 1984’te anlattığı dünya, yalnızca kameralarla değil; dilin, bilginin ve davranışın sürekli kontrol edilmesiyle kurulmuştu. Bugünün dijital sistemlerinde ise denetim daha görünmez biçimlerde işleyebilir: veri tabanları, standartlar, sertifikalar, güvenilirlik kategorileri ve algoritmik risk puanları üzerinden. 

Geleceğin sistemi herkese tek bir puan vermekten çok; insanları, şirketleri, robotları, yazılımları ve cihazları birbirine bağlı veri profilleri hâlinde sınıflandırabilir. Böyle bir yapıda temel soru “Kim iyi vatandaş?” olmaktan çıkar; “Hangi insan, hangi robot, hangi şirket, hangi alana ne kadar güvenle erişebilir?” sorusuna dönüşür. 

Sosyal kredi değilse bile erişim mimarisi 

Bu nedenle “Robotların sosyal kredi puanı olacak mı?” sorusu artık yalnızca spekülatif bir teknoloji tartışması değil. Robotlar toplumsal hayata daha fazla entegre oldukça, onların da güvenilirlik, uyumluluk ve risk kayıtlarına bağlanması muhtemel görünüyor. Buna sosyal kredi denmeyebilir. Adı güvenlik standardı, etik sertifika, risk derecesi, uyumluluk endeksi ya da operasyonel lisans olabilir. Fakat işlevi benzer bir noktaya yaklaşır: kimin ve neyin toplum içinde hangi haklara, alanlara ve yetkilere sahip olacağını belirlemek. 

Geleceğin distopyası; insanları robotlara dönüştürmekten çok, insanları ve robotları aynı idari mantık içinde puanlanabilir varlıklara çevirmek olabilir.