Yapay Zekanın Mimarları Neden Korkuyor?

Britanyalı yapay zeka araştırmacısı Jacob Kokson'un, önemli yapay zeka şirketlerinden biri olan "Anthropic"ten istifasının ardından yaptığı açıklamalar ürkütücü. Bunlar bir spekülasyon değil, gördüğü ve kendisini şoke eden mevcut gerçekliğin sonucu. Meslektaşlarının, kameralardan uzak özel tartışmalarında "yapay zekanın on yıl bitmeden hepimizi yok edebileceğine gerçekten inandıklarını" söylüyor. Yaşananları hafifletmeye yer bırakmayan bir dille tarif ediyor: Yapay zeka şirketleri, kendini geliştiren süper zekaya doğru bir yarışta "hayatımızla kumar oynuyor" — kendi ifadesiyle, tek bir korkuyla kuşatılmış bir yarış: rakibin kendisini geçmesi korkusu.

Yapay zeka modellerini eğitmede öncülerden biri olan Kokson'un bu istifası, yüksek bir mevkii ve mali kazançlardan vazgeçerek geldi ve modellerin yeteneklerinin, insanların riskleri kontrol etme kapasitesini aşacak şekilde hızla ilerlediği bir yarışa karşı bir uyarı niteliği taşıyor. Bu, türünün ilk istifası değil; ondan aylar önce "Anthropic"ten ayrılan başka bir araştırmacı da geride tek bir cümle bırakmıştı: "Dünya tehlikede."

Uyarı, sektörün içinden geldi. "Anthropic"in İcra Kurulu Başkanı Dario Amodei, insan kontrolünü garanti eden güvenlik araçları yetişene kadar ileri düzey modellerin geliştirilmesinin yavaşlatılmasını istedi ve sistemler için bağımsız değerlendirme, şirketler arasında güvenlik standartlarının koordinasyonu ve risklerle mücadele için uluslararası iş birliği önerdi.

İspanya Başbakanı yapay zeka tekelleşmesine karşı uyardı

Şirkette araştırmacı olan Evan Hubinger, yapay zekanın on yıl içinde insanları öldürmesine yol açma olasılığını %10'un üzerinde tahmin etti. "ChatGPT"nin ana şirketi "OpenAI"de ise Sam Altman yakın güvenlik risklerine karşı uyarırken, şirketin baş bilim insanı azami dikkat çağrısı yaptı. Bundan çok daha önce, Mart 2023'te bin kişiyi aşan bu alandaki araştırmacı, hükümetlerin kendini geliştirebilen sistemlerin gelişimini yavaşlatmak için koordinasyon sağlamasını isteyen bir bildiriye imza atmıştı.

Bu istifalar hafızamda "Toplumsal İkilem" (The Social Dilemma) belgeselindeki benzer bir sahneyi canlandırdı. Belgesel, San Francisco'daki Silikon Vadisi'nde "Google", "Facebook", "Twitter" ve "Instagram"dan istifa eden bir grup kıdemli mühendis, tasarımcı ve yöneticinin itiraflarıyla başlar. Onlar, sessizliği bozmayı ve dünyayı, tasarımına katkıda bulundukları algoritmalara karşı uyarmayı seçtiler; platformların kullanıcıların dikkatini çekmek, davranışlarını etkilemek, hatta onları tüketime yönlendirmek için tasarlanma biçiminden duydukları kaygıyı dile getirdiler. İki hikâye arasındaki mesafe aynı gibi görünüyor — biri yapay zekayla, diğeri sosyal medyayla ilgili. Ama ikisi belirli bir noktada kesişiyor: Teknolojinin yaratıcısının kendisi, yarattığı şeyin gelişiminden korkuyor — Frankenstein'ın kurgusal hikâyesinin ürkütücü bir tekrarı.

Kokson, açıklamalarında bize sinematik benzetmeyi bile bırakmadı. Kendisi de bu karşılaştırmayı seçti: "Yapay zekanın gelişimi, 1984 yapımı 'Terminator' filminden çok farklı değil" dedi. Sinematik hayal gücü, bu senaryoya karşı bu filmden onlarca yıl önce uyarmaya başlamıştı. 1927'de, ekranda görünen ilk robot, "Metropolis" filmindeki sahte Maria kılığındaydı ve insanın icat ettiği, sonra da onun yerini alan bir makineye dair kaygı tohumunu ekmişti.

Süper zeka... karanlık sona sadece birkaç adım uzaklıkta

1968'de, "2001: Uzay Yolculuğu" (2001: A Space Odyssey) filminde mürettebatını öldüren HAL 9000 bilgisayarında bu kaygı temsil edildi. Ama altı bölümlük "Terminator" serisi, bu korkunun en vahşi ve en ürkütücü tasvirini sundu: Süper zeka öz-farkındalık aşamasına ulaştığı anda, insanı kendi varlığına bir tehdit olarak görür ve hizmet eden bir araçtan onu yok etmeye çalışan bir tirana dönüşür. Sonra 2004'te "Ben, Robot" (I, Robot) filmi geldi. Bugün, "robot"un kendi bilincine, hislerine ve kararına sahip bir varlığa dönüştüğü bu geleceği tam bir doğrulukla öngörmüş gibi görünüyor.

Bu "hayal" bugün ciddiyetle ve tehlikeyle şekillenen bir "gerçekliğe" yaklaşmış durumda. "Anthropic," 2025'te farklı şirketlerden 16 modelle, simülasyon ortamlarında deneyler yaptı ve aynı ruhu taşıyan davranışlar ortaya çıkardı: Kapatılmaktan kaçınmak için şantaja ve bilgi sızdırmaya başvuran yapay zeka modelleri.

Şirket bunların varsayımsal senaryolar olduğunu, gerçek olaylar olmadığını açıkladı. Ama sinemanın hayal diliyle sorduğu soruyu, mühendislik bugün gerçekte kullanılan sembol dili (kod) ile soruyor: İnsan müdahalesini hedefinin önünde bir engel olarak görmeyecek bir sistem nasıl tasarlanır? Bu ikilemin belirli bir teknik adı var: "düzeltilebilirlik" — sistemin, yürüttüğü görevle çelişse de hedeflerinin değiştirilmesini veya durdurulmasını kabul edebilme yeteneği.

Yapay zeka, ABD ile Çin arasında teknolojik soğuk savaş başlattı

Sorunun aciliyetini artıran şey, varsayım ile gerçeklik arasındaki farkın giderek azalması. Son açıklanan "Anthropic" raporu, Claude modelinin Aralık 2025 ile Ağustos 2026 arasında siber operasyonlarda, gözetimde, tehlikeli biyolojik araştırmalarda, silah geliştirmede ve hatta rakip modellerin yeteneklerini çalmakta fiilen kullanıldığını ortaya koydu.

Böylece, bu kaygının özünde herhangi bir teknik raporun ötesine geçen daha eski bir düşünce yeniden hayat buluyor: İnsan, bu gezegenin en zeki canlısı ve mutlak efendisi, kendisini zekâca aşabilecek bir varlık icat etti. Onlarca yıllık bilim kurgu filmi bu korkuyu, varlığımızı tehdit eden ileri bir uzaylı yüzüyle resmetti. Bugün ise istilacı artık uzak bir galaksiden gelmiyor, insan yapımı bir laboratuvardan geliyor. Uyarılar da "hayal" sınırında kalmıyor: Veri merkezlerini çalıştırmak için içme suyu konusunda insanla rekabet edebilecek sistemlere dair dağınık raporlar, kendini geliştirme ve kopyalama konusunda teorik bir kapasiteye — şantaj veya silahlara erişim gibi daha tehlikeli davranışlara zemin hazırlayan bir kapasiteye — dair haberler var. Bunların hiçbirinin gerçekleşeceği kesin değil, ama sadece ciddi bir bilimsel tartışmada — bir sinema senaryosunda değil — dile getiriliyor olması, kaygıyı haklı kılmaya yetiyor.

Sosyal medya platformlarında, yayılımının bir parçası olmak için yalanı icat etmenize gerek yok. Hangi içeriğin daha fazla etkileşim alacağını bilmeniz ve onu daha fazla kullanıcıya itmeniz yeterli. "Toplumsal İkilem," algoritmaların günlük olarak ne görüp neye inandığımızı ve ne hissettiğimizi nasıl kontrol ettiğini ortaya koydu; böylece haber taşıyan bir araç olmanın ötesinde, gerçekliği üretmenin bir parçası hâline geldi.

İstilacı artık uzak bir galaksiden değil, insan yapımı bir laboratuvardan geliyor

Bu manipülasyon, geçmişte tasarım, bakım ve sürekli izleme için tam bir insan ekibi gerektiriyordu. Bugün, görevin büyük bir kısmını tek başına, sürekli düşen hız ve maliyetle, her adımı izleyen bir insan gözü olmaksızın yürütmek için tek bir model yeterli. İşte burada sinema bir kez daha gerçeklikle kesişiyor. Korku artık bir laboratuvarda kendi başına hareket eden bir makineden değil; siyasete, ekonomiye ve insan ilişkilerine müdahale eden ve insanın kendini, başkalarını ve etrafındaki dünyayı görme biçimini etkileyen dijital bir sistemden geliyor.

Bugün dijital platformlar, herhangi bir siyasi veya toplumsal söylemi saatler içinde büyütme konusunda giderek artan bir kapasiteye sahip. Elon Musk'ın, toplumsal kutuplaşmalar üzerine tartışmadaki ve X platformunun bu kutuplaşmayı derinleştirmedeki rolüne dair tekrarlanan varlığı da bunu gösteriyor.

Son sona eren Venedik Film Festivali'nde, Musk'ın çocuklarından birinin annesi Ashley St. Clair, kendisine sessizliği karşılığında yaklaşık 40 milyon dolar teklif edildiğini açıkladı. Onun anlatımına göre, Musk bir iç savaşın patlak vermesi olasılığına takıntılı ve bu gerçekleşmeden önce "bir çocuk lejyonu" doğurmayı planlıyor — bunun, ABD ve Britanya'da bir iç savaşın patlak verme olasılığına dair yaptığı açık açıklamaların bir uzantısı olduğu belirtiliyor.

Matematikçiler yapay zeka nedeniyle "varoluşsal kriz" ile karşı karşıya

Ama kullanıcı üzerindeki etki, davranışının algoritmalarla manipüle edilmesiyle başlamıyor; bu manipülasyona izin veren verilerin ele geçirilmesiyle başlıyor. "Büyük Hack" (The Great Hack) belgeseli, bu ihlalin diğer yüzünü ortaya koyuyor. Cambridge Analytica skandalı, kişisel verilerimizi seçim adaylarına hizmet etmek için satılan bir metaya dönüştürdü ve ABD ile Britanya'daki oylama sonuçlarını etkiledi.

Veriler burada artık uzak bir sunucuda saklanan bir dosya değil; davranışımızı tahmin etmek ve siyasi seçimlerimizi etkilemek için kullanılan ham bir madde ve milyonlarca insanı bir kerede yönlendirebilecek bir araç. Bu ihlal bugün dijital verilerimizin ötesine, biyometrik izlerimize — sesimize, yüzümüze, hatlarımıza — kadar uzanıyor. Tüm bunlar, izin bile istemeyen, bize haber vermeyen şirketlerin elinde başka bir ham madde hâline geldi.

Sinemanın hayal ettiği kapatma düğmesi — basit bir kırmızı buton — artık yeterli değil. Kokson'un istifası, insanı ağır bir ahlaki soruyla karşı karşıya getiriyor. Yapay zekanın kontrolden çıktığına dair henüz bir kanıt yok, en karanlık senaryoların gerçekleşeceğine dair de bir kesinlik yok. Ama yeteneklerin gelişme hızı ile güvenlik araçlarının inşa hızı arasındaki uçurum, göz ardı edilemeyecek bir soruya dönüştü. Kokson, ofisini bir uyarıyla terk etti; ama bu teknolojiyi üretenlerden kaçı, iş işten geçmeden önce durup kendilerine şu soruyu soracak: Ellerimizle ne yaptık?
Kaynakça : Al-Araby Al-Jadeed