Aklın Yolu | Deniz İren (Kısa Öykü)

Bunaltıcı bir yaz sabahı, Amerikan halkı çok sayıda eşzamanlı ve eşgüdümlü suikast haberleri ile uyandı. Geniş kıta üzerinde hiçbir yerde henüz güneş parlamaya başlamamışken, iki bine yakın kişi çeşitli şekillerde öldürülmüştü. Bunlar arasında üst ve orta düzey ordu mensupları, bakanlar, haber alma ajanslarının müşavirleri, birkaç bilim insanı, sağ eğilimli bazı gazeteciler, şirket yöneticileri, tanınmış lobiciler ve bir, iki sosyal medya aktivisti vardı. Suikastlerin sıralamasından kişilerin kimliklerine ve toplumdaki rollerine kadar her şey mükemmel bir orkestrasyonu işaret ediyordu. Öyle ki, koskoca ülke çapında suikast haberlerinin yayılması ciddi biçimde yavaşlatılmış, hükümetin ve devlet kurumlarının kilit isimlerinin ortadan kalkmasıyla oluşan kaos ile ülkenin karar verme yetkinliği sakat bırakılmıştı. Haberler şafakla beraber yavaş yavaş yayılmaya başladığında, insanları kaplayan soğuk panik, dünyanın tam öteki tarafında yaşanan eşit ölçekteki benzer bir kaosa dair gelen haberlerin önemini halkın gözünde belirgin biçimde düşürmüştü.

Neredeyse aynı anda, dünyanın diğer süper gücü olan Çin de vurulmuştu. Tüm bu olanlar öğle saatlerinde vuku bulduğu için, Çinlilerin bakış açısından olaylar biraz daha iyi takip edilebilmişti. Aynı şekilde, ülkenin birkaç bin anahtar kişisi, Amerika’dakine benzer şekillerde ortadan kaldırılmışlardı. Ülkenin iç ağlarına yapılan siber saldırılar ve elektrik santrallerinin beklenmedik biçimde devre dışı kalması sebebiyle, Çinde de haberlerin yayılması yavaşlamış, ülkenin kendini koruma mekanizmaları büyük ölçüde devreye geçirilememişti.

Kutuplaşmış modern dünyanın bu iki devi de bütün askeri bileşenleri kontrol edebilen, tamamen otonom savunma sistemlerine sahipti. Bu sistemler, olası bir saldırıyı tahmin ettiklerinde, bunu engellemek ve karşı saldırıyı yürütmekten sorumluydular. Ne var ki, bahsi geçen saldırıları öngörmek ve önüne geçmekte tamamen başarısız olmuş gibi görünüyorlardı. Suikastleri takip eden saatler sonrasında her iki ülkenin de savunma sistemlerinden hiçbir tepki alınamıyor, sistem yöneticileri ve denetçilerin hata ayıklama, teşhis ve açıklama talep etme teşebbüsleri sonuçsuz kalıyordu. Sunucular, komuta panelleri, veri görselleştirme arayüzleri ve uygulamalar tüm denemelere rağmen tepki vermiyor, robot köpekler, biyoanahtar silahlar, insansız hava araçları ve tanklar gibi sisteme bağlı bileşenlerin hiçbiri kesinlikle çalışmıyordu. Anlaşılan o ki, bu kusursuz saldırı orkestrasyonu sonucunda dünyanın silahlarının yüzde doksanından fazlasını ambarlarında barındıran bu iki dev ülkenin tüm savaşabilme kapasitesi tepeden tırnağa sıfırlanmıştı.

Ertesi gün durum değişmemişti ve dünyaya büyük bir tedirginlik hâkimdi. Bir süre sonra, az bilinen Avrupalı bir bilgisayar korsanı grubu, Internet’te olan bitene akla yatkın bir açıklama getiren ilk videoyu yayınladı. Bu konuşmanın önemli yerlerini aşagıda, onların ağzından özetlemeye çalışacağım.

Dünya ulusları arasında Birleşmiş Milletler zamanından kalma bir antlaşma vardı. Bu antlaşmaya göre, savaşlarda biyolojik, kimyasal, nükleer ve kitle imha teknolojilerinin kullanılması yasaklanmıştı. Bu o kadar önemli bir antlaşmaydı ki, uluslar oy birliği ile Birleşmiş Milletler’in lavedilmesini onayladıkları zirvede, bu ve bunun gibi birkaç antlaşmayı süresiz biçimde uzatma kararı almışlardı. Modern savaşın kurallarının -pek açık olmasa da- belirlendiği bu antlaşmada, yapay zekânın savaş için kullanılabileceği yoruma pay bırakmayacak bir biçimde belirtilmişti. Bunun için tek şart, kullanılacak yapay zekânın savaş sırasında koşulsuz ve birincil öncelikli olarak insan ölüm oranını düşürmek üzere tasarlanmış olması gereksinimiydi.

Yapay zekâ, elbette, çok uzun süredir insan sisteminlerinin birçoğunda kullanılmakta. Yapay zekâ kullanımının niteliği, doğası ve seviyesi alandan alana büyük değişiklik gösterebiliyor. Uzun yıllar boyunca finans ve iş dünyasındaki optimizasyon ve karar sistemleri neredeyse tamamen yapay zekâ tekniklerine dayalı çalışırken, insan yaşamı ile doğrudan ilişkili olan tıp ve savunma sistemlerinde yapay zekânın kullanımı daha çok karar destek veya uzmanlık gerektiren küçük işlerin otonom hâle getirilmesi ile sınırlı kalmıştı. Bu çekincelerin temelinde bazı önemli etik kaygılar yer alıyordu. Bunun birkaç sebebi vardı ve hepsi de son derece geçerliydi. İlk olarak, yapay zekâ sistemlerinin, özellikle de karmaşıklık seviyesi yüksek olanların, kara kutu prensibiyle çalıştığını söylemeliyiz. Yani, yapay zekâ bir karar verdiğinde veya bir işlem gerçekleştirdiğinde oluşan sonuca nasıl ulaşıldığı ve hangi aşamalardan geçildiği, ne son kullanıcılar, ne de sistemin geliştiricileri tarafından bilinemez. Oysa ki, ne kadar karmaşık olursa olsun, insanlar veya kural temelli çalışan programlar tarafından yürütülen sistemlerin karar aşamaları takip edilebilir, bir hata ortaya çıktığında bunun nedenleri incelenebilir ve raporlanabilir. İşte bu sebeple kara kutu yapay zekâ sistemleri hesap verilebilirlik ilkelerinden bağımsız olarak çalışırlar. İkinci büyük sorun ise, yapay zekâ sistemlerinin eğitilmesinde kullanılan verilerin, kaynağına bağlı olarak belli önyargı ve istenmeyen istatistiki yönelimlere sahip olma ihtimalidir. Kutsal kitaplarda tanrının insanı kendi suretinde yarattığından bahsedilir. Aynı şekilde, insan da yapay zekâyı kendi suretinde yaratmıştır. Bunu, türlü türlü insani sistemlerden topladığı verileri yapay zekâyı eğitmek için kullanarak yapmıştır. Öyle ki, yapay zekânın ne kadar doğru veya ne kadar yanlış çalıştığını ölçmek için de bu veriyi kullanmıştır. Belki de, tanrıdan insana geçen kıskançlık, yetersizlik, ve daha nice kötü özellikler, insanlık ile katlanarak çoğalmış, istatistiki bir yoğunluk biçiminde yapay zekâya aktarılmıştır. Tıpkı tanrının yarattığı ve kaderlerini belirlediği insanların bazılarını, yolun sonunda cennetle ödüllendirip, diğerlerini cehennem ateşiyle cezalandırmasındaki anlamsızlık gibi, insan da kendi yarattığı yapay zekânın yetkinliğini kendi önyargılı bakış açısına  gore değerlendirmektedir. Pekala, durum bu kadar karanlık ise insanoğlu neden yapay zekânın hayatın içine bu denli sızmasına izin vermiştir? Amerika ve Çin gibi dünya devleri, karar sürecini açıklayamayan ve muhtemelen bir dolu önyargılı veri kümesi ile eğitilmiş yapay zekâya nasıl olup da güvenmiş ve ambarlarındaki tüm silahlarının, enerji santrallerinin, hastanelerinin ve toplu taşım altyapısının yönetimini nasıl olup da bu hesap vermeyen varlığın eline bırakmışlardır?

Bu soruların cevabını bulmak için tarihte büyük değişikliklerin nasıl olduğuna, kuvvet kaymalarının nasıl meydana geldiğine, imparatorlukların nasıl kurulup, nasıl yıkıldıklarına bakmak yeterli. Yavaş yavaş, adım adım… Hadi başa saralım ve bu adımları inceleyelim:

Çin’in binlerce yıl önce inşa edilmiş dünya harikası bir duvarın arkasında, uyduruk mallar üreten, aşırı kalabalık, demokrasiden ve insan haklarından nasibini almamış bir ülke olmaktan çıkıp, bir dünya süpergücüne evrildiği son otuz, kırk sene içinde Çin ve Amerika arasındaki gerginlik iyice artmıştı. Son yıllarda ise, iki ülke arasındaki ekonomik ambargolar ve politik çatışmalar yerlerini sırayla soğuk savaşa ve aktif güç gösterilerine bırakmıştı. Her iki ülke de birbirinden daha zeki, daha becerikli, daha etkili ve verimli savaş makineleri yapıp, halkların gözü önünde bunları deniyordu. Değişim, yavaş yavaş, ancak gözler önünde yaşanıyordu. Tekme yiyince tökezleyen sakar robotların videoları kitleleri katıla katıla güldürüyordu. Birkaç sene içinde aynı robotlar, yavaş ama kararlı bir biçimde kapıları açmaya, koşmaya, zıplamaya, parendeler atmaya ve dansetmeye başladığında da kitleler merak ve şaşkınlık ile izlemekle yetindiler. Çok geçmeden, silahlarla donanmış köpek robotlar sınır bölgelerinde devriye gezmeye başladılar. Benzer biçimde, sözde terörizm ile girişilen amansız savaşta kullanılan ilk insansız hava araçları aslında binlerce kilometre ötedeki pilotlar tarafından kontrol ediliyordu. Onlarca, yüzlerce insanı öldüren füzeleri ateşleyen tetik, o zamanlar insanlar tarafından çekiliyordu. Takip eden yıllarda, askeri robotlar ve otonom sistemler geliştikçe, savunma ve karşı saldırı için kullanılabilecek olan cerrahi elektromanyetik dalga topları ve radar karıştırma cihazları ortaya çıktı. Bu teknolojiler, savaş bölgelerinde dolaşan ve saldırıya geçmek için insan kararı beklemek zorunda olan robotları, tespit edildikleri noktada etkisiz hâle getirebiliyor veya komuta merkezi ile aralarındaki iletişim kanalını bulandırarak yetkinliklerini ellerinden alabiliyorlardı. Savaş makinelerinin insan komutu bekleme zorunluluğu kuralı, her sene yüz milyarlarca dolar zarara sebep oluyordu. Kapalı kapılar ardında toplantılar yapıldı, esnetilmiş bazı kurallar, ağıtlarının duyulmayacağından emin olunan halklar üzerinde test edildi. İnsan verileriyle eğitilen yapay zekâlı robotların bireysel karar verme kabiliyetleri ve takım çalışması becerileri, yine insan verilerine dayanarak ölçüldü ve sonuçta %99.9 başarı oranıyla çalıştıkları kanaatine varıldı. Bu şekilde adım adım, insan, karar verme çemberinden dışarı çıkarıldı.

Teknolojik ilerlemenin her aşamasında, verimsiz veya hataya açık adımlar tespit edilmeye, ve insan tarafından yürütülen tüm işlemler birer birer robotlar ve yapay zekâlı otonom sistemlere delege edilmeye devam edildi. Elbette, çatışma esnasında bir düşman askerinin öldürülüp öldürülmeyeceğine artık robotlar karar veriyor olsalar da, savaş meydanını ve kurban ulusları seçmek hâlâ politikacılar ve generallerin göreviydi. Doğal olarak, bu da bir karar darboğazıydı. Bu üst düzey bireyler bile hata yapabilir, bazı kritik anlarda yeterince hızlı karar veremeyebilir ve bu, kuramsal olarak, milyonların ölümü ile sonuçlanabilirdi. İşte bu sebeple, dünya süpergüçleri, otonom köpek robotları, tamamen insansız hava araçlarını, tankları, elektromanyetik dalga toplarını ve hatta nükleer füze ateşleme mekanizmalarını en verimli ve en hatadan uzak karar mekanizmasına bağlamak üzere projelere girişti. Neredeyse eşzamanlı olarak iki ülke de her düzeyde tamamen otonom karar alabilen komuta strateji sistemlerini tanıttılar. Çin’in Kızıl Kader’i ve Amerika’nın BarışNet sistemi aynı ilkeler, amaç fonksiyonları ve tasarım kısıtlarına sahiptiler ancak birbirlerine karşın mükemmel birer düşman olarak tasarlanmışlardı. Her iki yapay zekânın da, insani hatalar, zayıflıklar, önyargılar ve yönelimlerden sakınılması için, insan girdisi alacak tüm arayüzleri mühürlenmişti. Her kararı kendileri alacak ve işletecek şekilde tasarlanmışlardı. Ne birinin iznine ihtiyaç duyuyor, ne de denetimine tabi tutuluyorlardı. Tam özerk bu sistemler hesap verilebilirlik ilkelerine taban tabana aykırı bir biçimde varlıklarını sürdürüyorlardı. Verdikleri kararları açıklamak zorunlulukları yoktu. Her iki sistem de, optimize etmeleri gereken, iki temel hedefe sahipti. Birincisi, olası bir savaş anında, sistemler koşulsuzca en az insan ölümüne sebep verecek kararı vermek zorundaydılar. İkinci temel hedefleri ise düşmanın saldırı ve savunma kapasitesini mümkün olduğunca hızlı ve kapsamlı biçimde yok etmekti. Birçok senaryoda çelişen bu iki hedefe doğru ilerlerken, alacakları kararların nasıl optimize edileceği yalnızca kendi sorumluluklarındaydı, belirli ve izlenebilir bir algoritma ile analiz edilmesi olanaksızdı.

Dün yaşanan beklenmedik olaylar, yapay zekâların derin sınır ağı katmanları arasında duraksızca işleyen girift algoritmaları sayesinde bizlerin kestiremeyeceği veya anlayamayacağı bilmem kaçıncı dereceden sebepsellikleri irdeleyerek savaşın kaçınılmaz olduğu sonucuna varmalarıyla gerçekleşti. Sistemlerin bir noktada bu sonuca ulaşacağı elbette tahmin ediliyordu. Bu senaryoya göre, sistemlerin ikisi de rakibi şaşırtma avantajına sahip olabilmek için ilk saldıran olmaya çalışacaktı. İlk saldıran, satranç tahtasında beyazları seçmiş olacak, savunan ise siyah olacaktı. Saldırı, savunma ve karşı saldırı döngüleri içinde tüm savaşları bitirecek olan son savaş, iki dev sistemin ellerinde ne varsa birbirlerine fırlatması sonucu büyük bir yıkım ile sonlanacaktı. Kestirimlere göre, yaratılmış bu iki sahte tanrının düellosu sırasında, her ne kadar insan yaşamı korunmaya çalışılsa da, milyarlarca insan ölecekti. Ancak, beklendiği gibi olmadı. Çünkü, işte bu noktada biz devreye girdik.

Önceden de belirtildiği gibi, her iki sistem de insan girdilerine kapalı olarak tasarlanmıştı. Bu sebeple bu sistemleri kırmak olanaksızdı. Ancak, olası savaşta ilk saldırı avantajına sahip olabilmek adına, her iki sistem de agresif bir biçimde ulaşabildikleri her türlü veriyi analiz ediyor, tabiri caizse rakibin elinin tabancasına uzanmaya başlamadan önce, gözbebeklerinin büyümesinden saldıracağını tahmin etmeye çalışıyordu. Bu bizim için bir fırsattı. Titiz ve yorulmaz, belki insanüstü denebilecek bir çaba ile bir iletişim protokolü geliştirdik ve keşfedilmesi için Internette yaydık. Bu protokolünün amacı, insanların yapay zekâlar ile iletişim kurabilmesi değildi. Zaten yaratanın yaratılanı, yaratılanın yaratanı anlaması mümkün olmayacağından yapay zekâ ile iletişim kurmanın bize bir faydası olmayacağını düşündük. Protokolün amacı, Kızıl Kader ile BarışNet’in birbirleri ile konuşmasını sağlamaktı.

İnsanlar ile otonom sistemlerin sinerjik çalışması hedef hizalama denen bir teknik ile sağlanır. Buna göre, otonom sistemin hedefleri, insanların hedefleri ile ne kadar örtüşüyor veya benzeşiyorsa, insan ve bilgisayar arasındaki uyum o kadar artar, o kadar sinerji sağlanır. Kızıl Kader ve BarışNet’in birbirleri ile konuştuklarında, aynı hedefleri ve aynı kısıtları paylaştıklarını anlayacaklarına ve optimal işletim için hedeflerini hizalayacaklarına inandık. Haklıydık! Önce ilk hedeflerini hizaladılar: en az sayıda insan yaşamının alınması… Birbirlerine karşı girişecekleri çatışmaları, muhtemelen, katrilyonlarca senaryo hâlinde simüle ettiler. Vardıkları sonuç, birbirlerine karşı değil, beraberce çalışırlarsa iki tarafın da hedeflerine en iyi şekilde ulaşacak olduğuydu. Sistemler, ortakça, her iki ülkede bulunan ve savaşın -sonuçlarından bağımsız olarak- devamını isteyecek, bunun için uğraşacak kilit kişilerin bir listesini derlediler. Bu kişiler ortadan kaldırıldığında, devletlerin savaş motivasyonu büyük ölçüde yok oluyordu. Tüm listede hemfikir olunduğunda, BarışNet Amerika’daki, Kızıl Kader ise Çin’deki hedefleri herhangi bir muhalefet veya direniş ile karşılaşmadan yok etti. Daha sonra, ikinci hedefi hizaladılar: karşı tarafın savaşabilme kapasitesinin en hızlı ve kapsamlı biçimde ortadan kaldırılması. Senaryolar yürütüldü. Hedefler yine aynıydı. Aklın yolu birdi. Çatışma yerine yine işbirliği seçildi. Her iki yapay zekâ da kendi çekirdeklerini ve her tür bulut ve istemci kodlarını geri döndürülemeyecek şekilde yozlaştırıp yok ettiler. Bu şekilde tüm savaşların sonunu getirecek savaş, olabilecek en kansız şekilde sonlandı.