The Terminator, 40 Yıldır Yapay Zekâya Bakış Açımızı Şekillendiriyor

26 Ekim 2024 tarihi, James Cameron‘ın kült bilimkurgu filmi The Terminator‘ın 40. yıl dönümüydü. İnsanlığın kalbine ikna edilemeyecek, pazarlık yapılamayacak inatçı makineler korkusunu salan film, bir karakterin de repliğiyle ifade etmek istersek “biz ölene kadar durmayacak” robotlarla popüler anlamda ilk karşılaşmamızdı. Filmde, süper zekâ sahibi bir yapay zekâ (YZ) olan Skynet, nükleer bir savaş başlatarak dünyaya diz çöktürüyor ve kontrolü ele geçiriyordu. Bu yıkıcı topyekûn savaşın ortasında, insanlık karizmatik lider John Connor önderliğinde isyan bayrağını açıyor ve makinelere karşı koyuyordu.

Buna cevaben Skynet, geçmişe, daha Connor’ın doğmadığı 1984 yılına, Connor’ın ‘gelecekteki’ annesi Sarah’yı öldürmesi için Arnold Schwarzenegger’in canlandırdığı siborg bir suikastçı gönderiyordu. John Connor’ın bu savaştaki önemi o kadar büyüktü ki, Skynet onu daha var olmadan önce yok etmek istiyordu.

Günümüzde, YZ ve YZ uygulamalarına olan ilginin en üst seviyede olduğunu iddia etmek mümkün. YZ teknolojilerini geliştiren şirketler, bu teknolojilerin sorumluluk alanlarındaki işleri insanlardan çok daha hızlı ve çok daha az hata ile yapacaklarını iddia ediyor. Yapay zekânın savaştan ekonomiye pek çok alanda insanlığın sınırlarını yerle bir edecek seviyelere ulaştığını düşünenler çoğunlukta. Öte yandan, YZ konusunda bazı riskler ve korkular da yok değil. Bu risklere örnek olarak iş başvurularını incelemek üzere eğitilen YZ’lerin algoritmalarına belli önyargılar ilave etmesi veya üretken YZ’lerin yazılım mühendisliği gibi bazı alanlarda insanları saf dışı bırakması gibi senaryolar sayılabilir.

Ne var ki asıl tartışmaya yol açan şey daha varoluşsal kaygılar ve altı Terminator filminin bu kaygıları hiç de hafifletmediğini söylesek yeri. Bazı uzmanlara göre, filmlerde gösterilen yapay zekâlı robotların ortaya çıkardığı tehdit, teknolojinin hayatımıza kattığı ciddi faydaları göz ardı etmemize neden olacak denli bir önyargıya yol açabilir. The Terminator, YZ’nin olası tehditlerini irdeleyen ilk film de değildi. Skynet ile paralellik gösterdiği düşünülebilecek akla ilk gelen örnek, Stanley Kubrick’in 1968 tarihli filmi 2001: A Space Odyssey‘deki HAL 9000. Bu ikisinin atası da Mary Shelley’nin 1818 tarihli kült eseri Frankenstein ve Karel Čapek’in 1921 tarihli oyunu R.U.R. (Rossum’un Evrensel Robotları) hikâyeleri sayılabilir. Her iki hikâyede de, mucitlerin ortaya çıkardığı icatları üzerindeki kontrolü kaybettiği anlatılıyordu.

Filmin gösterime girdiği dönemde, New York Times‘ta yayımlanan bir eleştiride filme “Cafcaflı bir B film” yakıştırması yapılmıştı. Günümüzde ise The Terminator en büyük ve popüler bilimkurgu filmlerinden biri olarak görülüyor. 6.4 milyon dolara mâl olan film, gişede bunun neredeyse 12 katı bir gelir elde etti. The Terminator‘ın ortaya koyduğu en sıra dışı fikir, 1980’lerin kültürel ortamında ABD halkının uzun süreden beri bilinçaltında bile olsa taşıdığı makinelerin insanlığa başkaldırması korkusunu tahayyül etme biçimiydi. Tıpkı, onlu yaşlarında bir gencin askerî bir süper bilgisayarı hack’leyerek Üçüncü Dünya Savaşı’nı başlatmanın eşiğine gelmesini konu alan 1983 tarihli WarGames filmi gibi, Skynet de soğuk savaş döneminden kalma nükleer yok oluş korkularıyla teknolojinin baş döndürücü ilerleme hızının yol açtığı kaygıların bir birleşimiydi.

Kırk yıl sonra bile, Elon Musk gibi teknoloji dünyasının liderleri YZ’nin insanlığa karşı oluşturabileceği tehditlere dikkat çekiyor. X’in (eski adıyla Twitter’ın) sahibi Musk, sıklıkla The Terminator serisine atıfta bulunarak süper zekâ sahibi YZ’lerin geliştirilmesi konusundaki çekincelerini dile getiriyor. Ne var ki, bu tarz yakıştırmalar YZ teknolojilerinin savunucularının da tepkisini çekiyor. Eski İngiltere teknoloji bakanı Paul Scully, 2023’te Londra’da düzenlenen bir konferansta kısaca şöyle söylemişti: “Eğer YZ konusu her açıldığında The Terminator tarzı kıyamet senaryolarını öne sürerseniz, bu teknolojilerin getireceği pek çok faydanın da önünü tıkamış olursunuz.” Elbette tüm bunlara rağmen YZ teknolojilerinin askerî amaçlı kullanımlarına dair ciddi ağırlığa sahip endişeler de yok değil, öyle ki bunlar The Terminator serisine paralellik kurulabilecek pek çok noktaya dokunuyor.

Yapay Zekâ Kontrollü Silah Sistemleri

İçimizi rahatlatacak şeyi en başta söyleyelim: ABD yetkilileri YZ’nin asla nükleer silahları ateşleme yetkisine sahip olmayacağı konusunda güvence veriyor. Ne var ki YZ’yi otonom silah sistemleriyle birleştirme ihtimali hâlâ mevcut. Bunlar on yıllardır var olan silah sistemleri ve aslında YZ’ye ihtiyaç duymuyor. Bir kez aktifleştirildiklerinde, doğrudan insan kontrolü olmadan kendilerine hedef seçebiliyor ve bu hedeflere taarruz başlatabiliyor. 2016 yılında ABD Hava Kuvvetleri’nden General Paul Selva, bu gibi silahların yarattığı ahlakî ve yasal sorunları tanımlamak için “Terminator Muamması” terimini ortaya attı.

Önde gelen İngiliz bilgisayar bilimcilerinden Stuart Russell, YZ kontrollü olsun olmasın tüm ölümcül tam otonom silah sistemlerinin yasaklanması gerektiğini düşünüyor. Ona göre bu gibi silah sistemlerinin arz ettiği asıl risk, Skynet benzeri bir yapı ile sistemlerin kontrolden çıkması değil, tam tersine otonom sistemlerin bizim yönergelerimizi çok iyi takip edip insanüstü bir öldürme kapasitesine sahip olmaları. Russell’a göre YZ’ye sahip, patlayıcılarla donatılmış küçük droncuklar, inanılmaz büyük sayılarda üretilebilir. Sonrasında ise bu “katliam robotlarını” kontrol edenler, onları düşmanlarının üstüne “ucuz ve gözden çıkarılabilir toplu imha silahları” olarak salabilir.

ABD ve başka pek çok ülke, otonom silahlar kullanırken “güç kullanımı üzerinde uygun seviyede insan muhakemesinin sürdürülmesi” için taahhüt vermiş durumda. Örneğin, bazı senaryolarda vuruş emri verilmeden önce insan operatörlerin görsel olarak hedefi onaylamaları gerekirken, durum değişirse operatör saldırı emrini “boşa çıkarma” kararı da verebiliyor. YZ günümüzde hâlihazırda askerî hedef alma operasyonları için kullanılıyor. Hatta bazılarına göre, bu teknolojinin kullanımı ikincil zararları azalttığı için faydalı da. Bu fikir, akla Schwarzenegger’in ikinci film olan Terminator 2: Judgment Day‘de tavır değiştirip merhametli koruyucu “muhafız makine” rolüne dönüşmesini de anımsatıyor.

Öte yandan YZ, dron operatörlerinin makinelerin aldığı kararı değerlendirip itiraz edebilme rollerini de fark ettirmeden ellerinden alabilir. Bazı araştırmacılara göre insanlar bilgisayarların söylediklerini pek sorgulamadan yerine getirme eğiliminde oluyor.

Gezici Mühimmatlar

Bir yandan da dünyada, havada dolanan ve bir hedef tespit ettiklerinde hedefe yönelip patlayan küçük ve ucuz uçan dronlar kullanma eğilimi var. “Gezici mühimmatlar” denen bu dronlar, farklı derecelerde otonomluğa sahip. Bu mühimmatların son olarak Ukrayna savaşında da kendilerine oldukça kullanım alanı bulmaları, insan operatörlerin kontrol yetkinlikleri hakkında şüpheler doğuruyor. Silahlarla donatılmış ve savaş alanlarında kullanılmak üzere üretilmiş askerî robotlar, insanın aklına ister istemez aman vermez Terminatörler‘i getiriyor. Havada uçuşan mini ölüm makineleri olan gezici mühimmatlar da, şimdi olmasa bile zamanla The Terminator serisindeki “avcı katillere” benzeyebilir. Tabii bu teknolojiler Skynet gibi insanlardan nefret etmiyor ve “süper zekâ sahibi” de değil.

Henüz.

The Terminator‘ın geride bıraktığı en büyük miras, yapay zekâya bakış açımızı radikal bir şekilde değiştirmek oldu. YZ teknolojilerinin ABD, Rusya ve Çin gibi süper güçlerin askerî stratejilerinde ne kadar önemli bir konuma yükseldiklerini düşünürsek, bu konu günümüzde her zamankinden daha kritik bir öneme sahip. Uluslararası toplum olarak, ortak bir politik zeminde buluşmamız gerekiyor. Jeopolitik hareketliliğin bunca arttığı bu devirde, YZ teknolojilerinin askerî uygulamaları konusundaki ahlakî ve yasal düzenlemeleri net bir şekilde oturtmamız şart, yoksa zaman yolculuğu yapan robotları henüz keşfedememiş olsak da, The Terminator‘da resmedilen distopik geleceğe kavuşmamız işten bile değil.

Kaynak: The Conversation