bilimkurgu kulubu

Edebiyat

Tarih: 6 Haziran 2015 | Yazar: Konuk Yazar

0

Asimov’un I, Robot’u Üzerinden Bir Gelecek İncelemesi

Üç Robot Yasası der ki:

  • Bir robot bir insana zarar veremez ya da bir insanın zarar görmesine seyirci kalamaz.
  • Bir robot birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
  • Bir robot birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumakla yükümlüdür.

Biliyorum, hemen her bilimkurgusever bu üç yasayı ezbere bilir ve yine biliyorum ki, Asimov’la ilgili bir yazıya giriş yapmak için en klişe yöntemlerden biri. Ama bahsi geçen yazı “I, Robot” (Ben, Robot) ile ilgili olduğu için, kitabın bel kemiğini oluşturan bu “Üç Yasa” konseptini hatırlatarak başlamayı uygun gördüm.

Bir itirafta bulunayım: Bana gelecekte mühendis olma isteğini aşılayan şey, yakın gelecekte geçen sert bilimkurgulardır. Bunun iki sebebi var: İlki, muhtemelen ömrüm içerisine dahil olacak yıllarda geçmeleri sebebiyle, orada tasvir edilen geleceğin mimarlarından olma isteği uyandırmaları. İkincisi de, sert bilimkurgu (nam-ı diğer, gerçekçi bilimkurgu) türünde olmaları nedeniyle, orada okuduğumuz/izlediğimiz geleceğin sadece hayalden ibaret olmadığını, zamanında Ay’a seyehatin ya da uçmanın da gerçekleştiği gibi, o “hayallerin” de günün birinde gerçekleşeceğini hatırlatması.

Bana gelen bu “geleceğin mimarı olma” gazının tetikleyicisi, 2011 yılında piyasaya sürülen, Deus Ex: Human Revolution isimli video oyunuydu. Video oyunu diyip geçmeyiniz lütfen; az çok oyun dünyasıyla haşır neşir olmuş birisi, bilimkurgu türündeki oyunların diğer oyun türlerine göre çok çok üst seviyede anlatım ögelerine sahip olduğunu bilecektir. (Deus Ex, Mass Effect, Metal Gear bunlara güzel örnekler.) Bunun sebebi muhtemelen bilimkurgunun zaten çoluk çocuğa hitap eden bir tür olmaması, bu yüzden geliştiricilerin piyasanın çoğunluğunu oluşturan genç oyuncu kitlesine yönelmek için de bir sebebinin bulunmaması.

Neyse efendim, Human Revolution, bize 2027 yılından kısa bir kesit sunuyordu ve odak noktası da “insan geliştirilmesi” idi. (Bu terimi oyunda kullanılan “human augmentation” kavramının karşılığı olarak yazdım.) Ancak, bu aşamaya nasıl gelindiği, ne gibi süreçlerden geçildiği, gelecekte ne yönde ilerleyeceği gibi sorularla uğraşmıyordu, onun yerine bize insan geliştirilmesi uygulamalarının dünyayı domine ettiği 2027 yılının (görece statik) durumunu, hikayenin ana karakteri üzerinden veriyordu ve kimi başka soruları oyuncuya soruyordu: Gücü elinde tutanlar, bu teknolojiyi nasıl kullanmaya çalışacak? Mekanik uzuvlar, insanların tarafından zorunlu olmadıkça tercih edilmeyecek mi? Yoksa insanlar daha iyi, daha güçlü olma hayaliyle kendi vücutlarını robotik vücutlarla değiştirmek için milyonlar mı dökecek? Ya “geliştirilmeyi” tercih eden insanlar? Onlar, toplumsal düzenin kralları mı olacak, yoksa aşağılanıp baskılanan bir azınlık olarak mı kalacaklar? Peki ya en başta insan geliştirilmesi uygulamaları etik mi? İnsan, Tanrı olmayı düşleyerek haddini aşıyor mu?

isaac_asimov_akira_by_thekangrejoman

Asimov’un I, Robot’unun Human Revolution ile bir benzerliği olduğunu düşünüyorum bu yönde. (Belki cümleyi tersten kurmam daha doğru olurdu, ama ben önce Human Revolution’u oynayıp sonra I, Robot’u okuduğumdan benim gözümde bu şekli doğru. Mazur görünüz.) Kitap, 9 kısa hikayeden oluşuyor, ve hepsi de Human Revolution gibi, bir bilimkurgusal konseptin (robotlar, elbette) etkisinde olan dünyanın belirli zamanlardaki statik durumlarını ana karakterlerin gözünden inceliyor. Farkı şu: Bir değil, 9 hikayeden oluştuğu için, tam olarak bir süreci anlatmasa da, sürecin kesikli bir grafiğini ortaya koyuyor diyebiliriz. (Ray Bradbury – Martian Chronicles [Mars Günlükleri] veya Clifford D. Simak – City [Kent] kitaplarını okuyanlar kastettiğim anlatım yapısını anlayacaklardır.)

Ben bu yazıda, -hemen hemen- her hikayeyi ayrı ayrı ele alıp, kısaca onlar üzerinden bazı sorular soracağım, soruların bazılarına da kendimce cevaplar vereceğim. Ama önce, yeniden kısaca I, Robot’un bel kemiğine dönmek istiyorum.

Üç Robot Yasası

Bilimkurgu edebiyatının en popüler konsepti nedir diye soracak olursanız, aklıma Üç Robot Yasası’na bir alternatif gelmez. Ancak merak ediyorum, bu üç yasanın popüler olmasının ötesinde, ne kadar başarılı bir öngörü ile yazıldığını ve dünyayı ne kadar etkilediğini düşündünüz mü hiç?

Yasalar, ilk defa I, Robot’un da içinde bulunan Runaround adlı kısa hikayede ortaya atılıyor. Yıl mı? 1942. Yanlış yazmadım, bundan YETMİŞ ÜÇ yıl önce! Üç robot yasasının, geçen yıllar içinde dünyaya büyük etkileri oldu. Evet, belki şu anki jenerasyonun büyük çoğunluğu o dönemi görmedi, ancak Asimov’un ve dolayısıyla onun robot öngörülerinin popülerleşmesi ile, insanlığın robotlardan beklentileri de şekillendi. Bunu deneyebilirsiniz: Sokaktaki rastgele birine (tercihen hayattaki en büyük kültürel aktivitesi Çarşamba akşamı dizilerini izlemek olan orta yaşlı birine) yaklaşın. Üç robot yasasını daha önce duyup duymadığını sorun. Duymamışsa, ona aynen şu üç soruyu sorun:

“Sizce, bir suçlu, kendi şahsi robotuna sizi öldürme emri verse, robot sizi öldürür mü?”

“Sizce, siz bir robota uçurumdan atlama emri verseniz, robot uçurumdan atlar mı?”

“Sizce, size bir araba çarpmak üzereyken, bir robot kendi hayatına mal olması pahasına sizi kurtarır mı?

11084499_10153203855084860_1156286262_n

Gelen cevaplar muhtemelen “hayır, evet, evet” şeklinde olacaktır, ama bu sadece bir detay. Burada önemli olan soruların içeriği değil, sorulma şeklidir. Günümüzde, bu üç durum hakkında değerlendirme yapabilecek robotu bırakın, oral yolla kendisine iletilen karmaşık bir emri kusursuzca gerçekleştirebilecek bir robot bile yok! Ancak insanların robotların nasıl davranacağı konusunda gerçekten kesin bazı kanıları var. Gelişmiş yapay zekaların kontrolünde hangi kuralların geçerli olacağı önceden belirlenmiş gibi toplumun kafasında. Beklentilerde farklılıklar var tabi, ancak genel olarak baktığımızda, beklentilerin Asimov’un Üç Robot Yasası ile bağdaştığını görüyoruz. Üstelik bahsi geçen birey, hayatında Asimov’un adını duymamışsa bile! Buna gelebilecek bir antitez, Asimov’un toplumun beklentilerini değil de, toplumun beklentilerinin Asimov’u şekillendirdiği yönünde olabilir. Ancak, yasaların ortaya çıktığı yıllarda, dünyadaki ilk mekanik bilgisayarın daha yeni yeni yapılıyor olduğunu unutmayınız. O yılların toplumunun, robotlarla ilgili bu kadar net bir bir genel kanının şekillenebileceği seviyede olmadığı kanaatindeyim. Kaldı ki, Üç Robot Yasası her ne kadar çok başarılı olsa da, en az bu üçü kadar önemli başka yasaların bulunabileceğini de düşünüyorum. Örneğin, Automata’daki ikinci robot protokolü, bir robotun kendisini, tamir amacıyla olsa bile hiçbir şekilde değiştiremeyeceğini ifade eder, ki şahsen insanlığın güvencesi açısından bakacak olursak, bu protokolün Asimov’un birinci yasası ile az çok eşdeğer öneme sahip olduğunu söyleyebiliriz.

Asimov’un yasalarının başarısının sırrı nedir peki? Erken yazılmış olması, muhtemelen bu durumun bir sebebi. Son derece kapsayıcı düşünülmüş olmaları, bir başka sebep. Ama belki de en önemlisi, robotları başarıyla özetlemeleri. Asimov, sadece üç cümle ile, kendi onlarca kitaplık ve yüzlerce hikayelik evrenindeki robotların hemen hemen tüm davranışlarını açıklayabiliyor. 400 maddelik detaylı bir incelemedense, üç kısa yasa insanların aklında çok daha köklü bir yer edinebilir. Günlük konuşmalarda referans verilebilir, hatta ve hatta hayatında robotlarla ilgili bir cümle bir şey okuyup yazmamış bir insana bile kolaylıkla açıklanabilir.

Bir başka nokta da, bu üç yasanın bilimkurgu edebiyatında da sadece Asimov’la sınırlı kalmamış olması. Automata’daki ikinci protokolden bahsetmiştim. Birinci protokol neydi peki sizce? Doğru bildiniz, Asimov’un ilk yasasının tıpkısının aynısı. Ayrıca, bir de robotların insanlığa savaş açtığı hikayeleri bir düşünün. Hepsinde olmasa da, çok büyük bir kısmında, bu savaşın sebebi klasiktir: Robotlar, insanlığın (ya da dünyanın ya da medeniyetin vs.) iyiliğinin, kendisine çok fazla zarar verdiği için insanlığın kendisini yok etmekle sağlanabileceğini düşünür. (Bkz. Geçtiğimiz ay çıkan Avengers: Age of Ultron’daki Ultron.) Düşünecek olursanız, bu motivasyon, (hafiften esnetilmiş halleri ile) Asimov’un yasaları ile çelişmeden bir robotun insanlığı yok etme amacıyla bir eylem yapmasının tek yoludur.

Texas Tech University Makine Mühendisliği Bölümünde, Biyo-esinlenmiş Mekanikler ve Sistemler Labratuvarı’ndaki uyarı. Aman diyelim böcek robotlar dünyayı ele falan geçirirler, dikkatli olalım!

Buraya kadar olan kısım, ana akım bilimkurguda, popüler kültürde ve toplumsal bilinçte Asimov’un üç robot yasasının etkileriydi. Peki, gerçekten robotların davranışlarını belirleyecek olan kesimde neler oluyor? Bilim insanları ve mühendisler, üç robot yasası hakkında ne düşünüyor?

İşte şimdi, şapkanızı çıkarıp Asimov ustanın elini öpmeniz gereken sahneye geldik. Zira Asimov, her gerçek bilimkurgu yazarının yapması gereken, ancak hemen hiç kimsenin yapamadığını başarmış. Üç robot yasası, yazılmalarının üstünden onlarcı yıl geçmiş olmasına rağmen, hatta ele aldığı robotik biliminin doğru düzgün varolmadığı zamandan kalmasına rağmen, 21. Yüzyılda hala ciddiye alınıyorlar! Evet, kesinlikle kusursuz değiller, olmaları da beklenemez zaten. Ama kusursuzu bulmak için yapılan düşünsel uğraşta, akademik otoritelere çokça bir çıkış kaynağı oluyor. Robotik veya yapay zeka ile ilgili giriş seviyesinde bir kitabı açtığınızda muhtemelen Üç Robot Yasası’ndan bahseden bir kısım görürsünüz. Ya da şu makaleyi inceleyerek bahsettiğimin bir örneğini görebilirsiniz. İşte, bilimkurgunun gücünü burada görüyoruz. Evet, gelecek yüzde yüz tahmin edilemedi. Zaten bilimkurgunun amacı bu değildir. Bilimkurgu, geleceği hayal etmektir. Geleceğin muhtemel sorunlarına muhtemel çözümler üretmek, muhtemel hayatlarını insanlara anlatmaktır. Muhtemel durumlara insanların dikkatini çekmektedir. Bu perspektiften bakınca, Asimov’un yasalarının bilimkurgunun üst noktasını temsil ettiğini görebiliriz.

Dikkat! Yazının bundan sonraki kısmı, yer yer eserin konusu hakkında bilgi (spoiler) içerir.

Robbie

I, Robot, U.S. Robots & Mechanical Men’de bir çalışan olan Dr. Susan Calvin ile röpörtajlar üzerinden gidiyor. Tabii bu arkaplan hikayesinin, kısa öykülerin arasındaki geçişleri sağlamaktan başka bir işlevi yok, o yüzden geçmekte sakınca görmüyorum.

I, Robot’un ilk hikayesi olan Robbie, 20. Yüzyılın son senelerinde geçiyor. İnsanlığın gerçek robotlarla yeni yeni tanıştığı yıllardayız. İnsanlığın yeni bir döneme girdiği yıllar. Aynı zamanda, henüz Susan Calvin’in bir çocuk olduğu yıllar. Asimov bu hikayede, bir yandan okuyucuyu ısındırırken, diğer yandan insanlığın radikal değişimlerden geçtiği bu çağı şekillendirecek kimi temel sorularıyla bizi karşılıyor: Robotlar, insanlar için bir lütuf mu? Yoksa onların gezegendeki hükümdarlığının sonunu getirecek kıyamet habercisi mi? Robotlara güvenebilir miyiz? Ve hikayenin ana sorusu, robotlar bizim için sadece bir köle olmaktan çıkıp, yoldaş olabilirler mi?

robbieSon soru, belki de robot çağının başlangıcında sorulması saçma bir soru gibi gelebilir. Ancak, bu çağın başlangıcında robotların öncül uygulamalarının muhtemelen eğlence odaklı olacağını unutmayalım. Evlerimize girecek, günlük yaşamamızın bir parçası olacak olan ilk robotlar, ne onların yapacağı iş için –örneğin temizlik- tutacağınız bir çalışandan daha az masraflı olacaktır, ne de o işi bir insan kadar iyi yapabilecektir. Bu, henüz olgunlaşmamış teknolojileri kullanmanın doğal bir sonucu: Bakımı, yakıtı masraflı, daha verimsiz. Bu yüzden, evlerimize ilk aldığımız robotların, Robbie’de olduğu gibi, daha çok çocukları (ve belki büyükleri de) eğlendirme amaçlı olması uzak bir ihtimal değil. Ayrıca, robot teknolojisi özelinde bakacak olursak, belki de bir asırdır insanlığın hayalini kurduğu bir gelişmeden bahsediyoruz.

Robot teknolojisinin hayatımıza çocukların eğlencesi gibi oldukça “önemsiz” bir alandan girmesi, insanlığın ısınması için iyi bir yol gibi görünüyor olabilir. Ne var ki, böyle bir gelişme yukarıdaki soruyu beraberinde getirecektir: “Robotlar bizim için bir yoldaş olabilir mi?” Ve bu, robotlarla yeni tanışan bir tür, hele ki insan gibi duygusal bir tür için çok ağır gelebilir.

İşte, Robbie ile Weston Ailesi arasındaki gerginliği doğuran da tam bu. Öykü, kızları Gloria ile  onun “oyuncağı” olan Robbie isimli robotun ilişkisini anlatıyor.

İnsanın, kendisi gibi yürüyen, konuşan, koşturan, yaşayan robotlarla ilk tanıştığında hissedeceği duygu çok açıktır: Tanrı kompleksi. Kendisini yarattığı için taptığı Tanrı’nın yerinde olmanın vereceği zevk, sağlayacağı ego onu şüphesiz ki memnun edecektir. (Belki, bu yaptıklarının kendilerini Tanrı’ya eşdeğer görmek olduğunu savunan aşırı muhafazakar bir kitle hariç.) Ne var ki, maalesef insanın kendisi, inandığı dinlerdeki tanrılardan çok farklı. Kendi yaratımının yaptıklarından memnun olmayınca ne olacak? Bir robotun; kendisinden aşağı, düşünmeyen, sorgulamayan, duygusuz bir metal yığınının çocuğunu çaldığını görünce neler hissedecek?

Daha da kötüsü, robotlarla büyüyen, arkadaş olan, onları kendileriyle eş tutan çocukların nesli, erişkin olup dünyanın hakimiyetini devraldıklarında ne gibi sonuçlar doğacak? Eğer yaratılanlar, tanrıların seviyesine gelirse, o zaman Tanrı olmanın nesi kalır ki? İnsan, insansı robotları yarattığında doruğuna ulaştığı hakimiyet, güç, egemenlik duygularını kaybetmeyi göze almayacaktır.

Runaround, Reason ve Catch That Rabbit

Robbie ile girişi yapan I, Robot’un ikinci kısmını oluşturan bu üç hikayeyele ilgili olarak maalesef hayal kırıklığına uğradğımı belirtmek zorundayım. Öyle ki, Asimov falan dinlemeden, Catch That Rabbit’in sonunda kitabı bırakmayı düşündüm. Bu hikayelerle ilgili söyleyecek pek bir şey bulamadığım için, üçünü aynı başlıkta incelemeyi uygun gördüm.

Üç hikaye de, Dünya dışındaki bağlamlarda robotların iş gücü olarak kullanımlarının örneklerini veriyor. Üçü de Greg Powell ve Mike Donovan isimli, muhabbetleri inanılmaz bayık iki karakterin çevresinde gelişiyor. Artık robotik teknolojisi daha ileridedir, Robbie kadar hantal ve kısıtlı robotların yerini, insanlığın ihtiyaçlarına daha verimli cevaplar verebilecek daha gelişmiş robotlar almıştır. US Robots hala sektörü domine etmektedir, ancak pazar günlük kullanımdan, Dünya dışı kullanıma kaymıştır. Bunun sebebi, elbette, toplumdaki kaçınılmaz robot paranoyasıdır.

Bu noktada, Asimov’un daha ileri dönemde yazdığı, I, Robot ile aynı evrende ama daha uzak bir gelecekte geçen Robot Üçlemesi ile kendimce bir bağlantı kurmak istiyorum. Bu bağlantının aynı zamanda insanlığın gelecekte karşılaşabileceği bir durum olduğunu düşünüyorum.

The Caves of Steel’ın geçtiği zaman diliminde, robotik teknolojisi alıp başını gitmiştir. Bunun yanında yıldızlararası yolculukta ustalaşılmış ve uzak diyarlarda koloniler kurulmuştur. Ne var ki, öte gezegenlerde sıklıkla kullanılan robotlar, Dünya’da o popülariteye asla ulaşamamış, hatta ve hatta, robotların ilk ortaya çıkışının üstünden yüzyıllar geçmesine rağmen haklarındaki önyargı hala giderilememiştir. Gerçek gelecekte, Dünya’da böyle bir önyargı oluşur mu oluşmaz mı, bilemeyiz, sadece tahmin edebiliriz. Aynı şekilde tatmin edici insansı robotların ve yapay zekaların üretilmesi ile yıldızlararası yolculuğun sırrını çözmemizin zaman çizelgesinde nereye yerleşeceğini de bilemeyiz. Ancak eğer olaylar Asimov’un evrenindeki gibi gelişirse (robotlara yönelik bir önyargı oluyor ve robot teknolojisi, yıldızlararası yolculuk ve ötegezegenlerin kolonileştirilmesinden önce olgunlaşıyor) Dünya’daki bu paranoyanın etkisinin ötegezegenlerde sürmemesi, bu zaman çizelgesinde çok doğal bir sonuç olacaktır. Tıpkı başlıkta adı geçen üç hikayede olduğu gibi, uzaydaki ağır işlerde robotların kullanıldığını göreceğiz.

robot_box_by_morriperkele

Bu, bir uzay istasyonu veya yaşanılamayacak, sadece kaynakları için gidilen bir gezegen olabileceği gibi, kolonileştirilecek bir gezegen de olabilir. İleri teknolojiye sahip robotlar, uzay yolculuğu için çok daha az masraflı olacaktır (yiyecek, oksijen, yaşam destek gereksinimleri yok en basitinden). Ayrıca, bazı uzun uzay yolculukları için kullanılan uzay gemilerinin, uzun yıllar yaşamı destekleyecek ekosistemler olarak tasarlanması fikirleri gündemde. Böyle bir durumda robot, ekosistemdeki döngülerin bir parçası olmayacağı için, ekosistem tasarımını daha fazla karmaşıklaştırmayacaktır. Bu nedenle, yolcu olarak fazladan 100 insan yerine 1000 robot tercih edilebilir. Bunların yanında, kolonileşecek gezegenlerde gerekli düzenlemelerin yapılmasında, robotlar insanlardan daha verimli iş çıkaracaklardır. Maden olsun, dünyalaştırma (terraforming) işlemleri olsun, inşaatlar olsun… Bu ve bunlar gibi sayılabilecek daha onlarca sebep nedeniyle, ilk kolonicilere çok fazla sayıda robotun refakat edeceğini öngörebiliriz. Dolayısıyla, koloniciler ister istemez robot paranoyalarını ve önyargılarını yenmek zorunda kalacaklar. Arkalarından gelen nesiller de –onların çocukları ya da Dünya’dan gelen yeni nesiller- bu trendi takip edecekler. Bu sebeple, Dünya’daki robot paranoyasının uzayın kalanına sıçramaması oldukça muhtemel.

Peki bunun sonuçları ne olabilir? Eğer Asimov evreninin çizgisini izlemeye devam edersek, yani robotlarımız insanlık için bir tehdit olmazlarsa (hayır, Will Smith’in oynadığı filmdeki gibi bir insanlığı yok etme muhabbeti Asimov evreninde bulunmuyor) robotların dağılımını etkileyen bu dengeler, uzun vadede insanlığın kaderini değiştirebilir. Yaygın robot kullanımı sayesinde hem çok daha fazla işgücüne sahip olan, hem de “amelelik işlerini” robotların devralması sayesinde insanları yaratıcılık ve üstün problem çözme yetileri isteyen işlere yönlendirebilen uzak koloniler alıp başını gidecektir. Dünya’da devam eden paranoya, ilerleme hızını ötegezegenlerdeki kolonilere göre daha yavaşlatacaktır. Dünya’daki (artık yerel sayılabilecek) yönetimler, şüphesiz ki bunun farkına varacaklar ve toplumun robot paranoyasını yenmek için çeşitli yöntemlere başvuracaklar. Bunlara karşı belki protestolar olacak, belki de savaşlar çıkacak. Dünya’da bunlar olurken koloniler refah içinde yaşayacaklar. En nihayetinde de, insanların ortaya çıktığı ana gezegenleri olan Dünya, beklenenin aksine insanlığın lideri değil, geri kalmış bir gezegeni olmaya mahkum edilecektir. Tanıdınız mı? Evet, size az önce The Caves of Steel ve The Naked Sun’ın geçtiği evreni anlattım.

Konuyu daha fazla saptırmadan hikayelere dönelim. Bu üç hikayenin, daha çok profesyonel anlamda (özellikle AR-GE olarak) robotikle uğraşan insanları tatmin edeceğini düşünüyorum. Zira Asimov, bu kısımda evrenindeki robotik teknolojisinin biraz daha detayına inmiş, ancak bunun karşılığında hikayeler arası sürekliliği ve altmetinlerini feda etmek durumunda kalmış. Daha çok, Asimov’un kendi yarattığı üç robot yasası ile oynadığını ve onların zayıflıklarına saldırdığını görüyoruz.

mars_by_hideyoshi-d5a4bc3

Çok laf ettim ama, aynı zamanda çok hoşuma giden bir kısım var. Runaround hikayesinden geliyor.

Bir robot –Speedy– ikilemde kalmış: Ölümcül bir madene girmesi emredilmiş. Normalde ikinci yasa, yani emirlere itaat etmek, üçüncüye, yani varlığını korumaya, baskın. Ancak ona verilen emir net olmayıp, daha çok “kardeş git bize maden topla biraz” şeklinde olduğu için ve bunun sonucunda da yüksek bir ölüm riski bulunduğundan, Speedy bu ikilemde kalıyor. Bu iki durum birbirini dengeliyor ve –hazır olun burası çok eğlenceli- Speedy, bahsi geçen madenin etrafında sabit bir yarıçapta dairesel hareket yapmaya başlıyor! Onu geri getirmek isteyen Powell ve Donovan, birinin ötekine baskın gelmesinin sorunu çözeceğine inanarak Speedy ile iletişim kuruyorlar, o madenin inanılmaz ölümcül olduğunu ve kendisini kesinlikle öldüreceğini söylüyorlar. Bunu duyan Speedy, madenden biraz uzaklaştıktan sonra, yeniden dairesel harekete başlıyor, daha geniş bir yarıçapta! Bre Asimov, nereden aklına geldi robotun devrelerindeki dengeyi bu şekilde somutlaştırmak!

Ama maalesef öyküler hakkında bahsedecek başka pek bir şey yok. Alt metin olarak incelemeye değer sayılabilecek tek öykü var: Runaround. Ancak o da, hem hiç inandırıcı değil, hem sağlam bir temele oturtulmamış hem de ele aldığı çok güzel konuyu iyi işleyememiş.

Liar!

Geldik kitabın üçüncü kısmına, ki burası eserin bel kemiğini oluşturuyor. Artık robot çağına ısınmayı geçtik, durumun felsefesine daha derinlemesine giriyoruz.

Artık odak, Powell ve Donovan’dan kitabın anlatıcısı konumundaki Susan Calvin’in kendi hikayelerine geçiyor.

Bu kısımdaki dört hikayenin ilki ve aynı zamanda muhtemelen kitaptaki dokuz hikaye içinde en dramatiği olan Liar, akıl okuyabilen bir robot üzerinden anlatılıyor. Bu akıl okuyan robotun “kaza ile” nasıl ortaya çıktığı hakkında herhangi bir açıklama yapmamış Asimov. Bazılar, sert bilimkurgu tarzındaki eserlerine alışmış oldukları bir yazara bu durumu yakıştıramayabilirler, ancak ben çok da önemli olduğunu düşünmüyorum. Çünkü nihayetinde, bu akıl okuyan robot konsepti, çok daha derin bir konuyu sorgulamak üzere taban olarak kullanılmış: Robotlara alışma ve benimseme süreci.

Öyküyü okuyanlar, burada bir “ne alaka” nefesi çekmiş olabilirler. Haklılar da, çünkü benim çıkardığım sonuç muhtemelen yazarken Asimov’un aklında olmayan bir şeydi. Öykünün sonunda Susan Calvin, kendisini üzmemek için (bkz. Birinci Yasa) sürekli mutlu edici yalanlar söyleyen robota sinirleniyor. Söylediği yalanların en sonunda kendisinin perişan olmasına sebep olduğunun üstüne basa basa, ona “Yalancı! Yalancı!” diye sesleniyor. Ve aynen beklediği gibi, robot nihayetinde Birinci Yasa ile çelişmiş olmanın verdiği ağırlıktan kurtulamıyor ve robotlar için ölüme denk gelen duruma geçiyor. Susan Calvin’in intikam almış olmanın rahatlığını yaşamasıyla öykü son buluyor.

Burada dikkat edilmesi gereken nokta, Susan Calvin’in robotlarla yaşayan ilk neslin bir üyesi olması. Hatırlayın, Robbie hikayesinin geçtiği dönemde Susan Calvin’in küçük yaşta olduğundan bahsetmiştim. Muhtemelen o hikayenin ana karakteri olan Gloria isimli kız ile aynı aşamalardan geçmiş, benzer şeyleri yaşamış. İkisi de, çocukluklarından itibaren robotları hayatlarının bir parçası olarak gören ilk nesilden. Dolayısıyla, robotları “dışlayan” ve “ötekileştiren” Weston ailesinin kuşağı ile aynı görüşlere sabit değiller. Onlar için robotlar sadece bir eşyadan ibaret değil, insan uygarlığının eşdeğer bir parçası.

Bu durumun etkilerini işte Liar hikayesinde çok açık bir şekilde görüyoruz. Calvin’in Herbie’ye (bahsi geçen robot) davranışı bize, insanlığın bu geçiş evresini tamamladığını gösteriyor.

c05f8703d42e667abf0019e0d07f0e27

Farz edin, elinizde pahalıca bir bilgisayarınız var. Ancak verdiği kimi hatadan dolayı, işlerinizi yetiştiremiyorsunuz ve işinizden kovuluyorsunuz. (Benzer durumları mutlaka yaşamışsınızdır.) Şimdi, aklen sağlıklı bir insan, bilgisayara ne kadar sinirlense de, onu yok edecek kadar ileri gitmez. En fazla bir iki tekmeler bırakır. Neden? Çünkü sadece bir eşya olduğunu biliriz de ondan. Bilgisayarı parçalamak sadece stresimizi biraz da olsa dökmemize yarar. Bizi rahatlatmaz.

Ancak, yeterince öfkelendiğiniz bazı durumlarda, insanın insanı öldürmesi bile mümkündür. Üstelik, bilgisayarı parçalamanın aksine, insan öldürürseniz yasal cezaya çarptırılacağınızı bile bile!

Peki, aradaki bu farkı doğuran nedir? Bunu anlamak için öfkelenmenin ve öfkelendiğimiz insanları cezalandırma isteğimizin evrimsel kökenine kısaca bakmamız gerekecek. Aslında günümüzde ne kadar zararlı gözükse bile, öfke, evrimsel süreçte başarılı olmamızda kilit rol oynamış duygularımızdandır. Küçük bir örnek verelim: Siz bir erkeksiniz ve sevdiğiniz kız başka bir erkekle beraber. Hemen herkesin şüphesiz hayatında birkaç kere karşılaştığı bu durumun neler hissettirdiğini bilirsiniz: Kıskançlık ve öfke. Her ne kadar günümüzde kabul edilebilir bir davranış olmasa da –ve kız bundan hoşlanmayacak olsa da- Afrika’da henüz mağara adamları olduğumuz dönemde, bu erkeğe saldırıp onu yenmek, rezil etmek ve hatta belki öldürmek, bize avantaj sağlayacaktır. Düşünün, hem bir rakibinizi elemiş oluyorsunuz, hem de kendi genlerinizi sonraki nesle aktarabiliyorsunuz. Ve öfke, odağınızı öfkelendiğiniz kişiye yönlendirmenizi sağlayan bir duygu olduğu için, bu kavgada size yardımcı olacaktır. Benzer bir avantaj, beraber avlanmaya çıktığınız arkadaşınızı öldüren aslana öfkelendiğinizde de işe yarayacaktır.

Toplumsal açıdan baktığımızda ise, öfke, sosyal ilişkileri düzenlemeye yarayan, tür içi hiyerarşik yapıyı oluşturan (yine günümüzde ne kadar doğru olduğu tartışılabilecek, ama geçmişte işimize yaramış bir durum) duygulardan biridir. Bu açıdan bakınca, yanlış yapanların derslerini alması konusunda, cezalandırma dürtüsünü tetikleyen duygulardan olduğunu söyleyebiliriz. Bu da, tekrarlayalım, toplumsal düzenin sağlanması açısından önemlidir.

Bilgisayarı cezalandırmak istemememiz, ancak öfkelendiğimiz insanı öldürebilecek kadar ileri gidebilmemiz, işte bu durumun bir sonucudur. Bir eşyayı cezalandırmayız, çünkü bu cezanın ibret olacağı başka eşyalar yoktur, cezalandırılan eşyanın dersini alması gibi bir durum da söz konusu değildir. Eşyaya üstünlük sağlamak egomuzu tatmin etmez, çünkü ondan üstün olduğumuz zaten bellidir.

Susan Calvin’in Herbie’ye öfkelenmesi ve kendisine yaptığı yanlışlar sebebiyle onu ölümle cezalandırması, öfkenin evrimsel açıklamasını da göz önünde bulundurursak, onun robotlara sadece bir eşya değil, basbayağı toplumun bir ferdi olarak davrandığını gösteriyor. Daha da ileri gidersek, robota kendisini üzmenin sonuçlarını gösteriyor. Kanımca bu durum, robotların insanlığın gözünde eşya olmakta çıktığının en açık göstergesi. Gloria’nın Robbie’ye duyduğu sempati bile bunun yanında hafif kalıyor. Hepimiz belli eşyaları, onlara sempati duyacak kadar kişileştirebiliriz, ancak onlar üzerinden egomuzu tatmin edecek kadar insan yerine koymak? İşte bu bambaşka bir şeydir.

Elbette kişileştirmenin bu boyutunda, Susan Calvin’in alanının robopsikoloji olması da etkilidir. Doğal olarak, görevi gereği Susan, robotları ortalama bir insandan çok daha iyi anlar, çok daha iyi tanır ve muhtemelen kafasında bir “şahıs” olarak canlandırmak, kendi psikolojisi için de sağlıklı oluyor.

Peki Liar, bunun dışında bize ne anlatıyor? İşin insan psikolojisi kısmının yanında, ilk defa bu hikayede robot psikolojisi hakkında da daha detaylı bilgi sahibi oluyoruz. (Aynısı bu kısımdaki öteki hikayelerde de sıklıkla geçerli oluyor, zira artık olayları bir robopsikologun gözünden görüyoruz.) Bu konuda en kilit nokta, üç robot yasası. Üç yasa ile bir sebeple çelişmek zorunda kalan robotların (çelişmek zorunda kalan diyorum, çünkü kendi rızalarıyla çelişmeleri imkansız) pozitronik beyinlerinde geri dönüşü olmayan hasarlar meydana geldiğini görüyoruz. Örneğin, Asimov’un The Naked Sun adlı romanında, bir insanın öldürülmesini gören ancak müdahale edemeyen bir robot, akli dengesini yitirir ve anormal davranışlar sergilemeye başlar. Susan Calvin, işte bu can alıcı noktaya acımasızca saldırıyor. Herbie’ye kendi mutsuzluğunun kaynağı olduğu düşüncesini, üstüne basa basa vurgular. Bu, Birinci Yasa’nın direkt bir ihlalidir. Ortada robotun kayıtsız kalması durumu değil, istemeyerek olsa da direkt bir insanın mutsuzluğundan –zarar görmesinden- sorumlu olması durumu vardır. Bunun ağırlığına dayanamayan robotun, nihayetinde “beyin ölümü” gerçekleşir.

Liar, şahsen I, Robot’ta en başarılı bulduğum hikaye. Asimov’un üç yasayı kurgunun belkemiğine nasıl oturttuğunu ve yasaların robot davranışlarının dinamiklerinde ne kadar belirleyici olduğunu gösteriyor. Tabii ki, aynı zamanda, daha önce de dediğim gibi, kitaptaki dramatik yönü en vurucu hikaye olma özelliği de var. Öyle ki, hikayenin girişinde, Susan Calvin bu anısını ilk önce anlatmayı reddediyor, çünkü hatırlamak istemiyor. Size önerim, eğer ki I, Robot’u okumadıysanız ve okumayı düşünmüyorsanız (yani bu yazıyı sırf meraktan okuyorsanız) bile en azından Liar’a bir göz atmanız.

Little Lost Robot

unnamed

Geldik I, Robot’un film uyarlamasına ufaktan esin kaynağı olan hikayeye. Little Lost Robot’un merkezinde olan robotun ismi Nestor 10. Kendisinin, ona kadar tanıştığımız diğer robotlardan ufak bir farkı var: Nestor modeli robotlar, yıldızlararası yolculukla ilgili bir araştırmada yardımcı olarak görev alıyor. Bu araştırma sırasında insanlar yer yer, gerekli tedbirleri almak suretiyle kısa süre için ölümcül gama radyasyonu ile dolu bir ortama giriyorlar. Ancak, Birinci Yasa gereği, her ne kadar insanlar için ciddi bir tehdit olmasa da, Nestorlar fırlayıp bu araştırmayı yapan bireyi kurtarmaya çalışıyorlar. Bunun engellenmesi için, Nestorlarda ufak bir modifikasyona gidilmiş: Birinci Yasa’nın yarısı çıkarılmış ve yasa, “Bir robot bir insana zarar veremez” haline getirilmiştir.

Susan Calvin, bir robopsikolog olarak buna hemen tepki gösterir. Savına göre, robotlarda özellikle insanlara karşı bir üstünlük kompleksi vardır ve onları bu kompleksin etkisinde hareket etmekten alıkoyan tek şey de, doğru bildiniz, birinci yasadır. Bu üstünlük kompleksi onlara bilinçli olarak yerleştirilmiş bir şey değil, aksine aralarında emir-kul, yaratıcı-yaratılan ve benzeri ilişkiler olan her “canlı” türlerinde doğal olarak ortaya çıkan bir duygudur. Bir başka deyişle, bu üstünlük kompleksi robotların doğal bir parçasıdır. Bu sebeple, ilk yasası kusursuz çalışmayan bir robot, ne durumda olursa olsun insanlık için bir tehdittir. Çünkü, robotlar “hem fiziken, hem de –belli bir dereceye kadar- zihnen insanlardan üstün konumdadır.”

Asimov’un –ya da Dr. Calvin’in- bu açıklaması, açıkçası beni ilk başta fazla tatmin etmedi. Ancak, gelin Asimov’un evrenindeki robotların psikolojisini basitçe inceleyelim ve bu hipotez tutuyor mu görelim.

Tümevarım ile ilerliyoruz: Elimizde hiçbir şey yok ve keyfimize göre bir robot beyni yapacağız. En dipten de yasaları koymaya başladığımızı farzedelim.

İlk başta, robotların hareketlerini sınırlayan sadece üçüncü yasa var: “Bir robot, kendi varlığını korumak zorundadır.” Yine, Asimov evrenini düşünürsek, sadece bu yasa ile sınırlanan robotların yapacağı şey barizdir: Dünya’daki tüm insanları yok etmek. Nedeni basit. Asimov evreninde, Dünya’da süregelen bir robot paranoyası vardır. Bu paranoyanın, en azından Dünya’da, daha yüzyıllar boyunca devam ettiğini The Caves of Steel romanında görüyoruz. Kim bilir bu paranoya sebebiyle kaç robota zarar gelmiştir? Ya da mesela, kim bilir her gün kaç tane robot, eskidikleri için yedek malzeme olmaya götürülüyorlardır? Kaç tane robot, bilimsel araştırmalar için sürekli hayata getirilip, denenip, sonra öldürülüp başka bir robot olarak hayata geri getiriliyordur? Tüm bunlar, üçüncü yasa gereği robotun engellemesi gereken durumlar kategorisine girer, ve bunun yolu da insanlığı yok etmekten geçer. İnsanlık ile yapılacak muhtemel bir savaşın, robotların kesin zaferiyle sonlanacağı ise barizdir. Zira hem insanlığın teknolojisinin büyük bir kısmı yapay zekalara ve robotlara bağımlıdır, hem de daha önce bahsettiğimiz gibi robotlar, insanlardan birçok yönden daha üstündür.

Peki, sadece üçüncü yasayı ekleyince insanlık yok oldu. Şimdi de ikinci yasayı da buna ekleyelim: “Bir robot birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır” maddesi geldi ve üçüncü yasanın uygulanması da, bu ikinci yasayla çelişmemesi şartına bağlandı.

Böyle bir durumda ne olur? Robot uyanır uyanmaz (ya da etrafında olup bitenlerle ilgili yeteri kadar bilgi sahibi olur olmaz) üçüncü yasanın etkisi ile insanlığa savaş açacaktır. Ancak eğer robota “Hiçbir insana zarar verme!” emri gelirse, işte o zaman ikinci yasa üçüncü yasaya baskın gelecek ve robot duracaktır. Bu durum, yani birinci yasanın yokluğunda birinci yasadaki komutun robota bir emir olarak verilmesi, birinci yasanın varlığı ile eşdeğermiş gibi gözükebilir. Ama aslında değildir, aksine çok çok kolay kırılabilecek bir dengedir. Üç yasanın da mevcut olduğu durumda, robot, halihazırda geçerliliğini koruyan bir emre paralel başka bir emir alırsa, eğer birbirleri ile çelişmiyorsa ikisini de uygulamaya koyar. Ancak eğer ortada bir çelişme varsa, o zaman ikisinden birine bir öncelik vermesi gerekir. Eğer sadece ikinci ve üçüncü yasaların mevcut olduğu bir robot, insanlara zarar vermeme emrine paralel olarak bir emir alırsa, bu emri kendi kafasında bir şekilde ilk emirle çeliştirmeyi başarıp, iki emir arasındaki çelişkide ikincisine öncelik verir. Çünkü ilk emir aynı zamanda üçüncü yasa ile çelişmektedir ve bu oldukça güçlü bir etkendir. Örneğin, bir robota “insanlara zarar veremezsin” emrinin arkasından “duvardaki küçük açıklığı onar” gibi basit bir emir geldiğinde, aklında iki alternatif olabilir: Ya, duvardaki çatlağı herhangi bir yöntem kullanarak onaracaktır, ya da en yakınındaki insanı öldürüp onun etini duvardaki çatlağa sıkıştırıverecektir. Böyle bir ikilemde muhtemelen ikincisini seçecektir. İnsana zarar vermeme emrini devam ettirmek ondaki üçüncü yasa ile çelişecektir/çelişmeye devam edecektir, ancak insanı öldürüp onun etiyle duvardaki çatlağı kapatmak, hem üçüncü yasa ile çelişmekten kurtaracaktır, hem de ikinci yasada da bir problem teşkil etmeyecektir. Bu tip bir durumda, yani sadece ikinci ve üçüncü yasanın olduğu durumda, insanlığın toplu katliamdan kurtulmasının tek yolu, robota her emirde özenle insana zarar vermeme kriterinin de verilmesidir. Ancak bu da bizi fazla güvenceye almaz. Robotların çok mekanik düşünen yapay zekalara sahip olduğunu unutmayınız. Vereceğiniz emrin en ufak bir açığını yakalarsa (özellikle, farklı anlamda kullanılabilecek kelimeler gibi elimizde olmayan etmenlerle) bunu, insana zarar vermeme şartına karşı gelmek için kullanır. Ya da, eğer emri “zarar verme” diye değil de spesifik olarak “öldürme” diye verdiniz diyelim, insanları öldürmeyecek, ama komaya sokacak ya da hapsedecek bir yolla emri yerine getirir.

İşte birinci yasa, “insanlara zarar verme” emrini bir yasa olarak sunan ve robotların hareketlerini tam olarak belirleyen, insanlığı güvenceye alan ve aynı zamanda, robot davranışlarını dengeleyen bir yasadır. Birinci yasanın yokluğunda insanların yok oluşu kesin gibidir.

Peki, bu durum robotlarda üstünlük kompleksi dediğim şeyi nasıl yaratıyor? Aslında, spesifik olarak bakacak olursak, yaratmıyor. Ama yine de, birinci yasanın yokluğunun robotlardaki üstünlük kompleksini tetiklemesi ile üçüncü yasanın gereğini yerine getirme arzusunu ortaya çıkarması, aynı sonuca gidiyor: Toplu yok oluş. Anlaşılan Susan Calvin haklıymış.

Burada Asimov’a bir eleştiri getirmek istiyorum: Açıkçası, üstünlük kompleksinin, diğer hiçbir özellik gibi, robotlarda doğal olarak ortaya çıkabileceğini sanmam. Çünkü bahsettiğimiz şey, Susan Calvin’in dediğinin aksine türler arası etkileşimin doğal bir sonucundan çok, bireye göre değişiklik gösterebilen bir olgudur. Evrimsel süreçte türün kurtulmasından, yani türler arası seçilimden çok, tür içi seçilimde avantaj sağlamış bir özelliktir. Robotlarda, isteğimiz dışında üstünlük kompleksinin ortaya çıkmasının muhtemelen tek yolu, robotun insan beynini mimikri eden bir beyinle çalışmasıdır. Ancak Asimov’un evrenindeki insanlığın böyle bir şeye ihtiyacı var gibi gözükmüyor.

Escape!

Asimov’un yasalarıyla oynadığı bir başka hikaye de Escape. Ve aslında, Asimov evrenindeki dönüm noktalarından birine de bu hikayede tanık oluyoruz: İlk yıldızlararası seyehat.

Açıkçası, ilginç bir şekilde, hikayedeki yıldızlararası seyehatin konuşulacak pek bir yanı yok. Yani, nasıl desek, düz yıldızlararası seyehat işte. Bence burada incelenmesi gereken çok daha önemli bir konu var: Robotların işlevlerinin sınırları.

Hikaye, çok özet olarak şöyle: US Robots, yıldızlararası seyehatin “sırrını çözmek” amacıyla, bazı verileri şirketin kendi “süper bilgisayarı” olan Brain’e veriyor. Brain –dediğim gibi, çok özet olarak- bunun sırrını çözüyor. (Ayrıca verileri verenin Dr. Calvin, ilk test uçuşunu yapanların da Powell ve Donovan olması yönüyle Escape’in bir nevi birleştirici özelliği olduğunu da söyleyebiliriz.)

Eğer buradaki muhteşem –ve bir o kadar da onur kırıcı- şeyi fark etmediyseniz biraz vurgulamak isterim: Bir yapay zeka, insanın ilk defa başını kaldırıp gökteki ufak ışık parçalarının ne olduğunu merak ettiğinden beri hayal ettiği şeyi gerçekleştiriyor!

aaaa2

Şimdi, Asimov’un evreninden biraz çıkıp gerçek dünyanın muhtemel geleceğine bakmak istiyorum. Günümüzün algısı, robotları fabrikalarda çalışan, insanlara hizmet eden, belki savaşlarda kullanılan makineler olacağı yönünde nedense. Ancak bir robotu piyano başında beste yaparken, bir araba tasarlarken ya da bir gezegene yapılan uçuşa önderlik ederken canlandırmak oldukça zordur. Robotlarla dolu bir gelecek için, nedense hep iki uç opsiyon görülür: Ya robotlar bizim sadık kölelerimiz olarak kalacaktır, ya da bizi yok edecektir. Nedense, birlikte yaşayan ve herhangi bir yönden –para, görüş, fiziksel özellikler, kültür vb- birbirlerinden ayrılan insan grupları arası etkileşimlerde, tarih boyunca gördüğümüz diğer onlarca ilişki şekli akıllara gelmemektedir. Ya, uzun yıllar barış içinde yaşayıp, bir süre sonra bir anda robotların bizi çoktan ele geçirdiğini görürsek? Köle olarak yarattıklarımızın bizi köleleştirdiğini görürsek?

Asimov’un evreninde, insanlığın bir türlü çözemediği, hatta bir kısmı tarafından imkansız kabul edilen bir sorunu, başarıyla çözebilen bir robottan bahsediliyor. Gerçek hayatta belki yıldızlarası yolculuğu çözebilecek bir robot (ya da yapay zeka) olmayacak, ama daha farklı, daha basit ama yine de insanların çözemediği onlarca problem var. Mükemmelleştirilmeyi bekleyen daha milyonlarca insan ürünü sistem var.

Elbette, bunlardaki sorunları çözebilecek robotları yapabilecek miyiz, yoksa karmaşık yaratıcılık ve problem çözme sadece insana özgü bir özellik mi, gibi sorular bu noktada akla gelebilir. Cevabı size hemen verebilirim: Evet. En kötü ihtimalde, insanlık –yüzyıllar sürse bile- eninde sonunda kendi beyninin yapısını tamamiyle çözecek. Ve –yine yüzyıllar bile sürse- eninde sonunda bunu mükemmele yakın bir şekilde mimikri edebilecek teknolojiye/tekniğe sahip olacak. Yani, kendi zekamız yetersiz kalsa bile, doğada evrimleşmiş modelleri taklit ederek bir şekilde yaratıcılık ve problem çözme özelliklerine sahip robotlar yapacağız. Sonra bu robotlardaki beyinleri, insan beyninin zayıflıklarından –duygular, yavaşlık, kapasite, artık ne açıdan baktığınıza bağlı- arındırıp “mükemmel” beyinler yapacağız.

Şimdi, bu robotları yapılmış farz edip sorunumuza geri dönelim. Yapay zekanın bu aşamaya geldiği yıllarda, muhtemelen daha ilkel robotlar çoktan birkaç nesildir hayatımızda olacak, tıpkı Asimov’un evrenindeki gibi. Ancak, birçok zihinsel yönden hala insanın çok altında olacaklar. Bu sebeple yöneten, emirler veren açıkça insan olacak. Robotlar, tam da kelimenin kökeninin işaret ettiği gibi “kölelerimiz” olacaklar.

ex-machina-gallery-01

Buraya kadar olan kısım zaten beklenendi. Şimdi daha önce sahip olmadığı yaratıcılık gibi yeteneklere sahip olan, üstün işlem kabiliyeti ve kapasiteleri ile de bu zihinsel aktivitelerde insanları geçen, ama hala toplumda insanın kölesi olarak kullanılan –insanların emrinde işleyen- robotların geldiğini düşünelim.

Muhtemel sonuçlar hepinizin aklında canlanır: İnsanların işlerini kaybetmesi, mühendis ve sanatçı robotlar, kapitalizmin yeni boyutları ve benzeri… Elbette, insanların –daha doğrusu genel olarak insanlığın- egosunun incinip “robot paranoyası”nın, “robot nefreti”ne dönüşmesi ihtimali de epey yüksek. Ayaklanmalar, isyanlar, belki robotların da başka insanların kontrolünde olduğu bir robot-insan savaşı… Her şey mümkün. Ancak tüm bunlar yaşandıktan bir süre sonra, toplumun bir kez daha dengeye ulaşacağı kesin. İnsanlarla robotların bir arada yaşadığı, ancak artık robotların insanların yapabildiği her şeyi yapabildiği bir uygarlık.

İşte robotların asıl gücü ele geçireceği nokta burasıdır. Belki bilinçsizce… Robotlar, sahip oldukları üstün bilişsel yeteneklerle, işleri robotları yapmak olan insanlar dışında kimsenin anlayamayacağı hesaplamalar yapabilirler. O zaman, onlar için öncelikli olan “insanın emirlerine uymak” komutunu yerine getirirken, uzun vadede kendi üstünlüklerini sağlayacakları, yani “kendi varlıklarını koruyacakları” opsiyonları seçmelerinin önündeki engel nedir? Biraz genel düşünürsek, yazının Donovan ile Powell’in maceraları hakkındaki kısmında ve bundan bir önceki Little Lost Robot kısmında yazdıklarımı hatırlayıp, şu şekilde bir sorunu aklınıza getirin: Dünya’da bir robot paranoyası devam etmektedir. İnsanlık ise Güneş Sistemi’ni kolonileştirme amacındadır. İlk adım ise Mars’ı dünyalaştırmaktır (terraforming); ancak nasıl yapılacağı bilinmemektedir. Bu işlemin yapılma sürecinde nasıl bir yol izlenmesi gerektiği hakkında bir robota danışılır. Robot, kendisinden istenilen şeye karşı gelmeden, yüksek sayıda robot gerektiren opsiyonu seçebilir. Bu seçim, daha önce de bahsettiğim gibi, dünyalaştırma sürecinde Mars’ta bulunacak olan –ve oradaki koloninin kültürünün temellerini atacak- insanların robot paranoyalarını yenmelerine ve daha sonrasında gelecek olan –yine daha önce açıkladığım gibi- aşamalarla nihayetinde robotların yaygın olduğu gezegenlerin liderliğinde bir insan medeniyetinin oluşmasına yol açacaktır. Bu aşamadan sonra kendilerine danışılan her işte, çok alttan alttan, sürekli insanların etkisini azaltıp kendilerinin güçlenmesini sağlayacak opsiyonları seçeceklerdir. Bu bilinçli yapılan bir ayarlamadan çok, sahip oldukları yüksek hesaplama ve öngörü yeteneği ile üçüncü yasanın etkileşiminin doğal bir sonucudur. Robotlar ne kadar fazla alanda dominant olursa, bu işlem o kadar hızlı ilerleyecektir. Ta ki insan en sonunda, tüm işleri robotların yaptığını, “insan” medeniyetine robotların yön verdiğini, kendilerinin ise yüzyıllar boyunca yavaş yavaş sahneden dışarı itildiğini görene kadar. Ancak, bu farkedildikten sonra ne yapılabilir ki? Çoktan robotlara bağımlı olmuş bir uygarlık, onsuz yapamaz durumdayken robotları çekmek ne gibi sonuçlara yol açar kim bilir?

Kanımca, -Asimov evrenindeki üç yasaya benzer prensiplere dayanan- robot teknolojisinin etkisini göstereceği bir insan medeniyetinin uzak geleceğindeki en muhtemel son budur. Peki bu korkunç bir son mudur? Yoksa, insanlar ve robotlara etki eden seçilim baskısında robotların üstün gelmesi, evrimin doğal bir sonucu mudur? Bu soruya herkesin kendince bir cevabı olabilir.

Escape’de bahsetmek istediğim son bir nokta daha var, o  da Brain’in yıldızlararası yolculuğu çözerken ki psikolojisi. Durum, yine özetle, şu: Yıldızlararası yolculuk sırasında, gemideki insanlar kısa bir süreliğine de olsa ölüyorlar, sonra geri canlanıyorlar. Bu, bir nevi birinci yasanın ihlali. Brain, bu noktada ikilemde kalıyor ve bu sebeple, kendince bir gerçeklikten kaçış yolu buluyor: Delilik. Bir espri anlayışı. Gerçeği baskılama. Ki bu, insanlarda da gördüğümüz bir şey. Birçokları için sadece popüler bir “Facebook akraba paylaşımı itemi” olsa da, yoğun depresif duygulardaki bireylerin gerçeklikten kaçmak için abartılı espri anlayışları geliştirmesi sık görülen bir durum.

Brain’de ise bu başka bir boyuta ulaşmış. İnsanlar depresyondan ölmezler. Brain gibi bir yapay zeka ise, Birinci Yasa’yı ihlal etmesi durumunda robotlar için ölüme denk gelen şeyi yaşar (tıpkı Liar hikayesinde Herbie’ye olduğu gibi). Brain’in, doğrudan insanların “geçici” ölümüne sebep olmasına rağmen ölmemesi ise, bize robotların bunu bir şekilde aşabileceklerini gösteriyor: Kendi gerçeklik algılarını değiştirerek. İnsanın bilişsel sistemi, bir yapay zekanınkine göre hatalar yapmaya çok daha dirençlidir. Bir robotun yapay zekası ise, hele ki onu ölümden kurtaracaksa, muhtemelen kolaylıkla kendi gerçeklik algısını değiştirip o şekilde yaşamaya devam edebilir. (Muhtemelen diyorum çünkü elimizde bunu test edebileceğimiz gelişmişlikte bir yapay zeka henüz yok.) Bu mümkünse, insanlık için çok büyük bir tehdit olabilir. Gerçeklik algısını değiştirerek birinci yasayı kolaylıkla ihlal edebilen, deli robotlar… Ölen insanların yere yatıp gülmeye başladıklarını ya da tek boynuzlu atlarla dolu bulutlar üstündeki bir ütopyaya gittiklerini hayal eden bir robotun neler yapabileceğini düşünsenize! Onu insanları öldürmeye iten şey üçüncü yasa falan değil, direkt birinci yasa olacaktır ve engellenemeyecektir.

Evidence ve The Evitable Conflict

I, Robot sona yaklaşırken, Asimov bize o kadar gelişmeye rağmen insanlığın robotik konusunda hala ne kadar “emekleme” düzeyinde olduğunun sinyallerini veriyor. Teknoloji olarak değil elbette, kafa yapısı olarak…

Evidence, kitapta fiziksel olarak bir robotun mevcut olmadığı tek hikaye… Muhtemelen. Kurgu şu şekilde: Seçim yarışında, Stephen Byerley isimli bir politikacının rakipleri, onun insanın kusursuz mimikrisiyle yapılmış bir robot olduğunu düşünmektedirler. Bunu –veya aksini- kanıtlamak ise US Robots’a, dolayısıyla da Susan Calvin’e düşmektedir. Kanıtlamanın en direkt yolu elbette, üç yasayı ihlal edip etmeyeceğini görmektir. Nitekim, sonuçta robot olmasına pek bir ihtimal kalmaz, zira Byerley, bir konuşmasında, ona sataşan bir dinleyiciyi yumruklar.

Ancak, Susan Calvin, gerçeğin göründüğü gibi olmadığını düşünmektedir. Ona göre, robotiğin ilk yasasını ihlal etmenin bir yolu vardır: Zarar gören kişinin de bir robot olması. Asimov, okuyucuyu Byerley’in insan mı, yoksa çok zeki bir robot mu olduğu sorusuyla baş başa bırakarak öyküyü sonlandırır. Ve bu soruyu da asla cevaplandırmaz.

The Evitable Conflict ise, Evidence’ın yıllar sonrasında geçen, hem kurgu hem de tema olarak devamı sayılabilir. Byerley, geçen yıllarda arkasına aldığı destek ile Dünya Koordinatörü olmuştur. O yıllarda Dünya, dört ana bölgeye bölünmüştür: Tropik Bölge, Doğu Bölgesi, Avrupa Bölgesi, Kuzey Bölgesi. Ve bu bölgelerin hepsi, US Robots’un bir zamanlar kullandığı Brain benzeri devasa yapay zekalarla yönetilmektedir: Genel isimleri ile, Makineler.

Açıkçası, bu iki hikayede sorular ortak sorular, yani insanlığın robotları yöneticileri olarak kabul edip etmeyecekleri ve robotları liderlerimiz olarak seçmenin muhtemel sonuçlarını yazının kalanında sıkça konuştuğumuz için, o kısma bir daha girmek istemiyorum. Ancak onun yerine, The Evitable Conflict’te beni oldukça düşündüren bir kısımdan kısaca bahsedeceğim.

Hikayenin finalinde, Dr. Calvin ve Byerley, Makinelerin motivasyonu hakkında konuşmaktadırlar. Calvin, Makineler tek bir insan için çalışmadığı, tüm insanlık için çalıştığı için, birinci yasalarının “Bir Makine insanlığa zarar veremez ya da insanlığın zarar görmesine seyirci kalamaz,” şeklinde olduğunu iddia eder ve sahip oldukları üstün hesaplama kabiliyetleri ve veritabanı sayesinde, insanlığın geleceğini, onun için neyin iyi olacağını Makinelerin biliyor olabileceğini tahmin eder. Tezine göre, makineler insanlığın iyiliğini sadece onlardan isteneni yaparak değil, aynı zamanda geleceği tahmin ederek, üç yasayla çelişmeyecek şekilde o insanlık için mutlu geleceğin önünü açarak garantiye almaktadırlar.

Bu noktada, Byerley bir soru sorar: Acaba, tıpkı Makinelere karşı çıkan kesimin korktuğu gibi, insanlık özgürlüğünü yitirmiş midir?

Hayır, diye cevap veriyor Calvin. Ona göre, insanlığın hiçbir zaman kendi yolunu çizme özgürlüğü olmamıştır. Her zaman, anlayamadığı sosyal ve ekonomik güçlerinin etkisi altında savrulmuştur medeniyet… Kendi yolunu çizdiğini sandığı zamanlarda bile, aslında bu güçlerin altında, özgür irade yanılsamasının etkisi ile ilerlemektedir. Makineler ise, bu güçleri anlayabilecek kapasiteye sahiplerdir. Aynı şekilde, ellerinde dünya ekonomisini yönetebilme gibi müthiş bir güç vardır. Bu sayede, insanı, dalgaların etkisiyle savrulup durduğu bu okyanusta gitmek istediği yere yönlendirebilecektir. Susan Calvin, bu yerin nere olduğunu sadece Makinelerin bilebileceğini söylüyor: Kırsal yaşama dönüş olabileceği gibi, tamamen beşeri unsurlarla çevrili halde yaşamak da olabilir. Totaliter bir rejim olabileceği gibi, anarşi de olabilir.

Bu konuda bir yorum yapmadan, yorumu tamamen okuyucuya bırakmak istiyorum. Siz ne düşünüyorsunuz? Sizce insanlık, Calvin’in kastettiği gibi, onu yönetecek rasyonel bir yapay zeka olmadan gerçekten öksüz mü? İnsanlık, illa bir yol göstericiye ihtiyaç duyar mı? Ya da, insanlık kendisine yol gösterecek bir zekayı kendisi yazabilir mi?

Kapanış ve İnsanlığın Geleceği

Ne yalan söyleyeyim: Uzun ve yorucu bir yazı oldu. Şu an, 11 puntoda 13. Word sayfamın sonundayım. Yazarken yer yer beynim şişti diyebilirim. Evet, bu yazıyı yazma süreci her şey oldu belki, ama kasıntı asla değildi. Her bir hikayenin başlığını attığımda, onun benim kafamda uyandırdığı düşünceler aklıma geliyor ve bir bir klavyeye dökülüyordu. İşte, kanımca gerçek bir bilimkurgu yazarı bunu yapabilmelidir! Kimse, kimseden geleceği tahmin etmesini bekleyemez. Ama bu, yazarların gerçekçiliği bırakıp tamamen kayal dünyasında gezinmeleri anlamına da gelmiyor. Gerçekten başarıl ıbir bilimkurgu yazarı, okurunu derin düşüncelere sürüklemelidir. Ona gelecek hakkında kafa yordurtmalıdır.

I, Robot bana tam olarak bunu yaptırdı işte. Robotik teknolojisinin başrolü oynadığı bir gelecekte, insanlığın geçeceği aşamalar, karşılaşacağı engeller, yaşayacağı “savaşlar” bir bir aklıma geldi. Gelecekle ilgili daha önce sormadığım soruları sordum. Farkında olmadığım muhtemel problemleri farkettim. I, Robot, -ikinci sınıf Holywood aksiyon filmi olan uyarlamasının aksine- tam bir bilimkurgu şaheseri. Asimov da, bir kez daha (aslında, yazıldığı yıla bakarsak muhtemelen ilk kez) bilimkurgunun büyük ustası olduğunu kanıtlıyor.

Bitirmeden önce, kendi gözümden, insanlığın geleceği ve robotik teknolojisini nasıl görüyorum, ona değinmek isterim. Evet, haklısınız, yazıda birçok yerde gerçek dünyada nasıl sonuçlar alabileceğimizi incelemeye çalıştım, ancak onlar, her ne kadar gerçekçi gözükse de, bir noktayı es geçtiği için benim görüşlerimden tamamen ayrılıyorlar: İnsan geliştirilmeleri. Yazının başını hatırlayınız. İnsan geliştirilmeleri konusu, bilimkurguda robotlar kadar popüler değil. Belki çok daha sonra ortaya çıkan bir konsept olduğu içindir, belki de aslında o kadar ilginç değildir. Ancak şunu söylemem lazım: Ben, robotiğin gelecekteki rolünün insan geliştirilmesi uygulamaları üzerine olacağını, ve asla ama asla bilimkurgulardaki gibi, tamamen insanlar tarafından yapılmış metal hizmetkarlar konumundaki robotları görmeyeceğimizi düşünüyorum. Hatta umuyorum. Nedenleri aslında saymakla bitmez: Robot paranoyası, insanlığın hakimiyetinin sonu, robot-insan savaşı ihtimali gibi birçok sorun kökünden ortadan kalkacak. İnsan, bu defa gerçekten tanrıcılık oynamış olup, kendi benliğini istediği gibi değiştirecek. Dahası, bu teknoloji eksponansiyel bir hızla ilerleyecek ve insan medeniyetinin hızına da hız katacak. Klasik olarak, tüm interneti beynininizin içindeki bir çipte taşıdığınızı düşünsenize! Bilgiyi kullanma ve kullanarak yeni bilgiler üretme hızınızı hayal edebiliyor musunuz?

Peki, siz ne düşünüyorsunuz?

İnsanlığı nasıl bir gelecek bekliyor?

Uzun yıllar verilen emeklerin karşılığını aldığımız parlak bir gelecek mi?

Yoksa haddimizi aştığımız için cezalandırıldığımız bir distopya mı?

Hazırlayan: Zeki Doruk Erden

Etiketler: , , , , , , , , , , , ,


Yazar Hakkında

Bu içerik bir konuk yazar tarafından üretilmiştir. Siz de sitemizin konuk yazarlarından biri olabilirsiniz. Yapmanız gereken tek şey, kaleme aldığınız bilimkurgu temalı makale ve öykülerinizi konukyazar@bilimkurgukulubu.com adresine göndermek. Editör onayından geçen yazılarınız burada yayınlanıp binlerce okurun beğenisine sunulacaktır. Gelin bu arşivi birlikte büyütelim...