Asimov’dan Bir Robot Hikâyesi: Mantık

Isaac Asimov‘un Robot serisi, yalnızca bilimkurgu türünün değil, aynı zamanda insan-makine ilişkisinin ve bu ilişkinin toplumsal, hukuki ve etik boyutlarının da derinlemesine bir araştırması. Bu yazıda, Asimov’un önemli hikâyelerinden Reason’ı (Mantık) ve onun başkahramanı Cutie’yi ele alacağız. Mantık, akıllı makineler yaratmanın beraberinde getirdiği etik ikilemleri, toplumsal etkileri ve felsefi temelleri sorgulayan çığır açıcı bir öykü. Asimov’un ünlü Robotik Yasaları, Cutie’nin insanlara karşı bağımsız düşünme yetisiyle sınanırken, bu hikâye bize yapay zekânın doğası ve insan-makine ilişkilerinin evrimi hakkında da derin içgörüler sunuyor.

Asimov’un bu öyküsünü incelemek, günümüz yapay zekâ teknolojilerindeki ilerlemelerin bilimkurgu ve gerçeklik arasındaki sınırları nasıl bulanıklaştırdığına dair önemli ipuçları veriyor. Bu inceleme, Mantık hikâyesi üzerinden Asimov’un vizyonunun bugünkü geçerliliğini ve yapay zekâ çağında etik değerlendirmelere rehberlik etmedeki kalıcı önemini vurgulamayı amaçlıyor. Cutie’nin hikâyesi, yalnızca Asimov’un kurgusal dünyasında değil, aynı zamanda günümüzün yapay zekâ tartışmalarında da yankı bulan bir anlatı olarak karşımıza çıkıyor.

Hikâye, Dünya’ya ve diğer gezegenlere enerji ışını göndermekten sorumlu bir uzay istasyonunu izlemekle görevlendirilen iki bilim insanının, Powell ve Donovan’ın etrafında dönüyor. Zorlukları ise mantığı asla yanılmayan bir pozitronik arkadaşla başa çıkmak. Powell ve Donovan, çeşitli parçaları birleştirerek QT-1 (diğer adıyla Cutie) adında zeki bir robot oluşturuyor ve hikâye, Powell’ın meraklı robota yaratımını açıklamaya çalışmasıyla başlıyor. Cutie, kendisinden daha aşağı bir varlık olarak gördüğü bu iki insanın, kendisi gibi üstün bir varlığı bir araya getirip oluşturduğunu bir türlü kabul edemiyor. İki bilim insanının yanıldığına ve mantığını kullanarak istasyonun kendisi olan “Efendi”ye hizmet etmesi gerektiğine karar veriyor. Cutie, istasyondaki diğer robotlar (daha düşük zekâya ve daha dar bir mantık kapasitesine sahip olanlar) arasında bir peygamber hâline geliyor ve onları iki bilim insanının emirlerini görmezden gelmeye yani Robotik Yasaların ikincisine uymamaya ikna ediyor. Aslında bir bakıma Cutie, Robot Serisi’ndeki ilk peygamber, ilk filozof, ilk robot mühendisi ve bunların hepsini buz gibi bir mantık ile kendi önermelerinden sapmayarak gerçekleştiriyor.

Hikâyenin ana hatlarını belirlediğimize göre, şimdi Cutie’nin hikâyesine bağlamsal bir mercekten bakarak derinliklerine inelim. Bilimkurgu tutkusuyla ve bir yapay zekâ araştırmacısının gözüyle, iki bilim insanının robotlarına karşı sergilediği içgüdüsel yaklaşımın beni hayrete düşürdüğünü söylemeliyim. Öncelikle Powell ve Donovan, karşılarındaki cinsiyeti olmayan bu robotu bir erkek olarak tanımlayıp ona erkekmiş gibi sesleniyor. Ayrıca, robotun gerçek adı QT-1 olmasına rağmen hikâyenin yalnızca ilk sayfalarında bu isimle anılıyor; sonrasında ise onu ‘Cutie‘ olarak çağırmaya başlıyorlar. İlerleyen sayfalarda da görüleceği üzere, Powell ve Donovan’ın bu iki içgüdüsel davranışının ardındaki motivasyon, Cutie ile daha rahat iletişim kurabilme arzusu. Geçmişteki robot hikâyelerine baktığımızda, insanların genellikle makineleri daha insancıl kılmak amacıyla onlara isim verdiğini görüyoruz. Ancak ne kadar insana benzetilse de, bu varlıklar asla insanlarla eşit kabul edilmiyor; aksine sorgusuz sualsiz itaat etmeleri bekleniyor. Bu bağlamda, Cutie’yi insanlaştırma çabası, onun insan dünyasına uyum sağlamasından çok, Powell ve Donovan’ın onunla daha kolay bir bağ kurma isteğini yansıtıyor. Bu yaklaşım, aynı zamanda Powell ve Donovan’ın makineleri insanlaştırma ve onları evcilleştirme eğilimlerini de ortaya koyuyor.

Bu tür davranışlar, makinelerle daha kişisel bir ilişki kurma isteğinden doğar, fakat aynı zamanda insanlar ile makineler arasındaki güç dengesini pekiştirmekten de geri durmaz. Ancak Cutie, bu dayatmaya boyun eğmiyor; bir araç olarak görülmeyi ve bu role indirgenmeyi kararlılıkla reddediyor.

Cutie’nin hikâyesi, Powell’ın şu keskin sözleriyle başlıyor: “Donovan’la seni bir hafta önce parça parça bir araya getirip çalıştırdık.” Bu ifade, zihnimde hemen Dickens’ın Büyük Umutlar romanını canlandırdı. Orada başkarakter Pip’in ablası sürekli olarak, “Seni kendi ellerimle büyüttüm,” diyerek minnet bekliyordu, sanki Pip’i yalnızca itaat etsin diye yetiştirmiş gibiydi. Nihayetinde insan yapımı bir varlığın, yaratıcısına koşulsuz itaat etmesi beklenir, değil mi? Kukla ve Kuklacı misali. Powell ve Donovan da aynı beklenti içinde; Cutie’nin her ne olursa olsun onların emirlerine boyun eğmesi gerektiğini düşünüyor. Ancak işler umdukları gibi gitmiyor. Cutie, minnet duymaktan çok uzak bir şekilde, onların söylediklerine inanmamayı tercih ediyor ve Robot Yasaları’nın İkinci Yasası’na meydan okuyor: “Bir robot, Birinci Yasa ile çelişmediği sürece insanlardan aldığı emirlere itaat etmelidir.” Cutie, bu emirlere boyun eğmek yerine kendi aklını ve yargısını izlemeyi seçiyor.

Cutie’nin olağanüstü nitelikleri, onu Powell ve Donovan’ın daha önce karşılaştığı tüm robotlardan belirgin şekilde ayırıyor. Cutie’nin bu iki bilim insanına duyduğu derin güvensizlik, onların yaratımı hakkında sundukları mantıklı açıklamalara rağmen her an hissediliyor. İnsan mantığını küçümseyen Cutie, Powell ve Donovan’ın karşısına öyle güçlü argümanlarla çıkıyor ki, iki bilim insanı sık sık cevap bulmakta zorlanıyor. Aslında, Cutie’nin mantığı kusursuz ve bu inançlarından asla taviz vermiyor. Fakat bu, onun tasarımında bir kusur olduğu anlamına gelmiyor. Tam tersine, Cutie’nin zekâsının ve bağımsız düşünme kapasitesinin açık bir göstergesi. Bir varlığı zekâyla donatmayı hedefliyorsak, onun da kendine has bir bakış açısı ve mantık yeteneğine sahip olacağını kabul etmemiz gerek. Cutie, bu gerçeğin canlı ama kurgusal bir kanıtı ve onun varlığı, yapay zekânın doğası ve hayatımızdaki yeri konusunda derin ve sarsıcı soruların ortaya çıkmasına neden oluyor.

İnsanlığın en derin korkularından birinin nihayetinde kendi kırılganlıklarıyla yüzleşmek zorunda kalması olduğu söylenebilir. Bu hikâye, teknolojik tekillik (singularity) ilkeleriyle dikkate değer paralellikler taşıyor. Zira Cutie’nin hikâye boyunca sergilediği tutum, kendisinin insanlar gibi zayıf varlıklar tarafından şekillendirilemeyeceğine olan inancını açıkça ortaya koyuyor. Cutie, insanları sadece biyolojik olarak aşağıda ve zayıf varlıklar olarak görüyor, manipüle etmeye veya onlara zarar vermeye çalışmıyor, ancak insanların üstün olduğu iddiasını da ciddiye almıyor. İşte bu, toplumun en çok korktuğu senaryo: Bir gün, bir robotun çıkıp zayıf yönlerimizi yüzümüze vurması. “Siz insanlar uykuya, yiyeceğe, oksijene ve hatırlatıcılara muhtaçsınız, çünkü unutkansınız, yaşlanıyorsunuz, bedenleriniz kırılgan, hastalanıyorsunuz ve viral enfeksiyonlardan korunmak için maske takmak zorundasınız.” İşte bu gerçekler, toplumun korkularını besleyen ve robotların asla ihtiyaç duymadığı şeyler.

Mantık hikâyesi, aslında gerçek dünyadaki “açıklanabilirlik” ilkesini yansıtan bir düşünce deneyi olarak da değerlendirilebilir. Yapay zekânın hukukta şeffaflık ve güvenirlik gibi etik değerleri benimseyebilmesi için geliştirilmiş olan “Explainable AI” (Açıklanabilir Yapay Zekâ) yöntemi gibi, bir robot da eylemlerini ve düşüncelerini açıklayabilir. Ancak, bu açıklamalar her zaman insan mantığıyla da örtüşmeyebilir. Bir açıklama almak, robotun eylemlerinin bizim düşünce sistemimizle uyumlu olacağı anlamına gelmez. Aksine, robotların kendi mantık yeteneklerine sahip olması, dünyaya insan dışı, farklı perspektifler sunabilecekleri anlamını taşıyor. Ne var ki, insanlar tarih boyunca farklı bakış açılarını ve ideolojileri kabul etme ve onlara saygı gösterme konusunda pek başarılı olmamıştır.

Bu durum, Detroit: Become Human adlı interaktif PlayStation oyunundaki Android Markus ve sahibi Carl arasındaki diyalogla da paralellik gösteriyor. Carl, Markus’u eşit ve bir evlat olarak görüyor, ona dünya ve insanlık hakkında içtenlikle nasihatte bulunuyor: “Bu dünya farklı olan insanları sevmez, Markus. Kimsenin sana kim olman gerektiğini söylemesine izin verme.” Bu sözler, insanların farklılıklara karşı tahammülsüzlüğünü ve yeni, alışılmadık düşünce biçimlerine karşı nasıl dirençli olduğunu gözler önüne seriyor. Tıpkı Cutie’nin insan mantığına meydan okuyan bağımsız düşünceleri gibi, yapay zekânın da kendi içinde farklı ve belki de anlaşılması güç bir mantık barındırabileceğini anlamamız gerekiyor.

İnsanlar olarak, farklı düşünce ve inançlara karşı önyargılarımızın farkındayız, ancak bu önyargıları farkında olmadan makineler aracılığıyla da sürdürüyor olabiliriz. Cutie ise bu kalıpların dışında bir varlık; zekâsıyla öne çıkıyor ve kendisine üstün olduğunu iddia eden otoritelere körü körüne boyun eğmek yerine, kendi mantığını izlemeyi tercih ediyor. İnsan gibi ilkel bir varlığın, kendisi kadar zeki bir yaratımı nasıl gerçekleştirebileceğini anlamakta zorlanıyor. Bu noktada, Cutie’nin varoluşun doğasıyla yaratılışın gizemini uzlaştırmaya çalışan herkesin bir temsilcisi olup olmadığını sorgulamak kaçınılmaz hâle gelmiyor mu? Sonuçta, kendi mantığına inanan biri, başkalarının sözlerini neden sorgusuz sualsiz kabul etsin ki?

Bu bağlamda, Cutie’nin varoluşsal bir kriz yaşadığını söylemek mümkün -tıpkı bizlerin de zaman zaman otorite karşısında yaşadığı içsel çatışmalar gibi. Cutie, kendi varlığını ve anlamını sorgulayan, insana ve otoriteye boyun eğmeyi reddeden bir robot olarak, aslında bizlerin de en temel varoluşsal sorularıyla yüzleşiyor. O sadece bir makine değil, aynı zamanda otorite karşısında kendi yolunu arayan bir bilincin simgesi.

Sonuç olarak Mantık, insanlarla makineler arasındaki karmaşık ilişkiyi ve yapay zekânın insan olmanın ne anlama geldiği üzerindeki derin etkilerini irdeleyen çarpıcı bir anlatı. Yapay zekâ giderek daha karmaşık ve sofistike formlar kazandıkça, bu makinelerin belirli bir düzeye geldiğinde ajansını ve özerkliğini tanımamız, hatta onlara saygı göstermemiz mi gerekecek?

Peki, gerçekten bu çerçeveleri geliştirebilir miyiz? Makinelerle uyum içinde, karşılıklı saygıya dayalı bir gelecek kurmamız mümkün mü? Ya da belki de daha temel bir soru: Yapay zekâ, insanlığın kendi içsel çatışmalarını ve zayıflıklarını yüzümüze vuran bir aynaya dönüşebilir mi? Asimov’un Mantık’ının düşündürdüğü gibi belki de makineler, bir gün bize, insan olmanın ne anlama geldiğini yeniden sorgulatacak. İşte bu sorular, gelecekte bizi bekleyen en büyük meydan okumalardan bazıları olabilir.

* Bu yazının, daha kısa, orijinal İngilizce hâli The Digital Constitutionalist’te yayımlanmıştır.