Asimov’un Robbie Öyküsü, Bize Yapay Zekâ ve Zihin Hakkında Neler Anlatıyor?

İnsanlar denizleri ve Güneş’i neyin hareket ettirdiğini bilmedikleri geçmiş zamanlarda, bu nesnelere zihinsel durumlar atfettiler. Benzeri bir durum yapay zekâ için de söz konusu olabilir…

Isaac Asimov‘un klasik bilimkurgu hikâyesi “Robbie“de, Weston ailesi, erken doğduğu için bakıma ihtiyaç duyan küçük kızları Gloria’ya hem hemşirelik hem de arkadaşlık yapan Robbie isimli bir robota sahiptir. Gloria ve robot Robbie, sevgi dolu ve karşılıklı özene dayanan ilişkileriyle çok iyi iki arkadaştır. Gloria, Robbie’yi bir robottan ziyade kendisine sadık ve görevine bağlı bakıcısı olarak görmektedir. Ancak annesi Bayan Weston, robot ile çocuğu arasındaki bu “doğal olmayan” ilişkiden hiç hoşlanmamakta ve Robbie’nin Gloria’ya zarar verme olasılığından ötürü endişe duymaktadır (üstelik Robbie böyle bir şeyi asla yapmamak üzere açık bir şekilde programlanmış olmasına rağmen). Bayan Weston’ın aslında Robbie’yi kıskandığı barizdir. Hatta Gloria’yı Robbie’den uzaklaştırmak için birkaç başarısız denemede bile bulunur.  Eşinin bitmek tükenmek bilmeyen itirazlarından bıkan Bay Weston, en sonunda Robbie’nin yapıldığı fabrikaya bir gezi düzenleme fikrini ortaya atar. Böylelikle kızı Gloria, o fabrikada Robbie’nin “sadece” üretilmiş bir robot olduğunu görecek ve Robbie’ye karşı duyduğu yoğun sevgiden vazgeçecektir. Çünkü Robbie’nin nasıl çalıştığını, hangi malzemelerden yapıldığını öğrendiğinde kızı Gloria’nın Robbie’nin o sandığı kişi olmadığını anlayacağını ummaktadır. Babanın kurduğu plan budur ama işe yaramayacaktır. Gloria, Robbie’nin “gerçekte nasıl çalıştığını” öğrenmediği gibi, hikâyenin akışında gerçekleşen sürpriz bir olaydan dolayı Gloria ve Robbie’nin arkadaşlık bağları daha da güçlenecektir. Tabii ki bu duruma canı en çok sıkılan kişi Bayan Weston’dır. Öykünün sonunda ise Gloria, Robbie’nin “gerçekte kim olduğu” konusunda başlangıçta zannettiği –ama zannettiğini dahi bilmediği hâliyle- kalmaya devam edecektir.

Peki, bu hikâyeden çıkarılması gereken hisse nedir? Öykünün en önemli mesajı, yapay öznelerle onların iç mekanizmalarında “gerçekte nasıl çalıştıklarını” bilmeden (ya da hiç umursamadan) sosyal etkileşimde bulunan ve ilişki kuranların, eninde sonunda onlarla belirgin birtakım özelliklere sahip ayrı ilişkiler geliştireceği ve bu ilişkilerine uygun düşen yeni, gerçekte var olmayan zihinsel özellikler yakıştıracağıdır. Örneğin Gloria, Robbie ile oynar ve onu bir arkadaşı olarak sever; Robbie de karşılığında Gloria’ya özen gösterir. Gloria, Robbie ile birlikte yoruma oldukça açık farklı bir bağ kurmuştur ve Robbie’nin iç işleyişinin ve yapısının bununla hiçbir ilgisi bulunmamaktadır. Gloria için Robbie’nin gerçekte kim/ne olduğuna dair ayrıntıları öğrenme fırsatı ortaya çıktığında ise Robbie’nin işlevselliğine dair öte bir kanıt olarak Gloria’yı bir kazadan kurtarması sonrasında Gloria’nın dikkati dağılarak bu durum onun gerçekleri öğrenmesinin büsbütün önüne geçecektir.

Felsefi olarak konuşacak olunursa, Asimov’un “Robbie” adlı öyküsü bize başka bir varlığa bir zihin atfetmekle, onun ne tür bir şey olduğu hakkında bir açıklama yapmadığımızı, bunun yerine onun nasıl çalıştığını ne kadar anladığımızı (ya da anlamadığımızı) ortaya koyuyor. Örneğin, Gloria Robbie’yi akıllı bir varlık olarak görüyor, ancak Gloria’nın ebeveynleri ise Robbie’nin görünüşteki zeki davranışlarının aslında daha düşük seviyedeki makine işlemlerine indirgenebileceğini düşünüyor. Bu duruma daha geniş bir perspektiften bakmak için, örneğin kendimize atfetmekte çekinmediğimiz ama yazılım programlarına veya robotlara atfetmeye isteksiz olduğumuz zihinsel özellikleri düşünün. Zekâ, sezgi, içgörü, yaratıcılık ve anlayış gibi özelliklerin hepsinin ortak noktası şu: Ne olduklarını aslında bilmiyoruz. Sinirbilim ve deneysel psikolojinin pratisyenleri ve bilişsel bilimciler tarafından iddia edilen birtakım uç ve yer yer abartıya kaçan iddialara rağmen, kendimize yönlendirdiğimiz bu iltifatlar aslında tanımsız. Bu kavramlardan birini cümle içinde tanımlarken bir başkasını kullanıyoruz (“gerçek zeka içgörü ve yaratıcılık gerektirir” veya “gerçek anlayış içgörü ve sezgi gerektirir” gibi), sonuçta kendi kuyruğunu kovalayan bir kedi gibi olduğumuz yerde dönüp duruyoruz.

Ancak bu kavramların tam olarak ne olduğundan veya bunların nereden türediğinden emin olmasak da, söz konusu zihinsel özellik ne olursa olsun, sıradan insanlar bu özelliklere kendilerinin sahip olduğundan ve robotların sahip olmadıklarından emin. Hatta makineler bizim gibi davranıyor, insanların yaptığı aynı ürünleri üretiyor ve zaman zaman zekâ, beceri veya başka bir şey gerektiren insan başarılarını neredeyse bire bir taklit ediyorlarsa bile. Peki neden? Çünkü tıpkı Gloria’nın ebeveynleri gibiyiz. Bilişim sistemi yaratıcıları tarafından popüler medyada bilgilendirildiğimiz için robotların yaptıkları tek şeyin veri tabanlarında tablo arama, talimatları tamamlama, çözüm alanlarının tümünün kapsamlı araştırması vb. şeyler olduğunu düşünmek kolayımıza geliyor. Şu durum ise gözden kaçırılıyor: Aslında zihinsel işlemlerimizin tamamı öylesine belirsiz bir şekilde tanımlanmış ve zihinsel operasyonlarımızın esasına dair o denli derin bir bilgisizliğe sahibiz ki, insan sezgisi, içgörü veya yaratıcılık için sadece birtakım basit fiziksel aktivitelerin tekrarından ibaret demeyi adeta insanlar olarak kendimize yediremiyoruz.

Dolayısıyla, yapay zekâ hakkındaki mevcut tartışmalar hep şu sözde tespitle son buluyor: Bir “yapay zekâ” ile karşılaştığımızda, “Bu yapay zekâ programının yaptığı tek şey X,” diyoruz. Bu indirgeyici açıklama yapılan işlemlerin gizemini ortadan kaldırarak söz konusu yapay zekânın aslında zeki, yaratıcı veya içgörülü olmadığına dair kendimizi kolaylıkla ikna etmemizi sağlıyor. Başka bir deyişle, içsel mekanizmasını ve daha düşük seviyeli işlemlerini anladığımız ve gösterebildiğimiz varlıkların veya şeylerin çalışma prensiplerinin, sadece sıradan fiziksel işlemlerin bilindik tekrarlarından ibaret olduklarını kabul ediyoruz. İç işleyişini anlamadığımız görünüşte zeki varlıkların ise içgörüye, anlayışa ve yaratıcılığa sahip olabildiklerinden kolaylıkla eminiz. Bu varlıkların veya şeylerin dış görünüşlerinin insanlara benzemeleri de bu kanıya varmamızda yardımcı oluyor, örneğin bize benzemeyen hayvanlara zekâ atfetmeyi daha kolay reddedebiliyoruz. Ancak, tıpkı Gloria gibi, bir sistem, varlık, nesne ya da dünya dışı bir canlı görünüşte “zekice” cevaplar ürettiğinde ve bunların iç işleyişlerine dair hiç bilgimiz olmasaydı ne olurdu? Onun yaptıklarını anlamak için ona hangi nitelikleri atfederdik? Bu anlaşılmazlık seviyesi belki de sandığımızdan da hızlı yaklaşıyor. Örneğin, ChatGPT geliştiricilerinin, ChatGPT’nin bazı kendiliğinden doğan özelliklerini açıklayamadıklarında sergiledikleri şaşkın tepkileri gözlemleyin. Böylesi durumlarda ChatGPT’nin nasıl cevaplar ürettiğini kimse tam olarak bilmiyor gibi görünüyor. Tabii ki hâlen “yaptığı tek şey (bir tür) talimat tamamlama” diyebiliriz. Ama aynısını insanlar için de “sadece nöronlar ateşleniyor” diyebiliriz. Ancak ne ChatGPT ne de insanlar için böyle bir dil kullanmak pek mantıklı gözükmüyor.

Var olan kanıtlar şunu gösteriyor: Eğer yeterince karmaşık ve görünüşte zeki, ilginç bir varlıkla karşılaşırsak, ama nasıl “çalıştığını” anlayamadığımız ve o alışılmış “X’in yaptığı tek şey Y” indirgeyici cümlesini söyleyemediğimiz bir durumda, onunla etkileşimlerimizi yönlendirmek, neyi neden yaptığını anlamak ve en önemlisi de gelecek davranışlarını tahmin etmeye çalışmak için “halk psikolojisi” dilini kullanmaya başlıyoruz. Tarihsel bir analoji olarak, denizleri ve Güneş’i neyin hareket ettirdiğini bilemediğimizde, onlara zihinsel durumlar atfettik. “Kızgın deniz, kayaları ölümcül düşmanları olarak görüyor.” Ya da “Güneş hızlı batmak istiyor,” gibi. Bu atfettiğimiz zihinsel durumların etrafında her kültürde muazzam bir mitoloji külliyatı oluştu. Fakat daha sonra doğa bilimlerine yönelik artan bilgimiz sayesinde aslında nasıl “çalıştıklarını” öğrendiğimizde, onları sadece fiziksel nesneler olarak düşünmeye başladık. (Bu yeni düşünüş kalıbının çevresel sonuçlarının felakete varması ise ayrı bir tartışma konusu elbette!) Benzer şekilde, yapay zekâ sistemlerinin iç işleyişine dair bilgimizde ipin ucu kaybolursa veya yeni nesiller onlarla beraber büyümeye başladığında artan karmaşıklık seviyelerinden ötürü nasıl çalıştıklarını artık bilmez hâle gelirsek, onlara da zihinsel durumlar atfetmeye başlayabiliriz. Bu, keşfetme gücümüzü kaybetme değil, sadece pragmatik bir karar meselesi olacaktır. Çünkü yapay zekâ sistemlerinin neyi neden yaptıklarını anlamanın en iyi yolu ancak o şekilde mümkün olabilecektir.

yapay-zeka

Bu tespit, meseleye biraz daha yakından bakmamızı teşvik etmeli. Şu soruyu kendimize soralım: Diğer insanların benim gibi bir zihne sahip olduğunu nasıl biliyorum? Kabaca düşünecek olursak; benim gibi görünüyorlar, benim gibi davranıyorlar, bu nedenle, benimkine benzer şekilde çalışan zihinlere sahip olmalılar ve bu zihinler de benim düşündüğüm gibi çalışmalı. Onların görünür, dışsal davranışları için en iyi olası açıklama bu.  Ancak buna rağmen başka insanların beyinlerini zihinleri var mı yok mu diye asla açmıyoruz, çünkü zaten neyi arayacağımızı da bilmiyoruz. Biraz daha açıklamak gerekirse, ne göreceğimizi biliyoruz: sulu, etli bir beyin; ama bu beynin nasıl çalıştığını henüz bilmiyoruz. Yönelimlerimiz, anlayışımız, bu daha düşük açıklama seviyesinde bakıldığında gizemini korumaya devam etmektedir. Ve bu nedenle, zekâmızın fiziksel karşılıklarını bulamadığımız ve hatta bulsak bile, onları akıllı insanlarla ilgilenmekte kullanmanın çok zorlayıcı olacağını bildiğimizden, bunun yerine insanların nasıl davrandıklarını ve hareket ettiklerini, psikolojik genelleştirmelere nasıl uyduklarını gözlemliyoruz. Birisi tıp fakültesine girmek istiyorsa ve bunun için sıkı çalışmanın işe yarayacağına inanıyorsa, o zaman o kişiyi bir kütüphanede ders çalışırken bulabileceğimizi öngörebiliriz. Bu, “normal, zeki” insanların yaptığı şeydir. Psikoloji diskurları bu sosyal etkileşimlerden ortaya çıkmaktadır. Ve insan türdeşlerimizi bu şekilde anlamlandırıyoruz.

İşte bu yüzden, türdeşlerimizin karmaşık ve iyi anlaşılamayan içyapıları şuna izin vermiyor: Etkileşimlerini, davranışlarını ve etrafı nasıl anladıklarını açıklarken veya tahmin ederken onları fiziksel bileşim ve özelliklerine indirgeyemiyoruz. Hâlbuki, örneğin taşlar veya cam şişeler veya tasarım özellikleri açısından uçaklar veya mekanik kalemler gibi nesnelerde bu fiziksel indirgemeyi kolaylıkla yapabiliyoruz. İnsanlardan bahsederken daha yüksek düzeyde psikolojik açıklamalar kullanmak zorunda kaldığımızdan, insanların davranışlarını anlamanın en iyi yolu onları antropomorfize etmek, yani “insansılaştırmak”! Tersi bir şekilde, benim gibi olmadıklarına dair de kesin bir kanıtım olmadığı için, onları diğer “insanlar” gibi davranan ancak aslında benim gibi olmayan meraklı yabancı türler olarak da görebilirdim. Kısacası, zihinsel yaşamlarına ve bizimkine benzer zihinleri olduğuna dair bu kanıt yokluğu yüzünden, onları antropomorfize etmeyi seçiyoruz. Böylelikle sosyal etkileşimler daha işlenebilir hâle geliyor ve böylesi kendi zihnimizin dünyada var olan yegâne zihin olduğuna inanmaktan daha arzu edilesi bir durumdur.

yapay zeka

Bu felsefi analiz, yapay zekâ araştırmalarının yasal boyutları hakkında kafa yorarken içinde bulunduğumuz önemli bir dengeleyici eylemin var olması nedeniyle önemlidir. Yapay zekânın (örneğin AlphaFold’un protein yapılarıyla ilgili ürettiği şaşırtıcı tahminler gibi) teknik avantajlar ve toplumsal faydalar getirmesini istiyoruz, bu nedenle yapay zekâ tasarımcılarının böyle sistemleri geliştirmeye devam etmelerini umuyoruz. Ancak bu şirketler mali risklerinin güvence altına alınmasına ihtiyaç duymaktadır –tıpkı ABD’de demiryolları işletmelerinin emekleme dönemindeki maddi risklerinin garantörünün Anayasa Mahkemesi olması gibi-. (Ya da Türkiye’de bazı sanayi sektörlerinin devlet sermayesiyle kurulması örneği de verilebilir, Ç.N.) Aksi takdirde yapay zekâ sistemlerinin tasarımcıları, finansal açıdan potansiyel riskli bu alandan uzak dururlardı. Ancak toplumun bu akıllı programların olası olumsuz etkilerinden de korunmasını istiyoruz, özellikle de beklenmeyen eylemlerde bulunurlarsa ki bu bazen elbette arzu edilen işlevsellikleri de içermek zorunda kalacaktır.

Bu yüzden, hukuki ve ekonomik anlamda, riski ve sorumluluğu uygun bir şekilde tahsis etmemiz gerekiyor. İşte bunu mümkün kılmanın bir yolu, yapay zekâ konusundaki önceki paragraflarda nasıl revize edilebileceğinin önerildiği anlayıştır. Etkileşimde bulunduğumuz yapay aktörlerin psikolojik anlamda aktörler olduğunu kabul ettiğimiz yeni bir kavramsal çerçeveye sahip olduğumuzda -yani, bu aktörlerin eylemlerinin inançları ve istekleri tarafından gerçekleştiğini kabul ettiğimizde- bu sistemleri, onları geliştiren ve kullanıma koyanların hukuki temsilcileri olarak düşünmemize olanak tanınmış olacaktır. Tıpkı, hastanelerin, hastane adına hareket eden doktorları istihdam etmesi, doktorların yaptıklarından hastanenin sorumlu olması, doktorların hastane adına sözleşme imzalayabilmeleri ve hastanenin adına hareket edebilmeleri gibi. Hukuki sistemlerimiz, yapay aktörlerin hukuki aktör olarak kabul edilmesi için yeni bir kavramsal anlayışın yerine oturmasını beklemek zorunda değil, ancak böyle bir kavramsal anlayış toplum içinde yaygın olursa daha geniş bir sosyal kabul daha kolay gerçekleşecektir. Ardından, bu yapay aktörler, bağlı oldukları şirketin veya kurumun hukuki anlamda da temsilcileri olacaktır. Örneğin, Bing sohbet botunun Microsoft’un temsilcisi olacağı gibi. Daha sonrasında bu yapay aktörlerin eylemlerinden ve sonuçlarından hukuki olarak temsilcisi oldukları müesseseler sorumlu olacaktır. Örneğin, bir toplu taşıma şirketinde çalışan bir sürücü, işle ilgili yaptığı şeyler için sorumludur, ancak eğer yaptığı şey işle alakasız bir şeyse sorumlu değildir.

Toplu taşıma şirketleri sürücülerini işe alırken, sürücülerin iş dâhilinde yaptıkları eylemlerden dolayı makul bir şekilde sorumlu olacaklarını bilirler, ancak sürücüler “kontrolden çıkıp” işle alakasız bir fiil işlediklerinde sürücünün bu eylemlerinden de yasal anlamda korunmaktadırlar. Benzer şekilde, bir müşteri tarafından satın alınan Bing’in özel bir versiyonu, uzman rehberlik sağlamak için, fiyatlandırma konusunda sunduğu tavsiyelerden sorumlu olacaktır, ancak bir müşteri onu başka bir görev için kullanıyorsa, örneğin uygun romantik partnerler bulma konusunda tavsiye istiyorsa, Microsoft, Bing’in verebileceği herhangi kötü bir tavsiyeden ötürü sorumlu tutulamaz. Çünkü bu tavsiye, iş tanımının kapsamının dışında olacaktır. Bu konudaki başka bir örnek içinse, Google’ın Gmail aktörünün durumu verilebilir. Bilindiği üzere Gmail, barındırdığı e-postaların içeriklerini reklam geliri sağlamak için tarayan bir programı içermektedir. Google’ın mahremiyet ihlali suçlamasına karşı verdiği gülünç tepkisi, kullanıcıların e-postalarını insanlar değil de yazılımlar taradığı için mahremiyet ihlali olmadığıdır. Hâlbuki Gmail uygulaması Google’ın yasal temsilcisi olarak kabul edilirse, verdikleri bu savunma geçerli olmayacaktır, çünkü yasal bir temsilcinin kazandığı bilgi, doğrudan temsil ettiği kişiye atfedilir. Google böylelikle “otomasyon perdesi” arkasına saklanamayacak, çünkü dağıttığı uygulamalar aynı zamanda Google’ın yasal temsilcisi olma statüsüne sahip olacaklardır. Burada, insan olarak bizim çıkarlarımız da yapay aktöre verilen bu yasal statü ile korunmaktadır. Bu, haklarımızı azaltmaz; aksine, onları korur.

Farz edin ki uzaylılar bir gün gezegenimize indiler ve “Bizi liderinize götür!” dediler! Onları nasıl anlardık ve tanımlardık? Peki ya eğer iç organları en iyi bilimimizin ve tıp bilgimizin onların nasıl işlediği konusunda bize hiçbir ipucu vermeyecek derecede gizemli olsaydı? Titiz saha antropologları gibi davranmak zorunda kalırdık, açıklamalarıyla ilişkilendirebileceğimiz davranışsal kanıtlar arayarak belki de zihinlerinin bizim zihnimiz gibi olduğu olasılığını düşünmeye başlardık. Avukatlarımız bu varlıkların toplumsal düzenimizdeki durumunu değerlendirmek zorunda kalacak ve önemli yürütme görevlerini yerine getirdiklerini, insanların onlarla kişisel ilişkiler kurdukları gördüklerinde, vatandaşlık ve yasal statü başvurularını ciddi şekilde değerlendirmek zorunda kalacaklardır. Bugün, aramızdaki yapay zekâ sistemleri ve programlarıyla ilgili benzer bir durumu yaşamaktayız, ancak kritik bir farkla: Onları biz yaptık ve tasarladık. Tanrı-İnsan arasındaki ilişkiyi anımsatması, biraz kibir sayılabilir, ancak yapay zekâ sistemleriyle zihinlerimizin dansının seyri, onları ne kadar gizemli bulduğumuza bağlı olarak değişebilir. Ne kadar anlaşılmaz, iç işleyişleri açısından ne kadar karmaşık olurlarsa, onları dışsal tanımlarla, “aktör” veya “özne” gibi psikolojik terimleri kullanarak açıklamaya daha fazla güven duymak zorunda kalırız. Bu, herhangi bir şeye boyun eğmek değil, aksine sağduyunun sesine kulak vermektir ve varacağımız sonuç ortak akıl ve doğal zekâmızın bir sonucu olacaktır.

Kaynak

Yazar: İsmail Yiğit

1982 Ankara doğumlu. Türkiye Bilişim Derneği’nin 2016 yılında düzenlediği bilimkurgu öykü yarışmasında “İhlal” adlı öyküsü üçüncülüğe seçildi. Fabisad'ın düzenlediği 2017 GİO yarışmasında “Satır Arasındaki Hayalet” adlı öyküsüyle öykü dalında başarı ödülü kazandı. İlgilendiği ana konular: Teknolojinin toplumsal inşası, sosyoteknik tasavvurlar, siber savaşlar, otonom silahlar, transhümanizm, post-hümanizm, asteroid madenciliği, dünyalaştırma... Ursula K. Le Guin, Philip K. Dick, Michael Crichton ve Kim Stanley Robinson, kalemlerini örnek aldığı yazarlar arasında. Parolası: “Daha iyi bir dünya pekâlâ mümkün!”

İlginizi Çekebilir

Alien-Jones-the-Cat-and-Sigourney-Weaver

Alien Filmindeki Kedi Jones Robot Olabilir mi?

Ridley Scott’ın bilimkurgu korku başyapıtı Alien ve onun aksiyon ağırlıklı devam filmi Aliens etrafında zamanla …

Bir Cevap Yazın

Bilimkurgu Kulübü sitesinden daha fazla şey keşfedin

Okumaya devam etmek ve tüm arşive erişim kazanmak için hemen abone olun.

Okumaya devam et