bilimkurgu kulubu

Edebiyat

Tarih: 17 Eylül 2016 | Yazar: Selim Erdoğan

0

Asimov’un Üç Robotik Yasası Üzerine Bir Deneme

“Gelen mesajda projesinin komisyon tarafından kabul edildiği, teknik ekibin kurulması ve diğer bürokratik işlemlerin bitirilmesiyle birlikte inşaatın başlayacağı bildiriliyor ve tebrik ediliyordu. Banka hesabına da üç aylık maaş tutarı kadar başarı primi yatırılmıştı. Halil mesajı gözlerine inanamadan birkaç kere okudu. Sonra bakışları karşı masadaki arkadaşına döndü.

“Tebrikler.” dedi Kobol. İnsansı yüzü kas sayısı bakımından çok zengin olmasa da gergin gibiydi. Proje merkezinin biri insan biri android iki mimarından biriydi. “Sen kazanmışsın.”

“Öyle olmuş. İkimizden biri olacaktı. Ama az da çalışmadım.”

Kobol ayağa kalktı. “Haklısın. Çok çalıştın, kazandın, bir ödülü de hak ettin.  Güzel bir içki?”

“Çok  iyi olur. Yörüngede benim çizdiğim hastane dönüp duracak. Hala inanamıyorum.”

“Gerçekten harika.”

Arkadan plop sesi geldi. Halil bir kadehe sıvının doluşunu dinledi. Gözleri hala mesajdaydı. “Ne zaman biter acaba?”

Şampanya kadehi masaya bırakıldı. “Bir seneye kalmaz. Sana masaj yapmamı ister misin? Bu konuda harika bir program var hafızamda. Filipinli bir programcıdan almıştım.”

“İsterim. Omuzlarım boynum kaskatı.”

Halil Kobol’un iri ellerini, hidrolik mafsallı uzun parmaklarını omuzlarında hissetti. Garip bir histi. Tüyleri ürperdi.

“Biliyor musun? Ben de çalıştım. İyi veri topladım.”

“Evet. Farkındayım. Evet öyle.. Çok güzel. Haha belki mimarlığı bırakıp masaja başlamalısın.”

“Belki de..Böyle nasıl? Kan dolaşımını hızlandırır bu..

“Harika. Bunu nasıl beceriyorsun? Gerçek masörlerde böyle bir şey görmedim.”

“Püf noktası istatistik. Çok veri. Ortalamalar. Hangi kaslar, hangi sinirler neye nasıl tepki verir bunu biliyorum. Mesela hastane projesinde bütün uzay istasyonlarını ve yeryüzü hastane binalarını inceledim. Zayıflıklarını avantajlarını analiz ettim. Sonra onları bir araya getirdim. Binden fazla modelleme yaptım. Hepsini sayısız kaza senaryosuyla test ettim.”

“Sahi mi?”

“Evet. Üstelik pozitronik beynim siz insanların organik beyinlerinden yüz kez hızlı ve hatalara binlerce kez duyarlı.”

Hidrolik mafsallı parmaklar omuzdan boyna doğru yükseldi.

“Boynum hassas galiba biraz. Tekrar omuzlara dön istersen. Bundan hoşlanmadım.”

Kobol içinde damarlar, sinirler, kaslar olan bu deri kaplı boruyu sıkmak için güçlü bir istek duydu. Ama kural neydi? Bir robot bir insana zarar veremez.

“Ama kazanan sen oldun.”

Eller geri çekilir gibi oldu. Ama onu durduran neydi? Bir android bir insana neden zarar veremiyordu? Biri ona öyle öğrettiği için. Uymasa ne olurdu? Bu konudaki endişesinin narin yapıyı sıkmanın vereceği eşsiz tatminin yanında yetersiz kaldığını fark etti. Gergin uzun parmaklar yeniden boyna yükselirken Halil’in başladığı cümle genizden gelen hırıltılar arasında kayboldu.” Kobol ve Halil

Üç Robotik Yasa

goya

Francisco Goya, Duelo a Garrotazos, 1823

Bilimkurgu okurları Isaac Asimov’un pek çok hikaye ve romanında kullandığı yasalara aşinadır. Bu sitede de birkaç yazıya konu olmuş yasalar özetle şöyle der;

  • Bir robot insana zarar veremez ve vermesine seyirci kalamaz.
  • Bir robot insanların verdiği emirlere uymak zorundadır. Ama bu yasa 1. Yasa ile çelişemez.
  • Bir robot bir ve ikinci yasayla çelişmediği sürece kendisi de korur. Ama bir insanı korumak için kendi varlığını feda eder.

Bu üç kurala sonrada daha soyut kavramlar içeren bir başkası eklenir. “Bir robot insanlığa zarar veremez, hareketsiz kalarak zarar görmesine izin veremez.”

Yasalardan ilk defa 1942 yılında, yazarın Runaround adlı kısa öyküsünde söz edildiğini görüyoruz.  O yıl henüz lambalı ENIAC ortaya çıkmamıştı. Alan Turing’in Computing Machinery and Intelligence adlı ünlü makalesini yayınlamasına daha sekiz yıl vardı. Yapay zeka emekleme aşamasında bile değildi. 1950’lerdeki transistör devrimi ufukta görünmüyordu.

Yaklaşık altmış yıl sonraysa Elon Musk, Stephen Hawking ve Bill Gates gibi isimler art arda belirmekte olan bir tehdit karşısında insanlığı uyarmak zorunda hissettiler. Uyarıların ortak noktası yapay zekanın yeteneklerinin insan yeteneklerini aşmasının uzun vadede insanlığın sonunu getireceğiydi. O halde Asimov bu yaraya merhem olur mu? Asimov’un çok tutulan bu kural setinin arkasında gerçekten bilimsel ve felsefi bir altyapı var mıdır? Bu kurallar ya da daha değişik şekilleri yapay zekanın ufukta belirmekte olduğu iddia edilen tehditlerine önlem olabilir mi? Bu yasalar zeki bir bilim insanı-yazarın yapay zeka kavramı üzerinde gerçekten düşünerek ürettiği, gelecekte bir gün zeki makineler yapıldığında kullanılacak ilkelere temel teşkil edecek eskizler midir yoksa ticari kaygıları olan bir yazarın pratik edebi buluşları mı?

Robot Nedir?

deepblue-tvscreens

Nedir robot? Kolları bacakları kafası gözleri olan ve hareket eden makineler mi? Eh o zaman belki bin dokuz yüz ellilerden beri yapılan pek çok oyuncağı robot sayabiliriz. Küp kafalı, dikdörtgenler prizması gövdeli kafasındaki gözlerinde kırmızı flaşörler çakan, bazıları tekerlekli bazıları ilkelce adım atan genellikle oyuncak sınıfında yapılan makineler robot mudur? Eğer değillerse sözgelimi Sony’nin Asimo’su robot mudur? İkisi arasında ne fark vardır? Anlamlı bir fark var mıdır? Robotu robot yapan insana benzerliği midir? Sadece satranç oynayıp insanı yenen Deep Blue mu daha robottur birkaç yüz komutu anlayıp yer temizleyen, çay servisi yapan Japon hizmet makineleri mi? Robotu daha da robot yapan şey mekanik becerilerse bir fabrikada kaporta kaynağı, boya yapan, koltuk yerleştirip vidalayan hamarat kollar nedir o halde? Hedef bildirdikten sonra yan koltukta arkaya yaslandığınız, trafiği okuyan, hata yapmadan sizi hedefe götüren sürücüsüz arabalar nedir? Bu arabalarla Dünya’nın çapı nedir? gibi basit sorulara cevap veren yapay zeka programları arasında bir ilişki var mıdır? Hangisi Asimov anlamında robot kavramına daha yakındır? Hangisi Hawking’in endişe kaynağıdır?

Robotu insana benzer makineler olarak hayal etmek bilimkurgucuların pek sevdiği bir şey. Bu, hayal gücü eksikliğinden çok şıklık kaygısından kaynaklanıyor olabilir. Diğer bir ifadeyle film yapımcıları hatta yazarlar için robotu böyle hayal etmek potansiyel izleyici/okuyucu sayısı kaygısından olmalı. Öyle ya sözgelimi Wachovski kardeşlerin Matrix’de insan bilinciyle makine iradesinin kavgasını Uzakdoğu dövüş sanatı formunda ifade etmesi de aynı kaygının sonucu değil miydi? Neo’nun Mr. Smith’le satranç oynaması Matrix’in gişe hasılatını onda bire düşürürdü herhalde. Daha soyut formları düşünmek mümkün bile değil.

mq-9_reaper

Diğer taraftan insan formunda robot hayal etmek biraz da insanbiçimcilik (antropomorfizm) denen zafiyetin yansıması olabilir. Seyircinin beklediği budur. Kolay olan zaten var olan, alışılagelendir. Robotların bacakları olur. Araba farlarını bile insan gözü şeklinde tasarlatan insanbiçimci eğilim robotun burnunu elbette karnına değil yüzüne koyar.

Peki tehlikeli olabilecek olan hangisidir? Yukarıdaki hikayecikte olduğu gibi eller kollar mı? Görünürde elleri ya da kolları olmayan ama insanımsı bilinci olan bir makine tehdit midir? Kızılötesi kamerasından algıladıklarını bir algoritmada tanımlanmış terörist kavramıyla sınayan ve sınavı geçemeyenleri imha etmesi planlanan dronlar yukarıdaki sınıflandırmada nereye girer?

Görünüşe göre iki ayrı türden bahsediyoruz. Biri ne kadar karmaşık olursa olsun bir algoritmaya göre çalışan, dost düşman ayırımı yapan, bazen belli ölçülerde bir diyaloğu yürütebilen, araba, uçak kullanabilen, satranç oynayan, araba park eden her türlü otomasyon sistemi. Buna yapay zeka diyelim. O zaman diğeri, kolları bacağı burnu olsun olmasın, mikro elektronik devrelerden ya da kavanozdaki özel bir sıvıdan oluşsun, yapay bilinç.

Yapay Zeka ve Asimov Yasaları

untouchables

İnsan formundaki robot metro istasyonundadır. Raylara yakın sarı çizginin hemen üzerinde cep telefonunda dalmış bir kadın durmaktadır. Hemen arkasına kapişonunu kafasına geçirmiş, şüpheli görünüşlü biri tuhaf hareketlerle yaklaşır. Yürüyüşü uyuşturucu etkisi altında olduğunu belli eder. Bu arada trenin rüzgarı hissedilmeye başlamıştır. Genç, ellerini kadının sırtına yaklaştırır. Hafızasında “Bir insanın zarar görmesine müsade edemez” kuralı olan android bu sahne karşısında ne yapacaktır? Hafızadaki bu cümlenin  kadına yardımı olacak mıdır? Algoritma, kadına yaklaşan ısı kaynağının (tuhaf yürüyen kapişonlu şüpheli bu makine için tahmini yetmiş beş kiloluk bir ısı kaynağıdır sadece) kötü olduğuna nasıl karar verecektir. Kafaya çekilmiş kapüşonu, yürüyüşteki tuhaflığı, bol ucuz giysileri nasıl değerlendirebilir? Gelmekte olan trenle sırta yaklaşan elleri nasıl ilişkilendirecektir? Tren raylarına itilmek üzere olan bir bedenle annesinin bir bebek arabası içinde yürüyen merdivene doğru ittiği bir bebeği nasıl ayırt edecektir? Bu iki durumdan hangisinde gerçek tehlike olduğunu bulabilecek midir?

Açıktır ki insan bilinci bu iki resimdeki niyeti bir saniyede kavrarken makineye dünyadaki sayısız durum için tanımlama yapılması gerekecektir. O halde yapay bilinç olmadan bu yasalar hiçbir şey ifade etmez.  Yapay zekaya bir insanı öldüremezsin demek, bir insanı ölüme götürecek sayısız fizik kombinasyonunun tanımlanması demektir. Sıfırıncı yasadaki, insanlar arasında bile tartışmalı kavramlar olan insanlığa fayda ya da zararın sayısallaştırılması için sayısız fizik kombinasyonu da yetecek gibi görünmemektedir.

Yapay Bilinç ve Asimov Yasaları

29284649_robotbirdsandroidaia

Yapay bilinç nedir? Zurnanın zırt dediği yer burasıdır. Bilinç,  tanımlanması çok zor hatta belki de imkansız bir kavramdır. Her tanımlama denemesi içinde bilinç ya da türevi/eş anlamlısı bir başka kavrama referans vermek durumunda kalmaktadır. Bilinç kendi kendinin farkında olmaktır. Farkında olmak nedir o halde? Bilmek? Deneyimlemek? Hissetmek? O zaman hisseden, bilen, farkında olan, deneyimleyen nedir? Bu satıların yazarını İkibinseksendört’ü yazmak için aylarca çalışmasını gerektirmiş olmakla birlikte şu kadarı söylenebilir; Yapay bilincin tanımı insan bilincinin tanımıyla sırt sırtadır. Bugün insan bilincinin ne olduğuna ilişkin herhangi bir teori ya da teori izi bulunmamaktadır. Nörobilimcilerin, filozofların peşinde oldukları şey budur. Kutsal Kase, Sandık, evrenin sırrı buradadır. Bunun ne olduğu anlaşılabilirse yapayını yapmaktan söz edilebilir. Büyüleyici olan buzdolabındaki, telefondaki yapay zeka değil budur.

Sanayi devrimini, bilişim devrimini, ateşin kontrolünü, yazıyı, herşeyi cüce haline getirecek olan şey bu bilincin yaratılmasıdır. Belki Adem ve Havva’nın ilk günahı bilgi ağacının meyvesinden yemekti. İkinci günah bunu yiyebilecek başka bir ruh yaratmak olurdu. İşte o ruhu ne Asimov’un üç yasası, ne anayasalar, ne ölüm cezaları başka bir insanı öldürmekten alıkoyardı. Koymamıştır da zaten. Tarihin başından beri insanlar birbirlerini On Emir’de, Kuran’da, her türden ahlak öğretilerinde, anayasalarda, ceza kanunlarında, toplumsal sözleşme kuramlarındaki Öldürmeyeceksin! emrine rağmen öldürürler. İnsanlık tarihi, bilinci olan bir makineyi yani Kobol/Kabil’i, Halil/Habil’i öldürmekten, ne Asimov’un üç yasasının ne herhangi engelin  alıkoyabileceğinin kanlı ve uzun kanıtıdır.

Etiketler: , , , , , , , , , , , , ,


Yazar Hakkında

1970 İzmit doğumlu. A.Ü. Siyasal Bilgiler Fakültesi Mezunu. Enerji sektöründe çalışıyor. Denizatı Vadisi, İkibinseksendört, Gofer Ağacı ve Trinidad'ın Dönüşü romanlarının yazarı.