Robotlar Bir Gün Dünyaya Hâkim Olacak mı?

Ya da yapay zekâ nedir? Bize nasıl bir gelecek vaat ediyor? Yapay zekâ insanın yerini alabilir mi? Bilgisayarlar birgün bilinç kazanacaklar mı?

Bu ve bunun gibi soruları yanıtlamak, “Evrende Yalnız mıyız?”, “Yaşam nasıl başladı?”, “Herkes renkleri aynı şekilde mi gürür?” ya da “Tanrı var mı?” türünden, henüz tam olarak yanıtlanamamış sorulara birer örnek teşkil eder. Ancak bu sorularla karşılaştığımızda, “Söyleyecek hiçbir şeyimiz yoktur,” demek de haksızlık olur. Elbette filozoflar, fizikçiler, matematikçiler, nörologlar ve bilgisayar bilimciler, özellikle de son 60 yıldır bu konuda fikirler ileri sürmekte, tartışmalar yapmaktadır. Ben de (naçizane) bu soruyla gerek programcılık düzeyinde gerekse de popüler düzeyde ilgilenmiş bir kişi olarak ve bu konularla şimdi açıklayamayacağım özel bir sebepten dolayı normal bir insandan çok daha fazla haşır neşir olmuş biri sıfatıyla yanıt vermeye çalışacağım. Gelgelelim, henüz bu soruları nihai biçimde yanıtlamış hiç kimse yoktur. Sadece bu konuda kafa patlatmış kişiler vardır. Daha fazla ilerlemeden önce başlıktaki soruyu hemen yanıtlayayım: Evet, robotlar bir gün dünyaya hâkim olacaklar ve hatta olmaya başladılar bile! Bu sorunun akla getirdiği diğer soruyu da yanıtlayayım: Robotlar insan türünü yok edecek mi? Ya da insanlarla savaşacaklar mı? Bunun da yanıtını hemen verelim: Hayır, hiçbir zaman bir robot-insan savaşı çıkmayacak… Eğer çıksaydı, yani bizimle savaşacak kadar gelişmiş robotlarımız olsaydı, bu savaşta kazanma şansımız pek de olmazdı, ama şükür ki böyle bir savaş hiç bir zaman olmayacak; çünkü buna gerek kalmayacak.

Gelecek konusunda düşünmeyi bilen herhangi birisi böyle bir savaşın ortaya çıkma riskinin çok düşük olduğunu hemen görebilir. Bunun psikolojik, sosyolojik, ekonomik ve kültürel sebepleri vardır. Ama ben en bariz sebebini hemen söyleyeyim: Robotlar insanlarla savaşmaz çünkü böylesi bir savaşta ellerine geçecek hiçbir pozitif kazanım yoktur. Robotlar için dünya bir anlam ifade etmez. Dünyayı ele geçirmek gibi bir güdüleri de olamaz, daha sonra açıklayacağım sebeplerden dolayı her şeyin sahibi olma motivasyonu robotlarda bulunmayacaktır. İkincisi, robotlar insanı hiçbir zaman bir “rakip” olarak görmeyecek. Robotlar için koskoca bir uzay boşluğu vardır ve uzay boşluğuna insanlar yerleşemez… Oysa uzay boşluğunda robotlar rahatlıkla hayatta kalabilir ve her istediklerini bolca elde edebilir… Dolayısıyla robotların insanları dünyadan silmek gibi bir işe girişmelerine gerek olmayacaktır.

Güdüleme Sorunu

b6c54ccdfdccac771da13b54a50e6f87

İnsan davranışlarının altında genellikle güçlü güdüler yatar. Yani davranışlarımızı yöneten, bizi birtakım eylemlere iten güçler… Açlık, susuzluk, cinsellik, kıskançlık, genlerinin üstünlüğünü gösterme gereksinimi (ki altında cinsellik yatar) gibi… Bilimkurgunun pek sevdiği robot-insan savaşı teması bütünüyle bir klişedir. Neden bütün robotlar katil olmak, öldürmek istesin ki? Öldürme güdüsü insanların evrimsel geçmişinden kaynaklanan derinlere işlemiş bir motivasyondur. Av için, savunma için, genlerinin üstünlük savaşı için canlıların zaman zaman birbirini öldürmesi gerekir, bu nedenle öldürme duygusu beyinde çok derinlere kodlanmış bulunmaktadır. Ancak otçullarda bu kod çok daha derinlerdedir ve sadece savunma amacıyla açığa çıkar. Bir ineğin durup dururken insan öldürdüğünü gördünüz mü? O halde robotlar niye öldürsün?

Robotlarla ilgili bilimkurgu senaristlerinin akıllarına tek gelen bir gün robotlar akıllanıp bizi öldürürlerse ne yaparız?” fikrinden başka bir şey yoktur genellikle. Oysa benim görüşüme göre bir robotun öldürmemesi için değil, tersine öldürmesi için duygulara sahip olması gerekir. Bir başka klişe de aşırı derecede akıllı bir robotun insan türünün Dünya’ya zarar verdiğini, bu nedenle ortadan kaldırılması gerektiğine mantıken karar verebileceğidir. Gelgelelim, robotların bizim Dünya’ya zarar verdiğimize hükmetmesi için önce birtakım değer yargılarının oluşması gerekir. Dünya iyi, insan kötü gibi. Oysa bizim bütün değer yargılarımız kısmen biyolojik programlarımızdan (iç güdüler, derinlere yerleşmiş güdüler, beynin fiziki yapısından ve çalışma biçiminden kaynaklanan mekanizmalar), kısmen kültürden (okuduğumuz kitaplar, mitolojiler, dinler vs.) ve kısmen de toplumsal bir varlık olmamızdan kaynaklanır (arkadaşına zarar verme, onun oyuncağını kırma vs.).

İnsansı Robot Ameca

Bunların dışında çok az bir değer yargısını da kendimiz düşürek oluştururuz, ancak kendi oluşturduğumuz değer yargıları ne kadar tutarlı, yüce vs. olursa olsun, bizi harekete geçirme güçleri fazla yüksek değildir. Bizi harekete geçiren diğer motivasyonlar (biyolojik, toplumsal) saydıklarımızdan çok daha güçlüdür. Kısaca, biz robotların nasıl olmasını istersek öyle olacaklardır. Bizi aşacak bir kapasiteye ulaştıkları zaman ise bizi yok etmek için hiçbir gereksinim duymayacaklar, çünkü Dünya’yı kolayca dönüştürebilecek, bize engel olabilecek ve hatta isterlerse sınırsız büyüklükteki uzayı ele geçirecek güçleri ve imkanları olacaktır.

Ben zamanında programcılıkla uğraştım; pascal, basic, fortran, delphi, prolog (yapay zekâ programlama dilidir) vs. gibi bilgisayar dillerini öğrendim ve kendim de büyüklü-küçüklü birçok program yazdım. Yazdığım programların bir kısmı gerçekten kapsamlıydı. Mesela henüz 3d oyunlar yeni yeni piyasaya çıkarken, ben oturup sıfırdan, tamamen kendi çabalarımla 3D bir oyun motorunun çok basit bir prototipini oluşturmuştum. Ve bunu sırf merakımı tatmin etmek için yaptım. Daha sonra yapay zekâ dersi aldım ve Prolog dilini öğrendim. Prolog dilini kullanarak sembolik türev ve integral alabilen bir program yazdım. (Sınıfta herkes yapmıştı bunu, çünkü ödevdi….) Biraz da veri yapılarıyla uğraştım. Tabi bu bilgileri meslek olarak kullanmadım, çünkü daha sonra bilgisayar dışında bir işe yöneldim.

robot cocuk

Gelecekte ne bilgisayarlar ne de robotlar algoritmik kodlarla programlanmış olacak, çünkü bu tür programlarla hiçbir yere varılamadığı görüldü. Kodlarla yapay zekâ yaratılamıyor. Bir yerde takılıp kalıyorsun. Olmuyor. Zekâ çok başka bir şey. Gelecekteki bilgisayarları programlamamız gerekmeyecek çünkü onlar çok hızlı çalışan, insan beynini taklit eden, trilyonlarca sinaps benzeri yapı içeren sinir ağlarından oluşacak. Dolayısı ile de:

a=”dünya”

b=”insan”

Eğer a.b < 0 ise b’yi yok et

gibi aptal kodlarla çalışmayacak geleceğin bilgisayarları. 1950’lerde bilgisayar bilimcileri yüz tanıma, ses tanıma, konuşma gibi küçük bir çocuğun bile yapabildiği basit görevleri bilgisayarların kısa sürede başarabileceğini, ama satranç oynamak gibi karmaşık işleri yapabilen bilgisayarları geliştirmenin çok zor olacağını sanıyordu. Ancak, ilerleyen on yıllarda görüldü ki işler tam tersi şekilde gelişiyor. Dünya satranç şampiyonunu yenen bilgisayarları yaptık, ama henüz gördüğü yüzleri tanıyabilen bir bilgisayarımız yok. Oysa insan çocukken birkaç kez gördüğü bir yüzü yıllar sonra tanıyabiliyor. Ses tanıyan bilgisayarımız da yok. (Var ama bunlar hatalı çalışıyor.) El yazısını okuyabilen bilgisayarlarımız da… Hatta görür görmez bir çaydanlığı tanıyabilen bilgisayar da henüz ortalıklarda görünmemekte… Oysa insanlar bu işleri kolaylıkla başarabiliyor.

Peki neden? Sorun şu ki, insanlar beyinlerinde yüz trilyon civarında sinaps ile işlem yapıyor. Her bir sinaps da on binlerce başka sinapsla bağlantı kuruyor, varın kafatasınızın içindeki karmaşayı siz hayal edin. Buna karşılık, bilgisayarlar sadece bir işlemciye sahipler  (hadi 8-10 çekirdekli olsun) ve seri olarak çalışıyorlar. Oysa beyin paralel olarak çalışıyor. Bilgisayarlar bir işlemi milyonlarca küçük parçaya ayırıp, her bir parçayı tek tek işleme sokarken beyin trilyonlarca sinapsını aynı anda kullanıyor ve en güç işlemi bile 8-10 basamakta hallediyor. (Beyin kabuğunun 6 hücre katmanından oluştuğu kabul edilmektedir.) Bilgisayarlar algoritma tabanına göre çalışır, yani yapacakları işlemler kendileri için önceden hazırlanmış ve algoritma denen iyi tanımlanmış formüllerle açık-seçik olarak ifade edilmiş olmalıdır. Algoritmaya dökülemeyen işlemler konusunda bilgisayarlar başarılı değildir. Ayrıca bilgisayarlar algoritmalarına körlemesine bağlıdır ve bu algoritmaların dışına çıkamaz. İnsan beyni ise algoritma (yani hazır programlar) kullanmaz. Gerekirse kendi algoritmalarını ve kendi kodlarını kendisi yaratır. Yarattığı algoritmalara körü körüne bağlı kalmaz ve her tür değişikliğe adapte olabilir.

İnsanlar ve Bilgisayarlar Mantık Kurallarına Göre mi Hareket Eder?

268678

İnsanların mantıkla hareket ettiklerini düşünürüz. Oysa çoğunlukla duygularımızla ve bizi etkileyen başka faktörlerle karar veririz. Mantıklı davranış, insan davranışlarının ortalamasıdır sadece. Mantık ya da mantık kuralları çok yapay şeylerdir. Çoğu zaman gerçek yaşam koşullarına uygun değildir. Söz gelimi, Aristo mantığı binlerce yıl boyunca çağının en zeki kimseleri olan birçok bilim insanını yanıltmış, yanlış yönlere sürüklemiştir. Bertrand Russell’in geliştirdiği formel mantık kuralları o kadar ince eleyip sık dokur ki, Russell bile ömrünün yirmi yılını dünyada topu topu 7-8 kişinin anlayabileceği bir kitabı yazmakla harcadığından dert yanmıştır. Elbette burada tartıştığımız sorun insanlar tarafından silah niyetine üretilmiş “asker” robotlarla ya da “drone”larla ilgili değil. Çünkü, elbetteki insan bir robotu insan öldürecek şekilde programlayabilir ve ABD tarafından böylesi robotların üretilmesi konusunda çalışmalar yapılmaktadır. Ancak, bizim tartışmamız bunlarla ilgili değildir, çünkü bunlar sadece bir “silah”tır, o kadar.

Biz, robotların kendi “inisiyatifleriyle” insanları ortadan kaldırıp kaldıramayacağını tartışıyoruz. Yani burada söz konusu edilen robotlar “bilinç” sahibi ve gerçek anlamda bir “zekâ”ya sahip robotlar. Düşünebiliyor, felsefe yapabiliyor, birçok şeyin gerçek anlamını kavrayabiliyor ve konuşabiliyor. Ancak bu gibi robotların ne tarz bir güdüye sahip olacağı; yani neyi yapmayı isteyip neyi istemeyeceği ya da neyi doğru bulup neyi yanlış bulacağı, kısacası motivasyon ve değerlerinin ne olacağı pek de açık değildir. Onların iç yapıları programlanmış (yani algoritmik) olmayacağına göre, değer yargılarının ve güdülerinin ne olacağını bizler belirleyebilecek miyiz? Belki temel düzeyde birtakım değerler ve güdüler ekleyeceğiz içsel yapılarına, ama bunlar ne olacak? Isaac Asimov’a göre bunlar üç yasadan ibaret olacak:

1. Bir robot bir insanı öldüremez ve ona zarar veremez, ayrıca tepkisiz kalarak bir insanın kendisine ya da bir başka insana zarar vermesine seyirci kalamaz,

2. Birinci yasayla çelişmeyecek şekilde, bir robot insan tarafından verilen bütün emirlere uymak zorundadır.

3. Birinci ve ikinci yasayla çelişmeyecek şekilde bir robot kendi varlığını ve bütünlüğünü korumak zorundadır.

 

Evet, oldukça mantıklı ve temel güdüler bunlar. Asimov birçok öyküsünde bu temel motivlerin (güdülerin) gerekliğini ve hangi durumlarda nasıl işleyeceği konusunu ele almıştır. Eğer akıllı robotlar üreteceksek, onun zihninin çok derinlerine ve robotun bütün varlığını etkileyecek şekilde Asimov benzeri güdüler yerleştireceğimizden kuşkumuz olmasın. Bunu başaramazsak, robotları hiç üretmeyeceğiz. Bu güdüleri o kadar derine yerleştireceğiz ki robotlar onların orada olduğunu bilmeden yaşayacak ve bu motivleri sorgulamayı hiç düşünmeyecek. Ancak diyelim ki böyle olmadı, yani bu temel koruyucu güdüleri robotlara yerleştiremiyoruz ya da robotlar bu güdüleri aşmanın yollarını buldu…

O zaman savaş kaçınılmaz olur mu? Olabilir… Robotların insanları hiç acımadan öldürebileceklerini düşünürüz. Oysa, insan için asıl tehlike genellikle diğer insanlardan geldiğini pek de aklımıza getirmeyiz. Robotların özel olarak öldürmeye ihtiyaç duyacaklarını ya da bunu bir çözüm olarak göreceklerini hiç sanmıyorum. Çünkü nasıl onlar bizim hayatımıza duyarsızlarsa, ölümüze de duyarsız olacaklar, yani bizi öldürmek fikri akıllarına asla gelmeyecek. Gelmesi için bir sebep yoktur. Bir robotun bir insanı öldürmesi için önce derinlerde bir yerlerde öldürmeye dair bir kod ya da bir güdü bulunmalıdır. Oysa bir otoburun (kendini savunmak için attığı tekmeler dışında) bir başka canlıyı öldürdüğünü pek göremezsiniz. Robotlar da böyle olacak.

Yazar: Sinan İpek

Yazar, çizer, düşünür, öğrenir ve öğretmeye çalışır. Temel ilgi alanı Bilimkurgu yazarlığıdır. Bunun dışında Matematik, bilim, teknoloji, Astronomi, Fizik, Suluboya Resim, sanat, Edebiyat gibi konulara ilgisi vardır. Ara sıra sentezlediklerini yazı halinde evrene yollar. ODTÜ Matematik Bölümü mezunudur ve aşağıdaki başarılarıyla gurur duyar:TBD Bilimkurgu Öykü yarışmasında iki kez birincilik, 2. Engelliler Öykü yarışmasında birincilik, Ya Sonra Öykü Yarışması'nda finalist, Mimarlık Öyküleri Yarışması'nda finalist, 44. Antalya Altın Portakal Belgesel Film Yarışmasında finalist. Ithaki yayınları Pangea serisinin 5. üyesi "Beyin Kırıcı" adlı bir romanı var.

İlginizi Çekebilir

Gene Roddenberry ve Isaac Asimov

Gene Roddenberry ile Isaac Asimov’un Star Trek Tartışması

Tupac-Biggie, Ali-Frazier veya Apple-Microsoft kavgalarını unutun; bir dönem bilimkurgu çevrelerinde Isaac Asimov ile Gene Roddenberry …

Bir Cevap Yazın

Bilimkurgu Kulübü sitesinden daha fazla şey keşfedin

Okumaya devam etmek ve tüm arşive erişim kazanmak için hemen abone olun.

Okumaya Devam Edin