bilimkurgu kulubu

Bilim & Teknoloji

Tarih: 13 Mayıs 2015 | Yazar: Sinan İpek

0

Robotlar Bir Gün Dünya’ya Hakim Olacak Mı?

Ya da yapay zeka nedir? Bize nasıl bir gelecek vaat ediyor? Yapay zeka insanın yerini alabilir mi? Bilgisayarlar birgün bilinç kazanacaklar mı?

Bu ve bunun gibi soruları yanıtlamak “Evrende Yalnız mıyız?”, “Yaşam Nasıl başladı?”, “Herkes renkleri aynı şekilde mi gürür?” ya da “Tanrı var mı?” türünden, henüz tam olarak yanıtlanamamış sorulara birer örnek teşkil eder. Ancak bu sorularla karşılaştığımızda söyleyecek hiç bir şeyimiz yoktur demek de haksızlık olur. Elbette filozoflar, fizikçiler, matematikçiler, nörologlar ve bilgisayar bilimciler özellikle de son 60 yıldır bu konuda fikirler ileri sürmekte, tartışmalar yapmaktadırlar. Ben de (naçizane) bu soruyla gerek programcılık düzeyinde gerekse de popüler düzeyde  ilgilenmiş bir kişi olarak ve bu konularla şimdi açıklayamayacağım özel bir sebepten dolayı normal bir insandan çok daha fazla haşır neşir olmuş biri sıfatıyla yanıt vermeye çalışacağım. Gelgelelim, henüz bu soruları nihai biçimde yanıtlamış hiç kimse yoktur. Sadece bu konuda kafa patlatmış kişiler vardır. Daha fazla ilerlemeden önce başlıktaki soruyu hemen yanıtlayayım: Evet, robotlar bir gün dünyaya hakim olacaklar ve hatta olmaya başladılar bile!… Bu sorunun akla getirdiği diğer soruyu da yanıtlayayım: Robotlar insan ırkını yok edecekler mi? Ya da insanlarla savaşacaklar mı? Bunun da yanıtını hemen vereyim: Hayır, hiç bir zaman bir robot insan savaşı çıkmayacak… Eğer çıksaydı, yani bizimle savaşacak kadar gelişmiş robotlarımız olsaydı, bu savaşta kazanma şansımız pek de olmazdı, ama şükür ki böyle bir savaş hiç bir zaman olmayacak; çünkü buna gerek kalmayacak. Gelecek konusunda düşünmeyi bilen herhangi birisi böyle bir savaşın olması riskinin çok düşük olduğunu hemen görebilir. Bunun psikolojik, sosyolojik, ekonomik ve kültürel sebepleri vardır. Ama ben en bariz sebebini hemen söyleyeyim: Robotlar insanlarla savaşmazlar çünkü böylesi bir savaşta ellerine geçecek hiç bir pozitif kazanım yoktur. Robotlar için dünya bir anlam ifade etmez. Dünyayı ele geçirmek gibi bir güdüleri de olamaz, daha sonra açıklayacağım sebeplerden dolayı her şeyin sahibi olma motivasyonu robotlarda bulunmayacaktır. İkincisi, robotlar insanı hiç bir zaman bir “rakip” olarak görmeyecekler. Robotlar için koskoca bir uzay boşluğu vardır ve uzay boşluğuna insanlar yerleşemezler… Oysa uzay boşluğunda robotlar rahatlıkla hayatta kalabilir ve her istediklerini bolca elde edebilirler… Dolayısıyla robotların insanları Dünya’dan silmek gibi bir işe girişmelerine gerek olmayacaktır.

b6c54ccdfdccac771da13b54a50e6f87

Güdüleme Sorunu: İnsan davranışlarının altında genellikle güçlü güdüler yatar. Yani davranışlarımızı yöneten, bizi bir takım eylemlere iten güçler… Açlık, susuzluk, cinsellik, kıskançlık, genlerinin üstünlüğünü gösterme gereksinimi (ki altında cinsellik yatar) gibi… Bilimkurgunun pek sevdiği robot-insan savaşı teması bütünüyle bir klişedir. Neden bütün robotlar katil olmak, öldürmek istesin ki? Öldürme güdüsü insanların evrimsel geçmişinden kaynaklanan derinlere işlemiş bir motivasyondur. Av için, savunma için, genlerinin üstünlük savaşı için canlıların zaman zaman birbirini öldürmesi gerekir, bu nedenle öldürme duygusu beyinde çok derinlere kodlanmış bulunmaktadır. Ancak otçullarda bu kod çok daha derinlerdedir ve sadece savunma amacıyla açığa çıkar. Bir ineğin durup dururken adam öldürdüğünü gördünüz mü? O halde robotlar niye öldürsün? Robotlarla ilgili bilimkurgu senaristlerinin akıllarına tek gelen “bir gün robotlar akıllanıp bizi öldürürlerse ne yaparız?” fikrinden başka bir şey yoktur genellikle. Oysa benim görüşüme göre bir robotun öldürmemesi için değil, tersine öldürmesi için duygulara sahip olması gerekir. Bir başka klişe de aşırı derecede akıllı bir robotun insan türünün Dünya’ya zarar verdiğini, bu nedenle ortadan kaldırılması gerektiğine mantıken karar verebileceğidir. Gelgelelim, robotların bizim Dünya’ya zarar verdiğimize karar vermesi için önce bir takım değer yargılarının oluşması gerekir. Dünya iyi, insan kötü gibi. Oysa bizim bütün değer yargılarımız kısmen biyolojik programlarımızdan (iç güdüler, derinlere yerleşmiş güdüler, beynin fiziki yapısından ve çalışma biçiminden kaynaklanan mekanizmalar), kısmen kültürden (okuduğumuz kitaplar, mitolojiler, dinler vs.) ve kısmen de toplumsal bir varlık olmamızdan kaynaklanır (arkadaşına zarar verme, onun oyuncağını kırma vs.). Bunların dışında çok az bir değer yargısını da kendimiz düşürek oluştururuz, ancak kendi oluşturduğumuz değer yargıları ne kadar tutarlı, yüce vs. olursa olsun, bizi harekete geçirme güçleri fazla yüksek değildir. Bizi harekete geçiren diğer motivasyonlar (biyolojik, toplumsal) diğerlerinden çok daha güçlüdür. Kısaca, biz robotların nasıl olmasını istersek öyle olacaklardır. Bizi aşacak bir kapasiyeteye ulaştıkları zaman ise bizi yok etmek için hiç bir gereksinim duymayacaklar, çünkü Dünya’yı kolayca dönüştürebilecek, bize engel olabilecek ve hatta isterlerse sınırsız büyüklükteki uzayı ele geçirecek güçleri ve imkanları olacaktır.

Ben zamanında programcılıkla uğraştım; pascal, basic, fortran, delphi, prolog (yapay zeka programlama dilidir) vs. gibi bilgisayar dillerini öğrendim ve kendim de büyüklü küçüklü bir çok program yazdım. Yazdığım programların bir kısmı gerçekten kapsamlıydı. Mesela henüz 3d oyunlar yeni yeni piyasaya çıkarken, ben oturup sıfırdan, tamamen kendi çabalarımla 3D bir oyun motorunun çok basit bir prototipini oluşturmuştum. Ve bunu sırf merakımı tatmin etmek için yaptım. Daha sonra yapay zeka dersi aldım ve Prolog dilini öğrendim. Prolog dilini kullanarak sembolik türev ve integral alabilen bir program yazdım. (Sınıfta herkes yapmıştı bunu, çünkü ödevdi….) Biraz da veri yapılarıyla uğraştım. Tabi bu bilgileri meslek olarak kullanmadım, çünkü daha sonra bilgisayar dışında bir işe yöneldim. Şu kadarını söyleyebilirim. Gelecekte ne bilgisayarlar ne robotlar kesinlikle algoritmik kodlarla programlanmış olmayacak, çünkü bu tür programlarla hiç bir yere varılamadığı görüldü. Kodlarla yapay zeka yaratılamıyor. Bir yerde takılıp kalıyorsun. Olmuyor. Zeka çok başka bir şey. Gelecekteki bilgisayarları programlamamız gerekmeyecek çünkü onlar çok hızlı çalışan, insan beyninin taklit eden, trilyonlarca sinaps benzeri yapı içeren sinir ağlarından oluşacaklar. Dolayısı ile de:

a=”dünya”

b=”insan”

Eğer a.b < 0 ise b’yi yok et

gibi aptal kodlarla çalışmayacak geleceğin bilgisayarları. 1950’lerde bilgisayar bilimcileri yüz tanıma, ses tanıma, konuşma gibi küçük bir çocuğun bile yapabildiği basit görevleri bilgisayarların kısa sürede başarabileceğini, ama satranç oynamak gibi karmaşık işleri yapabilen bilgisayarları geliştirmenin çok zor olacağını sanıyorlardı. Ancak, ilerleyen on yıllarda görüldü ki işler tam tersi şekilde gelişiyor. Dünya satranç şampiyonunu yenen bilgisayarları yaptık, ama henüz gördüğü yüzleri tanıyabilen bir bilgisayarımız yok. Oysa insan çocukken bir kaç kez gördüğü bir yüzü yıllar sonra tanıyabiliyor.

Ses tanıyan bilgisayarımız da yok. (Var ama bunlar hatalı çalışıyorlar.) El yazısını okuyabilen bilgisayarlarımız da… Hatta görür görmez bir çaydanlığı tanıyabilen bir bilgisayar da henüz ortalıklarda görünmemekte… Oysa insanlar bu işleri kolaylıkla başarabiliyor.

Peki neden? Sorun şu ki, insanlar beyinlerinde yüz trilyon civarında sinaps ile işlem yapıyorlar. Her bir sinaps da onbinlerce başka sinapsla bağlantı kuruyor, varın kafatasınızın içindeki karmaşayı siz hayal edin. Buna karşılık, bilgisayarlar sadece bir işlemciye sahipler  (hadi 8-10 çekirdekli olsun) ve seri olarak çalışıyorlar. Oysa beyin paralel olarak çalışıyor. Bilgisayarlar bir işlemi milyonlarca küçük parçaya ayırıp, her bir parçayı tek tek işleme sokarken beyin trilyonlarca sinapsını aynı anda kullanıyor ve en güç işlemi bile 8-10 basamakta hallediyor. (Beyin kabuğunun 6 hücre katmanından oluştuğu kabul edilmektedir.) Bilgisayarlar algoritma tabanına göre çalışırlar yani yapacakları işlemler kendileri için önceden hazırlanmış ve algoritma denen iyi tanımlanmış formüllerle açık-seçik olarak ifade edilmiş olmalıdır. Algoritmaya dökülemeyen işlemler konusunda bilgisayarlar başarılı değildir. Ayrıca bilgisayarlar algoritmalarına körlemesine bağlıdır ve bu algoritmaların dışına çıkamazlar. İnsan beyni ise algoritma (yani hazır programlar) kullanmaz. Gerekirse kendi algoritmalarını ve kendi kodlarını kendisi yaratır. Yarattığı algoritmalara körü körüne bağlı kalmaz ve her tür değişikliğe adapte olabilir.

268678

İnsanlar ve Bilgisayarlar Mantık Kurallarına Göre mi Hareket Ederler? İnsanların mantıkla hareket ettiklerini düşünürüz. Oysa çoğunlukla duygularımızla ve bizi etkileyen başka faktörlerle karar veririz. Mantıklı davranış, insan davranışlarının ortalamasıdır sadece. Mantık ya da mantık kuralları çok yapay şeylerdir. Çoğu zaman gerçek yaşam koşullarına uygun değildir. Söz gelimi Aristo mantığı binlerce yıl boyunca çağının en zeki kimseleri olan bir çok bilim insanını yanıltmış, yanlış yönlere sürüklemiştir. Bertrand Russell’in geliştirdiği formel mantık kuralları o kadar ince eleyip sık dokur ki Russell bile ömrünün yirmi yılını dünyada topu topu 7-8 kişinin anlayabileceği bir kitabı yazmakla harcadığından dert yanmıştır. Elbette burada tartıştığımız sorun insanlar tarafından silah niyetine üretilmiş “asker” robotlarla ya da “drone”larla ilgili değil. Çünkü, elbetteki insan bir robotu insan öldürecek şekilde programlayabilir ve ABD tarafından böylesi robotların üretilmesi konusunda çalışmalar yapılmaktadır. Ancak, bizim tartışmamız bunlarla ilgili değildir, çünkü bunlar sadece bir “silah”tır, o kadar. Biz, robotların kendi “inisiyatifleriyle” insanları ortadan kaldırıp kaldıramayacağını tartışıyoruz. Yani burada söz konusu edilen robotlar “bilinç” sahibi ve gerçek anlamda bir “zeka”ya sahip robotlar. Düşünebiliyor, felsefe yapabiliyor, bir çok şeyin gerçek anlamını kavrayabiliyor ve konuşabiliyorlar. Ancak bu gibi robotların ne gibi bir güdüye sahip olacaklarını; yani neyi yapmayı isteyip, neyi istemeyeceklerini, ya da neyi doğru bulup neyi yanlış bulacaklarını, kısacası motivasyon ve değerlerinin ne olacağı pek de açık değildir. Onların iç yapıları programlanmış (yani algoritmik) olmayacağına göre, değer yargılarının ve güdülerinin ne olacağını bizler belirleyebilecek miyiz? Belki temel düzeyde bir takım değerler ve güdüler ekleyeceğiz içsel yapılarına, ama bunlar ne olacak? Isaac Asimov’a göre bunlar üç yasadan ibaret olacak:

1. Bir robot bir insanı öldüremez ve ona zarar veremez, ayrıca tepkisiz kalarak bir insanın kendisine ya da bir başka insana zarar vermesine seyirci kalamaz,

2. Birinci yasayla çelişmeyecek şekilde, bir robot insan tarafından verilen bütün emirlere uymak zorundadır.

3. Birinci ve ikinci yasayla çelişmeyecek şekilde bir robot kendi varlığını ve bütünlüğünü korumak zorundadır.

nr-the-deal-pic

Evet, oldukça mantıklı ve temel güdüler bunlar. Asimov bir çok öyküsünde bu temel motivlerin (güdülerin) gerekliğini ve hangi durumlarda nasıl işleyeceği konusunu ele almıştır. Eğer akıllı robotlar üreteceksek, onun zihninin çok derinlerine ve robotun bütün varlığını etkileyecek şekilde Asimov benzeri güdüler yerleştireceğimizden kuşkumuz olmasın. Bunu başaramazsak, robotları hiç üretmeyeceğiz. Bu güdüleri o kadar derine yerleştireceğiz ki robotlar onların orada olduğunu bilmeden yaşayacaklar ve bu motivleri sorgulamayı hiç düşünmeyecekler. Ancak diyelim ki böyle olmadı, yani bu temel koruyucu güdüleri robotlara yerleştiremiyoruz ya da robotlar bu güdüleri aşmanın yollarını buldular… O zaman savaş kaçınılmaz olur mu? Olabilir… Robotların insanları hiç acımadan öldürebileceklerini düşünürüz. Oysa, insan için asıl tehlike genellikle diğer insanlardan geldiğini pek de aklımıza getirmeyiz. Robotların özel olarak öldürmeye ihtiyaç duyacaklarını ya da bunu bir çözüm olarak göreceklerini hiç sanmıyorum. Çünkü nasıl onlar bizim hayatımıza duyarsızlarsa, ölümüze de duyarsız olacaklar, yani bizi öldürmek fikri akıllarına asla gelmeyecek. Gelmesi için bir sebep yoktur. Bir robotun bir insanı öldürmesi için önce derinlerde bir yerlerde öldürmeye dair bir kod ya da bir güdü bulunmalıdır. Oysa tıpkı otoburun (kendini savunmak için attığı tekmeler dışında) bir başka canlıyı öldürdüğünü hiç bir zaman asla göremezsiniz. Robotlar da böyle olacaklar.

Etiketler: , , , , , , , , , , , , , , , , , , , , ,


Yazar Hakkında

Yazar, çizer, düşünür, öğrenir ve öğretmeye çalışır. Temel ilgi alanı Bilimkurgu yazarlığıdır. Bunun dışında Matematik, bilim, teknoloji, Astronomi, Fizik, Suluboya Resim, sanat, Edebiyat gibi konulara ilgisi vardır. Ara sıra sentezlediklerini yazı halinde evrene yollar. ODTÜ Matematik Bölümü mezunudur ve aşağıdaki başarılarıyla gurur duyar:TBD Bilimkurgu Öykü yarışmasında iki kez birincilik, 2. Engelliler Öykü yarışmasında birincilik, Ya Sonra Öykü Yarışması'nda finalist, Mimarlık Öyküleri Yarışması'nda finalist, 44. Antalya Altın Portakal Belgesel Film Yarışmasında finalist. Ithaki yayınları Pangea serisinin 5. üyesi "Beyin Kırıcı" adlı bir romanı var. https://www.ilknokta.com/sinan-ipek/beyin-kirici.htm