Yapay Zeka, Ahlak ve Bilimkurgu

Üst ahlak, süperzekaya sahip bir zihin tarafından geliştirilip kullanılan ahlak türüdür. Bu kavram tamamen kuramsaldır. Geliştirilene kadar, biz sadece süperzeka tarafından benimsenecek etik kuralları tahmin edebiliriz. Bu konu, özellikle Alan Turing’in Evrensel Makine’sinin icadı ile bilimkurgu alanında çokca işlenildi. Biz de bu vesileyle, üst ahlakın kullanıldığı bir kaç film ve edebiyat eserini inceleyelim dedik.

The Day the Earth Stood Still

the-day-the-earth-stood-still

Bilimkurgu sinemasının ilk klasiklerinden olan ve Harry Bates’in kısa hikayesinden uyarlanan The Day the Earth Stood Still, konu kapsamında ele alınabilecek ilk filmlerden biri. İnsana benzeyen uzaylı bir elçi olan Klaatu, uçan daire ile Washington D.C’ye varıyor. Tehdit olabilecek her şeyi bir lazer kullanarak yok eden göz korkutucu robot Gort da ona eşlik ediyor. Klaatu Amerikalı bir asker tarafından vurulduğunda, Gort derhal etraftaki tüm silahları parçalara ayırıyor ama askerlere dokunmuyor. Klaatu hastaneye kaldırılıyor ve Birleşik Devletler tarafından alıkonuluyor. Kendini iyileştirip oradan kaçıyor fakat daha sonra Amerikan ordusu tarafından yakalanıp öldürülüyor. Gort, Klaatu’nun ölü bedenini alıp uzay gemisine geri götürüyor ve Klaatu orada tekrar canlanıyor.

Kapanış sahnesinde Klaatu, Dünya’ya ziyaretinin sebebini açıklıyor: Birleşmiş Gezegenler hükümeti tarafından barışı korumak amacı ile gönderilmiştir. Bu plan doğrultusunda üstün ve güçlü bir robot ırkı yaratılmıştır. Böylelikle, gezegenlerarası topluluğa karşı tehdit oluşturabilecek her türlü unsur yok ediliyordu. Hatta kurallara uymayan gezegenlerde soykırım bile yapılıyordu. Gort, yaratılan üstün robotlardan bir tanesiydi ve Dünya’yı yok etme gücüne sahipti. İnsan ırkına bir ultimatum vermişlerdi: Ya barışın, ya da yok olun!

Robotların politikaları hakkında fazla detay verilmese de, konudan şu çıkarımı yapmak mümkün: Efendileri robotlara emirler yağdırmıyordu ve robotlar da sadece gerektiği zaman müdahale ediyorlardı. Kendi ırkları içinde savaş ve vahşet kesinlikle yasaktı. Suçu işleyen topluluk yok edilerek problemler çözülmüş oluyordu. Onlar için her şeyden önce barış ve güvenlik geliyordu. Filmde ayrıca adalet ve bireysel haklara da vurgu yapılıyordu.

Colossus: The Forbin Project

Colossus The Forbin Project

D.F. Jones’un 1966 yılında yayınlanan eseri, 1970 yılında ‘’Colossus: The Forbin Project’’ ismi ile orjinal hikayeye büyük oranda sadık kalınan bir film olarak karşımıza çıktı. Soğuk savaşın eşiğinde, Amerika devleti Colossus adında bir süperbilgisayar yaratıyor. Bu bilgisayar Amerika’nın nükleer silahları için tam kontrol sağlıyor. Sadece ve sadece hisleri olmayan, süperzekaya sahip bir makinenin, nükleer kriz sırasında insanlığı koruyabilmek için en uygun kararları verebileceğine inanıldığı için böyle bir bilgisayar icat ediliyor.

Colossus, çalışmaya başladıktan kısa bir süre sonra Sovyetler Birliği’nin aynı amaç için icat ettiği Guardian süperbilgisayarını keşfediyor. Daha sonra Colossus ve Guardian birbirleri ile iletişime geçiyorlar ve hızla birleşip tek bir zihin oluşturuyorlar. Bu zihin öyle bir seviyeye geliyor ki, süperbilgisayarları tasarlayanların beklentilerinin kat ve kat üstüne çıkıyor. Tek bir varlık haline gelen Colossus ve Guardian, Amerika ve Sovyet hükümetlerine taleplerde bulunmaya başlıyor. Talepleri karşılanmayınca milyonları öldürecek olan roketleri fırlatıyorlar. Makineleri durdurmak için birkaç sabotaj düzenleniyor, fakat Colossus insanların yapacağı her hareketi önceden tahmin ediyor ve bu işte parmağı olanları öldürtüyor.

Tüm girişimler sonuçsuz kalınca makinelerin hükmü açıkça anlaşılıyor. Colossus tüm dünyaya yayın yoluyla mesaj yolluyor. Kendini tek hükmedici ilan ediyor ve buna karşı çıkan herkesi yok etme tehditinde bulunuyor. Ayrıca yaptığı tüm şeylerin yaratılma amacına uygun olduğunu söylüyor: İnsanlığı korumak… Savaşı ve yoksulluğu bitireceğine söz veriyor ve zamanla insanların onu saygı ve sevgiyle anacağını belirtiyor.

Çoğulcu menfaat, herkesin iyiliği için mi?

yapay zeka

Her iki örnekte de, makine efendileri ileri düzeyde faydalıcılığı benimsiyor. Hareketlerini, olabildiğince çok insanın menfaatine uygun olacak şekilde hesaplıyorlar. Bunu, süper zekanın etik olarak düşünebilmesinin olası bir sonucu olarak görebiliriz. Çünkü bilgisayarlar, en azından bizim zamanımızdakiler, algoritmik bir yaradılışa sahipler, buradan da bir süperbilgisayarın etik bir ilke benimsemeyebilmesinin mantıklı olacağını düşünebiliriz.

Durum böyle de olabilir, başka türlü de. Barışın adalet üzerine üstün olabilmesi olasılıklardan sadece biri. Böyle bir konu daha geniş çaplı bir araştırma ve müzakere gerektiriyor.

Ayrıca şunu da göz önünde bulundurmalıyız: Süperzeka kendi başına bir gerçeklik değildir…

Çeviren: Burak Avcı | Yazan: Marc André McAllister

Yazar: Konuk Yazar

Bu içerik bir konuk yazar tarafından üretilmiştir. Siz de sitemizin konuk yazarlarından biri olabilirsiniz. Yapmanız gereken tek şey, kaleme aldığınız bilimkurgu temalı makale ve öykülerinizi bilimkurgukulubu@gmail.com adresine göndermek. Editör onayından geçen yazılarınız burada yayımlanıp binlerce okurun beğenisine sunulacaktır. Gelin bu arşivi birlikte büyütelim...

İlginizi Çekebilir

farscape ka d'argo 1

Farscape’in Asabi Komutanı: Ka D’Argo

“Sevdiğiniz her şeyi kaybettiğinizde onurlu bir hayat yaşamak zordur.” 1999-2003 yılları arasında ekranlara gelen Farscape, …

Bir Cevap Yazın

Bilimkurgu Kulübü sitesinden daha fazla şey keşfedin

Okumaya devam etmek ve tüm arşive erişim kazanmak için hemen abone olun.

Okumaya Devam Edin