Yapay Zekâyı Stanislaw Lem ile Yeniden Düşünmek

Polonyalı bilimkurgu dehası Stanislaw Lem’i çoğunlukla felsefi bilimkurgu romanlarıyla tanırız. Oysa kendisinin tıp, gelecek bilim, dilbilim ve edebiyat başta olmak üzere pek çok alanda makale ve denemeleri vardır. Örneğin, 1964 yılında yayımlanan ve ismiyle Thomas Aquinas’ın meşhur Summa Theologiae’sine gönderme yapan Summa Technologiae, Lem’in insanlık ve teknolojinin evrimine dair felsefi görüşlerini içeren makalelerinden oluşur. “Buranın ve şimdinin geçiciliğinde kaybolmuş olanlar her ne kadar uygunsuz bulsa da,” der Lem bu eserinde, “biz gelecekten konuşacağız.”

Yaşamı boyunca hep gelecekten konuşan Lem, 2006 yılında, seksen dört yaşındayken bizlere veda etmiştir ve kendisi muhtemelen Amerika Birleşik Devletleri’nde en az okunan bilimkurgu yazarıdır. Eserleri şimdiye dek kırktan fazla dile çevrilmiş, kitaplarının milyonlarca kopyası basılmıştır ama yine de yüz okura sorsanız içlerinden en fazla iki üç tanesi Lem’in kim olduğunu bilecektir. Örneğin, ABD’deki en ünlü eseri 1961 tarihli Solaris romanıdır ki bu ünün kaynağı da hiç şüphesiz Andrei Tarkovsky’nin karamsar film uyarlamasıdır. Oysa Stanislaw Lem bundan çok daha fazlasıdır.

Lem’in kurgusal dünyası, bugün günlük yaşamımızın parçası olarak görülse de yazıldığı yıllarda hayal ürünü sayılabilecek icatlarla doludur. Onun yarattığı dünyalarda kullanıcısına alternatif bir gerçekliğin olağanüstü derecede canlı görüntülerini veren bir makine vardır mesela. Ya da kitap okuyabileceğiniz elektronik bir cihaz olan opton, hatta insanlığın bilebildiği her şey hakkında bilgi içeren ve kullanıcıların kendisinden ayrılmakta zorluk çektikleri bir bilgisayar ağı. Bugünkü isimleriyle sanal gerçeklik, e-kitap okuyucular ve internet. İşte tüm bunlar Lem’in kehanetleriydi. Biz peygamberi unutmuş olsak da kehanetler bizi unutmadı.

Lem, zekâsı yaratıcılarınınkini aşan makineler hakkında da çok sayıda hikâye yazdı. Yani yapay zekâ hakkında. OpenAI, ChatGPT’yi piyasaya sürdüğünde ilk tepkim şu olmuştu: Ne kadar eğlenceli bir oyuncak! Eğlencesi bir yana, ChatGPT’nin yazdığı şiirler de çok etkileyiciydi. Aynı zamanda bu oyuncak, “uzaktan okumanın” da ilginç bir biçimi gibi görünüyordu çünkü internetten muazzam miktarda metne erişebiliyordu. Açıkçası böyle bir aracın insan yazarların yerini alabileceği fikri beni pek de rahatsız etmemişti. Yazarların yazmak yerine sanat terapistliği ya da matematik öğretmenliği yapmaları fikri o kadar da kötü gelmemişti. Fakat sonra farkına vardım ki ben de tıpkı bir yapay zekâ gibi “çok da önemli değil” şeklinde düşünmeye programlanmış olabilirdim.

Yapay zekâyla ilgili biraz okuma yaptıktan sonra şunu düşündüm: Radyonun Hitler’i, matbaanın Martin Luther’i başarıya kavuşturması gibi ChatGPT ve onun yapay zekâ kuzenleri de insanlığı daha yukarıya taşıyabilirdi. Ancak yapay zekânın atası olarak bilinen Geoffrey Hinton, Google’daki pozisyonundan istifa etti ve yarattığı şeyden ötürü büyük bir pişmanlık duyan Victor Frankenstein misali, yaratımı hakkında ters gidebilecek şeyler üzerine endişe verici açıklamalar yaptı. Bu endişelerin yersiz olduğunu düşünen bilim insanları da vardı; onları son derece korkutucu bulanlar da. Bense Stanislaw Lem’in ne düşüneceğini merak ediyorum. Aslında ne “düşündüğünü” demeliyim. Zira Lem bunun geleceğini görmüştü. Stanislaw Lem, modern dünyamızın pek çok yönünü son derece doğru bir şekilde öngörmüş ve bu öngörüler üzerinden sağlam tahlillerde bulunmuştu.

Lem genç bir adamken Polonya’da, Nazilerin yönetimindeki bir atık ayrıştırma şirketinde otomobil tamircisi olarak çalıştı. Aynı sıralarda haftalık bir Katolik dergisi için şiirler yazıyor ve tıp okuluna gidiyordu ancak askerlikten kaçmak için mezun olmayı erteliyordu ki bu da annesinin hiç affetmediği bir şeydi. Lem’in ailesi Yahudi’ydi ve bu durum, varoluşsal bir soruna dönüşünceye dek Lem için çok da önem teşkil etmemişti. (“Ne yazık ki ne Musa hakkında ne de Yahudi kültürü hakkında bir şey biliyordum,” diye yazmıştı Lem.)

Lem’in çekirdek ailesi dışında neredeyse tüm yakınları Naziler tarafından öldürüldü. Lem ve en yakınları ise sahte kimlik belgeleri sayesinde hayatta kaldılar. Başkalarıymış gibi yaparak… Fakat hayatta kalmaya devam etmek Lem ailesi için hiç de kolay olmadı. Zira aile yoksullaşmıştı. Dahası Lem’in erken dönem romanları sansüre tabi tutuluyordu. 1982 yılında Polonya sıkıyönetim altına girdikten sonra Lem, Krakow’daki evinden ayrılmak zorunda kaldı. Önce Batı Berlin’e, ardından da Viyana’ya gitti. Şanslıyız ki Lem yaşamı boyunca böyle bir yığın cehennemden sağ kurtulup sayısız kitap yazdı. İyi bir Lem okuru, romanlarındaki bilimkurgu maskesinin ardında, insanın karanlık tarafına ve gerçek dünyanın acımasızlığına dair pek çok şey görecektir. Ancak bu Lem’in tarzının ciddi ve karanlık olduğunu düşündürmesin.

Lem’in en ünlü eseri Solaris de çoğunlukla ciddi bir üsluba sahiptir ve bu da romanı Lem’in çalışmalarının yanıltıcı bir örneği hâline getirir. Lem’le ilgili bildiğiniz tek şey Solaris ise onu asla gerçekten tanıyamazsınız. Zira Lem’in ayırt edici özelliklerinden biri mizah konusundaki olağanüstü yeteneğidir. Tüm o trajik yaşam öyküsüne rağmen Lem komik ve çılgın bir yazardır. Bilhassa kelime oyunları konusunda tam bir ustadır. Üstelik kelimelerle sadece oynamamış, yeni kelimeler de yaratmıştır. 2006 yılında Polonya’da yayımlanan yeni sözcükler sözlüğünde Lem’le ilgili neredeyse bin beş yüz madde vardır. Örneğin, Imitology, fripple, scrooch, geekling, deceptorite ve marshmucker Lem’in icat ettiği, İngilizceye çevrilen bazı kelimelerdir. Bu kelimeleri Türkçeye çevirmeyi denersek, taklitbilim, cılız, yamuk, ineklemek, aldatmacacı, çamuryiyici gibi karşılıklar bulabiliriz. Belki. Çok da emin değilim. Açıkçası Lem’i tercüme etmeye çalışmak, diferansiyel cebirin ya da kategori teorisinin edebi eşdeğeri sayılabilir.

Lem’in 1965 yılında yayımlanan ve acayip makineler icat ederek (mesela N harfiyle başlayan her şeyi üretebilen bir makine gibi) galaksiyi dolaşan iki mühendisin maceralarını anlatan öykü koleksiyonu The Cyberiad’da (Siberya), İlk Sally (A) ya da Trurl’un Elektronik Ozanı isimli bir öykü vardır. Bu öyküde, bütün koleksiyonun ana kahramanlarından olan mühendis Trurl, şiir yazabilen bir makine icat eder. Yani bir elektronik ozan. Sizce de bu elektronik ozan fikri ChatGPT’ye benzemiyor mu? Şimdiye dek yaşamış olan her şairin tarzında yazabilecek olan bir şair? Evet, bu ChatGPT’nin ta kendisi! Fakat bu ozanı yaratmak Trurl gibi deneyimli bir mühendis için bile zordur.

Trurl, makine-şairini programlamak için “on iki bin ton güzel şiir” okur fakat sonra bunun yetersiz olduğuna karar verir. Bir süre sonra, ortalama bir şairin kafasının içindeki programın aslında şairin içinde yaşayıp büyüdüğü medeniyet tarafından yazıldığını fark eder. Yani, bir şairin düşünceleri ve yaratıcılığının, içinde bulunduğu toplumun kültürel, tarihsel ve sosyal yapısından beslendiğini anlar. Trurl daha da ileri giderek söz konusu medeniyetin de kendinden önceki medeniyetler tarafından programlanmış olduğunu görür. Bu zincir böylece zamanın başlangıcına dek devam etmektedir. Sonuç olarak Trurl’la birlikte ortalama bir şair yaratmanın ardındaki korkutucu karmaşayı görürüz. Fakat Trurl tüm bu karmaşayla başa çıkmayı becerir.

Makinesi hata verdiğinde (örneğin, esasında Habil’in Kabil’i öldürdüğünü söylediğinde ya da “great apes” sözcüklerini “gray drapes” olarak algılayıp gri örtülerin primat ailesi üyeleri olduklarını iddia ettiğinde) Trurl gerekli ayarlamaları yapıp makinesinin yanlışlarını düzeltir. Makine yazamayacak kadar “üzgün” olduğunda ya da bir misyoner olmaya karar verdiğinde Trurl yaratımının mantık devrelerini ve duygusal bileşenlerini yeni baştan düzenler. Ardından makineye felsefi kontrol mekanizması olarak bir “klişe filtresi” ekler ki bu da makinenin klişe ifadeleri tanıyıp filtreleyerek daha orijinal ve etkili fikirler üretmesini sağlar. Son ve en önemli eklenti de makinenin narsistik davranışlarını düzenlemesini sağlayan kontrol mekanizmasıdır. Böylece Trurl gayet iyi çalışan bir elektronik ozan yaratmış olur. Trurl’un makinesi artık sıradan bir saç kesimi hakkında bile son derece lirik ve trajik bir şiir yazabilecek ya da bir aşk şiirini matematiksel dille ifade edebilecek durumdadır. Fakat elbette bütün hikâyelerde olduğu (olması gerektiği gibi) bir şeyler ters gider.

Trurl’un elektronik ozanı toplumda infiale sebep olur ve mühendisin başını belaya sokar. Böylece Trurl, elektronik ozanı yok etmeye karar verir. Ancak mühendisin elindeki penseyi gören makine o kadar etkileyici bir şekilde merhamet dilenir ki mühendis gözyaşlarına boğulur. Sonuç olarak yaratıcısı, mükemmel bir biçimde konuşan makinesini bağışlar ve onu uzaktaki bir asteroide gönderir. Elektronik ozan orada da rahat durmaz ve şiirlerini radyo dalgaları aracılığıyla yayımlayıp epeyce de meşhur olur. Görüleceği gibi Lem’in bu öyküsü, teknolojinin tehlikeleri üzerine kurulu değildir. Daha çok insanların kibrini ve yıkıcılığını ele alan bir öyküdür.

Lem, insanların yaratıcı çalışmalarını fersah fersah geride bırakabilecek bir makine fikrinden korkmamış ya da böyle bir fikirle gurur duymamıştı. Lem’in böyle kaygıları yoktu. O sadece yazıyor ve her seferinde bir öncekinden daha iyi yazmaya çalışıyordu. İlk bilimkurgu romanı Astronotlar (1951) için “çok kötü” diyordu örneğin. İkinci bilimkurgu romanı içinse “ilkinden bile daha kötü” demişti. Lem’in yazma serüveni epey ilginçti. Çoğu zaman devlet sansüründen kaçma çabasının rehberliğinde bir tarzdan öbürüne geçiyordu ve sansür engeline takılmamaya çalışırken epey yaratıcı fikirler ortaya çıkarıyordu. Çalışmaları bazen çok gerçekçi, bazen çok absürt olabiliyordu. Yapmadan duramadığı kelime oyunları imalarla doluydu. Bazen de söylemek istediğini basitçe, dümdüz söyleyiverirdi. Lem, hayatta kalabilmek için programını defalarca güncelleyip değiştirmek zorunda kalmış bir hikâye anlatma makinesi gibiydi.

Lem’in çağdaşları içinde böylesi aşkın bir hayal gücüne sahip olan ya da kehanetler bildiren başka bir bilimkurgu yazarı var mı? Belki Philip K. Dick’ten bahsedilebilir. Dick, insanlarla makineler arasındaki yumuşak sınır üzerine epeyce ve derince düşünmüş bir yazardı. Yakın zamanda Androidler Elektrikli Koyun Düşler mi? adlı romanını bir kez daha okudum ve kimin android kimin insan olduğu konusunda hâlâ kararsız hissettiğimi fark ettim. Hayatını android avlayarak kazanan ödül avcısı Rick Deckard muhtemelen bir android. Fakat bu hikâyede önemli olan bu değil. Zaten romanın en büyük başarısı, okuyucuyu kimin insan olduğuna dair o kaygı ve paranoya hâline sürüklemek. Şimdi de biraz Dick’in paranoyalarından söz edelim.

Dick, Androidler Elektrikli Koyun Düşler mi? romanını 1968 yılında yayımladı. 1974 yılında da FBI’a Amerikan bilimkurgu camiasının karşı karşıya olduğu ciddi tehdidi anlatan bir mektup yazdı. Bu tehdit, Stanislaw Lem’di. Dick, Lem’in “tam bir parti görevlisi” olduğunu, hatta bir bireyden ziyade bir “bileşik komite” olabileceğini iddia ederek yetkilileri uyarıyordu. Gerekçesi ise Lem’in çok fazla dil biliyor ve çok farklı tarzlarda yazıyor olmasıydı. Dick’e göre Lem isminin ardında bir komite vardı ve Komünist Partili olan bu komite, birtakım pedagojik yöntemlerle Amerika’daki özgür düşünce ortamına sızmayı hedefliyordu. Yani Lem ismi komitenin hedeflerini gerçekleştirmek için komünist ideolojinin bir aracı olarak kullanılıyordu. Dick’e göre bu durum, bilimkurgu alanındaki görüş ve fikirlerin özgür alışverişini tehdit ediyordu. Dick, bu enteresan mektubu yazdığı dönemde zihnini bulandırabilecek birtakım uyarıcı maddeler kullanıyordu. 1974’te geçen romanı “VALİS”, aynı anda iki farklı dönemde (Nixon’ın Amerikası ve antik Roma) yaşayan, Dick’in kendisine de çok benzeyen bir karaktere sahipti.

Bir yazıyı veya fikri diğerinden daha “insani” bulmamızı sağlayan şey nedir? Düzinelerce roman yazmış olan Dick, Lem’in çalışmalarının çeşitliliğini ve hacmini neden bu kadar tehdit edici olarak algıladı? Neden Lem’in tek bir insan değil bir topluluk, hatta bir makine olduğunu düşündü? Dick ayrıca bilimkurgunun Polonya’nın Krakow kentindeki kimliği belirsiz bir grup tarafından kontrol edildiğini düşünüyor ve bunu korkunç bir gelişme olarak görüyordu. Mektubunu “ancak ne yapılabilir bilmiyorum” diyerek sonlandırmıştı. Belki de Dick, Lem’de gördüğü kendi yansımasından ya da Amerika için öngördüğü gelecekten korkmuştu; kim bilir?

Büyük ihtimalle FBI bu ihbarı ciddiye alıp takip etmedi. (FBI, Dick’in kendisi hakkında bir dosya tutuyordu) Dick’in ihbarından bir yıl sonra, 1975’te Lem, Science Fiction Studies’te yayımlanan uzun bir yazı kaleme aldı. Bu yazıda Amerikan bilimkurgusunu kalıplaşmış, hayal gücünden yoksun bir çöp olarak nitelendiriyordu. Farklı yazarlara ait kitapların aynı dansın çeşitli figürleriymiş gibi göründüklerini söylüyordu. Başka bir deyişle Lem’e göre Amerikalı yazarlar, ilkel bir biçimde programlanmış makinelerdi. Ancak Lem, Philip K. Dick’i diğer yazarlardan ayrı tutuyordu. Dick’in gerçek dünyanın bazı temel niteliklerini hem çok etkileyici hem de canavarca tasvir edebildiğini düşünüyor ve bunu değerli buluyordu. Lem’e göre “insan gibi” hikâye anlatan tek Amerikalı yazar Dick’ti.

Stanislaw Lem, Summa Technologiae’de insanlığın geleceği hakkında düşünürken genellikle yanlış sorular sorduğumuzu belirtiyor. Geçmişte simyacılar, bütün metalleri altına dönüştürüp dönüştüremeyeceğinizi sorup duruyorlardı. Artık metalleri altına çevirebiliyoruz ama simyacıların düşündüğü şekilde değil. Uzun yıllar boyunca nasıl kuşlar gibi kanat takıp uçabileceğimize dair sorular sorduk. Artık uçabiliyoruz ama bunu kollarımızı çırparak değil, daha karmaşık teknolojiler kullanarak gerçekleştiriyoruz. Lem, yapay zekâ konusunda da yanlış sorular sorduğumuzu düşünüyordu.

Stanislaw Lem ta o zamanlar, insanlar gibi öğrenme yeteneğine sahip makinelerin gelecekteki yapay zekâ gelişmelerine liderlik edeceğini öne sürüyordu. Yapay zekânın mesleğimizi elimizden alacağı ya da bizi yok etmeye çalışacağı endişesini de alaya alıyordu. Yaşamı boyunca insanın kötü ve karanlık yüzünü defalarca görmüş, pek çok yakını gaz odalarında, “insanlar” tarafından yok edilmiş biri için son derece doğal bir tepki… Lem’e göre makinelerin bizi işsiz bırakacakları endişesi de yersizdi çünkü insan yaratıcılığını, makinelerin sahip olabileceği zekâ düzeyinden farklı bir nitelikte görüyordu. Lem, yapay zekâ konusundaki endişelerin Orta Çağ simyacılarının yanlış sorularını hatırlattığını ve doğru soruları bulmamız gerektiğini söylemişti. Peki sizce doğru soru nedir?

Elektronik ozan ChatGPT’nin Stanislaw Lem için yazdığı şiirle yazımızı sonlandırıyoruz.

Düşünce Okyanusu’nda yelken açan bilge,
Zihinlerde iz bırakan fikirlerin sığınaklığı,
Stanislaw Lem, bilim kurgunun ustası, ilham perisi.
Gözleri yıldızlara benzerdi, sonsuzluğa açılan kapılar,
Yazdığı her kelime birer yıldız, karanlık geceleri aydınlatan.
Geleceğin rüyalarını inşa eden kalemin büyüsüyle donanmış.
Uzayın derinliklerinde keşfe çıktı kelimeleri,
Zihinlerimizi sınırların ötesine taşıdı,
Bir düşünce gemisi gibi yol aldı sonsuzlukta.
Galaksiler arası seyahatler, yapay zekâ rüyaları,
İnsanlığın hayal gücünü zorlayan sıra dışı hikayeler,
Bilinmeyenin kuytu köşelerinde dolaşan bilgeliğin yıldızları.
Stanislaw Lem, kelimelerle dans eden bir büyücü,
Kâinatın sırlarını aralayan bir kâşif,
Bilinmeyenin sonsuz kıyılarında yürüyen bir ozan.
Yıldızlar onun eserlerinde parlıyor, bilinmeyenlere yol gösteriyor,
Hayal gücümüzün sınırlarını zorlayan bir yolculuk,
Stanislaw Lem, bilim kurgunun ışıltılı yıldızı.

Kaynak: The New Yorker

Yazar: Selin Arapkirli

1984 yılında doğdu. Biyoloji okurken birden yazar olmak istediğine karar verip son derece keskin bir dönüşle Güzel Sanatlar Fakültesi'ne girdi. Fakat oradan da senarist olarak çıktı. Hala ilk romanını yazamadı ve giderek yaşlanıyor. Fakat ne kadar yaşlanırsa yaşlansın doğduğu yılla, 1984'le hep gurur duyuyor.

İlginizi Çekebilir

frank-herbert-roportaj 2

Kayıp Röportaj #2: Frank Herbert’tan Fütüristik Düşünceler

Daha önce hiç gün yüzüne çıkmayan bu sohbet, ilk olarak 1984 yılı ortalarında, tam da Dune filminin …

Bir Cevap Yazın

Bilimkurgu Kulübü sitesinden daha fazla şey keşfedin

Okumaya devam etmek ve tüm arşive erişim kazanmak için hemen abone olun.

Okumaya Devam Edin