Teknoloji önderleri bir ürünün nasıl kullanılacağına dair öngörüye sahip, ancak gerçekte ürünü başkalarının nasıl kullanacağını düşünecek hayal gücüne sahip değil. 1962 tarihli Zamanda Kıvrılma romanında üç çocuk, rahat bir yaşam karşılığında insanların özgür iradelerinden vazgeçmelerini sağlayarak onları boyunduruğu altına alan devasa bir beyinle (ki bu bir Yapay Zekâ’dır) karşı karşıya gelir. İçinde yaşadığımız dünyayla paralel hiçbir şey yoktur belki, romanın sorduğu bir soru hariç: İnsanların kendi kendilerine düşünmeyi unutmalarına yol açacak güçte bir teknoloji yaratılırsa ne olur? Bilimkurgu insana ve teknolojiye bakarak şu soruyu sorar: “Ya şöyle olsaydı?” İşte bu yüzden elli yıldan uzun bir süre sonra bile, Madeleine L’Engle‘ın romanında sorduğu soru bugün teknolojinin gücünün düşüncelerimizi, hislerimizi ve eylemlerimizi nasıl etkileyeceği konusundaki kafa karışıklığımızı yansıtabiliyor.
Rusya’nın 2016 yılında ABD başkanlık seçimlerini etkilemek için Facebook gibi sosyal platformları nasıl kullandığı, Facebook’un bunu örtbas etmek için nasıl çabaladığı veya nefret söylemlerinin çevrimiçi ortamlarda ne kadar hızlı yayılabildiği gibi, son yıllarda ortaya çıkan rahatsız edici gelişmeler de düşünüldüğünde birçok teknoloji şirketinin ürettiği teknoloji hakkında “Ya şöyle olursa?” sorusunu sormadığı görülebiliyor. İşte şirketlerin tam da bu yüzden, neyin doğru neyin yanlış gidebileceği hakkında senaryolar yazmaları için bilimkurgu yazarlarına ihtiyacı var.
SciFutures şirketinin CEO’su Ari Popper, özellikle Silikon Vadisi‘ndeki şirketler için en kısa sürede ve olabildiğince büyük bir kullanıcı kitlesine ulaşmanın iş süreçleri açısından çok önemli olduğunu, ancak bu şirketlerin ürettiği teknolojiler güçlendiğinde bunun büyük bir soruna yol açacağını söylüyor. SciFutures, bilimkurgu yazarlarının gelecekteki ürünlerin ve teknolojilerin nasıl kullanılacağına dair yaratıcı öyküler yazdıkları, “kurgu tasarımı” alanında uzmanlaşmış, tebrik kartı üreticilerinden NATO’ya kadar birçok farklı sektörden müşterisi olan bir şirket. 2017’nin başlarında, şirket etik kaygıları olan projeleri üstlenme konusunda daha dikkatli adımlar atmaya karar verdi. Popper, “Kimse etik değerleri bile isteye çiğnemez,” diyor, “Ancak bunların öncelikli endişeler olmadığı da ortada.”
Büyük veriyi ele alalım. Çok yakında belki de araç paylaşım uygulamalarının verilerinde çapraz sorgulama yaparak suçları önceden tahmin edebilmek mümkün hâle gelecek, tıpkı Azınlık Raporu filminde (ve bu filmin uyarlandığı Philip K. Dick eserinde) olduğu gibi. Bu şehirleri daha güvenli kılacaktır elbette, ama söz gelimi algoritma bir şahsın yüzde seksen ihtimalle suç işleyeceğini bildirdiğinde ne olacak? Bu bilgiyle ne yapılması gerektiğine tam olarak kim karar verecek? Soru işaretlerine yol açabilecek bir diğer potansiyel teknoloji de duygu durumlarını etkileyebilen algoritmalar. “Biyometrik verilerimize dayanarak duygularımızı ölçebilen, daha sonra bu ölçümleri harici verilerle (trafik durumu, hava durumu, haftanın günü vb. gibi) birleştirerek en zeki bilim insanlarının bile fark edemeyeceği bağlantıları bulan algoritmalar üzerinde çalışan şirketler var,” diyor Popper: “İnsanlar üzerinde bu algoritmaların çok büyük etkileri olabilir, ancak etik açıdan birçok olası soruna gebe.”
Örneğin, yabancı bir güç bir ülkedeki insanların duygu durumlarını kontrol eden algoritmaları hack’ler ve insanların duygularını manipüle etmeye başlarsa ne olur? Ya ebeveynler çocuklarının algoritmaları üzerinde kontrol sahibi olursa? Evet, depresyondaki çocuklarına yardımcı olabilirler, ama kötü bir duygu durumu içerisinde olan çocukları için bu kötü duyguyu ortadan kaldırıp çocuğun zorluklarla başa çıkmayı öğrenmesinin de önüne geçmiş olmazlar mı? Bu ikilemi SciFutures’da bağımsız yazar olan Mike Buckley ile konuştuğumuzda, o bu durumun hikaye anlatımı tarafına odaklanıyor: “Distopik versiyonda, karakterim sabah uyanır, onu bu teknolojiye bağlayan VR (Virtual Reality – Sanal Gerçeklik) arayüzüne bağlanır ve yavaşça bilinmeyen bir gücün kontrolü altına girer,” diyor Buckley. Belki algoritma duygularınızı belli bir fikre odaklanmaya yönlendiriyordur, ya da belki bunu size değil de çocuklarınıza, eşinize, arkadaşlarınıza, çocuklarınızın öğretmenlerine empoze ediyordur. “Bunu gerçeklikten ayırmak çok zor olacaktır,” diyor Buckley ve ekliyor, “Bir yerden sonra ise gerçekliğiniz buna dönüşecektir.”
Buckley’nin tahayyülündeki çarpıcı nokta, bunun ne kadar olası gelmesi. Yirmi yıl önce biri bize romantik ilişkilerimizin veya internet geçmişimizin detaylarını kendi rızamızla başkalarıyla paylaşacağımızı söylese ona deli gözüyle bakardık. Ama yavaş yavaş geldiğimiz nokta ortada. Teknoloji devlerinin yarının teknolojilerini bugünden inşa etme konusunda hiçbir engelleri yok. Ancak başkalarının bu teknolojileri nasıl kullanacakları konusunda hayal güçleri kıt. Bu, belki de gelecekte devletlerin müdahalesini gerektirecek kadar büyük bir sorun hâline gelecek, ancak bu sorunu öngörebilecek bir grup daha var: Bilimkurgu yazarları. Ne de olsa, bu zaten halihazırda üstesinden geldikleri bir sorun…