bilimkurgu kulubu

Araştırma yapay zeka

Tarih: 12 Kasım 2020 | Yazar: Emre Bozkuş

0

Bilimkurgu Bizi Zararlı Teknolojiden Kurtarabilir

Kasım 2017’de, gelişmiş bir yapay zekâ yazılımın tehlikeleri konusunda uyarıda bulunan akademisyenler ve aktivistlerin piyasaya sürdüğü Slaughterbots adlı kısa film, mikro-dronların siyasi inançlar için binlerce insanı öldürdüğü yakın bir geleceği tasvir ediyor. Bugüne kadar üç milyondan fazla izlenmeye ulaşmasıyla bile, özerk silahların geleceği hakkında kamuoyunda bir tartışma başlatmaya ve Birleşmiş Milletler Konvansiyonel Silahlar Sözleşmesi’nde bir araya gelen diplomatlara baskı yapmaya yeterli oldu. Ancak bu tür spekülatif bilimkurgu hikayeleri sadece dikkat çekmeyi amaçlamaz. Gelişmiş teknolojiler tasarlayan ve inşa eden kişiler, çalışmalarının sonuçlarını dikkate alıp iyi bir amaçla kullanıldıklarından emin olmak için de hikayelere sarılabilirler. Ve bu tür bir “bilimkurgu prototipleme” veya “tasarım kurgusu”nun, yeni teknolojilere dair toplumdaki önyargıların ve adaletsizliklerin daha da güçlenmesini önlemeye yardımcı olabileceği düşünülüyor.

Bir önyargı, bazı kategorilerin (sonuçların, kişilerin veya fikirlerin) diğerlerine göre keyfi tercihine yol açabilir. Örneğin, bazı insanlar bilinçli olsun ya da olmasın, kadınları yönetici olarak işe alma konusunda önyargılı davranabilir. Bu tür önyargıları kaydeden veriler ışığında inşa edilen teknoloji de sorunun çoğalmasına neden olabilir. Buna örnek olarak da belirli bir iş için en iyi özgeçmişleri seçmek amacıyla tasarlanmış işe alım yazılımını ele alabiliriz. İlgili veriler yüklendiğinde, program da erkeklere karşı “bilinçsiz” bir kayırmacılığı yansıtan özellikleri aramak için kendini programlayabilir. Böylelikle algoritma, erkeklerin CV’lerini tercih edecek hâle gelecektir. Ve bu bir varsayımdan da ibaret değil, yakın geçmişte Amazon’da da tam olarak böyle bir olay yaşandı.

yapay zeka

Olası olumsuz etkileri göz önünde bulundurmadan algoritmalar tasarlamak, doktorların “belirli bir tedavinin yararları hakkında yazmaları ve ne kadar ciddi olursa olsun yan etkileri tamamen görmezden gelmeleriyle” birebir aynı. Bazı teknoloji firmaları ve araştırmacılar da hâlihazırda bu sorunu çözmeye çalışıyor. Google, yapay zekânın gelişimine rehberlik etmek için bir dizi etik ilke hazırladı. Ardından İngiliz bilim insanları, teknolojinin tasarımında ve kullanımında daha fazla doğruluk ve adaleti teşvik etmeyi amaçlayan Not-Equal adlı bir girişim başlattı. Ancak sorun şu ki, şirketler yakın gelecekteki teknolojilerin potansiyel sonuçları hakkında kamuoyuna sadece olumlu bir vizyon sunma eğilimindeler. Örneğin, sürücüsüz arabalar genellikle maliyetten güvenliğe tüm ulaşım sorunlarımızı, siber saldırıların artan tehlikelerini göz ardı ederek veya insanları daha az yürümeye veya bisiklete binmeye teşvik edebilecekleri gerçeğini görmezden gelerek çözüyor.

Özellikle karmaşık algoritmalar tarafından yoğun bir şekilde yönlendirilen dijital teknolojilerin nasıl çalıştığını anlamadaki zorluk, insanların sorunlara kapsamlı bir bakış açısıyla yaklaşmasını zorlaştırıyor. Bu durum, güven verici olumlu bir anlatı ile önyargıların çevremizdeki teknolojilere bir dereceye kadar gömülü olduğu belirsiz şüphe arasındaki gerginliği yaratıyor. Tasarım kurgusu aracılığıyla hikaye anlatımının devreye girebileceğini düşündüğümüz yer de tam olarak burası. Hikayeler, olasılıklar ve karmaşık durumlar hakkında düşünmenin doğal bir yöntemidir ve onları tüm hayatımız boyunca dinledik. Bilimkurgu, Slaughterbots’un yaptığı gibi yakın gelecekteki teknolojilerin toplum üzerindeki etkisi hakkında tartışmamıza yardımcı olabilir. Hatta mülteciler ve göçmenler gibi belirli grupların dijital yeniliklerden dışlanması gibi sosyal adalet konularını bile içerebilir.

(Olası) Geleceği Ortaya Çıkarmak

yapay zeka

Tasarım kurgusu hikayeleri tasarımcıların, mühendislerin ve fütüristlerin teknolojinin insan bakış açısından etkilerini düşünmeleri ve bunu gelecekteki olası ihtiyaçlarla ilişkilendirmeleri için yeni bir yol sağlar. Mantık ve hayal gücünün bir karışımı ile tasarım kurgusu, teknolojinin nasıl benimsenebileceğinin ve kullanılabileceğinin yönlerini ortaya çıkarabilir ve gelecekteki sonuçları hakkında iletişimi başlatabilir. Örneğin, “Crime-sourcing” (Suçun Kökenlerine İnmek) adlı kısa hikaye, yapay zekânın kimin cinayet işleyebileceğini tahmin etmek için kitle kaynaklı bilgileri ve bir suç veritabanını kullanırsa neler olabileceğini araştırıyor. Araştırmacılar, veritabanı etnik azınlık gruplarına mensup insanlara ait verilerle dolu olduğu için, yazılımın azınlıklardan şüphe duyma ve onları suçlu bulma olasılığının daha yüksek olduğunu tespit etti.

Tasarım kurguları üretmek için yetenekli bir yazar olmak ya da cazibeli bir film yapmak zorunda değilsiniz. Tasarım kurgusunu geliştirmek ve hikaye anlatım sürecini geliştirmeye yardımcı olmak için kartlar ve storyboard’ları içeren beyin fırtınası etkinlikleri kullanılabilir. Bu tür araçları kullanan atölyeleri daha yaygın hâle getirmek, daha fazla mühendis, girişimci ve politikacının bahsi geçen yöntemi karar alma mekanizmalarında devreye sokmasını sağlayacaktır. Ve ortaya çıkan çalışmayı kamuya açık hâle getirmek, toplumu etkilemeden önce teknolojilerdeki potansiyel önyargıları ortaya çıkarmaya yardımcı olacaktır. Tasarımcıları bu şekilde daha fazla hikaye yaratmaya ve paylaşmaya teşvik etmek, yeni teknolojinin altında yatan anlatının sadece olumlu bir resimden ya da son derece olumsuz veya distopik bir durumdan ibaret olmadığını gösterecektir. Böylece, insanlar çevremizde neler olup bittiğini bütün açılardan değerlendirebilecektir.

Kaynak:

Etiketler: , , , , , , , , , , , ,


Yazar Hakkında

Bir Garip Merdümgiriz...