İnsanlığa Son Verebilen Teknoloji – Ve O Nasıl Durdurulacak - Nick Bostrom

Nick Bostrom
Oxford Üniversitesi'nde felsefe profesörü.
İnsanlığın Geleceği Enstitüsü ( Future of Humanity Institute) Müdürü

Klint Finley’in Nick Bostrom ile yaptığı röportaj

Oxfordlu filozof Nick Bostrom teknolojinin sıklıkla istenmeyen sonuçlara sahip olduğunu ve totalitarizm ile yok etme arasında seçim yapmamız gerekebileceğini söylemektedir.

Thomas Malthus 1798’de Nüfusun İlkesi Üzerine Bir Deneme kitabında dünya nüfusu artışının gıda üretimini geçeceğini, küresel kıtlık ve kitlesel açlığa yol açacağını öngördü. Bu henüz gerçekleşmedi. Fakat Dünya Kaynakları Enstitüsünün geçen yılki bir raporunda, gıda üreticilerinin; artan nüfusun taleplerini karşılamak için 2050’ye kadar yüzde 56 daha fazla kalori tedarik etmesi gerektiği tahmin edilmektedir.

Malthuscu felaketi bertaraf eden aynı tarım tekniklerinin ayrıca toprak erozyonuna yol açtığı ve iklim değişikliğine katkıda bulunduğu bunun da dolayısıyla kuraklıkta ve çiftçiler için diğer güçlüklerde payı olduğu ortaya çıktı. İklim krizini derinleştirmeden dünyayı beslemek yeni teknolojik buluşlar gerektirecek.

Bu durum yeni teknolojilerin itme ve çekme etkisini göstermektedir. İnsanlık bir sorunu çözer fakat çözümlerin istenmeyen yan etkileri yeni sorunları yaratır. Bu zamana kadar uygarlık sorunlarının bir adım ilerisindeydi. Fakat filozof Nick Bostrom sürekli böyle şanslı olmayabileceğimizden endişelenmektedir.

Bostrom’u duymuşsanız muhtemelen 2003’teki “simülasyon argümanı” makalesinden -Matrix ile birlikte- kaynaklanıyordur. Makale hepimizin bilgisayar simülasyonunda yaşayıp yaşamadığımız sorusunu yurtlardaki konuşmalarda ve Elon Musk röportajlarında popüler konu haline getirdi. Fakat 2005’te Oxford Üniversitesinde İnsanlığın Geleceği Enstitüsünü kurduğundan beri Bostrom, kuramsal düşüncenin (speculation) kesinlikle daha acımasız alanına odaklandı: İnsanlık için varoluşsal riskler. 2014’deki Süper Zeka (Superintelligence) kitabında, Bostrom yapay zekanın riskleri hakkında uyarıda bulundu. En son yazdığı “Savunmasız Dünya Hipotezi” (The Vulnerable World Hyopthesis) makalesinde, teknolojinin uygarlığı eninde sonunda imha edebileceği ve bu kaderi önlemek için nasıl çabalanabileceği üzerine farklı yollara bakarak objektifi genişletmektedir. Fakat totaliter gelecek vizyonu, tedavinin sorundan daha kötü olabileceğinin nedenlerini göstermektedir.

WIRED:   Savunmasız Dünya Hipotezi nedir? (The vulnerable world hypothesis)

Nick Bostrom : İnsan yaratıcılığının tarihini dev ayaklı vazodan bilye çıkarma süreci olarak resmedebilme fikridir. Bilyeler tarih boyunca keşfettikleri farklı fikirler, teknolojiler ve yöntemleri temsil eder. Şu ana kadar bunlardan pek çoğunu çıkardık ve bunların büyük kısmından yarar sağladık. Beyaz bilyeler onlar. Bazıları hem iyi hem de kötüydü, çeşitli tonlardaki gri bilyeler onlar. Fakat henüz siyah bilyeleri görmedik, onları keşfeden uygarlığı tahrip edeceği varsayılan bazı teknolojiler onlar. Savunmasız dünya hipotezi (The vulnerable world hypothesis) ayaklı vazodaki bazı siyah bilyelerdir, uygarlığı büyük ölçüde yok edeceği varsayılan teknolojinin bazı düzeyleri.

WIRED:   “Siyah bilye” örneği ne olabilir?

Nick Bostrom : Günün birinde sentetik biyolojiyi kullanarak kitlesel imha silahları yaratma kabiliyetini demokratikleştirmemiz gibi görünüyor. Fakat nükleer fizik ve nükleer mühendislikte olduğu gibi biyolojik bilimlerde hemen hemen aynı türde güvenlik kültürü bulunmamaktadır. Hiroşima’dan sonra nükleer bilimciler yaptıkları şeyin oyun ve eğlence olmadığını, gözetim ve daha büyük sorumluluk duygusu gerektirdiğini fark ettiler. Manhattan Projesine katılan pek çok fizikçi nükleer silahsızlanma ve benzeri hareketlerde etkin oldular. Biyobilim toplumunda ise buna benzer bir şey yok. Bu nedenle siyah bilyelerin ortaya çıkacağı muhtemelen alan olarak burayı görebiliriz.

WIRED:   Alice Bradley Sheldon’ın 1969 tarihinde yayımlanan Doktor Ain’in Son Uçuşu (The Last Flight of Doctor Ain) bilim kurgu hikayesinden beri insanlar, intihara meyilli bir yalnız kurt’un dünyayı “süper bakteri (superbug)” ile mahvedebileceğinden endişe duymaktadırlar. Makalenizde yeni olan nedir?

Nick Bostrom : Bir yere kadar, etrafta yüzen çeşitli büyük fikirlerin bir tür kristalleşmesidir bu hipotez. Saldırıya açık olmanın (vulnerability) farklı türlerine dikkat çekmek istedim. Şeyleri tahrip etmenin çok kolaylaşması ve dünyanın bazı suçlular tarafından tahrip edilmesi bir olasılıktır. Bunu “kolay atom bombası (easy nukes)” olarak isimlendiririm. Fakat teknolojinin kötü aktörlerin yöneldiği güdüleri değiştirebildiği başka belli belirsiz daha zekice yolları da var. Örneğin; “güvenli ilk darbe senaryosu (safe first strike scenario)”. Burada devlet gibi bazı güçlü aktörlerin çıkarlarının olduğu yerlerde yıkıcı şeyler yapar. Çünkü yapmazlarsa daha saldırgan bir aktör tarafından tahrip edilme riskiyle karşı karşıyalar. Bir başkası da; zayıf bireysel aktörlerin pek çoğunun, bireysel olarak oldukça önemsiz fakat kümülatif olarak uygarlığa yıkıcı zararlar yaratan eylemler yapmaya teşvik edildiği “daha kötü küresel ısınma (worse global warming)” senaryosu. İnekler ve fosil yakıtlar şimdiye kadar gri bilyelere benzer lakin bu değişebilir. Makalenin bu riskleri düşünmek için daha sistematik yol eklediğini, risklerin, artı ve eksi yönlerinin yönetilmesi için farklı yaklaşımları sınıflandırdığını ve metaforun kendisinin görülmesi zor olan ihtimallere dikkat çekmeyi daha kolaylaştırdığını düşünüyorum. 

WIRED:   Fakat teknolojik ilerlemeler, ayaklı vazodan bilyeleri çekme kadar rastgele değildir, değil mi? Hangi araştırmanın finanse edileceğine ve önceki araştırmaların üzerine ekleme yapılarak geliştirilen araştırmalara hükümetler, üniversiteler, şirketler ve diğer kuruluşlar karar verir. Araştırma sadece rastgele sırada rastgele sonuçlar üretmez.

Nick Bostrom : Aradığınız sonucu bulduğunuzu düşünelim, sıkça öngörülmesi zor olan şeyler şunlardır: Atlama taşı olarak kullanılmasının sonuçları, bunu takip edebilecek diğer keşifler ve bu yeni enformasyon veya teknolojileri kullanmanın faydaları.

Makalede nükleer fizikçilerin atomu ayırabileceğimizi fark ettikleri zamanlar örnek olarak verildi. Leo Szilard zincir reaksiyon ve nükleer bomba yapabileceğimizi fark etti. Artık nükleer patlamayı yapmanın zor ve nadir materyalleri varlığını gerektirdiğini biliyoruz. O manada biz şanslıydık.

Ve nükleer kıyametten kaçınmamıza rağmen karışmak için yeterli şans vardı gibi görünür. Soğuk Savaştaki arşivlere göz atarsak felaketin eşiğine kadar sürdüğümüz pek çok ortam olmuş gibi görünür. Daha az şanslı olsaydık ve gelecekte başka bir Soğuk Savaş’a veya nükleer silahlanmaya devam etseydik nükleer teknolojinin siyah bilye olduğunu bulabilirdik. Metaforu düzeltmek ve daha gerçekçi hali getirmek için; onun boru şeklinde ayaklı vazo olduğunu şart koşabilirsiniz böylece ayaklı vazo içine daha fazla ulaşmadan önce bilyeleri ayaklı vazo üstüne doğru çekmeniz gerekir. Bazı bilyelerin aralarında tellerin olduğunu söyleyebilirsiniz bu yüzden bir daha alırsanız otomatik olarak bir diğerini alırsınız. Metaforu daha karışık hale getirmek amacıyla çeşitli ayrıntılar ekleyebilirsiniz fakat bizim gerçek teknolojik durumumuzun daha fazla yönünü de dahil edersiniz. Fakat kanımca esas nokta orijinali tarafından yapılan belki de vazonun aşırı basitleştirilmiş metaforu en iyisidir.  

WIRED:   Teknoloji ilerleyip ayaklı vazodan bilyeleri çekmeye devam ettikçe neticede siyahı olanı çekmemiz kaçınılmaz mı? Bununla ilgili yapabileceğimiz bir şey var mı?

Nick Bostrom : Kaçınılmaz olduğunu düşünmüyorum. Birincisi, ayaklı vazoda siyah bilye olup olmadığını bilmiyoruz Şanslıysak, yoktur.

Uygarlığı dengede tutma konusunda genel bir kabiliyete sahip olmak istersek siyah bilyeleri çekip çıkarmalıyız, mantıklı konuşursak yapabileceğiniz muhtemel dört şey var. Biri, ayaklı vazodan bilyeleri çekmeyi bırakmak olacaktır. Genel bir çözüm olarak bu şüphesiz iyi değildir. Teknolojik ilerlemeleri durduramayız ve durdursak bile bu en büyük felaket olabilir. Daha etkili biyolojik silahlar geliştirme üzerinde çalışmanın önemini azaltmayı seçebiliriz. Bence bu şüphesiz iyi bir fikir fakat genel bir çözüm yaratmayacaktır.

İkinci seçenek; erişime sahip olsalar bile felaket getiren kötülüğü yapacak teknolojiyi kullanacak hiç kimsenin olmamasını temin etmek olacaktır. Gerçekçi olmak gerekirse tahrip edici teknolojiyi kullanacak her kişi uzaklaştırılamayacağından sınırlı bir çözüm gibi görünüyor. Böylece bu elde diğer iki seçeneği bırakıyor. Biri; son derece etkili koruyucu denetleme için kapasiteyi geliştirme, nüfusu gerçek zamanlı denetleme bunun sonucunda eğer birisi bir siyah bilyeyi kullanmaya başlarsa engellenebilir ve durdurulabilir. Eğer gizliliği ihlal eden gözetim tasarısından konuşuyorsanız pek çok riskler ve sorunlarda vardır aynı zamanda ancak bunu daha fazla tartışabiliriz. Sadece bilinirliliğini sağlamak için, dördüncü olasılık küresel eşgüdüm sorunlarını çözmenin etkili yolları olacaktır, büyük güç savaşları, silahlanma yarışları ve küresel müştereklerin yok edilmesini engelleyecek şöyle bir küresel yönetişim yeteneği.

WIRED:   Kulağa distopik geliyor. Bir anlamda tek-dünya hükümeti/gözetim devleti tam olarak böyle gibi şey olmaz mıydı? Birilerini, dünyayı tahrip etmeye çabalamaya motive eder miydi?

Nick Bostrom : Gözetim altında yaşamaya hevesli olmak veya kötüye kullanılabilecek yollar hakkında kör olmak gibi bir şey değil. Koruyucu denetleme hakkındaki tartışmada; herkesin bir tür kameralı kolyesinin olduğu küçük bir oyunum var. “Özgürlük etiketi (freedom tag)” olarak isimlendirdim. Kasıtlı olarak, kulağa Orwellci çağrışım yapmasını amaçladım.  Herkesin kötüye kullanım potansiyelinin canlı bir biçimde farkında olacağından emin olmak istedim. Bütün okuyucuların ironi duygusuna sahip olduğundan emin değilim. Savunmasız dünya hipotezi pek çok öteki düşünceler arasında sadece bir değerlendirme olmalıdır. Siyah bilye çekme olasılığının gözetim devleti inşa etmedeki risklerden daha ağır bastığını düşünmeyebiliriz. Bu makale bu politika konuları hakkında değerlendirmeyi göz önünde tutan bütün şeyleri yapma girişimi değildir.

WIRED:   Potansiyel siyah bilye ile baş etme girişimi olarak genel çözümlere odaklanmak yerine siyah toplarla olay bazında baş etmeye çabalarsak ne olur?

Nick Bostrom : Politika yapıcıya ilk önce ye yapacağı konusunda tavsiye verecek olsam bu belirli konularda harekete geçmelerini söylemek olurdu. Genel şeylerden çok daha uygulanabilir, ucuz ve daha az müdahaleci olacaktır. Örnek olarak biyo teknolojiyi kullanırsak, alanda belirli müdahaleler olabilir. Mesela, her DNA sentezi araştırma grubunun kendi ekipmanlarına sahip olması yerine DNA sentezi servis (birim) olarak yapılandırılabilir belki. Nerede olacak, diyelim ki, dört veya beş hizmet sağlayıcı ve her araştırma takımı kendi materyallerini bu hizmet sağlayıcılardan birine gönderecektir. O zaman günün birinde ayaklı vazodan gerçekten korkunç bir şey ortaya çıkarsa müdahale edebileceğiniz dört veya beş tıkama mevzii olacaktır. Veya sentetik biyolojide çalışan kişilerin özgeçmişlerinin kontrolünü artırabilirsiniz belki. Fikirlerden herhangi birini pratik eylene çevirmek isteseydim bakacağım ilk yer burası olurdu. Fakat birisi insanlığın geleceğine felsefi olarak bakıyorsa daha geniş yapısal özelliklere bakmasına olanak sağlamak için bu kavramsal araçların varlığı yardımcı olacaktır. Pek çok kişi makaleyi okur ve sorunun teşhisinde hemfikir olur ve sonra olası çarelerden sahiden hoşlanmaz. Ancak siyah bilyelerle daha iyi nasıl başa çıkılacağı konusunda daha iyi alternatifleri duymayı bekliyorum.

* Röportaj Wired’ın 13 Mayis 2019 tarihli çevrim içi yayınından alınarak çevrilmiştir.

Özgün metni okumak için:

https://www.wired.com/story/technology-could-end-humanity-how-stop-it/

Nick Bostrom’un Simülasyon Argümanı makalesini okumak için:
https://bilimvesaire.com/2017/02/felsefe/simulasyon-argumani/