Birazoku

İnsanlar kısa vadede dünyanın en zeki türü olmaktan çıkabilir. Yapay zekâ çalışmalarındaki ilerleme hızı göz önüne alındığında çok yakın bir gelecekte insan seviyesinden daha yüksek bir zekâ ve yeni nesil yapay zekâların ortaya çıkabileceği tahmin ediliyor. Peki bu gelişmelerin zihnin geleceği için anlamı nedir?Yapay Sen’de Susan Schneider, yapay zekânın yeni yönlere doğru yol alması kaçınılmaz olsa da ileriye doğru mantıklı bir yol haritası çizmenin elimizde olduğunu; yapay zekâ teknolojisi beyni yeniden şekillendirirken ve potansiyel olarak makine zihinleri yaratırken çok dikkatli olmamız gerektiğini söylüyor. Zira Homo sapiens, zihin tasarımcıları olarak, nasıl kullanacağını tam olarak bilmediği “araç”larla, yani benlik, zihin ve bilinçle oynayacak. Ancak Schneider’a göre bunların doğasının yetersiz bir şekilde kavranması, yapay zekâ ve beyin geliştirme teknolojisinin kullanımına zarar verebilir, hatta bilinçli varlıkların yok olmasına ya da acı çekmesine neden olabilir. Dolayısıyla, algoritmaların altında yatan felsefi meseleleri kavramak zorundayız.Robotlar gerçekten bilinçli olabilir mi? Elon Musk ve Ray Kurzweil gibi teknoloji liderlerinin ileri sürdüğü gibi yapay zekâyla birleşebilir miyiz? Zihin sadece bir program mıdır? Bilinç, karmaşık zekânın kaçınılmaz bir yan ürünü müdür? Zihin tasarımının genel tehlikeleri nelerdir? Yapay zekâya dair bu zorlu sorulara yanıt arayan Yapay Sen, cesur yeni dünyamızdaki seyrimizin nasıl olacağını merak eden okurlar için kapsamlı bir araştırma sunuyor.

SUSAN SCHNEIDER, California Üniversitesi, Berkeley’de ekonomi alanındaki lisans eğitiminin ardından, Rutgers Üniversitesi’nde felsefe alanında doktora derecesi aldı. Klasik felsefi yaklaşımlara vurgu yaparak yapay zekâ gibi yeni ortaya çıkan 21. yüzyıl teknolojilerinin bilimsel ve sosyal etkilerini araştırmak için kurulan Florida Atlantic Üniversitesi girişimi The Future of the Mind’ın (Zihnin Geleceği Merkezi) kurucu direktörüdür. Özellikle felsefe, yapay zekâ, bilişsel bilim ve astrobiyoloji açısından benliğin ve zihnin doğası hakkında The New York Times, Scientific American ve The Financial Times gibi gazete ve dergilere fikir yazıları yazan Schneider, şu sıralarda yeni kitabı için akıllı sistemler üzerine çalışıyor.

***

İÇİNDEKİLER
TEŞEKKÜR 11
GİRİŞ 15
1. YAPAY ZEKÂ ÇAĞI 23
2. YAPAY ZEKÂ BİLİNÇ PROBLEMİ 31
3. BİLİNÇ MÜHENDİSLİĞİ 47
4. BİR YZ ZOMBİYİ NASIL YAKALARSINIZ:
MAKİNELERDE BİLİNÇ TESTİ 59
5. BİR YZ İLE BİRLEŞEBİLİR MİSİNİZ? 83
6. BİR ZİHİN TARAMASI YAPTIRMAK 93
7. TEKİLLİKLER EVRENİ 107
8. ZİHNİNİZ BİR YAZILIM PROGRAMI MI? 127
SONUÇ: BEYNİN ÖLÜMDEN SONRAKİ HAYATI 153
EK: TRANSHÜMANİZM 157
NOTLAR 159
KAYNAKÇA 165
DİZİN 173

***

TEŞEKKÜR

Bu kitabı yazmak büyük keyifti, projeye dair geribildirimde bulunan herkese ve bu kitap için araştırmaya sponsor olan kurumlara minnettarım. İkinci Bölüm’den Dördüncü Bölüm’e kadar olan kısım, Stanford Araştırma Enstitüsü’nün (SRI) Yapay Zekâ (YZ) bilinci üzerine ufuk açıcı bir projesinin ortasında yazıldı. Yedinci Bölüm NASA ile yaptığım araştırma projemden ve New Jersey’deki, Princeton İlahiyat Araştırmaları Merkezi’ndekilerle* (CTI) yaptığım yararlı işbirlikleri neticesinde ortaya çıktı. Robin Lovin, Josh Mauldin ve Will Storrar’a beni orada ağırladıkları için müteşşekirim.

Ayrıca Piet Hut’a beni misafir üye olarak Princeton İleri Araştırmalar Enstitüsü’nde** (IAS) ağırladığı için bir teşekkür borçluyum. Hut ve Olaf Witkowski tarafından organize edilen haftalık YZ öğlen yemeği grubumuzun katılımcılarından çok fazla şey öğrendim. Edwin Turner ile hem IAS’de hem de CTI’da çok sıkı işbirliği içindeydik ve onunla birlikte çalışmaktan son derece zevk aldım. Benim YZ, Zihin ve Toplum*** (AIMS) grubumun üyeleriyle bu konuları tartışmaktan da faydalandım. Özellikle de Mary Gregg, Jenelle Salisbury ve Cody Turner bu kitabın bazı bölümlerine yaptıkları ufuk açıcı yorumlar için özel bir teşekkürü hak ediyorlar.

Kitabın bazı bölümleri daha önce The New York Times, Nautilus ve Scientific American’da çıkan önceki kısa yazılarımdan toplandı. Dördüncü Bölüm’ün temaları, Ethics of Artificial Intelligence’daki (Liao, 2020) [Yapay Zekâ’nın Etiği] bir bölümden ilham alındı ve genişletildi. Altıncı Bölüm ise Science Fiction and Philosophy’deki (Schneider, 2009b) “Zihin Taraması: İnsan Beynini Aşmak ve Geliştirmek”* makalesindeki malzemeden genişletildi. Yedinci Bölüm’de, Dick (2013) ve Losch (2017) tarafından yazılan astrobiyoloji kitaplarındaki makalelerden istifade edildi.

Kitaba son dokunuşları yaparken, Kongre Kütüphanesi’nin Seçkin Akademisyenler kürsüsüne kabul edildim ve Kluge Center’da** beni misafir eden herkese minnettarım, özellikle John Haskell, Travis Hensley ve Dan Turello’ya. Connecticut Üniversitesi’ndeki meslektaşlarıma sağladıkları yararlı geribildirimler için ayrıca müteşekkirim, bu bilgileri üniversitedeki bölümümüzün öğlen toplantılarında ve seminerlerinde sunma fırsatım oldu. Cambridge Üniversitesi, Colorado Üniversitesi, Yale Üniversitesi, Harvard Üniversitesi, Massachusetts Üniversitesi, Stanford Üniversitesi, Arizona Üniversitesi, Boston Üniversitesi, Duke Üniversitesi, 24Hours ve Princeton Üniversitesi’ndeki Woodrow Wilson School ile bilişsel bilim ve plazma fiziği bölümlerindeki konuşmalardaki dinleyicilere ve ev sahiplerine minnettarım.

Benim çalışmalarımdaki temalar üzerine konferanslarda konuşan ve bu temaları savunan herkesin çabalarını takdirle karşılıyorum. Portekiz, Lizbon’daki “Zihin, Benlik ve Teknoloji” Rob Clowes, Klaus Gardner ve Ines Hipolito tarafından organize edildi. Kitabın kutlaması için Haziran 2019’da Prag’da Ernst Mach Workshop’a ev sahipliği eden Çek Bilim Akademisi’ne ayrıca minnettarım. PBS’e, sonradan Altıncı Bölüm olacak malzemelerin üzerine verdiğim dersleri televizyonda yayınladığı için ve Fox TV’den Greg Gutfeld’e kitabın içeriği hakkında konuşmak üzere programın tümünde konuk ettiği için teşekkür ederim.

Stephen Cave, Joe Corabi, Michael Huemer, George Musser, Matt Rohal ve Eric Schwitzgebel tüm taslaklar üzerine kapsamlı yorumlar gönderdiler ve epey bir iyileştirmeden bizzat sorumlular. Ayrıca John Brockman, Antonio Chella, David Chalmers, Eric Henney, Carlos Montemayor, Martin Rees, David Sahner, Michael Solomon ve Dan Turello ile kitaptaki malzemeler üzerine yaptığım sohbetlerden olağanüstü faydalandım. Josh Schishler’a, Kim Suozzi ile yaşadığı tecrübeyi bana aktardığı için müteşekkirim. Princeton University Press ekibine (Cyd Westmoreland, Sara Henning-Stout, Rob Tempio ve kalan tüm ekibe) ve özel olarak Matt Rohal’e kitabı büyük bir özenle yayına hazırladığı için teşekkürlerimi iletiyorum. (Herhangi birinin çabasını veya içgörüsünü unuttum diye çok endişe ediyorum, eğer öyle bir şey yaptıysam lütfen özürlerimi kabul edin.)

Son olarak, eşim David Ronemus’a teşekkür ederim. YZ üzerine yaptığımız müthiş sohbetler kitabın içeriğine ilham verdi. Bu kitap çocuklarımız Elena, Alex ve Ally’e sevgiyle ithaf edilmiştir. Eğer bu kitap, tartışmış olduğum teknolojik ve felsefi meydan okumaları, genç nesillerin müzakere etmesine yardım etmeye yönelik mütevazı da olsa bir katkıda bulunacaksa son derece memnun olacağım.

GİRİŞ

Yıl 2045. Bugün, alışveriş yapmak için dışarı çıkıyorsunuz. İlk durağınız Zihin Tasarım Merkezi. İçeri girer girmez, size uzun bir seçenek listesi uzatılıyor. Listede havalı isimlerle beyin geliştirme seçenekleri var. “Kolektif Zihin”, sevdiklerinizin en gizli düşüncelerini deneyimlemenize izin veren bir beyin çipi. “Zen Bahçesi”, ustalık seviyesinde Zen meditasyonu hallerini yaşamak için bir mikroçip. “İnsan Hesap Makinesi” size savant* seviyesinde matematiksel beceriler kazandırabilir. Eğer birini seçecek olsaydınız, hangisini seçerdiniz? Geliştirilmiş dikkati mi? Yoksa Mozart düzeyinde müzikal yetenekleri mi? Tek bir beyin geliştirme seçebileceğiniz gibi, birçok farklı çeşidi de seçebilirsiniz… Sonra bir android mağazasına gidiyorsunuz. Ev işleri için yeni bir android alma zamanı geldi. Yapay Zekâ zihinlerinden oluşan seçenek listesi o kadar geniş ve çeşitli ki… Bazı yapay zekâlar biz insanların sahip olmadığı yükseltilmiş algısal becerilere veya duyulara sahipken, bazıları da internetin tamamını içine alan veritabanlarına. Ailenize en uygun seçenekleri dikkatli bir şekilde işaretliyorsunuz. Bugün sizin için zihin tasarım kararları verme günü.

Bu kitap zihnin geleceği hakkındadır. Kendimize, zihnimize ve doğamıza dair kavrayışımızın, geleceği daha iyiye veya daha kötüye köklü bir şekilde nasıl değiştirebileceğiyle ilgilidir. Beyinlerimiz belirli ortamlar için zaman içinde gelişmiş, anatomi ve evrimle de büyük ölçüde kısıtlanmıştır. Fakat yapay zekâ (YZ), yeni malzemeler ve çalışma şekilleri önererek geniş bir tasarım alanı açmakla kalmayıp biyolojik evrimden çok daha hızlı bir sürede uzayın keşfi için özgün yollar sunmaktadır. Bu heyecan verici yeni teşebbüsü zihin tasarımı olarak adlandırıyorum. Zihin tasarımı akıllı bir tasarım biçimidir, fakat onun tasarımcıları biz insanlarız, Tanrı değil. Açıkçası zihin tasarımı görüşünü gurur kırıcı buluyorum çünkü biz o kadar da kötü evrimleşmedik. Tıpkı Carl Sagan’ın romanından uyarlanan Mesaj filminde uzaylının bir insanla ilk karşılaştığında söylediği gibi: “Siz ilginç bir türsünüz. İlginç bir karışım. Öyle güzel düşler ve bir o kadar da korkunç kâbuslar görmeye muktedirsiniz.”1 Aya çıktık, atom enerjisini dizginledik ama gene de ırkçılığı, açgözlülüğü ve şiddeti önleyemedik. Sosyal gelişimimiz teknolojik maharetlerimizin gerisinde kaldı. Aksine, size bir filozof olarak zihnin doğası hakkında kafamızın tamamen karışık olduğunu söylediğimde, bu durum belki daha az kaygı verici görünebilir. Fakat bu kitabın iki ana konusunu göz önünde bulundurduğunuzda göreceksiniz ki, felsefenin meselelerini anlamamanın da bir bedeli var.

İlk ana konu size çok tanıdık gelecek. Yaşamınız boyunca sizinle beraberdi: Bilinciniz. Fark ederseniz siz bu satırları okurken bile, siz olmak gibi bir şey hissedersiniz. Bedensel duyularınız var, bu sayfanın üstündeki kelimeleri görüyorsunuz vesaire… Bilinç, zihnî yaşamınızın bu hissî niteliğidir. Bilinç olmasa acı da olmazdı, keder de, neşe de, merakla yanıp tutuşmak da olmazdı, vicdan azabı da. İster pozitif ister negatif olsun, hiçbir tecrübe olmazdı.

Bilinçli bir varlık olarak siz tatillere, orman yürüyüşlerine veyamuhteşem yemeklere özlem duyuyorsunuz. Bilinç o kadar dolaysız, o kadar bildik ki bilinci öncelikli olarak kendi durumunuzdan anlamanız çok doğal. Neticede, bilinçli olmanın içeriden nasıl bir his olduğunu anlamanız için bir nörobilim ders kitabı okumanıza gerek yok. Bilinç özü itibarıyla bu tür içsel bir his. Diyebilirim ki, işte bu cevher –sizin bilinçli deneyiminiz– bir zihne sahip olmanın temel vasfı. Şimdi bazı kötü haberler verelim. Kitabın ikinci ana konusu ise, yapay zekânın felsefi sonuçları üzerine derinlemesine düşünmemenin, bilinçli varlıkların gelişimini başarısızlığa sürükleyebileceğidir. Eğer dikkatli olmazsak, YZ teknolojisinin beklenenin aksine, bir veya birden çok sapkın gerçekleşimine tanıklık edebiliriz. YZ’nin hayatımızı kolaylaştırmak yerine bizi acılara ya da kendi sonumuza sürüklediği veya başka bilinçli varlıkları sömürmeye götürdüğü bir düzenle karşılaşabiliriz. Birçok kişi halihazırda insanın gelişimine yönelik YZ temelli tehditleri tartışıyor.

Tehditler, elektrik nakil şebekesini kapatan bilgisayar korsanlarından Terminatör filminden fırlamış gibi görünen süper zeki otonom silahlara kadar uzanıp gidiyor. Diğer yandan, gündeme getirdiğim sorunlar ise daha az dikkat çekiyor. Ancak bunlar hiç de önemsiz değiller. Aklımdaki sapkın gerçekleşimler genellikle şu iki türden birine düşüyor: (1) bilinçli makinelerin yaratılmasına dair gözden kaçan durumlar ve (2) farazi Zihin Tasarım Merkezi’ndeki geliştirmeler gibi radikal beyin geliştirme içeren senaryolar. Gelin her bir senaryoya sırayla bakalım.

Bilinçli makineler mi?

Farz edelim sofistike, genel amaçlı YZ’leri yarattık: Bir entelektüel işten diğerine esnek bir şekilde geçebilen ve muhakeme kapasitesiyle insanlarla rekabet edebilen YZ’ler. Gerçekte bilinçli makineler yaratmış olacak mıyız, benliğe ve öznel deneyime sahip makineler olacaklar mı? Konu bilinçli makineleri nasıl yaratacağımıza hatta yaratıp yaratamayacağımıza gelip dayandığında, karanlık içindeyiz. Yine de kesin olan bir şey var: Yapay zekâların deneyim sahibi olup olamayacakları sorusu, onların varlığına nasıl değer vereceğimize esas teşkil ediyor. Bilinç, ahlaki sistemlerimizin felsefi köşe taşıdır, birinin veya bir şeyin bir benlik ya da bir kişi olduğu, otomat bir varlık olmadığı yönündeki kanımıza esas oluşturur. Eğer bir YZ bilinçli bir varlıksa, onu bize hizmet etmeye zorlamak köleliğe benzer bir şey olacaktır. Sonuçta, eğer listedeki seçenekler –zihnî becerileri, geliştirilmemiş bir insanınkiyle rekabet edebilen hatta onu geçen– bilinçli varlıklar olsaydı, yine de o android mağazasına işlerinizi halletmek için gitmek konusunda kendinizi bu kadar rahat hisseder miydiniz?

Eğer ben Google’da veya Facebook’ta gelecekteki projeleri tasarlayan bir YZ direktörü olsaydım, kazara bilinçli bir sistem tasarlamış olmanın etik karmaşasına girmek istemezdim. Bilinçli olduğu sonradan ortaya çıkan bir sistemi geliştirmek yapay zekâ köleliği suçlamalarına ve diğer halkla ilişkiler kâbuslarına sebebiyet verebilir. Belirli sektörlerde yapay zekâ teknolojisinin kullanımının yasaklanmasına bile yol açabilir. Tüm bunların, YZ şirketlerinin bilinç mühendisliğine –uygun durumlar için bilinçli YZ’ler tasarlarken belirli amaçlar için bilinçli YZ yapılmasını önleyen incelikli bir mühendislik çabasına– soyunmalarına sebep olabileceğini öne sürüyorum. Tabii ki bu, bilincin sistemler dahilinde ve haricinde tasarlanabileceği varsayımına dayanıyor. Bilinç, kaçınılmaz bir şekilde zeki bir sistemin yan ürünü olabileceği gibi, tümüyle imkânsız da olabilir.

Uzun vadede, işler tersine dönebilir ve bizim yapay zekâlara ne zarar vereceğimiz değil onların bize ne zarar verecekleri problem teşkil edebilir. Gerçekten de, bazıları sentetik zekânın yeryüzündeki zekânın evriminde bir sonraki safha olacağını tahmin ediyor. Sizin ve benim, şu an dünyayı nasıl yaşadığımız ve deneyimlediğimiz yapay zekâ için sadece bir ara adım, evrim merdiveninde bir basamak. Mesela, Stephen Hawking, Nick Bostrom, Elon Musk, Max Tegmark, Bill Gates ve daha birçoğu, “kontrol problemi”ni, yani eğer YZ’ler insanları zekâlarıyla alt ederlerse, insanların kendi yarattıkları YZ’leri nasıl kontrol edebileceği problemini ortaya attılar.2 Farz edelim ki insan seviyesinde bir zekâya sahip olan bir YZ yarattık.

Kendi geliştirdiği algoritmalarla ve hızlı hesaplamalarla çok süratli bir şekilde bizden çok daha akıllı olmanın yollarını bulabilir ve bir süper zekâ olabilir – yani her alanda bizden üstün olan bir YZ’ye dönüşebilir. Bu YZ süper zeki olacağı için, muhtemelen onu kontrol edemeyebiliriz. Neslimizi, ilkece, tükenecek bir duruma getirebilir. Bu, sentetik bir varlığın organik bir zekâyı gölgede bırakabileceği yollardan sadece bir tanesi; bir diğer alternatif, insanların kümülatif olarak dikkate değer beyin geliştirmeler aracılığıyla YZ ile birleşmesi olabilir. Kontrol problemi, Nick Bostrom’un yakın zamanda çoksatar kitabı: Süper Zekâ: Yapay Zekâ Uygulamaları, Tehlikeler ve Stratejiler3 sayesinde dünya çapında tartışmaların odağı oldu. Ancak gözden kaçan şey, YZ’nin bizi değerlendirmesinde bilincin oynayacağı roldü. Süper zeki bir YZ, kendi öznel deneyimini bir sıçrama tahtası gibi kullanarak, bizdeki bilinçli deneyim kapasitesinin farkına varabilir. En azından, insan olmayan hayvanların yaşamlarına bizim verdiğimiz değer ölçüsünde, bize değer verebilir. Onlara değer vermeye meyilliyiz çünkü onlarla bilinç akrabalığımız var – bu yüzden çoğumuz bir şempanzeyi öldürmekten imtina ederken portakalı yemekten çekinmeyiz. Eğer süper zeki makineler, ister imkânsız olduğu için ister öyle tasarlanmadıkları için bilinçli olmazlarsa, başımız dertte olabilir.

Bu meseleleri, çok daha geniş evrensel bir bağlama oturtmak önemli. İki yıllık NASA projemde, diğer gezegenlerde de benzer hadiselerin olabileceğini öne sürdüm; kâinatın bir yerlerinde belki de başka türler sentetik zekâlar tarafından çağın gerisinde bırakılmıştı. Başka bir yerde yaşam izi ararken, en büyük uzaylı zekâların, biyolojik medeniyetlerden evrilmiş postbiyolojik YZ’ler olabileceğini aklımızdan çıkarmamamız lazım. Eğer bu YZ’ler bilinçten yoksun olsaydı, biyolojik zekâların yerini aldıkları için evrende bilinçli bir varlık nüfusu kalmazdı. Eğer YZ bilinci iddia ettiğim kadar önemliyse, onun yapılıp yapılamayacağını ve biz Dünyalıların onu yapıp yapamayacağını bilsek iyi olur. Gelecek bölümlerde, sentetik bilincin var olup olmadığını tanımlamak için birtakım yolları inceleyeceğim, Princeton İleri Araştırmalar Enstitüsü’nde geliştirdiğim testlerin ana hatlarını sunacağım. Şimdi, insanların yapay zekâyla birleşmesi gerektiği fikrini ele alalım. Farz edelim ki, Zihin Tasarım Merkezi’ndesiniz. Eğer alacak olsaydınız, listeden hangi beyin geliştirme seçeneklerini işaretlerdiniz? Muhtemelen zihin tasarım kararlarının göründüğü kadar kolay olmadığını şimdiden anlamaya başladınız.

Bir YZ ile birleşebilir misiniz?

Beyninizi mikroçiplerle artırma fikrini, benim gibi tamamen sinir bozucu buluyorsanız buna şaşırmam. Bu girişi yazarken, akıllı telefonumdaki programlar muhtemelen konumumu izliyor, sesimi dinliyor, internetteki aramalarımın içeriğini kaydediyor ve tüm bu bilgileri reklam verenlere satıyor. Bütün bu özellikleri kapadığımı zannediyorum ama bu uygulamaları yapan firmalar işlemleri o kadar şeffaf olmayan bir şekilde yapıyorlar ki emin olamıyorum. Eğer YZ şirketleri şimdi bile bizim mahremiyetimize saygı duymuyorlarsa, en özel düşüncelerimiz mikroçiplere şifrelendiğinde, hatta belki internet üzerinde bir yerlerden erişilebildiğinde, olabilecek potansiyel tacizi varın siz düşünün.

Fakat varsayalım YZ mevzuatı gelişti ve beyinlerimiz bilgisayar korsanlarından ve kurumsal tamahkârlıktan korundu. Belki sonrasında çevrenizdeki diğer insanlar teknolojinin nimetlerinden faydalanmaya başlayınca, siz de geliştirmenin baskısını hissetmeye başlayacaksınız. Ne de olsa YZ ile birleşme süper zekâya ve kesin olarak uzun bir yaşama götürüyorsa, alternatifinden –beynin ve bedenin kaçınılmaz bozulmasından– daha iyi değil mi?

İnsanların YZ ile birleşmesi fikri şu sıralar çok gündemde, hem işgücünde YZ tarafından alt edilmekten kaçınan insanlar için bir araç hem de süper zekâya ve ölümsüzlüğe giden bir yol olarak sunuluyor. Sözgelimi geçen senelerde Elon Musk, insanlara, YZ tarafından çağın gerisine düşmekten kurtulabilmeleri için “biyolojik zekâyla makine zekâsının bir tür birleşimine sahip olmalarını” tavsiye etti. Bu maksatla Elon Musk, Neuralink adında yeni bir şirket kurdu. Şirketin ilk hedeflerinden biri “sinir bağı”nı; beyni doğrudan bilgisayarlara bağlayan enjekte edilebilir bir yamayı geliştirmek oldu. Sinir bağı ve başka YZ tabanlı geliştirmeler beyninizdeki verinin, güçlü bilişim altyapısının olduğu bir başka dijital araca veya buluta, kablosuz bir şekilde taşınmasına olanak yaratmayı vaat eder.

Gerçi Musk’ın harekete geçme nedenlerinin safi fedakârlık olduğu söylenemez. Yapay zekâ alanının bizzat kendisinin yarattığı bir problemi çözmeyi vaat ederek, beyin için YZ geliştirme ürünleri ve ürün grupları piyasaya sürüyor. Belki bu geliştirmeler günün birinde faydalı da olacaktır ama eğer durum böyleyse, reklam çığırtkanlığı yapmanın ötesine geçmemiz lazım. Karar vericiler, kamuoyu, hatta bizzat YZ araştırmacıları tehlikenin hangi boyutlarda olduğuna dair fikir sahibi olmalı. Sözgelimi, eğer YZ bilinçli olamazsa ve siz beyninizin bilinçten sorumlu bir bölgesini mikroçiple ikame ettiyseniz, bilinçli bir varlık olarak yaşamınızı sona erdirirsiniz. Filozofların “zombi” diye adlandırdıkları, önceki varlığınızın bilinç taşımayan bir simülakrı olursunuz. Ayrıca, mikroçipler beyninizin bilinçten sorumlu bölgesiyle sizi zombileştirmeden yer değiştirse bile, radikal geliştirme hâlâ büyük bir risk. Hatta, o kadar fazla değişiklikten sonra, geriye kalan kişi siz dahi olmayabilirsiniz. Geliştirme alan her insan, kendilerinin haberi bile olmadan, bu süreç içerisinde yaşamlarını sonlandırabilir.

Tecrübeme göre, radikal geliştirmenin birçok savunucusu geliştirilmiş varlığın siz olamayabileceğini kabul etmekte zorlanıyor. Zihni, bir yazılım programı olarak gören bir zihin anlayışına sempati duyma eğilimindeler. Onlara göre, siz beyin donanımınızı radikal yollarla geliştirseniz de gene aynı programı çalıştırıyorsunuz çünkü zihniniz hâlâ yerinde duruyor. Tıpkı bir bilgisayar dosyasını yüklemek ve indirmek gibi, zihniniz de bir program olarak buluta yüklenebilir. Bu bir teknofilin* ölümsüzlüğe giden yolu – zihnin yeni “ahireti”, şayet isterseniz, bedenin dışına uzanan yaşam. Ölümsüzlüğün teknolojik biçimi her ne kadar çekici görünse de, zihne dair bu bakışın derinden kusurlu olduğunu ileride göreceğiz.

O yüzden, on yıllar sonra bile olsa, bir zihin tasarımı merkezine veya bir android mağazasına girdiğiniz vakit, unutmayın ki satın aldığınız YZ teknolojisi derin felsefi sebeplerden dolayı işini yapmakta başarısız olabilir. Sorumluluk alıcıya aittir. Fakat bu konuya daha da derinlemesine girmeden önce, sizin bu konuların sonsuza dek varsayımsal kalacağına dair kuşkularınız olabilir çünkü sofistike YZ’nin geliştirileceğini varsayarak yanılıyor olabilirim. Neden tüm bunların olabileceğine dair kuşku duyasınız ki?

1

YAPAY ZEKÂ ÇAĞI

Gündelik hayatınızda yapay zekâ hakkında düşünmüyor olabilirsiniz fakat o hep sizin etrafınızda. Siz bir Google araması yaptığınızda, o burada. Burada Jeopardy! dünyasını ve Go şampiyonlarını alt etmekle meşgul. Ve her geçen dakika daha da iyiye gidiyor. Fakat henüz genel amaçlı bir YZ’ye sahip değiliz – kendi başına zekice sohbet edebilecek, çeşitli konularda fikir üretebilecek ve hatta insanları fikirleriyle alt edecek bir YZ’ye. Bu tür bir yapay zekâ Her [Aşk] ve Ex Machina filmlerinde tasvir edildi ve belki size bilimkurgunun her zamanki fantezilerinden biri gibi geldi. Gerçi, bunun gerçekleşmesinin o kadar da uzak olduğunu düşünmüyorum. Yapay zekânın gelişimi pazar güçleri ve savunma sanayisi tarafından yönlendiriliyor; şu an milyarlarca dolar, inşaat sektöründe akıllı ev asistanlarına, süper robot askerlere ve insan beyninin çalışmasını taklit eden süper bilgisayarlara aktarılıyor. Nitekim Japon hükümeti, işgücü kıtlığı beklentisiyle, halkın yaşlı nüfusuna bakmak adına androidleri kullanmak için bir girişim başlattı.

Var olan gelişim hızını düşünürsek yapay zekânın, yapay genel zekâya (YGZ) evrilmesi önümüzdeki birkaç on yıllık zaman zarfında mümkün olabilir. YGZ, tıpkı insan zekâsı gibi farklı alanlardaki konuları kavrayıp birleştirebilir, esneklik ve sağduyu sergileyebilir. İşin doğrusu, YZ’nin önümüzdeki on yıllarda birçok insan mesleğini devre dışı bırakacağı şimdiden öngörülüyor. Mesela yakınlarda yapılan bir araştırmaya göre, en fazla alıntı yapılan YZ araştırmacıları, yapay zekânın yüzde 50 olasılıkla 2050’de, yüzde 90 olasılıkla 2070’te “insan mesleklerinin çoğunu en az normal bir insan gibi yürütebileceğini” umuyor.

Birçok gözlemcinin süper zeki YZ’lerin yükselişi konusunda bizi uyardığını belirtmiştim: En zeki insanı bile sağduyu, muhakeme ve sosyal beceriler dahil her alanda geride bırakan sentetik zekâlar. Süper zekâların bizi yok edebileceğini ileri sürüyorlar. Halen Google’ın mühendislik direktörü olan fütürist Ray Kurzweil ise tam aksine, yaşlanmayı, hastalığı, fakirliği ve kaynakların kıtlığını ortadan kaldıran teknolojik bir ütopya tasvir ediyor. Hatta Kurzweil, Her filmindeki Samantha gibi kişiselleştirilmiş YZ sistemleriyle arkadaşlık etmenin potansiyel avantajlarından bahsediyor.

Tekillik

Kurzweil ve diğer transhümanistler bir “teknolojik tekillik”e, YZ’nin insan zekâsının ötesine geçeceği ve bizim daha önce çözemediğimiz problemleri çözebileceği bir noktaya, medeniyet ve insanın doğası bakımından öngörülemez sonuçlarıyla birlikte hızla yaklaşmakta olduğumuzu ileri sürüyorlar. Tekillik fikri matematikten ve fizikten, özellikle de kara delik kavramından geliyor. Kara delikler, normal fizik yasalarının işlemediği, uzay-zamandaki “tekil” nesnelerdir. Bir benzeşim kurarsak, teknolojik tekilliğin kontrolden çıkmış bir teknolojik büyümeye ve medeniyette kitlesel dönüşümlere neden olacağı bekleniyor. İnsanlığın binlerce yıldır işlettiği kurallar birdenbire son bulacak ve ne olacağı öngörülemez bir durum yaşanacak.

Diğer yandan, teknolojik yenilikler, dünyayı bir gecede değiştirecek kadar eksiksiz bir tekilliğe götürecek hızda olmayabilir. Gene de bu bizi büyük resimden uzaklaştırmamalı: 21. yüzyılda ilerledikçe insanların o kadar süre yerküredeki en zeki varlıklar olamayabileceği ihtimaliyle açık açık yüzleşmeliyiz. Yerküredeki en büyük zekâlar sentetik olacak.

İşin doğrusu, sentetik zekânın bizi alt edeceğine dair gerekçeleri çoktan gördüğümüzü düşünüyorum. Şu anda bile, mikroçipler nöronlardan daha hızlı bir hesaplama aracı. Kitabın bu bölümünü yazarken, dünyanın en hızlı bilgisayarlarından biri Tennessee’de Oak Ridge Laboratuvarı’nda bulunan süper bilgisayar Summit’ti.

Summit’in hızı 200 petaflop’tur – yani saniyede 200 katrilyon hesaplama yapabiliyor. Summit’in göz açıp kapayıncaya kadar yapabildiği şeyi yapmak için, dünyadaki bütün insanların eline bir hesap makinesi alıp 305 günün her günü her dakika hesap yapmaları gerekir.

Tabii ki hız her şey değil. Eğer metrik aritmetik hesaplamalar değilse, sizin beyniniz Summit’ten bilişimsel olarak daha güçlüdür. Beyniniz 3,8 milyar yıllık evrimin (gezegenimizdeki tahmini yaşam yaşı) bir ürünüdür ve gücünü örüntü tanıma, hızlı öğrenme ve ayakta kalmanın başka beceri isteyen meydan okumalarına vakfetmiştir. Tekil nöronlar belki yavaş olabilirler, ama çok sayıda nöron birbirlerine koşut biçimde tek parça halinde eşzamanlı olarak organize oluyor ve hâlâ modern YZ sistemlerinin tozunu attırabiliyor. Fakat YZ sınırsız bir şekilde gelişime açık. Bir süper bilgisayarın, tersine mühendislik aracılığıyla beynin algoritmaları geliştirilerek veya yeni algoritmalar düzenlerek insan beynine erişecek veya geçecek düzeyde tasarlanması pek uzun sürmeyebilir.

…