Birazoku

“Büyüleyici, harika yazılmış, çok önemli bir kitap.”—Yuval Noah Harari

“Mutlaka okumalısınız.”—Daniel Kahneman

“Eşi görülmemiş zamanlar için mükemmel bir rehber.”—Bill Gates

İnsanlık tarihinde önemli bir eşiğe yaklaşıyoruz. Her şey değişmek üzere.

Yakında etrafımızda yapay zekâlar olacak. DNA yazıcılarının ve kuantum bilgisayarlarının, laboratuvar patojenlerinin ve otonom silahların, robot asistanların ve enerji bolluğu dünyasında yaşayacaksınız. Böyle bir dünyaya hazır değiliz.

Google bünyesindeki yapay zekâ şirketi Deepmind’ın kurucularından olan Mustafa Suleyman bu devrimin merkezindeydi. Önümüzdeki yıllara bu güçlü ve hızla yayılan yeni teknolojiler dalgası damgasını vuracak.

Yaklaşan Dalga’da Suleyman bu teknoloji dalgasının büyük bir bolluk yaratacağını ama öbür yandan da küresel düzenin temeli olan ulus devleti nasıl tehdit edeceğini anlatıyor. Kırılgan devletlerimiz bir felakete sürüklenirken, varoluşsal bir ikilemin içindeyiz: Bir yanda hayal bile edemeyeceğimiz felaketler, öbür yanda da her saniye gözetim ve baskı altında yaşamak.

Yapay zekâ teknolojisinin merkezinden çıkan bu çığır açıcı kitap, çağımızın en büyük problemi olan güçlü teknolojileri kontrol edebilmeyi, “dizginleme problemini” inceliyor.

Kıyamet ve distopya arasındaki dar yolda yürüyebilecek miyiz?

CNN, Economist, Bloomberg, Politico Playbook, Financial Times, The Guardian, CEO Magazine ve Semafor tarafından Yılın Kitabı seçildi

“Gelecekte bizi nelerin beklediğinin samimi bir anlatısı… Yaklaşan Dalga’yı okurken Gramsci’nin dediği gibi ihtiyacımız olanın, ‘kötümser bir akıl ve iyimser bir irade’ olduğunu hatırlıyoruz. Şansımıza Mustafa Suleyman her ikisine de sahip.” —The Guardian

“Yapay zekâ ve diğer teknolojilerin geleceğine dair mükemmel bir öngörü… Mustafa Suleyman yapay zekâ devriminin merkezindeki teknolojileri, şirketleri ve insanları çok iyi tanıyor.”  —The New York Times

“Büyüleyici… Yapay zekâ konusunda şimdiye dek çok iyimser yazarları ve felaket tellallarını okumuş olabilirsiniz ama bu kitabı kesinlikle gözden kaçırmamalısınız… Harika.”  —Niall Ferguson, Bloomberg

“Harika… Yaşadığımız yüzyılın en önemli sorusunun cevabını araştırıyor: Gelecekte bizi bekleyen, nefes kesici teknolojilerin bizim istediğimiz dünyayı yaratmasını nasıl sağlayabiliriz?” —Eric Lander, MIT ve Harvard Broad Enstitüsü kurucu başkanı

“Teknolojik değişimlerin tarihini açıklamakla kalmıyor gelecekte bizi bekleyen siyasi güçlükleri de inceliyor.”—Anne Applebaum, Pulitzer ödüllü tarihçi

“İnanılmaz… Sakın kaçırmayın.” —Eric Schmidt, Google’ın eski CEO’su

“Sakin, pragmatik ve etik…  Büyüleyici bir kitap.” —Angela Kane, BM Genel Sekreter Başyardımcısı

“Gerçekten olağanüstü, görmezden gelinemeyecek bir kitap… İkna edici bir anlatı.” — Prof. Nouriel Roubini, New York Üniversitesi

“Pratik ve iyimser bir rehber.”—Prof. Stuart Russell, California Üniversitesi, Berkeley

“Yapay zekâya panoramik bir açıyla bakıyor ve harekete geçmeye çağırıyor… Herkes mutlaka okumalı.”—Fei-Fei Li, Stanford İnsan Merkezli YZ Enstitüsü eş başkanı

“Cesur bir uyarı… Mutlaka okunmalı.”—Tristan Harris, İnsani Teknolojiler Merkezi eş kurucusu

“Olağanüstü ve elzem bir kitap… Bu çağda yaşadığınız için heyecanlanacaksınız.” —Alain de Botton

“Derinlemesine bir araştırma ve son derece güncel.”—Al Gore, ABD eski başkan yardımcısı

“Çağımız teknolojisinin hızını ve boyutlarını öğrenmek için bu kitabı okumalısınız.”—Ian Bremmer, Eurasia Group’un kurucusu ve çok satan yazar

“Ödüllendirici ve hayretler içinde bırakan bir kitap.”—Stephen Fry

“Gerçekçi, bilgi dolu ve anlaşılır.”—Prof. Jack Goldsmith, Harvard University

İçindekiler

Temel terimler sözlüğü……………………………………………………………………11
Önsöz………………………………………………………………………………………………13
YAKLAŞAN DALGA……………………………………………………………………..15
BÖLÜM 1/DİZGİNLEME MÜMKÜN DEĞİL
Dalga …………………………………………………………………………………………17
İkilem…………………………………………………………………………………………21
Tuzak…………………………………………………………………………………………26
Argüman……………………………………………………………………………………32
HOMO TEKNOLOJİKUS………………………………………………………………37
BÖLÜM 2/SONSUZ YAYGINLAŞMA
Motor…………………………………………………………………………………………39
Genel amaçlı dalgalar: Tarihin ritmi…………………………………………..42
Yaygınlaşma varsayılandır ………………………………………………………..48
Vakum tüplerinden nanometrelere: Turbo yaygınlaşma……………51
BÖLÜM 3/DİZGİNLEME PROBLEMİ
İntikam etkileri…………………………………………………………………………..55
Dizginleme işin temelidir…………………………………………………………..58
Hiç hayır dedik mi?……………………………………………………………………60
Nükleer istisna? …………………………………………………………………………64
Teknolojik hayvan……………………………………………………………………..69
BİR SONRAKİ DALGA…………………………………………………………………73
BÖLÜM 4/ZEKÂ TEKNOLOJİSİ
Makineye hoş geldin………………………………………………………………….75
Alphago ve geleceğin başlangıcı………………………………………………..78
Atomlardan bitlere ve genlere……………………………………………………81
Bir Kambriyen patlaması……………………………………………………………84
Moda olmuş kelimelerin ötesinde………………………………………………86
Yapay zekânın baharı: Derin öğrenme rüştünü ispat ediyor ……..88
Yapay zekâ dünyayı yutuyor …………………………………………………….91
Her şey için otomatik tamamlama: Büyük dil modellerinin
yükselişi …………………………………………………………………………………….93
Beyin ölçekli modeller ……………………………………………………………….97
Daha azıyla daha fazlası, yeniden…………………………………………….101
Duyarlılık: Makine konuşuyor…………………………………………………105
Süperzekânın ötesinde……………………………………………………………..110
Yapılabilenler: Modern bir Turing testi ……………………………………112
BÖLÜM 5/YAŞAM TEKNOLOJİSİ…………………………………….117
DNA makası: CRISPR devrimi…………………………………………………119
DNA yazıcıları: Sentetik biyoloji hayata geçiyor………………………123
Biyolojik yaratıcılık aldı başını gidiyor…………………………………….126
Sentetik yaşam çağında yapay zekâ …………………………………………131
BÖLÜM 6/DAHA GENİŞ DALGA…………………………………….137
Robotiğin ergenlik çağı…………………………………………………………….139
Kuantum üstünlüğü…………………………………………………………………145
Bir sonraki enerji dönüşümü ……………………………………………………148
Dalganın ötesindeki dalga ……………………………………………………….151
BÖLÜM 7/YAKLAŞAN DALGANIN DÖRT ÖZELLİĞİ …..155
Asimetri: Muazzam bir güç transferi ……………………………………….159
Hiper evrilme: Sonsuz ivmelenme……………………………………………162
Her yerde kullanım: Çoğu (zarar değil) yarar………………………….165
Otonomi ve ötesi: İnsanlar işin içinde olacak mı? …………………….169
Goril problemi………………………………………………………………………….172
BÖLÜM 8/ÖNÜNE GEÇİLMEZ TEŞVİKLER ……………………175
Ulusal gurur, stratejik gereklilik ………………………………………………179
Silahlanma yarışı ……………………………………………………………………..185
Bilgi yalnızca özgür olmak ister……………………………………………….189
100 trilyon dolarlık fırsat………………………………………………………….194
Küresel güçlükler …………………………………………………………………….201
Ego …………………………………………………………………………………………..206
BAŞARISIZ DEVLETLER…………………………………………………………….211
BÖLÜM 9/BÜYÜK PAZARLIK
Devletin vaadi………………………………………………………………………….213
Kopenhag’dan dersler: Siyaset kişiseldir………………………………….215
Kırılgan devletler……………………………………………………………………..220
Teknoloji siyasidir: Dalganın devletlere çıkardığı güçlük ………..224BÖLÜM 10/KIRILGANLIĞI ARTIRAN FAKTÖRLER
Ulusal acil durum 2.0: Dizginlenmemiş asimetri
iş başında …………………………………………………………………………………231
Gücün hızla düşen maliyeti……………………………………………………..236
Silahlı robotlar: Saldırının önceliği …………………………………………..238
Yanlış bilgilendirme makinesi………………………………………………….244
Devlet destekli bilgi saldırıları …………………………………………………247
Laboratuvar sızıntıları ve kasıtsız istikrarsızlık………………………..249
Otomasyon tartışması………………………………………………………………255
BÖLÜM 11/ULUSLARIN GELECEĞİ
Üzengi ……………………………………………………………………………………..261
Odaklaşmalar: Zekânın bileşik getirisi……………………………………..265
Gözetleme: Otoriter rejimlerin roket yakıtı ………………………………272
Parçalanmalar: Güç halkta ……………………………………………………….278
Yaklaşan çelişkiler dalgası ……………………………………………………….285
BÖLÜM 12/İKİLEM
Felaket: En büyük başarısızlık………………………………………………….289
Felaket türleri…………………………………………………………………………..292
Tarikatlar, deliler ve intihara eğilimli devletler………………………..298
Distopyaya çark ediş………………………………………………………………..302
Durgunluk: Farklı bir tür felaket………………………………………………306
Şimdi nereye?…………………………………………………………………………..311
DALGANIN İÇİNDE İLERLEMEK……………………………………………..313
BÖLÜM 13/DİZGİNLEME MÜMKÜN OLMAK
ZORUNDA…………………………………………………………………………315
Dağınık içgörülerin bedeli ……………………………………………………….315
Düzenleme yapmak yetmez …………………………………………………….320
Dizginleme, yeniden: Yeni bir büyük pazarlık…………………………325
Tufandan önce …………………………………………………………………………329
BÖLÜM 14/DİZGİNLEME YOLUNDA ON ADIM……………333
1. Güvenlik: Teknik güvenlik için bir Apollo programı ……………334
2. Denetim: Bilgi güçtür; güç de kontroldür……………………………..342
3. Darboğazlar: Zaman satın alın ……………………………………………..347
4. Geliştiriciler: Eleştirenler inşa etmeli…………………………………….352
5. Şirketler: Kâr + Amaç……………………………………………………………356
6. Devletler: Hayatta kalın, reform yapın, düzenleme yapın…….361
7. İttifaklar: Antlaşma yapma zamanı ……………………………………..367
8. Kültür: Başarısızlığı saygıyla kucaklamak ……………………………373
9. Hareketler: Halkın gücü ………………………………………………………378
10. Dar patika: Tek yol ilerlemek ……………………………………………..381
Antroposenden sonra hayat……………………………………………………..389
Notlar…………………………………………………………………………………………….395

Yaklaşan Dalga

BÖLÜM 1
DİZGİNLEME MÜMKÜN DEĞİL

Dalga

Hemen her kültürün bir tufan miti vardır. Kadim Hindu metinlerinde evrendeki ilk insan olan Manu, yaklaşmakta olan büyük bir tufan hakkında uyarılır ve tufandan kurtulan tek kişi olur. Gılgamış Destanı’nda tanrı Enlil, dünyayı dev bir tufanla yok eder, ki bu hikâye, Tevrat’taki Hz. Nuh’un hikâyesini bilenlere tanıdık gelecektir. Platon, muazzam bir selde yok olan kayıp Atlantis şehrinden bahseder. Yoluna çıkan her şeyi süpürüp götüren ve ardında yenilenmiş ve yeniden doğmuş bir dünya bırakan dev bir dalga fikri, insanlığın sözlü geleneklerinde ve kadim yazılarında tekrar tekrar karşımıza çıkar. Seller gerçek anlamda da tarihe damga vururlar: dünyanın büyük nehirlerinin mevsimsel taşmaları, Buz Devri’nin bitişinin ardından okyanusların yükselmesi, ufukta hiçbir uyarı olmadan ortaya çıkan bir tsunaminin yarattığı az rastlanır şok. Dinozorları yok eden göktaşı 1,5 km yüksekliğinde dev bir dalga oluşturmuş, evrimin gidişatını değiştirmişti. Bu dalgaların inanılmaz gücü kolektif bilincimize kazınmıştır: Durdurulamaz, kontrol edilemez, dizginlenemez su dağları. Bu dalgalar gezegendeki en güçlü kuvvetler arasındadır. Kıtaları şekillendirir, dünyanın ekinlerini sular, medeniyetin gelişimini besler.

Dönüştürücü dalgalar bu kadarla da kalmaz. Tarihe bir daha bakın, bu kez de mecazi dalgaları göreceksiniz: Yükselip çöken imparatorluklar ve dinler, ticaret patlamaları. Hıristiyanlık veya İslam’ı, küçük dalgacıklar olarak başlayıp büyüye büyüye dünyanın çok büyük bölümünü etkileri altına almış dinleri düşünün. Tarihin iniş çıkışlarını, büyük güç mücadelelerini ve ekonomik patlamaları ve çöküşleri çerçeveleyen, bu ve bunun gibi dalgalar tüm insanlık tarihinin gergefine işlenmiş kalıcı motiflerdir. Teknolojilerin yükselişi ve yayılışı da dünyayı değiştiren dalgalar biçiminde olmuştur. Türümüz tarafından kullanılan ilk teknolojiler olan ateşin ve taş aletlerin keşfinden günümüze kadar hep aynı eğilimi görürüz. Kazmadan pulluğa, çömlekçilikten fotoğrafa, telefonlardan uçaklara kadar, icat edilen neredeyse her temel teknoloji aynı, değişmez kuralı takip eder:

Giderek ucuzlar, kullanımı kolaylaşır ve nihayet her yere yayılır. Teknolojinin bu şekilde dalgalar halinde yayılması, Homo teknolojikus’un yani teknolojik hayvanın hikâyesidir. İnsanoğlunun kendisini, türdeşlerini, yetilerini ve çevresi üzerindeki hâkimiyetini iyileştirme arayışı, fikirlerin ve yaratıcılığın dur durak bilmez evriminin dinamosu olmuştur. İcat süreci, her biri kendi motivasyonlarıyla ilerleyip kendi kendini organize eden, son derece rekabetçi birtakım mucitlerin, akademisyenlerin, girişimcilerin ve liderlerin yön verdiği bir süreçtir; ortaya çıkar, yayılır, gelişir. Bu icat ekosisteminin varsayılan durumu genişlemedir. Teknolojinin doğasında bu vardır.

Buradaki soru, bundan sonra ne olacağı. İlerleyen sayfalarda size tarihin bir sonraki büyük dalgasının hikâyesini anlatacağım. Etrafınıza bir bakın. Ne görüyorsunuz? Mobilyalar. Binalar. Telefonlar. Yiyecekler. Peyzaj düzenlemesi yapılmış bir park. Görüş alanınızdaki neredeyse her nesne, büyük ihtimalle insan zekâsı tarafından yaratılmış veya dönüştürülmüştür. Sosyal etkileşimlerimize, kültürlerimize, siyasi organizasyonlarımıza ve belki de insan olmanın anlamına temel teşkil eden dil de zekâmızın bir başka ürünü ve onu geliştiren bir başka unsurdur. Her ilke, her soyut kavram, her bir küçük yaratıcı girişim veya proje ve hatta hayatınızdaki her etkileşim, türümüzün hayal gücü, yaratıcılık ve akıl yürütme konularındaki eşsiz ve sonsuz karmaşıklıktaki kapasitesi sayesinde mümkün hale gelmiştir. İnsanın yaratıcı zekâsı muazzam bir şeydir. Bu resimde her daim kendini bu kadar hissettiren tek bir diğer kuvvet vardır: biyolojik yaşamın kendisi. Modern çağdan önce, belli bazı taş ve mineralleri saymazsak insan yapımı çoğu eşya – ahşap evlerden tutun, pamuklu kıyafetlere ve yaktığımız kömür ateşlerine kadar her şey– vaktiyle canlı olan şeylerdi.

O zamanlardan bu yana dünyaya dahil olan şeylerin de neredeyse hepsi bizim aracılığımızla –birer biyolojik varlık olan biz insanların aracılığıyla– dahil olmuştur. İnsan dünyasının tamamının ya canlı sistemlere ya da bizim zekâmıza bağlı olduğunu söylemek abartı olmaz. Ve şimdi bunların her ikisi de eşi benzeri görülmemiş bir inovasyon ve altüst olma dönemindeler; bu emsalsiz büyümeyle hemen hemen hiçbir şey eskisi gibi kalmayacak. Giderek yaklaşmakta olan yeni teknoloji dalgası ile birlikte dünyamızın bu iki evrensel temelini dönüştürebilecek mühendislik gücü serbest kalacak. Yaklaşan dalgayı tanımlayan iki temel teknoloji var: yapay zekâ ve sentetik biyoloji. İkisi birlikte, daha önce hiç görülmemiş seviyede bir refah ve ihtiyaç fazlası yaratarak insanlık için yeni bir dönemin kapısını aralayacaklar. Fakat bunların hızlı yükselişiyle beraber, çeşitli kötü niyetli kişilerin yıkıcı olabilecek, istikrarı bozabilecek ve hatta akıl almaz felaketlere yol açabilecek işler yapma gücünü ve imkânını bulmaları riski de var. Bu dalga, 21. yüzyılı şekillendirecek muazzam bir güçlük yaratıyor: Geleceğimiz hem bu teknolojilere bağlı hem de onların tehdidi altında. Bugün bulunduğumuz yerden baktığımızda, bu dalgayı dizginlemek –yani kontrol altına almak, zapt etmek veya durdurmak– mümkün görünmüyor. Bu kitapta, durumun niye gerçekten bu olabileceğini ve eğer öyleyse bunun ne anlama geldiğini sorgulayacağız. Bu durumun doğuracağı sonuçlar, şu an hayatta olan herkesi ve tüm gelecek nesilleri şöyle veya böyle etkileyecek.

Bu yaklaşan teknoloji dalgasının insanlık tarihini bir dönüm noktasına götürdüğüne inanıyorum. Eğer bunu dizginlemek mümkün değilse, türümüz için sonuçları dramatik hatta muhtemelen vahim olacak. Dahası bu teknolojilerin meyvelerinden mahrum kaldığımızda da tehlikede ve zor durumda kalacağız. Bu argümanı geçtiğimiz on yıl boyunca kapalı kapılar ardında birçok kez dile getirdim fakat artık etkilerin giderek daha da göz ardı edilemez hale geldiği günümüzde, bunu kamuoyu ile de paylaşmamın zamanının geldiğini düşünüyorum.

…