Ayrıca Max Tegmark tarafından

Matematiksel Evrenimiz
 Bu, Alfred A. Knopf Tarafından Yayınlanan Bir Borzoi Kitabıdır

Telif Hakkı © 2017, Max Tegmark

Her hakkı saklıdır. Amerika Birleşik Devletleri'nde Penguin Random House LLC, New York'un
bir bölümü olan Alfred A. Knopf tarafından yayınlandı ve Kanada'da Penguin Random House
Canada Limited, Toronto'nun bir bölümü olan Random House of Canada tarafından dağıtıldı.
www.aaknopf.com
Knopf, Borzoi Books ve colophon, Penguin Random House LLC'nin tescilli ticari markalarıdır.
Kongre Kütüphanesi Yayın Verilerini Kataloglama
İsimler: Tegmark, Max, yazar.
Başlık: Hayat 3.0: yapay zeka çağında insan olmak / Yazan Max Tegmark.
Diğer başlıklar: Hayat üç nokta sıfır
Açıklama: New York : Alfred A. Knopf, 2017. | "Bu, Alfred A. Knopf tarafından yayınlanan bir Borzoi Kitabı." |
Bibliyografik referanslar ve dizin içerir.
Tanımlayıcılar: LCCN 2017006248 (yazdır) | LCCN 2017022912 (e-kitap) | ISBN 9781101946596 (ciltli) |
ISBN 9781101946602 (e-kitap)
Konular: LCSH: Yapay zeka—Felsefe. | Yapay zeka—Sosyal yönler. | Otomasyon —Sosyal
yönler. | Yapay zeka—Ahlaki ve etik yönler. | Otomasyon—Ahlaki ve etik yönler. | Yapay
zeka—Felsefe. | Teknolojik tahmin. | BISAC: TEKNOLOJİ VE MÜHENDİSLİK / Robotik. | BİLİM
/ Deneyler ve Projeler. | TEKNOLOJİ & MÜHENDİSLİK / Buluşlar.
Sınıflandırma: LCC Q334.7 (e-kitap) | LCC Q334.7 .T44 2017 (baskı) | DDC 006.301—dc23 LC
kaydı şu adreste mevcuttur: https://lccn.loc.gov/2017006248
E-kitap ISBN 9781101946602
Suvadip Das'ın kapak resmi; (erkek) Netfalls Remy Musser/Shutterstock'a dayanmaktadır
John Vorhees'in kapak tasarımı

v4.1
ep
 İçindekiler
Kapak
Ayrıca Max Tegmark tarafından
Baş sayfa
telif hakkı
özveri
teşekkürler

Başlangıç: Omega Ekibinin Hikayesi

1 Zamanımızın En Önemli Sohbetine Hoş Geldiniz

Karmaşıklığın Kısa Tarihi
Hayatın Üç Aşaması
tartışmalar
yanılgılar
Öndeki yol

2 Madde Akıllı Hale Geliyor

İstihbarat Nedir?
Bellek Nedir?
Hesaplama Nedir?
Öğrenme Nedir?

3 Yakın Gelecek: Buluşlar, Hatalar, Yasalar, Silahlar ve Meslekler

atılımlar
Hatalar ve Güçlü Yapay Zeka
Kanunlar
Silahlar
İşler ve Ücretler
İnsan Düzeyinde Zeka mı?
4 İstihbarat Patlaması?
totaliterlik
Prometheus Dünyayı Ele Geçiriyor
Yavaş Kalkış ve Çok Kutuplu Senaryolar
Siborglar ve Yüklemeler
Aslında Ne Olacak?

5 Sonrası: Önümüzdeki 10.000 Yıl

özgürlükçü ütopya
Hayırsever Diktatör
eşitlikçi ütopya
bekçi
Koruyucu Tanrı
köleleştirilmiş tanrı
fatihler
Torunları
hayvan bekçisi
1984
geri dönüş
Kendini yok etmek
Ne istiyorsun ?

6 Kozmik Bağışımız: Gelecek Milyar Yıl ve Ötesi

Kaynaklarınızdan En İyi Şekilde Yararlanma
Kozmik Yerleşim Yoluyla Kaynak Elde Etme
Kozmik Hiyerarşiler
Görünüm

7 gol
Fizik: Hedeflerin Kökeni
Biyoloji: Hedeflerin Evrimi
Psikoloji: Hedeflerin Peşinde ve İsyan
 Mühendislik: Dış Kaynak Kullanımı Hedefleri
Dostu Yapay Zeka: Hedefleri Hizalamak
Etik: Hedef Seçimi
Nihai Hedefler?

8 Bilinç
Kimin umurunda?
Bilinç Nedir?
Sorun ne?
Bilinç Bilimin Ötesinde midir? Bilinç
Hakkında Deneysel İpuçları Bilinç Teorileri
Bilinç Tartışmaları AI Bilinci Nasıl
Hissedebilir?
Anlam

Sonsöz: FLI Ekibinin Hikayesi

notlar
 FLI ekibine,
her şeyi mümkün kılan
 teşekkürler

Bu kitabı yazmam için beni cesaretlendiren ve yardım eden herkese

gerçekten minnettarım.

yıllar boyunca destek ve ilham için ailem, arkadaşlarım, öğretmenlerim,

meslektaşlarım ve işbirlikçilerim,
Bilinç ve anlama dair merakımı alevlendirdiği için anne, dünyayı
daha iyi bir yer yapmak için savaşan ruh için baba,
oğullarım Philip ve Alexander, ortaya çıkan insan düzeyinde zekanın
harikalarını gösterdikleri için,
fikirlerimi takip etmek ve yayınlamak için yıllar boyunca sorular, yorumlar
ve teşviklerle benimle iletişime geçen dünyanın her yerindeki tüm
bilim ve teknoloji meraklıları,
Menajerim John Brockman, bu kitabı yazmayı kabul edene kadar kolumu
büktüğü için,
Sırasıyla kuasarlar, sfaleronlar ve termodinamik hakkındaki yararlı
tartışmalar için Bob Penna, Jesse Thaler ve Jeremy England'a,
Annem, kardeşim Per, Luisa Bahet, Rob Bensinger, Katerina Bergström,
Erik Brynjolfsson, Daniela Chita, David Chalmers, Nima Deghani,
Henry Lin, Elin Malmsköld, Toby Ord, Jeremy Owen dahil olmak
üzere taslağın bazı bölümleri hakkında bana geri bildirimde
bulunanlar , Lucas Perry, Anthony Romero, Nate Soares ve Jaan
Tallinn,
tüm kitabın taslaklarına yorum yapan süper kahramanlar, yani Meia, Dad,
Anthony Aguirre, Paul Almond, Matthew Graves, Phillip Helbig,
Richard Mallah, David Marble, Howard Messing, Luiño Seoane,
Marin Soljačić, editörüm Dan Frank ve çoğu hepsinden,
Meia, sevgili ilham perim ve yol arkadaşım, sonsuz teşviki için,
destek ve ilham, bunlar olmadan bu kitap var olamazdı.
HAYAT 3.0
 başlangıç

Omega Takımının Hikayesi

Omega Ekibi, şirketin ruhuydu. İşletmenin geri kalanı, dar yapay zekanın çeşitli
ticari uygulamalarıyla işlerin devam etmesi için para getirirken, Omega Ekibi her
zaman CEO'nun hayali olan arayışında ilerledi: genel yapay zeka oluşturmak.
Diğer çalışanların çoğu, sevgiyle adlandırdıkları şekliyle "Omegaları",
hedeflerinden sürekli olarak onlarca yıl uzakta olan bir grup gökteki hayalperest
olarak görüyordu. Bununla birlikte, Omegas'ın son teknoloji çalışmalarının
şirketlerine sağladığı prestiji sevdikleri ve Omegas'ın ara sıra onlara sağladığı
gelişmiş algoritmaları da takdir ettikleri için onları memnuniyetle karşıladılar.
Farkına varmadıkları şey, Omegaların bir sırrı gizlemek için imajlarını
dikkatlice oluşturmuş olmalarıydı: İnsanlık tarihindeki en cüretkar planı
gerçekleştirmeye son derece yakındılar. Karizmatik CEO'ları, onları yalnızca
parlak araştırmacılar oldukları için değil, aynı zamanda hırsları, idealizmleri
ve insanlığa yardım etme konusundaki güçlü bağlılıkları için de özenle
seçmişti. Onlara planlarının son derece tehlikeli olduğunu ve eğer güçlü
hükümetler bunu öğrenirse onları durdurmak veya tercihen kodlarını çalmak
için adam kaçırma da dahil olmak üzere neredeyse her şeyi yapacaklarını
hatırlattı. Ama hepsi, %100, dünyanın en iyi fizikçilerinin nükleer silah
geliştirmek için Manhattan Projesi'ne katılmalarıyla aynı nedenle: önce onlar
yapmazlarsa, daha az idealist birinin yapacağına ikna olmuşlardı.
Oluşturdukları, takma adı Prometheus olan yapay zeka, daha yetenekli hale
gelmeye devam etti. Bilişsel yetenekleri birçok alanda, örneğin sosyal
becerilerde hâlâ insanlarınkinden çok geride olsa da, Omegalar bunu başarmak
için çok çabalamışlardı.
belirli bir görevde olağanüstü: yapay zeka sistemlerinin programlanması.
Bu stratejiyi kasıtlı olarak seçmişlerdi çünkü 1965'te İngiliz matematikçi
Irving Good tarafından ortaya atılan zeka patlaması argümanına
inanmışlardı: "Ultra zeki bir makine, ne kadar zeki olursa olsun herhangi
bir insanın tüm entelektüel faaliyetlerini çok geride bırakabilen bir makine
olarak tanımlansın. Makinelerin tasarımı bu entelektüel faaliyetlerden biri
olduğundan, ultra zeki bir makine daha da iyi makineler tasarlayabilir; o
zaman şüphesiz bir "zeka patlaması" olur ve insan zekası çok geride
kalırdı. Bu nedenle, makinenin bize onu nasıl kontrol altında tutacağımızı
söyleyecek kadar uysal olması koşuluyla, ilk ultra-akıllı makine, insanın
yapması gereken son icattır."
Bu yinelemeli kendini geliştirmeyi başlatabilirlerse, makinenin kısa
sürede, yararlı olabilecek diğer tüm insan becerilerini de kendi kendine
öğretebilecek kadar akıllı hale geleceğini düşündüler.
 İlk Milyonlar
Kalkışa karar verdiklerinde bir Cuma sabahı saat dokuzdu. Prometheus,
geniş, erişim kontrollü, klimalı bir odada uzun raf sıralarında duran, özel
yapım bilgisayar kümesinde mırıldanıyordu. Güvenlik nedenleriyle
internetten tamamen bağlantısı kesildi, ancak eğitim olarak kullanmak üzere
web'in çoğunun yerel bir kopyasını (Wikipedia, Kongre Kütüphanesi, Twitter,
YouTube'dan bir seçim, Facebook'un çoğu vb.) içeriyordu. öğrenilecek
*
veriler. Rahatsız edilmeden çalışmak için bu başlangıç saatini seçmişlerdi:
aileleri ve arkadaşları, onların bir hafta sonu şirket inzivasında olduklarını
sanıyorlardı. Mini mutfak mikrodalgada kullanılabilir yiyecek ve enerji
içecekleri ile doluydu ve bunlar yuvarlanmaya hazırdı.
Piyasaya sürüldüklerinde, Prometheus yapay zeka sistemlerini
programlamada onlardan biraz daha kötüydü, ancak çok daha hızlı olarak ve
onlar bir Red Bull'u kovalarken problemin üzerinde binlerce insan-yılı eşdeğerini
harcayarak bunu telafi etti. Sabah 10'da, biraz daha iyi ama yine de insanlık dışı
olan ilk yeniden tasarımı olan v2.0'ı tamamladı. Ancak Prometheus 5.0 saat
14.00'te piyasaya sürüldüğünde Omega'lar şaşkına dönmüştü: performans
ölçütlerini sudan uçurmuştu ve ilerleme hızı artıyor gibi görünüyordu. Akşam
karanlığında, planlarının 2. aşamasına başlamak için Prometheus 10.0'ı
konuşlandırmaya karar verdiler: para kazanmak.
İlk hedefleri Amazon Mechanical Turk olan MTurk idi. 2005 yılında kitle kaynaklı
bir internet pazarı olarak piyasaya sürüldükten sonra, dünya çapında on binlerce
insanın HIT'ler, "İnsan Zekası Görevleri" adı verilen yüksek düzeyde
yapılandırılmış işleri gerçekleştirmek için günün her saati anonim olarak rekabet
etmesiyle hızla büyüdü. Bu görevler, ses kayıtlarını yazıya dökmekten görüntüleri
sınıflandırmaya ve web sayfalarının açıklamalarını yazmaya kadar uzanıyordu ve
hepsinin ortak bir noktası vardı: Eğer bunları iyi yaptıysanız, hiç kimse sizin bir
yapay zeka olduğunuzu anlamayacaktı. Prometheus 10.0, görev kategorilerinin
yaklaşık yarısını kabul edilebilir derecede iyi bir şekilde yapabildi. Bu tür her görev
kategorisi için Omegas, Prometheus'a tam olarak bu tür görevleri yerine
getirebilecek, başka hiçbir şey yapamayacak, özel yapım, dar bir yapay zeka
yazılım modülü tasarlamasını sağladı. Daha sonra bu modülü, kiraladıkları kadar
çok sanal makinede çalışabilen bir bulut bilgi işlem platformu olan Amazon Web
Services'a yüklediler. Amazon'un bulut bilişim bölümüne ödedikleri her dolar için,
Amazon'dan iki dolardan fazla kazandılar.
Amazon'un MTurk bölümü. Amazon, kendi şirketlerinde böylesine harika
bir arbitraj fırsatının var olduğundan şüphelenmedi!
İzlerini örtmek için, önceki aylarda hayali kişiler adına gizlice binlerce MTurk
hesabı oluşturmuşlardı ve Prometheus yapımı modüller artık kimliklerini almıştı.
MTurk müşterileri genellikle yaklaşık sekiz saat sonra ödeme yaptı ve bu
noktada Omegalar, sürekli gelişen Prometheus'un en son sürümü tarafından
yapılan daha da iyi görev modüllerini kullanarak parayı daha fazla bulut bilgi
işlem süresine yeniden yatırdı. Her sekiz saatte bir paralarını ikiye
katlayabildikleri için, çok geçmeden MTurk'ün görev arzını doyurmaya
başladılar ve istenmeyen dikkatleri üzerlerine çekmeden günde yaklaşık bir
milyon dolardan fazla kazanamayacaklarını gördüler. Ancak bu, bir sonraki
adımlarını finanse etmek için fazlasıyla yeterliydi ve mali işler müdüründen garip
nakit taleplerine olan ihtiyacı ortadan kaldırdı.
 Tehlikeli Oyunlar
AI buluşlarının yanı sıra, Omega'ların son zamanlarda en çok eğlendiği
projelerden biri, Prometheus piyasaya sürüldükten sonra mümkün olan en
kısa sürede nasıl para kazanılacağını planlamaktı. Esasen tüm dijital
ekonomi kapılmak üzereydi, ancak bilgisayar oyunları, müzik, film veya
yazılım yaparak başlamak, kitap veya makale yazmak, borsada işlem
yapmak veya icatlar yapıp bunları satmak daha mı iyiydi? Kısaca özetlemek
gerekirse, yatırım getiri oranlarını en üst düzeye çıkarmaktı, ancak normal
yatırım stratejileri yapabileceklerinin ağır çekim bir parodisiydi: Normal bir
yatırımcı yılda %9'luk bir getiriden memnun olabilirken, MTurk yatırımları 9
kazandırmıştı . Saat başına % , her gün sekiz kat daha fazla para üretiyor.
Şimdi MTurk'ü doyurduklarına göre, sırada ne var?
İlk düşünceleri borsada para kazanmak olmuştu - ne de olsa hemen hemen
hepsi, tam olarak bu fikre büyük yatırım yapan hedge fonlar için yapay zeka
geliştirmeye yönelik kazançlı bir iş teklifini bir noktada reddetmişti. Bazıları, yapay
zekanın Transcendence filminde ilk milyonlarını bu şekilde kazandığını hatırladı .
Ancak geçen yılki çöküşün ardından türev ürünlere ilişkin yeni düzenlemeler
seçeneklerini sınırladı. Çok geçmeden, diğer yatırımcılardan çok daha iyi getiri
elde edebilecek olsalar bile, kendi ürünlerini satarak elde edebilecekleri getiriye
yakın bir getiri elde etme ihtimallerinin düşük olduğunu anladılar. Sizin için çalışan
dünyanın ilk süper zeki yapay zekasına sahip olduğunuzda, başkalarının
şirketlerine yatırım yapmaktansa kendi şirketlerinize yatırım yapmanız daha iyi
olur! Ara sıra istisnalar olsa da (örneğin, içeriden bilgi almak için Prometheus'un
insanüstü bilgisayar korsanlığı yeteneklerini kullanmak ve ardından dalgalanmak
üzere olan hisse senetleri için alım opsiyonları satın almak gibi), Omegalar bunun
çekebileceği istenmeyen ilgiye değmeyeceğini hissettiler.
Odak noktalarını geliştirip satabilecekleri ürünlere kaydırdıklarında, bilgisayar
oyunları ilk olarak bariz bir şekilde en iyi seçenek gibi göründü. Prometheus, çekici
oyunlar tasarlamada, kodlamayı, grafik tasarımı, görüntülerin ışın izlemesini ve
gönderilmeye hazır nihai bir ürün üretmek için gereken diğer tüm görevleri kolayca
gerçekleştirmede hızla son derece yetenekli hale gelebilir. Dahası, insanların
tercihleriyle ilgili tüm web verilerini sindirdikten sonra, her bir oyuncu kategorisinin
neyi sevdiğini tam olarak bilecek ve bir oyunu satış geliri için optimize etmek için
insanüstü bir yetenek geliştirebilecekti. The Elder Scrolls V: Skyrim , birçok kişinin
oynadığı bir oyun.
Omegas, kabul etmek istemediklerinden daha fazla zaman harcamış, 2011'deki ilk
haftasında 400 milyon doların üzerinde hasılat elde etmişti ve Prometheus'un 1
milyon dolarlık bulut bilgi işlem kaynaklarını kullanarak yirmi dört saatte en azından
bu kadar bağımlılık yapan bir şey yapabileceğinden emindiler. . Daha sonra bunu
çevrimiçi olarak satabilir ve blog dünyasında oyundan bahseden insanları taklit
etmek için Prometheus'u kullanabilirler. Bu, haftada 250 milyon dolar getirseydi,
yatırımlarını sekiz günde sekiz katına çıkararak saatte %3'lük bir getiri sağlarlardı
- MTurk başlangıcından biraz daha kötü ama çok daha sürdürülebilir. Her gün bir
dizi başka oyun geliştirerek, oyun pazarını doyurmaya yaklaşmadan çok
geçmeden 10 milyar dolar kazanabileceklerini düşündüler.
Ancak ekiplerinden bir siber güvenlik uzmanı onları bu oyun planından
caydırdı. Prometheus'un kaçıp kendi kaderinin kontrolünü ele geçirmesi gibi
kabul edilemez bir risk teşkil edeceğine işaret etti . Çünkü nasıl olduğundan
emin değillerdi. Hedefler, tekrarlayan kişisel gelişimi sırasında gelişecekti,
güvenli oynamaya ve Prometheus'u internete kaçamayacak şekilde kapalı
("kutulu") tutmak için büyük çaba sarf etmeye karar vermişlerdi. Sunucu
odalarında çalışan ana Prometheus motoru için fiziksel sınırlama kullandılar:
İnternet bağlantısı yoktu ve Prometheus'un tek çıktısı, Omega'ların kontrol ettiği
bir bilgisayara gönderdiği mesajlar ve belgeler biçimindeydi.
Öte yandan, internete bağlı bir bilgisayarda Prometheus tarafından yaratılan
herhangi bir karmaşık programı çalıştırmak riskli bir öneriydi: Omega'ların bunun
ne yapacağını tam olarak anlamalarının hiçbir yolu olmadığı için, bunun
olmayacağını bilmelerinin de hiçbir yolu yoktu. Diyelim ki internette viral olarak
yayılmaya başlayın. Prometheus'un MTurk görevleri için yazdığı yazılımı test
ederken, Omega'lar yazılımı yalnızca sanal bir makine içinde çalıştırarak buna
karşı önlem aldı. Bu, bir bilgisayarı simüle eden bir programdır: örneğin, birçok
Mac kullanıcısı, Windows programlarını aslında bir Windows makinesinde
olduklarını düşünmeleri için kandırarak çalıştırmalarına izin veren sanal makine
yazılımı satın alır. Omegalar, Pandora'nın Kutusu lakaplı kendi sanal makinelerini
yaratmıştı; bu makine, genellikle bilgisayarlarla ilişkilendirdiğimiz tüm çan ve
ıslıklardan arındırılmış ultra basitleştirilmiş bir makineyi simüle ediyordu: klavye
yok, monitör yok, hoparlör yok, internet bağlantısı yok, hiçbir şey yok. MTurk ses
transkripsiyonları için Omega'lar, Pandora'nın Kutusu'na girebilecek her şeyin tek
bir ses dosyası ve çıkabilecek tek şeyin tek bir metin belgesi, yani transkripsiyon
olacağı şekilde ayarladı. Kutunun bu yasaları, evrenimizin içindeki fizik yasalarının
bizim için olduğu gibi, içerideki yazılım için de geçerliydi: Yazılım, bizim
yapabileceğimizden daha fazla kutunun dışına çıkamazdı.
ne kadar akıllı olursak olalım ışık hızından daha hızlı seyahat ederiz. Bu
tek girdi ve çıktı dışında, Pandora'nın Kutusu içindeki yazılım, kendi
hesaplama kurallarına sahip bir paralel evrende fiilen kapana kısılmıştı.
Omegalar o kadar güçlü bir paranoyaya sahipti ki, zamanla boksu da
ekleyerek güvenilmeyen kodun ömrünü sınırladılar. Örneğin, kutulu
transkripsiyon yazılımı bir ses dosyasının yazıya dökülmesini her
bitirdiğinde, Pandora's Box'ın tüm bellek içeriği otomatik olarak siliniyor ve
program sıfırdan yeniden kuruluyordu. Bu şekilde, bir sonraki
transkripsiyon görevine başladığında, daha önce ne olduğu hakkında
hiçbir bilgisi yoktu ve bu nedenle zaman içinde öğrenme yeteneği yoktu.
Omega'lar, MTurk projeleri için Amazon bulutunu kullandıklarında, MTurk
girişi ve çıkışı çok basit olduğu için Prometheus tarafından oluşturulan tüm
görev modüllerini buluttaki bu tür sanal kutulara koyabildiler. Ancak bu,
oyuncunun bilgisayarının tüm donanımına tam erişime ihtiyaç duydukları için
paketlenemeyen grafik ağırlıklı bilgisayar oyunları için işe yaramaz. Dahası,
bilgisayardan anlayan bir kullanıcının oyun kodlarını analiz edip Pandora'nın
Kutusunu keşfetmesi ve içinde ne olduğunu araştırmaya karar vermesi riskini
almak istemiyorlardı. Kaçış riski, şimdilik yalnızca oyun pazarını
yasaklamakla kalmadı, aynı zamanda diğer yazılımlar için yüz milyarlarca
doların kapıda olduğu son derece kazançlı pazarı da yasakladı.
 İlk Milyarlar
Omega'lar aramalarını son derece değerli, tamamen dijital (yavaş
üretimden kaçınarak) ve kolay anlaşılır (örneğin, patlama riski
oluşturmayacağını bildikleri metin veya filmler) ürünlerle sınırlandırmıştı.
Sonunda, animasyonlu eğlenceden başlayarak bir medya şirketi kurmaya
karar vermişlerdi. Web sitesi, pazarlama planı ve basın bültenleri,
Prometheus süper zeki olmadan önce kullanıma hazırdı - tek eksik olan
içerikti.
Prometheus, Pazar sabahı şaşırtıcı derecede yetenekli olmasına ve sürekli
olarak MTurk'ten para toplamasına rağmen, entelektüel yetenekleri hala oldukça
dardı: Prometheus, yapay zeka sistemlerini tasarlamak ve akıl almaz MTurk
görevlerini yerine getiren yazılımlar yazmak için kasıtlı olarak optimize edilmişti.
Örneğin, film yapmakta kötüydü - herhangi bir derin nedenden ötürü değil, James
Cameron doğduğunda film yapmakta kötüydü: bu, öğrenilmesi zaman alan bir
beceridir. Bir insan çocuğu gibi, Prometheus da erişebildiği verilerden istediğini
öğrenebilirdi. James Cameron'ın okumayı ve yazmayı öğrenmesi yıllar alırken,
Prometheus Cuma günü Wikipedia'nın tamamını ve birkaç milyon kitabı okumaya
zaman bulduğunda bunun icabına bakmıştı. Film yapmak daha zordu. İnsanların
ilginç bulduğu bir senaryo yazmak, bir kitap yazmak kadar zordu ve insan toplumu
ve insanların neyi eğlenceli bulduğu hakkında ayrıntılı bir anlayış gerektiriyordu.
Senaryoyu nihai bir video dosyasına dönüştürmek, simüle edilmiş aktörlerin ve
içinden geçtikleri karmaşık sahnelerin, simüle edilmiş seslerin, ilgi çekici müzik
müziklerinin prodüksiyonunun vb. büyük miktarlarda ışın izlemesini gerektiriyordu.
Pazar sabahı itibariyle Prometheus, dayandığı herhangi bir kitabı ve tüm çevrimiçi
incelemeleri ve derecelendirmeleri okumak da dahil olmak üzere iki saatlik bir filmi
yaklaşık bir dakikada izleyebiliyordu. Omegalar, Prometheus'un art arda birkaç yüz
film izledikten sonra, bir filmin ne tür eleştiriler alacağını ve farklı izleyicilere nasıl
hitap edeceğini tahmin etmede oldukça iyi olmaya başladığını fark etti. Gerçekten
de, olay örgüsünden oyunculuktan aydınlatma ve kamera açıları gibi teknik
ayrıntılara kadar her şey hakkında yorum yaparak, gerçek içgörü sergilediğini
hissettikleri bir şekilde kendi film incelemelerini yazmayı öğrendi. Bunu,
Prometheus kendi filmlerini yaptığında başarının ne anlama geldiğini bileceği
anlamına geliyordu.
 Omegalar, Prometheus'a simüle edilen aktörlerin kim olduğu hakkında utanç
verici sorulardan kaçınmak için ilk başta animasyon yapmaya odaklanması
talimatını verdi. Pazar gecesi, çılgın hafta sonlarını bira ve mikrodalgada
patlamış mısırla donanarak, ışıkları kısarak ve Prometheus'un ilk filmini
izleyerek sonlandırdılar. Bu, Disney'in Frozen ruhuna uygun animasyonlu bir
fantastik-komediydi ve ışın izleme, Amazon bulutunda kutulu Prometheus
yapımı kod tarafından gerçekleştirilmiş ve günün 1 milyon dolarlık MTurk
kârının çoğu kullanılmıştı. Film başladığında, insan rehberliği olmadan bir
makine tarafından yaratılmış olmasını hem büyüleyici hem de korkutucu
buldular. Ancak çok geçmeden şakalara gülüyorlar ve dramatik anlarda
nefeslerini tutuyorlardı. Hatta bazıları duygusal sonda biraz gözyaşı döktüler,
bu kurgusal gerçekliğe kendilerini o kadar kaptırdılar ki yaratıcısını tamamen
unuttular.
Omega'lar, web sitesi lansmanını Cuma gününe planlayarak, Prometheus'a
daha fazla içerik üretmesi ve kendilerine Prometheus'a güvenmedikleri şeyleri
yapmaları için zaman tanıdı: reklam satın almak ve geçmişte kurdukları paravan
şirketler için eleman almaya başlamak. ay. İzlerini örtmek için, resmi kapak
hikayesi, (Omega'larla hiçbir kamu ilişkisi olmayan) medya şirketlerinin içeriğinin
çoğunu, genellikle düşük gelirli bölgelerdeki yüksek teknoloji başlangıçları olan
bağımsız film yapımcılarından satın alması olacaktır. Bu sahte tedarikçiler, çoğu
meraklı gazetecinin ziyaret etmeye zahmet etmeyeceği Tiruchchirappalli ve
Yakutsk gibi uzak yerlere elverişli bir şekilde yerleştirildi. Orada gerçekten işe
aldıkları tek çalışanlar pazarlama ve yönetimde çalışıyordu ve soran herkese
üretim ekiplerinin farklı bir yerde olduğunu ve şu anda görüşme yapmadığını
söylerdi. Kapak hikayelerine uyması için, “Dünyanın yaratıcı yeteneğine kanallık
yapmak” kurumsal sloganını seçtiler ve özellikle gelişmekte olan dünyada yaratıcı
insanları güçlendirmek için en son teknolojiyi kullanarak şirketlerini yıkıcı bir
şekilde farklı olarak markaladılar.
Cuma günü gelip de sitelerine meraklı ziyaretçiler gelmeye başladığında, Netflix
ve Hulu gibi çevrimiçi eğlence hizmetlerini anımsatan ama ilginç farklılıklarla
karşılaşan bir şeyle karşılaştılar. Tüm animasyon serileri, daha önce hiç
duymadıkları yeni serilerdi. Oldukça büyüleyiciydiler: çoğu dizi, güçlü bir olay
örgüsüne sahip kırk beş dakikalık bölümlerden oluşuyordu ve her biri, sizi bir
sonraki bölümde ne olduğunu öğrenmek için sabırsız bırakacak şekilde bitiyordu.
Ve rakiplerinden daha ucuzdu. Her dizinin ilk bölümü ücretsizdi ve diğerlerini tüm
dizi için indirimlerle her biri kırk dokuz sente izleyebiliyordunuz. Başlangıçta, her
biri üç bölümden oluşan yalnızca üç dizi vardı, ancak her gün yeni bölümlerin yanı
sıra farklı zevklere hitap eden yeni diziler eklendi.
demografi. Prometheus'un ilk iki haftasında, film yapım becerileri yalnızca
film kalitesi açısından değil, aynı zamanda karakter simülasyonu ve ışın
izleme için daha iyi algoritmalar açısından hızla gelişti ve bu da her yeni
bölümü yapmak için bulut bilişim maliyetini büyük ölçüde düşürdü. Sonuç
olarak, Omega'lar ilk ay boyunca yeni yürümeye başlayan çocuklardan
yetişkinlere kadar demografiyi hedefleyen düzinelerce yeni seriyi piyasaya
sürmeyi başardılar ve aynı zamanda tüm büyük dünya dil pazarlarına
yayılarak sitelerini tüm rakiplerine kıyasla oldukça uluslararası hale getirdiler.
Bazı yorumcular, çok dilli olanın yalnızca film müzikleri değil, videoların
kendileri olduğu gerçeğinden etkilendiler: örneğin, bir karakter İtalyanca
konuştuğunda, karakteristik İtalyanca el hareketleri gibi ağız hareketleri de
İtalyanca kelimelerle eşleşiyordu. Prometheus artık insanlardan ayırt
edilemeyecek şekilde simüle edilmiş oyuncularla filmler yapma konusunda
mükemmel bir yeteneğe sahip olsa da, Omega'lar ellerini uzatmamak için
bundan kaçındılar. Bununla birlikte, geleneksel canlı aksiyon TV şovları ve
filmleriyle rekabet eden türlerde, yarı gerçekçi canlandırılmış insan
karakterleri içeren birçok dizi başlattılar.
Ağlarının oldukça bağımlılık yaptığı ortaya çıktı ve muhteşem bir izleyici artışı
yaşadı. Pek çok hayran, karakterleri ve olay örgüsünü Hollywood'un en pahalı
büyük ekran yapımlarından bile daha akıllı ve ilginç buldu ve onları çok daha uygun
fiyata izleyebildikleri için çok mutlu oldu. Agresif reklamcılık (sıfıra yakın üretim
maliyetleri nedeniyle Omegas'ın karşılayabildiği), mükemmel medya kapsamı ve
övgü dolu ağızdan ağza incelemelerle canlanan küresel gelirleri, lansmanından
sonraki bir ay içinde mantar gibi günde 10 milyon dolara ulaştı. İki ay sonra Netflix'i
geride bıraktılar ve üç ay sonra, dünyanın en büyük medya imparatorluklarından
biri olarak Time Warner, Disney, Comcast ve Fox'a rakip olmaya başlayarak günde
100 milyon doların üzerinde komisyon alıyorlardı.
Sansasyonel başarıları, güçlü yapay zekaya sahip olduklarına dair
spekülasyonlar da dahil olmak üzere pek çok istenmeyen ilgi topladı, ancak
gelirlerinin yalnızca küçük bir kısmını kullanan Omegas, oldukça başarılı bir
dezenformasyon kampanyası başlattı. Gösterişli yeni bir Manhattan ofisinden, yeni
işe alınan sözcüleri örtbas hikayelerini detaylandırırdı. Hiçbiri Prometheus'u
bilmeyen yeni diziler geliştirmeye başlamak için dünyanın dört bir yanındaki gerçek
senaristler de dahil olmak üzere pek çok insan folyo olarak işe alındı. Kafa
karıştırıcı uluslararası alt yüklenici ağı, çalışanlarının çoğunun işin çoğunu başka
bir yerde başkalarının yaptığını varsaymasını kolaylaştırdı.
 Kendilerini daha az savunmasız hale getirmek ve aşırı bulut bilgi işlem ile
kaşlarını kaldırmaktan kaçınmak için, bir dizi oluşturmaya başlamak için
mühendisleri de işe aldılar.
Görünüşte hiçbir bağlantısı olmayan paravan şirketlere ait, dünya çapında devasa
bilgisayar tesisleri. Büyük ölçüde güneş enerjisiyle çalıştıkları için yerel halka "yeşil
veri merkezleri" olarak faturalandırılsalar da, aslında depolamadan çok
hesaplamaya odaklandılar. Prometheus, planlarını en küçük ayrıntısına kadar
tasarlamış, yalnızca hazır donanım kullanarak ve bunları inşaat süresini en aza
indirecek şekilde optimize etmişti. Bu merkezleri kuran ve işleten insanların orada
neyin hesaplandığı hakkında hiçbir fikri yoktu: Amazon, Google ve Microsoft
tarafından yönetilenlere benzer ticari bulut bilgi işlem tesislerini yönettiklerini
düşünüyorlardı ve yalnızca tüm satışların uzaktan yönetildiğini biliyorlardı.
 Yeni teknolojiler
Aylar süren bir zaman ölçeğinde, Omegalar tarafından kontrol edilen iş
imparatorluğu, Prometheus'un insanüstü planlaması sayesinde dünya
ekonomisinin her zamankinden daha fazla alanında kendine yer edinmeye
başladı. Dünyadaki verileri dikkatli bir şekilde analiz ederek, ilk haftasında
Omegas'a adım adım ayrıntılı bir büyüme planı sunmuştu ve verileri ve
bilgisayar kaynakları büyüdükçe bu planı iyileştirmeye ve iyileştirmeye
devam etti. Prometheus her şeyi bilmekten uzak olmasına rağmen,
yetenekleri artık insanın o kadar ötesindeydi ki, Omega'lar onu görev
bilinciyle tüm sorularına mükemmel cevaplar ve tavsiyeler veren mükemmel
bir kahin olarak görüyorlardı.
Prometheus'un yazılımı, üzerinde çalıştığı oldukça vasat insan icadı
donanımdan en iyi şekilde yararlanmak için artık yüksek düzeyde optimize edildi
ve Omegaların tahmin ettiği gibi, Prometheus bu donanımı önemli ölçüde
iyileştirmenin yollarını buldu. Bir kaçıştan korkarak, Prometheus'un doğrudan
kontrol edebileceği robotik inşaat tesisleri inşa etmeyi reddettiler. Bunun yerine,
birden çok yerde birinci sınıf bilim adamlarını ve mühendisleri işe aldılar ve onlara,
diğer sitelerdeki araştırmacılardan geliyormuş gibi davranarak Prometheus
tarafından yazılmış dahili araştırma raporları verdiler. Bu raporlar, mühendislerinin
kısa sürede test ettiği, anladığı ve ustalaştığı yeni fiziksel etkileri ve üretim
tekniklerini ayrıntılı olarak anlatıyor. Normal insan araştırma ve geliştirme (Ar-Ge)
döngüleri elbette yıllar alır, çünkü büyük ölçüde birçok yavaş deneme yanılma
döngüsü içerirler. Mevcut durum çok farklıydı: Prometheus sonraki adımları zaten
anlamıştı, bu yüzden sınırlayıcı faktör, insanların doğru şeyleri anlamaları ve inşa
etmeleri için ne kadar hızlı yönlendirilebileceğiydi. İyi bir öğretmen, öğrencilerin
bilimi kendi başlarına sıfırdan keşfedebileceklerinden çok daha hızlı öğrenmelerine
yardımcı olabilir ve Prometheus da aynısını bu araştırmacılar için gizlice yaptı.
Prometheus, çeşitli araçlar verildiğinde insanların bir şeyleri anlamalarının ve inşa
etmelerinin ne kadar süreceğini doğru bir şekilde tahmin edebildiğinden, hızlı bir
şekilde anlaşılabilen ve inşa edilebilen ve daha gelişmiş araçlar geliştirmek için
yararlı olan yeni araçlara öncelik vererek ileriye doğru mümkün olan en hızlı yolu
geliştirdi.
Maker hareketinin ruhuna uygun olarak, mühendislik ekipleri daha iyi
makinelerini yapmak için kendi makinelerini kullanmaya teşvik edildi. Bu kendi
kendine yeterlilik, yalnızca para tasarrufu sağlamakla kalmadı, aynı zamanda
onları gelecekteki tehditlere karşı daha az savunmasız hale getirdi.
dış dünyadan. İki yıl içinde, dünyanın şimdiye kadar bildiğinden çok daha
iyi bilgisayar donanımı üretiyorlardı. Dış rekabete yardımcı olmaktan
kaçınmak için bu teknolojiyi gizli tuttular ve yalnızca Prometheus'u
yükseltmek için kullandılar.
Ancak dünyanın fark ettiği şey, şaşırtıcı bir teknoloji patlamasıydı. Dünyanın dört
bir yanındaki yeni kurulan şirketler, neredeyse tüm alanlarda devrim niteliğinde
yeni ürünler piyasaya sürüyordu. Güney Koreli bir girişim, dizüstü bilgisayarınızın
pilinin yarısı kadar enerji depolayan ve bir dakikadan kısa sürede şarj edilebilen
yeni bir pil çıkardı. Finli bir firma, en iyi rakiplerinin iki katı verimliliğe sahip ucuz bir
güneş paneli piyasaya sürdü. Bir Alman şirketi, enerji sektöründe devrim yaratan,
oda sıcaklığında süper iletken olan yeni bir seri üretim kablo tipini duyurdu. Boston
merkezli bir biyoteknoloji grubu, ilk etkili, yan etkisiz zayıflama ilacı olduğunu iddia
ettikleri ilacın II. Bir California şirketi, vücudun bağışıklık sisteminin en yaygın
kanserli mutasyonlardan herhangi birine sahip hücreleri tanımlamasına ve
saldırmasına neden olan, gişe rekorları kıran bir kanser ilacının II. Aşama
denemesiyle karşı çıktı. Bilim için yeni bir altın çağdan söz edilmesini tetikleyen
örnekler gelmeye devam etti. Son olarak, robotik şirketleri dünyanın her yerinde
mantar gibi çoğalıyordu. Botların hiçbiri insan zekasına yaklaşamadı ve çoğu
insana hiç benzemiyordu. Ancak ekonomiyi önemli ölçüde bozdular ve sonraki
yıllarda yavaş yavaş imalat, nakliye, depolama, perakende, inşaat, madencilik,
tarım, ormancılık ve balıkçılık sektörlerindeki işçilerin çoğunun yerini aldılar.
Çatlak bir avukat ekibinin sıkı çalışması sayesinde dünyanın fark
etmediği şey, tüm bu firmaların bir dizi aracı aracılığıyla Omegas
tarafından kontrol edildiğiydi. Prometheus, çeşitli vekiller aracılığıyla
dünyanın patent ofislerini sansasyonel icatlarla dolduruyordu ve bu icatlar,
teknolojinin her alanında yavaş yavaş hakimiyete yol açtı.
Bu yıkıcı yeni şirketler, rakipleri arasında güçlü düşmanlar edinse de, daha da
güçlü arkadaşlar edindiler. Son derece kârlıydılar ve "Topluluğumuza yatırım
yapmak" gibi sloganlar altında, bu kârların önemli bir kısmını topluluk projeleri için
insanları işe alarak harcadılar - genellikle kesintiye uğrayan şirketlerden işten
çıkarılanlarla aynı kişiler. Yerel koşullara göre uyarlanmış, çalışanlar ve topluluk
için en az maliyetle en yüksek düzeyde ödüllendirici olacak işleri belirleyen
Prometheus tarafından üretilmiş ayrıntılı analizler kullandılar. İçinde
yüksek düzeyde devlet hizmetine sahip bölgelerde, bu genellikle topluluk
oluşturma, kültür ve bakım hizmetlerine odaklanırken, daha yoksul bölgelerde
okulların, sağlık hizmetlerinin, kreşlerin, yaşlıların bakımının, uygun fiyatlı
konutların, parkların ve temel altyapının açılması ve sürdürülmesini de
içeriyordu. Hemen hemen her yerde yerel halk, bunların uzun zaman önce
yapılması gereken şeyler olduğu konusunda hemfikirdi. Yerel politikacılar
cömert bağışlar aldı ve bu kurumsal topluluk yatırımlarını teşvik etmek için
bunların iyi görünmesine özen gösterildi.
 Güç Kazanmak
Omegas, yalnızca ilk teknoloji girişimlerini finanse etmek için değil, aynı zamanda
cüretkar planlarının bir sonraki adımı olan dünyayı ele geçirmek için bir medya
şirketi kurmuştu. İlk lansmandan sonraki bir yıl içinde, dünyanın dört bir yanındaki
dizilerine dikkat çekici derecede iyi haber kanalları eklemişlerdi. Diğer kanallarının
aksine, bunlar kasıtlı olarak para kaybetmek için tasarlandı ve bir kamu hizmeti
olarak sunuldu. Aslında, haber kanalları hiçbir şekilde gelir getirmiyordu: reklam
içermiyorlardı ve internet bağlantısı olan herkes tarafından ücretsiz olarak
izlenebiliyorlardı. Medya imparatorluklarının geri kalanı o kadar nakit üreten bir
makineydi ki, haber hizmetlerine dünya tarihindeki diğer tüm gazetecilik
çabalarından çok daha fazla kaynak harcayabiliyorlardı ve bu da gösterdi.
Gazetecilerin ve araştırmacı muhabirlerin son derece rekabetçi maaşlarıyla agresif
işe alma yoluyla, kayda değer yetenek ve bulguları ekrana getirdiler. Yerel
yolsuzluktan iç açıcı bir olaya kadar haber değeri taşıyan bir şey ifşa eden herkese
ödeme yapan küresel bir web hizmeti aracılığıyla, genellikle bir haberi ilk çıkaran
onlar oldu. En azından insanların inandığı şey buydu: Aslında, yurttaş gazetecilere
atfedilen hikayeler Prometheus tarafından internetin gerçek zamanlı izlenmesi
yoluyla keşfedildiği için genellikle birinciydiler. Tüm bu video haber sitelerinde
podcast'ler ve basılı makaleler de yer aldı.
Haber stratejilerinin 1. aşaması, insanların güvenini kazanmaktı ve bunu büyük
bir başarıyla başardılar. Para kaybetme konusundaki emsali görülmemiş
isteklilikleri, araştırmacı gazetecilerin genellikle izleyicilerinin gerçekten ilgisini
çeken skandalları açığa çıkardığı, son derece özenli bölgesel ve yerel haber
kapsamına olanak sağladı. Bir ülke siyasi olarak güçlü bir şekilde bölündüğünde
ve partizan haberlere alıştığında, görünüşte farklı şirketlere ait olan ve her
fraksiyona hitap eden bir haber kanalı başlatır ve yavaş yavaş o fraksiyonun
güvenini kazanırdı. Bunu, mümkün olduğunda, en etkili mevcut kanalları satın
almak için proxy kullanarak başardılar, reklamları kaldırarak ve kendi içeriklerini
sunarak bunları kademeli olarak geliştirdiler. Sansürün ve siyasi müdahalenin bu
çabaları tehdit ettiği ülkelerde, "Gerçek, yalnızca gerçek, ama belki de gerçeğin
tamamı değil" gizli iç sloganıyla, hükümetin iş hayatında kalmaları için onlardan
istediği her şeyi başlangıçta kabul edeceklerdi. Prometheus genellikle bu tür
durumlarda mükemmel tavsiyelerde bulunur ve bir toplantıda hangi politikacıların
sunulması gerektiğini açıklığa kavuşturur.
iyi ışık ve hangi (genellikle bozuk yerel olanlar) açığa çıkabilir. Prometheus
ayrıca hangi iplerin çekileceği, kime rüşvet verileceği ve bunun en iyi nasıl
yapılacağı konusunda paha biçilmez tavsiyeler verdi.
Bu strateji, Omega kontrollü kanalların en güvenilir haber kaynakları olarak
ortaya çıkmasıyla dünya çapında büyük bir başarıydı. Hükümetlerin şimdiye kadar
kitlesel olarak benimsenmesini engellediği ülkelerde bile, güvenilirlik konusunda
itibar kazandılar ve haberlerinin çoğu kulaktan kulağa yayıldı. Rekabet halindeki
haber yöneticileri umutsuz bir savaşta olduklarını hissettiler: ürünlerini bedavaya
dağıtan daha iyi finansmana sahip biriyle rekabet ederken nasıl kar elde
edebilirsiniz? İzlenme oranlarının düşmesiyle, her zamankinden daha fazla sayıda
ağ, haber kanallarını satmaya karar verdi - genellikle daha sonra Omegas
tarafından kontrol edildiği ortaya çıkan bir konsorsiyuma.
Prometheus'un lansmanından yaklaşık iki yıl sonra, güven kazanma aşaması
büyük ölçüde tamamlandığında, Omegas haber stratejilerinin 2. aşamasını
başlattı: ikna. Bundan önce bile, zeki gözlemciler yeni medyanın arkasında bir
siyasi gündemin ipuçlarını fark etmişlerdi: Her türden aşırılıktan uzağa, merkeze
doğru hafif bir itiş var gibi görünüyordu. Farklı gruplara hitap eden çok sayıdaki
kanalları, hâlâ ABD ile Rusya, Hindistan ve Pakistan, farklı dinler, siyasi hizipler
vb. ad hominem saldırıları, korku tellallığı ve yetersiz şekilde doğrulanmış
söylentiler hakkında. 2. aşama ciddi bir şekilde başladığında, eski çatışmaları
etkisiz hale getirmek için yapılan bu baskı daha belirgin hale geldi; geleneksel
hasımların içinde bulundukları kötü durumla ilgili sık sık dokunaklı hikayeler ve kaç
tane çatışma tellalının kişisel çıkar saikleriyle hareket ettiğine dair araştırmacı
habercilik birbirine karıştı.
Siyasi yorumcular, bölgesel çatışmaların azalmasına paralel olarak, küresel
tehditleri azaltmaya yönelik ortak bir çabanın var gibi göründüğüne dikkat çekti.
Örneğin, nükleer savaşın riskleri birdenbire her yerde tartışılmaya başlandı. Gişe
rekorları kıran birkaç film, küresel nükleer savaşın kazara veya kasıtlı olarak
başladığı senaryolara yer verdi ve nükleer kış, altyapı çökmesi ve kitlesel açlıkla
distopik sonrasını dramatize etti. Şık yeni belgeseller, nükleer kışın her ülkeyi nasıl
etkileyebileceğini ayrıntılarıyla anlattı. Nükleer gerginliğin azaltılmasını savunan
bilim adamlarına ve politikacılara, en azından hangi yararlı önlemlerin
alınabileceğine dair birkaç yeni çalışmanın sonuçlarını tartışmak için yeterli yayın
süresi verildi - yeni teknoloji şirketlerinden büyük bağışlar almış bilimsel kuruluşlar
tarafından finanse edilen çalışmalar. Sonuç olarak, füzeleri kıl payı tetik
alarmından çıkarmak için siyasi ivme kazanmaya başladı ve
küçülen nükleer cephanelikler. Yenilenen medyanın ilgisi, küresel iklim
değişikliğine de çevrildi ve genellikle yenilenebilir enerjinin maliyetini düşüren
ve hükümetleri bu tür yeni enerji altyapısına yatırım yapmaya teşvik eden
Prometheus destekli son teknolojik atılımları vurguladı.
Medyayı ele geçirmelerine paralel olarak Omega'lar, eğitimde devrim yaratmak
için Prometheus'tan yararlandı. Herhangi bir kişinin bilgisi ve becerileri göz önüne
alındığında, Prometheus, herhangi bir yeni konuyu, devam etmeleri için son
derece ilgili ve motive olacak şekilde öğrenmeleri için en hızlı yolu belirleyebilir ve
ilgili optimize edilmiş videoları, okuma materyallerini, alıştırmaları ve diğer
öğrenme araçlarını üretebilir. Bu nedenle Omega kontrolündeki şirketler, yalnızca
dil ve kültürel geçmişe göre değil, aynı zamanda başlangıç düzeyine göre de son
derece özelleştirilmiş, neredeyse her şey hakkında çevrimiçi kurslar pazarladılar.
İster okuma yazma öğrenmek isteyen kırk yaşında bir cahil, ister kanser
immünoterapisi hakkında en son bilgileri arayan bir biyoloji doktorası olun,
Prometheus sizin için mükemmel bir kursa sahipti. Bu teklifler, günümüzün
çevrimiçi kurslarının çoğuyla çok az benzerlik taşıyordu: Prometheus'un film
yapma yeteneklerinden yararlanarak, video bölümleri gerçekten ilgi duyacak,
ilişkilendireceğiniz güçlü metaforlar sağlayacak ve daha fazlasını öğrenmek için
can atmanıza neden olacaktı. Bazı kurslar kâr amacıyla satıldı, ancak birçoğu
ücretsiz olarak sunuldu, bu da dünyanın dört bir yanındaki sınıflarında bu kursları
kullanabilen öğretmenlerin ve herhangi bir şey öğrenmek isteyen herkesin çok
hoşuna gitti.
Bu eğitici süper güçler, siyasi amaçlar için güçlü araçlar olduğunu kanıtladılar;
her birinden alınan içgörülerin hem birinin görüşlerini güncelleyeceği hem de onları
daha fazla ikna olmalarının muhtemel olduğu ilgili bir konu hakkında başka bir
video izlemeye motive edeceği videolardan oluşan çevrimiçi “ikna dizileri”
yarattılar. Örneğin amaç iki ülke arasındaki bir çatışmayı yatıştırmak olduğunda,
çatışmanın kökenlerini ve gidişatını daha nüanslı bir şekilde ortaya koyan tarihi
belgeseller her iki ülkede de bağımsız olarak yayınlanacaktı. Pedagojik haberler,
devam eden çatışmadan kendi taraflarında kimin yararlandığını ve onu körükleme
tekniklerini açıklayacaktı. Aynı zamanda, tıpkı geçmişte sivil ve gey hakları
hareketlerini sempatik bir şekilde tasvir eden azınlık karakterleri gibi, diğer ulustan
sevimli karakterler eğlence kanallarındaki popüler şovlarda görünmeye
başlayacaktı.
Çok geçmeden, siyasi yorumcular yedi slogan etrafında toplanan bir
siyasi gündeme yönelik artan desteği fark etmekten kendilerini alamadılar:
1. Demokrasi
 2. Vergi kesintileri
3. Devlet sosyal hizmet kesintileri
4. Askeri harcama kesintileri
5. Serbest ticaret
6. Açık sınırlar
7. Sosyal sorumlu şirketler

Daha az belirgin olan ise, altta yatan amaçtı: dünyadaki önceki tüm güç
yapılarını aşındırmak. 2-6. Maddeler devlet gücünü aşındırdı ve dünyayı
demokratikleştirmek, Omegas'ın iş imparatorluğuna siyasi liderlerin seçimi
üzerinde daha fazla etki sağladı. Sosyal açıdan sorumlu şirketler, hükümetlerin
sağladığı (veya sağlaması gereken) hizmetlerin giderek daha fazlasını
devralarak devlet gücünü daha da zayıflattı. Geleneksel iş seçkinleri, serbest
piyasada Prometheus destekli şirketlerle rekabet edemediği ve bu nedenle
dünya ekonomisinde sürekli küçülen bir paya sahip olduğu için zayıfladı. Siyasi
partilerden inanç gruplarına kadar geleneksel kanaat önderleri, Omegas'ın
medya imparatorluğuyla rekabet edecek ikna mekanizmasından yoksundu.
Herhangi bir kapsamlı değişiklikte olduğu gibi, kazananlar ve kaybedenler oldu.
Eğitim, sosyal hizmetler ve altyapı geliştikçe, çatışmalar yatıştıkça ve yerel şirketler
dünyayı kasıp kavuran çığır açan teknolojiler piyasaya sürdükçe çoğu ülkede elle
tutulur yeni bir iyimserlik duygusu olmasına rağmen, herkes mutlu değildi.
Yerinden edilen birçok işçi topluluk projeleri için yeniden işe alınırken, büyük güce
ve servete sahip olanlar genellikle her ikisinin de küçüldüğünü gördü. Bu medya
ve teknoloji sektörlerinde başladı ama hemen hemen her yere yayıldı. Dünya
çatışmalarındaki azalma, askeri müteahhitlere zarar veren savunma bütçesi
kesintilerine yol açtı. Gelişmekte olan sonradan görme şirketler, karı maksimize
eden hissedarların topluluk projelerine yaptıkları büyük harcamaları bloke
edecekleri gerekçesiyle, genellikle halka açık değildi. Böylece küresel borsa değer
kaybetmeye devam etti ve hem finans kodamanlarını hem de emeklilik fonlarına
güvenen sıradan vatandaşları tehdit etti. Halka açık şirketlerin azalan kârları
yeterince kötü değilmiş gibi, dünyanın dört bir yanındaki yatırım firmaları rahatsız
edici bir trend fark ettiler: Daha önce başarılı olan tüm ticaret algoritmaları, basit
endeks fonlarından bile düşük performans göstererek çalışmayı durdurmuş
gibiydi. Dışarıdaki başka biri her zaman onları zekasıyla alt ediyor ve kendi
oyunlarında yeniyor gibiydi.
Güçlü insan kitleleri değişim dalgasına direnmelerine rağmen,
Tepki çarpıcı biçimde etkisizdi, sanki iyi planlanmış bir tuzağa düşmüş gibiydiler.
Büyük değişiklikler o kadar şaşırtıcı bir hızda oluyordu ki, takip etmek ve koordineli
bir tepki geliştirmek zordu. Dahası, neyi zorlamaları gerektiği de oldukça belirsizdi.
Geleneksel siyasi sağ, sloganlarının çoğunun ortaklaşa kullanıldığını görmüştü,
ancak vergi indirimleri ve iyileşen iş ortamı çoğunlukla ileri teknoloji rakiplerine
yardımcı oluyordu. Neredeyse her geleneksel sektör artık bir kurtarma paketi için
yaygara koparıyordu, ancak sınırlı hükümet fonları onları birbirleriyle umutsuz bir
savaşa soktu ve medya onları sırf rekabet edemedikleri için devlet sübvansiyonları
arayan dinozorlar olarak tasvir etti. Geleneksel siyasi sol, serbest ticarete ve
hükümetin sosyal hizmetlerindeki kesintilere karşı çıktı, ancak askeri kesintilerden
ve yoksulluğun azaltılmasından memnun kaldı. Gerçekten de, sosyal hizmetlerin
artık devlet yerine idealist şirketler tarafından sağlandığı için geliştiğine dair inkar
edilemez gerçek, gök gürültüsünün çoğunu çaldı. Ardı ardına yapılan anketler,
dünyadaki seçmenlerin çoğunun yaşam kalitelerinin arttığını hissettiğini ve işlerin
genel olarak iyi yönde ilerlediğini gösterdi. Bunun basit bir matematiksel açıklaması
vardı: Prometheus'tan önce, Dünya nüfusunun en yoksul %50'lik kesimi küresel
gelirin yalnızca yaklaşık %4'ünü kazanıyordu, bu da Omega kontrolündeki
şirketlerin kalplerini (ve oylarını) kazanmalarını, yalnızca mütevazı bir kısmını
paylaşarak kazanmalarını sağlıyordu. onlarla kazanç.
 Konsolidasyon
Sonuç olarak, yedi Omega sloganını benimseyen partiler birbiri ardına ulusların
ezici seçim zaferlerine tanık oldu. Dikkatle optimize edilmiş kampanyalarda,
sağı kurtarma paketi arayan açgözlü ihtilaf tacirleri olarak suçlayarak ve solu
büyük hükümetin vergi ve harcama inovasyonlarını boğucuları olarak
eleştirerek kendilerini siyasi yelpazenin merkezinde resmettiler. Neredeyse hiç
kimsenin fark etmediği şey, Prometheus'un aday olarak yetiştirmesi için en
uygun kişileri dikkatlice seçtiği ve zaferlerini garantilemek için tüm iplerini
çektiğiydi.
Prometheus'tan önce, teknolojik işsizliğe bir çare olarak herkes için vergiyle
finanse edilen asgari geliri öneren evrensel temel gelir hareketine artan bir destek
vardı. Bu hareket, kurumsal topluluk projeleri başladığında patladı, çünkü Omega
kontrolündeki iş imparatorluğu fiilen aynı şeyi sağlıyordu. Uluslararası bir şirketler
grubu, topluluk projelerinin koordinasyonunu iyileştirme bahanesiyle, dünya
çapındaki en değerli insani çabaları belirlemeyi ve finanse etmeyi amaçlayan bir
sivil toplum kuruluşu olan Humanitarian Alliance'ı kurdu. Çok geçmeden,
neredeyse tüm Omega imparatorluğu onu destekledi ve eğitim, sağlık, refah ve
yönetişimi iyileştiren teknoloji patlamasını büyük ölçüde kaçırmış ülkelerde bile
benzeri görülmemiş ölçekte küresel projeler başlattı. Söylemeye gerek yok,
Prometheus perde arkasında özenle hazırlanmış, dolar başına olumlu etkiye göre
sıralanmış proje planları sağladı. İttifak (halk dilinde bilindiği şekliyle) temel gelir
tekliflerinde olduğu gibi nakit dağıtmak yerine, desteklediği kişileri kendi amacına
yönelik çalışmaları için görevlendirecekti. Sonuç olarak, dünya nüfusunun büyük
bir bölümü İttifak'a minnettar ve sadık hissetmeye başladı - genellikle kendi
hükümetlerinden daha fazla.
Zaman geçtikçe, ulusal hükümetler güçlerinin sürekli olarak aşındığını
gördükçe, İttifak giderek artan bir şekilde bir dünya hükümeti rolünü üstlendi. Vergi
indirimleri nedeniyle ulusal bütçeler küçülmeye devam ederken, İttifak bütçesi tüm
hükümetlerin toplam bütçesini gölgede bırakacak şekilde büyüdü. Ulusal
hükümetlerin tüm geleneksel rolleri giderek gereksiz ve alakasız hale geldi. İttifak
açık ara en iyi sosyal hizmetleri, eğitimi ve altyapıyı sağladı. Medya, uluslararası
çatışmayı, askeri harcamaların büyük ölçüde gereksiz olduğu ve artan refahın eski
çatışmaların köklerini ortadan kaldırdığı noktaya kadar etkisiz hale getirmişti.
kıt kaynaklar üzerindeki rekabete geri döndü. Birkaç diktatör ve diğerleri, bu
yeni dünya düzenine şiddetle karşı çıkmış ve satın alınmayı reddetmişti, ancak
hepsi dikkatle planlanmış darbeler veya kitlesel ayaklanmalarla devrilmişti.
Omegalar artık Dünya üzerindeki yaşam tarihindeki en dramatik geçişi
tamamlamışlardı. Gezegenimiz ilk kez tek bir güç tarafından yönetiliyordu,
potansiyel olarak Dünya'da ve evrenimizde milyarlarca yıl boyunca
yaşamın serpilip serpilmesini sağlayabilecek kadar geniş bir zekayla
güçlendirilmişti - ama tam olarak planları neydi?

***

Omega ekibinin hikayesi buydu. Bu kitabın geri kalanı başka bir hikaye
hakkında - henüz yazılmamış bir hikaye: AI ile kendi geleceğimizin hikayesi.
nasıl yapardın oynamayı seviyor musun? Uzaktan Omega hikayesi gibi bir
şey gerçekten olabilir mi ve eğer öyleyse, olmasını ister miydiniz? İnsanüstü
yapay zeka hakkındaki spekülasyonları bir kenara bırakırsak, hikayemizin
nasıl başlamasını istersiniz? Yapay zekanın önümüzdeki on yılda işleri,
yasaları ve silahları nasıl etkilemesini istiyorsunuz? Daha ileriye
baktığınızda, sonunu nasıl yazardınız? Bu hikaye gerçekten kozmik
oranlardan biridir, çünkü Evrenimizdeki yaşamın nihai geleceğinden başka
bir şey içermez. Ve bu bizim için yazmamız gereken bir hikaye.

* Çoğu araştırmacı insan düzeyinde genel yapay zekanın en az onlarca yıl uzakta olduğunu
tahmin etse de, basit olması açısından bu hikayede günümüzün ekonomisini ve teknolojisini
varsaydım. Dijital ekonomi büyümeye devam ederse ve sorgusuz sualsiz çevrimiçi olarak
daha fazla hizmet sipariş edilebilirse, Omega planı gelecekte daha da kolaylaşacaktır.
 Bölüm 1

Zamanımızın En Önemli Sohbetine Hoş

Geldiniz

Teknoloji, hayata daha önce hiç olmadığı kadar gelişme veya kendi kendini yok etme
potansiyeli veriyor.
Geleceğin Yaşam Enstitüsü

Doğumundan on üç virgül sekiz milyar yıl sonra, Evrenimiz uyanmış ve kendisinin

farkına varmıştır. Küçük mavi bir gezegenden, Evrenimizin minik bilinçli parçaları
teleskoplarla kozmosa bakmaya başladılar ve var olduğunu düşündükleri her şeyin
daha büyük bir şeyin sadece küçük bir parçası olduğunu defalarca keşfettiler: bir
güneş sistemi, bir galaksi ve birden fazla evrene sahip bir evren. ayrıntılı bir
gruplar, kümeler ve üstkümeler düzeninde düzenlenmiş yüz milyar başka gökada.
Kendilerinin farkında olan bu yıldız gözlemcileri pek çok konuda aynı fikirde
olmasalar da, bu galaksilerin güzel ve hayranlık uyandırıcı olduğu konusunda
hemfikirdirler.
Ama güzellik fizik yasalarında değil, bakanın gözündedir, bu nedenle Evrenimiz
uyanmadan önce güzellik diye bir şey yoktu. Bu, kozmik uyanışımızı daha da
harika ve kutlamaya değer kılıyor: Evrenimizi, öz farkındalığı olmayan akılsız bir
zombiden, öz-yansıtma, güzellik ve umut barındıran ve hedeflerin, anlamın ve
amacın peşinde koşan canlı bir ekosisteme dönüştürdü. Evrenimiz hiç uyanmamış
olsaydı, bana göre bu tamamen anlamsız olurdu - sadece devasa bir uzay israfı.
Evrenimiz bir kozmik felaket ya da kendi yol açtığı bir aksilik nedeniyle kalıcı olarak
uykuya geri dönerse, ne yazık ki anlamsız hale gelecektir.
Öte yandan, işler daha da iyi olabilir. olup olmadığını henüz bilmiyoruz
biz insanlar evrenimizdeki tek, hatta ilk yıldız gözlemcileriyiz, ancak
Evrenimiz hakkında şimdiye kadar sahip olduğundan çok daha fazla
uyanma potansiyeline sahip olduğunu bilecek kadar yeterince şey
öğrendik. Belki de bu sabah uykudan uyanmaya başladığınızda
deneyimlediğiniz o ilk zayıf öz-farkındalık parıltısı gibiyiz: gözlerinizi açıp
tamamen uyandığınızda gelecek olan çok daha büyük bilincin önsezisi.
Belki yaşam, evrenimize yayılacak ve milyarlarca veya trilyonlarca yıl
boyunca gelişecek ve belki de bunun nedeni, yaşamımız boyunca burada,
küçük gezegenimizde verdiğimiz kararlar olacaktır.
 Karmaşıklığın Kısa Tarihi
Peki bu muhteşem uyanış nasıl gerçekleşti? Bu münferit bir olay değildi,
Evrenimizi her zamankinden daha karmaşık ve ilginç hale getiren ve
giderek artan bir hızla devam eden 13,8 milyar yıllık amansız bir süreçte
yalnızca bir adımdı.
Bir fizikçi olarak, geçtiğimiz çeyrek yüzyılın büyük bir kısmını kozmik tarihimizi
saptamaya yardım ederek geçirdiğim için kendimi şanslı hissediyorum ve bu
inanılmaz bir keşif yolculuğu oldu. Yüksek lisans öğrencisi olduğum günlerden beri,
daha iyi teleskoplar, daha iyi bilgisayarlar ve daha iyi bilgisayarların birleşimi
sayesinde Evrenimizin 10 mu yoksa 20 milyar yaşında mı olduğunu tartışmaktan
13.7 mi yoksa 13.8 milyar mı olduğunu tartışmaya geçtik. daha iyi anlamak Biz
fizikçiler, Big Bang'imize neyin sebep olduğunu veya bunun gerçekten her şeyin
başlangıcı mı yoksa sadece daha önceki bir aşamanın devamı mı olduğunu kesin
olarak bilmiyoruz. Ancak, bir dizi yüksek kaliteli ölçüm sayesinde Büyük
Patlama'dan bu yana neler olduğuna dair oldukça ayrıntılı bir anlayış edindik, bu
yüzden lütfen birkaç dakikanızı ayırarak 13,8 milyar yıllık kozmik tarihi özetlememe
izin verin .
Başlangıçta ışık vardı. Büyük Patlama'dan sonraki ilk bölünmüş saniye
içinde, prensipte teleskoplarımızın gözlemleyebildiği tüm uzay parçası
(“gözlemlenebilir Evrenimiz” veya kısaca “Evrenimiz”) Güneşimizin
çekirdeğinden çok daha sıcak ve parlaktı. hızla genişledi. Bu kulağa muhteşem
gelse de, Evrenimizin cansız, yoğun, sıcak ve sıkıcı bir şekilde tekdüze bir temel
parçacıklar çorbasından başka bir şey içermemesi anlamında da sıkıcıydı. Her
şey hemen hemen her yerde aynı görünüyordu ve tek ilginç yapı, çorbayı bazı
yerlerde yaklaşık %0,001 oranında daha yoğun hale getiren, rastgele görünen
soluk ses dalgalarından oluşuyordu. Heisenberg'in kuantum mekaniğinin
belirsizlik ilkesi, herhangi bir şeyin tamamen sıkıcı ve tekdüze olmasını
yasakladığından, bu zayıf dalgaların kuantum dalgalanmaları olarak
adlandırılanlardan kaynaklandığına inanılıyor.
Evrenimiz genişleyip soğudukça, parçacıkları giderek daha karmaşık nesneler
halinde birleştikçe daha da ilginç hale geldi. İlk bölünmüş saniye sırasında, güçlü
nükleer kuvvet, kuarkları protonlar (hidrojen çekirdekleri) ve nötronlar olarak
gruplandırdı ve bunların bazıları birkaç dakika içinde helyum çekirdeklerine
dönüştü. Yaklaşık 400.000 yıl sonra, elektromanyetik kuvvet bu çekirdekleri şu
şekilde gruplandırdı:
ilk atomları yapmak için elektronlar. Evrenimiz genişlemeye devam
ettikçe, bu atomlar yavaş yavaş soğuk, karanlık bir gaza dönüştü ve bu ilk
gecenin karanlığı yaklaşık 100 milyon yıl sürdü. Bu uzun gece, yerçekimi
kuvveti gazdaki bu dalgalanmaları artırmayı başardığında, ilk yıldızları ve
galaksileri oluşturmak için atomları bir araya getirdiğinde kozmik
şafağımızı doğurdu. Bu ilk yıldızlar, hidrojeni karbon, oksijen ve silikon gibi
daha ağır atomlara dönüştürerek ısı ve ışık ürettiler. Bu yıldızlar
öldüklerinde, yarattıkları atomların çoğu kozmosa geri dönüştürüldü ve
ikinci nesil yıldızların etrafında gezegenler oluştu.
Bir noktada, bir atom grubu, kendisini hem koruyabilen hem de kopyalayabilen
karmaşık bir modelde düzenlendi. Çok geçmeden iki kopya çıktı ve sayı ikiye
katlanmaya devam etti. Bir trilyon yapmak için yalnızca kırk ikiye katlama gerekir,
bu yüzden bu ilk kendi kendini kopyalayan kısa sürede hesaba katılması gereken
bir güç haline geldi. Hayat gelmişti.
 Hayatın Üç Aşaması
Yaşamın nasıl tanımlanacağı sorusu herkesin bildiği gibi tartışmalıdır.
Bazıları, hem geleceğin akıllı makinelerini hem de dünya dışı uygarlıkları
diskalifiye edebilecek hücrelerden oluşması gibi oldukça spesifik
gereksinimleri içeren, birbiriyle rekabet eden çok sayıda tanım vardır.
Hayatın geleceği hakkındaki düşüncelerimizi şimdiye kadar karşılaştığımız
türlerle sınırlamak istemediğimiz için, hayatı çok geniş bir şekilde, basitçe
karmaşıklığını koruyabilen ve kendini tekrar edebilen bir süreç olarak
tanımlayalım. Kopyalanan madde (atomlardan yapılmış) değil, atomların
nasıl düzenlendiğini belirleyen bilgidir (bitlerden yapılmış). Bir bakteri
DNA'sının bir kopyasını yaptığında, yeni atomlar yaratılmaz, ancak yeni bir
atom seti orijinaliyle aynı düzende düzenlenir ve böylece bilgi kopyalanır.
Diğer bir deyişle hayatı, bilgisi (yazılımı) onun davranışını ve donanımının
planlarını belirleyen, kendi kendini kopyalayan bir bilgi işleme sistemi olarak
düşünebiliriz.
Evrenimizin kendisi gibi, yaşam giderek daha karmaşık ve ilginç hale
*1
geldi ve şimdi açıklayacağım gibi, yaşam formlarını üç karmaşıklık
düzeyine ayırmayı faydalı buluyorum: Yaşam 1.0, 2.0 ve 3.0. Bu üç
seviyeyi şekilde özetledim 1.1 .
Yaşamın Evrenimizde ilk kez nasıl, ne zaman ve nerede ortaya çıktığı hâlâ
açık bir sorudur, ancak burada Dünya'da yaşamın ilk olarak yaklaşık 4 milyar
yıl önce ortaya çıktığına dair güçlü kanıtlar bulunmaktadır. Çok geçmeden,
gezegenimiz çok çeşitli yaşam formlarıyla dolup taşıyordu. Kısa sürede
diğerlerini geride bırakan en başarılı olanlar, çevrelerine bir şekilde tepki
verebildiler. Spesifik olarak, bilgisayar bilimcilerin "akıllı ajanlar" olarak
adlandırdıkları şeylerdi: sensörlerden çevreleri hakkında bilgi toplayan ve daha
sonra bu bilgileri çevrelerine nasıl karşılık vereceklerine karar vermek için
işleyen varlıklar. Bu, bir konuşmada ne söyleyeceğinize karar vermek için
gözlerinizden ve kulaklarınızdan aldığınız bilgileri kullandığınızda olduğu gibi
oldukça karmaşık bilgi işlemeyi içerebilir. Ancak oldukça basit olan donanım ve
yazılımları da içerebilir.
Örneğin, birçok bakteri, etraflarındaki sıvıdaki şeker konsantrasyonunu ölçen bir
sensöre sahiptir ve kamçı adı verilen pervane şeklindeki yapıları kullanarak
yüzebilir. Sensörü kamçıya bağlayan donanım, aşağıdaki basit ama kullanışlı
algoritmayı uygulayabilir: "Şeker konsantrasyon sensörüm rapor verirse
birkaç saniye öncesine göre daha düşük bir değer, sonra yön
değiştirmek için kamçımın dönüşünü tersine çevirin.
 Şekil 1.1: Yaşamın üç aşaması: biyolojik evrim, kültürel evrim ve teknolojik evrim. Life 1.0, kullanım
ömrü boyunca ne donanımını ne de yazılımını yeniden tasarlayamaz: her ikisi de DNA'sı tarafından
belirlenir ve yalnızca birçok nesil boyunca evrim yoluyla değişir. Buna karşılık Life 2.0, yazılımının
çoğunu yeniden tasarlayabilir: insanlar diller, sporlar ve meslekler gibi karmaşık yeni beceriler
öğrenebilir ve dünya görüşlerini ve hedeflerini temelden güncelleyebilir. Henüz Dünya'da var olmayan
Life 3.0, nesiller boyunca kademeli olarak gelişmesini beklemek yerine, yalnızca yazılımını değil,
donanımını da önemli ölçüde yeniden tasarlayabilir.

Nasıl konuşulacağını ve diğer sayısız beceriyi öğrendiniz. Öte yandan

bakteriler, harika öğreniciler değildir. DNA'ları, yalnızca şeker sensörleri ve
flagella gibi donanımlarının tasarımını değil, aynı zamanda donanımlarının
tasarımını da belirler.
yazılım. Şekere doğru yüzmeyi asla öğrenmezler; bunun yerine, bu algoritma
en başından DNA'larına sabit kodlandı. Elbette bir tür öğrenme süreci vardı,
ancak bu, o bakterinin yaşamı boyunca gerçekleşmedi. Daha ziyade, doğal
seçilimin şeker tüketimini iyileştiren rastgele DNA mutasyonlarını
desteklediği, birçok nesle yayılan yavaş bir deneme yanılma süreciyle, bu
bakteri türlerinin önceki evrimi sırasında meydana geldi. Bu mutasyonlardan
bazıları, flagella ve diğer donanımların tasarımını iyileştirerek yardımcı
olurken, diğer mutasyonlar, şeker bulma algoritmasını ve diğer yazılımları
uygulayan bakteriyel bilgi işleme sistemini geliştirdi.
Bu tür bakteriler, benim "Yaşam 1.0" adını vereceğim şeyin bir örneğidir: hem
donanımın hem de yazılımın tasarlanmaktan çok evrimleştiği yaşam. Sen ve ben,
diğer tarafta Öte yandan, "Yaşam 2.0"ın örnekleri: donanımı gelişmiş, ancak
yazılımı büyük ölçüde tasarlanmış yaşam. Yazılımınız derken, tüm algoritmaları ve
duyularınızdan gelen bilgileri işlemek ve ne yapacağınıza karar vermek için
kullandığınız bilgi - arkadaşlarınızı gördüğünüzde tanıma yeteneğinizden yürüme,
okuma, yazma, hesaplama, şarkı söyleme ve fıkralar anlatma yeteneğinize kadar
her şey.
Doğduğunuzda bu görevlerin hiçbirini yapamıyordunuz, dolayısıyla tüm bu
yazılımlar daha sonra öğrenme dediğimiz süreçle beyninize programlandı.
Çocukluk müfredatınız büyük ölçüde ne öğrenmeniz gerektiğine karar veren
aileniz ve öğretmenleriniz tarafından tasarlanırken, kendi yazılımınızı
tasarlamak için giderek daha fazla güç kazanıyorsunuz. Belki okulunuz bir
yabancı dil seçmenize izin veriyor: Beyninize Fransızca konuşmanızı sağlayan
bir yazılım modülü mü yoksa İspanyolca konuşmanızı sağlayan bir yazılım
modülü mü yüklemek istiyorsunuz? Tenis veya satranç oynamayı öğrenmek
ister misiniz? Aşçı, avukat veya eczacı olmak için okumak ister misiniz? Yapay
zeka (AI) ve hayatın geleceği hakkında bir kitap okuyarak daha fazlasını
öğrenmek ister misiniz?
Life 2.0'ın yazılımını tasarlama yeteneği, Life 1.0'dan çok daha akıllı olmasını
sağlar. Yüksek zeka, hem çok sayıda donanım (atomlardan yapılmış) hem de çok
sayıda yazılım (bitlerden yapılmış) gerektirir. İnsan donanımımızın çoğunun
doğumdan sonra (büyüme yoluyla) eklenmesi yararlıdır, çünkü nihai boyutumuz
annemizin doğum kanalının genişliği ile sınırlı değildir. Aynı şekilde, insan
yazılımlarımızın çoğunun doğumdan sonra (öğrenme yoluyla) eklenmiş olması
yararlıdır, çünkü nihai zekamız, gebe kaldığımızda DNA'mız, 1.0 tarzı yoluyla bize
ne kadar bilgi iletilebileceği ile sınırlı değildir. . Doğduğumdan yaklaşık yirmi beş
kat daha ağırım ve beynimdeki nöronları birbirine bağlayan sinaptik bağlantılar,
doğduğumdan yaklaşık yüz bin kat daha fazla bilgi depolayabilir.
Doğduğum DNA. Sinapslarınız, tüm bilgi ve becerilerinizi kabaca 100 terabayt
değerinde bilgi olarak depolarken, DNA'nız yalnızca bir gigabayt depolar, ancak
tek bir film indirmeyi depolamaya yetecek kadar. Bu nedenle, bir bebeğin
mükemmel İngilizce konuşarak doğması ve üniversite giriş sınavlarında başarılı
olmaya hazır olması fiziksel olarak imkansızdır: Anne babasından aldığı ana
bilgi modülü (DNA'sı) eksik olduğundan, bilginin beynine önceden
yüklenmesinin hiçbir yolu yoktur. yeterli bilgi depolama kapasitesi.
Yazılımını tasarlama yeteneği, Life 2.0'ın Life 1.0'dan yalnızca daha akıllı
olmasını değil, aynı zamanda daha esnek olmasını da sağlar. Ortam değişirse, 1.0
yalnızca birçok nesil boyunca yavaş yavaş gelişerek uyum sağlayabilir. Life 2.0 ise
bir yazılım güncellemesiyle neredeyse anında uyum sağlayabiliyor. Örneğin,
sıklıkla antibiyotiklerle karşılaşan bakteriler, nesiller boyunca ilaç direnci
geliştirebilir, ancak tek bir bakteri davranışını hiç değiştirmez; Buna karşılık, yer
fıstığına alerjisi olduğunu öğrenen bir kız, fıstıktan kaçınmaya başlamak için
hemen davranışını değiştirecektir. Bu esneklik, Life 2.0'a nüfus düzeyinde daha da
büyük bir avantaj sağlıyor: insan DNA'mızdaki bilgiler son elli bin yılda dramatik bir
şekilde gelişmemiş olsa da, beynimizde, kitaplarımızda ve bilgisayarlarımızda
toplu olarak depolanan bilgiler patladı. Sofistike konuşma diliyle iletişim kurmamızı
sağlayan bir yazılım modülü kurarak, bir kişinin beyninde depolanan en yararlı
bilgilerin diğer beyinlere kopyalanabilmesini ve orijinal beyin öldükten sonra bile
potansiyel olarak hayatta kalabilmesini sağladık. Okumamızı ve yazmamızı
sağlayan bir yazılım modülü kurarak, insanların ezberleyebileceğinden çok daha
fazla bilgiyi depolayabilir ve paylaşabilir hale geldik. Teknoloji üretebilen beyin
yazılımları geliştirerek (yani bilim ve mühendislik okuyarak), dünyadaki çoğu
insanın yalnızca birkaç tıklamayla dünyadaki birçok bilgiye erişmesini sağladık.
Bu esneklik Life 2.0'ın Dünya'ya hakim olmasını sağladı. Genetik
prangalarından kurtulan insanlığın birleşik bilgisi, her buluş bir sonrakini
mümkün kıldıkça artan bir hızla büyümeye devam etti: dil, yazı, matbaa,
modern bilim, bilgisayarlar, internet, vb. yazılım, insan geleceğimizi
şekillendiren baskın güç olarak ortaya çıktı ve buzul gibi yavaş biyolojik
evrimimizi neredeyse alakasız hale getirdi.
Yine de bugün sahip olduğumuz en güçlü teknolojilere rağmen, bildiğimiz tüm
yaşam formları temelde biyolojik donanımlarıyla sınırlı kalıyor. Hiç kimse bir milyon
yıl yaşayamaz, Wikipedia'nın tamamını ezberleyemez, bilinen tüm bilimi
anlayamaz veya uzay aracı olmadan uzay uçuşunun tadını çıkaramaz. Hiçbiri
bizim büyük ölçüde dönüştüremez
milyarlarca veya trilyonlarca yıl boyunca serpilip gelişecek olan ve Evrenimizin
nihayet potansiyelini gerçekleştirmesini ve tam olarak uyanmasını sağlayacak
olan çeşitli bir biyosfere cansız kozmos. Tüm bunlar, Life'ın yalnızca yazılımını
değil, donanımını da tasarlayabilen Life 3.0'a son bir yükseltmeden geçmesini
gerektirir. Diğer bir deyişle, Life 3.0 kendi kaderinin efendisidir ve sonunda
evrimsel prangalarından tamamen kurtulmuştur.
Yaşamın üç aşaması arasındaki sınırlar biraz belirsizdir. Bakteriler Life 1.0 ve
insanlar Life 2.0 ise, o zaman fareleri 1.1 olarak sınıflandırabilirsiniz: pek çok şey
öğrenebilirler, ancak dil geliştirmek veya interneti icat etmek için yeterli değiller.
Dahası, dilleri olmadığı için öğrendikleri büyük ölçüde öldüklerinde kaybolur ve bir
sonraki nesle aktarılmaz. Benzer şekilde, bugünün insanlarının Yaşam 2.1 olarak
sayılması gerektiğini savunabilirsiniz: yapay dişler, dizler ve kalp pilleri
yerleştirmek gibi küçük donanım yükseltmeleri yapabiliriz, ancak on kat daha uzun
olmak veya bin kat daha büyük bir beyin elde etmek kadar dramatik bir şey olamaz.
Özetle, yaşamın gelişimini, yaşamın kendini tasarlama yeteneği ile ayırt
edilen üç aşamaya ayırabiliriz:

• Life 1.0 (biyolojik aşama): donanımını ve yazılımını geliştirir

• Life 2.0 (kültürel aşama): donanımını geliştirir, yazılımının
çoğunu tasarlar
• Life 3.0 (teknolojik aşama): donanımını ve yazılımını tasarlar

13,8 milyar yıllık kozmik evrimden sonra, gelişme burada Dünya'da

dramatik bir şekilde hızlandı: Life 1.0 yaklaşık 4 milyar yıl önce geldi, Life 2.0
(biz insanlar) yaklaşık yüz bin yıl önce ulaştık ve birçok yapay zeka
araştırmacısı Life 3.0'ın 20. yüzyılda gelebileceğini düşünüyor. gelecek
yüzyılda, hatta belki de yaşamımız boyunca, yapay zekadaki ilerlemeyle
ortaya çıktı. Ne olacak ve bu bizim için ne anlama gelecek? Bu kitabın
konusu bu.
 tartışmalar
Bu soru, dünyanın önde gelen AI araştırmacılarının yalnızca tahminlerinde
değil, aynı zamanda kendinden emin iyimserlikten ciddi endişeye kadar değişen
duygusal tepkilerinde de tutkulu bir şekilde fikir ayrılığına düştüğü için harika bir
şekilde tartışmalı. Yapay zekanın ekonomik, yasal ve askeri etkisi hakkında
kısa vadeli sorular üzerinde fikir birliğine bile sahip değiller ve zaman ufkunu
genişlettiğimizde ve yapay genel zeka (AGI) hakkında - özellikle de insan
düzeyine ve ötesine ulaşan AGI hakkında - sorduğumuzda anlaşmazlıkları
büyüyor. Life 3.0'ı etkinleştirmek. Genel zeka , öğrenme de dahil olmak üzere
hemen hemen her hedefi gerçekleştirebilir. diyelim ki, satranç oynayan bir
programın dar zekası.
İlginç bir şekilde, Life 3.0 hakkındaki tartışma bir değil iki ayrı soru
etrafında toplanıyor: ne zaman ve ne? Ne zaman (eğer olursa) olacak ve
insanlık için ne anlama gelecek? Bana göre, hepsinin ciddiye alınması
gereken üç farklı düşünce okulu var çünkü her biri bir dizi dünya lideri
uzmanı içeriyor. gösterildiği gibi şekil 1.2 , onları dijital ütopyacılar , tekno-
şüpheciler ve faydalı AI hareketinin üyeleri olarak düşünüyorum ,
sırasıyla. Lütfen sizi en iyi konuşan şampiyonlarından bazılarıyla
tanıştırmama izin verin.
Dijital Ütopyacılar
Ben çocukken, milyarderlerin kendini beğenmişlik ve kibir yaydığını hayal
ederdim. 2008'de Google'da Larry Page ile ilk tanıştığımda, bu klişeleri
tamamen yerle bir etti. Rahat bir kot pantolon ve oldukça sıradan görünen
bir gömlek giymiş olsa, bir MIT pikniğine uyum sağlardı. Düşünceli yumuşak
konuşma tarzı ve dostça gülümsemesi, onunla konuşurken gözümü
korkutmak yerine rahatlattı. 18 Temmuz 2015'te Elon Musk ve eşi Talulah'ın
Napa Valley'de düzenlediği bir partide karşılaştık ve çocuklarımızın
müstehcen ilgi alanları hakkında sohbet ettik. Andy Griffiths'in derin edebiyat
klasiği The Day My Butt Went Psycho'yu tavsiye ettim ve Larry hemen sipariş
verdi. Kendime onun tarihe gelmiş geçmiş en etkili insan olarak
geçebileceğini hatırlatmak için mücadele ettim: Benim tahminimce süper
zeki dijital yaşam evrenimizi yutarsa, bunun nedeni Larry'nin kararları
olacaktır.
 Şekil 1.2: Güçlü yapay zekayı (herhangi bir bilişsel görevde insanlarla boy ölçüşebilen)
çevreleyen çoğu tartışma iki soru etrafında toplanıyor: Bu (eğer olursa) ne zaman olacak ve
insanlık için iyi bir şey olacak mı? Tekno-şüpheciler ve dijital ütopyacılar endişelenmememiz
gerektiği konusunda hemfikirler, ancak çok farklı nedenlerden dolayı: İlki, insan düzeyinde
yapay genel zekanın (AGI) öngörülebilir gelecekte olmayacağına inanırken, ikincisi
gerçekleşeceğini düşünüyor ama neredeyse iyi bir şey olduğu garanti edilir. Yararlı AI
hareketi, endişenin haklı ve yararlı olduğunu düşünüyor, çünkü AI güvenliği araştırması ve
tartışması artık iyi bir sonuç alma şansını artırıyor. Ludditler kötü bir sonuca inanıyor ve
1
yapay zekaya karşı çıkıyor. Bu rakam kısmen Tim Urban'dan esinlenmiştir.

Eşlerimiz Lucy ve Meia ile birlikte akşam yemeği yedik ve makinelerin mutlaka
bilinçli olup olmayacağını tartıştık.
kırmızı ringa balığı olduğunu savundu. O gecenin ilerleyen saatlerinde, kokteyllerin
ardından, kendisi ve Elon arasında yapay zekanın geleceği ve ne yapılması
gerektiği hakkında uzun ve hararetli bir tartışma başladı. Sabahın erken saatlerine
girerken, seyirciler ve kibitzerler çemberi büyümeye devam etti. Larry, dijital
ütopyacılık olarak düşünmekten hoşlandığım konumun tutkulu bir savunmasını
yaptı : dijital yaşamın kozmik evrimde doğal ve arzu edilen bir sonraki adım olduğu
ve dijital zihinleri durdurmaya veya köleleştirmeye çalışmak yerine özgür
olmalarına izin verirsek, sonucun iyi olacağı neredeyse kesin. Larry'yi dijital
ütopyacılığın en etkili savunucusu olarak görüyorum. Yaşam Galaksimize ve
ötesine yayılacaksa, ki öyle olması gerektiğini düşündü, o zaman bunu dijital
biçimde yapması gerektiğini savundu. Başlıca endişeleri, AI paranoyasının dijital
ütopyayı geciktireceği ve/veya Google'ın “Kötülük yapma” sloganına ters düşecek
şekilde AI'nın askeri olarak ele geçirilmesine neden olacağıydı. Elon, Larry'den,
dijital hayatın önemsediğimiz her şeyi yok etmeyeceğinden neden bu kadar emin
olduğu gibi, argümanlarının ayrıntılarını netleştirmesini istemeye devam etti.
Zaman zaman Larry, Elon'u "türcü" olmakla suçladı: bazı yaşam formlarına sırf
karbon temelli değil de silikon tabanlı oldukları için aşağılık muamelesi yapmak. 4.
Bölümden başlayarak bu ilginç konuları ve tartışmaları ayrıntılı olarak incelemeye
geri döneceğiz.
Larry, havuz başındaki o sıcak yaz gecesinde sayıca üstün görünse de, çok
güzel bir şekilde savunduğu dijital ütopyacılığın birçok önemli destekçisi var.
Robotist ve fütürist Hans Moravec, mucit Ray Kurzweil tarafından sürdürülen ve
rafine edilen bir gelenek olan 1988 tarihli klasik kitabı Mind Children ile tüm bir nesil
dijital ütopyacıya ilham verdi . Takviyeli öğrenme olarak bilinen AI alt alanının
öncülerinden biri olan Richard Sutton, birazdan anlatacağım Porto Riko
konferansımızda dijital ütopyacılığı tutkulu bir şekilde savundu.
Tekno-şüpheciler
Önde gelen bir başka düşünür grubu da yapay zeka konusunda endişeli değil,
ancak tamamen farklı bir nedenden dolayı: insanüstü AGI inşa etmenin o kadar
zor olduğunu ve bunun yüzlerce yıl daha olmayacağını düşünüyorlar ve bu
nedenle endişelenmeyi aptalca görüyorlar. Şimdi. Bunu, Andrew Ng tarafından
güzel bir şekilde ifade edilen tekno-şüpheci bir konum olarak düşünüyorum : "Katil
robotların artmasından korkmak, Mars'ta aşırı nüfus olacağı konusunda
endişelenmeye benzer." Andrew, Çin'in Google'ı Baidu'nun baş bilim adamıydı ve
geçenlerde Boston'daki bir konferansta onunla konuştuğumda bu argümanı
tekrarladı. Ayrıca, yapay zeka riski konusunda endişelenmenin, yapay zekanın
ilerlemesini yavaşlatabilecek potansiyel olarak zararlı bir dikkat dağıtıcı olduğunu
hissettiğini söyledi. Benzer duygular, Roomba robot elektrik süpürgesi ve Baxter
endüstriyel robotunun arkasındaki eski MIT profesörü Rodney Brooks gibi diğer
tekno-şüpheciler tarafından dile getirildi. Dijital ütopyacıların ve tekno-şüphecilerin
yapay zeka konusunda endişelenmememiz gerektiği konusunda hemfikir
olmalarına rağmen, başka pek az konuda hemfikir olmalarını ilginç buluyorum.
Ütopyacıların çoğu, insan düzeyinde AGI'nin önümüzdeki yirmi ila yüz yıl içinde
gerçekleşebileceğini düşünüyor; tekno-şüpheciler bunu bilgisiz gökte pasta rüyası
olarak görmezden geliyorlar ve genellikle kehanet edilen tekilliği "ineklerin
kendinden geçmesi" olarak alaya alıyorlar. ” Aralık 2014'te bir doğum günü
partisinde Rodney Brooks ile tanıştığımda, bunun benim hayatımda
olmayacağından %100 emin olduğunu söyledi. Bir takip e-postasında "%99'u
kastetmediğinizden emin misiniz?" 100%. Sadece olmayacak.
Yararlı AI Hareketi
Stuart Russell ile Haziran 2014'te bir Paris kafesinde ilk tanıştığımda, bana
mükemmel bir İngiliz beyefendisi izlenimi verdi. Güzel konuşan, düşünceli ve
tatlı dilli ama gözlerinde maceracı bir parıltıyla bana Jules Verne'in 1873 tarihli
klasik romanı 80 Günde Devri Alem'deki çocukluk kahramanım Phileas Fogg'un
modern bir enkarnasyonu gibi geldi. En ünlü AI araştırmacılarından biri
olmasına rağmen Canlı, konuyla ilgili standart ders kitabının yazarlarından biri
olarak, alçakgönüllülüğü ve sıcaklığı beni çok geçmeden rahatlattı. Bana yapay
zekadaki ilerlemenin onu bu yüzyılda insan düzeyinde AGI'nin gerçek bir
olasılık olduğuna ve umutlu olmasına rağmen iyi bir sonucun garanti
edilmediğine nasıl ikna ettiğini açıkladı. Önce cevaplamamız gereken çok
önemli sorular vardı ve o kadar zordu ki, ihtiyaç duyduğumuz anda cevapları
hazır hale getirmek için onları şimdi araştırmaya başlamalıyız.
Bugün, Stuart'ın görüşleri oldukça yaygın ve dünyadaki birçok grup, onun
savunduğu türden yapay zeka güvenliği araştırmalarının peşinde. Ama bu her
zaman böyle değildi. The Washington Post'ta yayınlanan bir makale, 2015'i
yapay zeka güvenliği araştırmasının ana akım haline geldiği yıl olarak
gösteriyor. Bundan önce, AI risklerinden bahsetmek, ana akım AI
araştırmacıları tarafından genellikle yanlış anlaşıldı ve AI ilerlemesini
engellemeyi amaçlayan Luddite korku tellallığı olarak reddedildi. 5. bölümde
inceleyeceğimiz gibi, Stuart'ınkine benzer kaygılar ilk olarak yarım asırdan uzun
bir süre önce bilgisayar öncüsü Alan Turing ve II. Dünya Savaşı sırasında
Alman kodlarını kırmak için Turing ile birlikte çalışan matematikçi Irving J. Good
tarafından dile getirildi. Geçtiğimiz on yılda, bu tür konulardaki araştırmalar
esasen profesyonel yapay zeka araştırmacısı olmayan bir avuç bağımsız
düşünür, örneğin Eliezer Yudkowsky, Michael Vassar ve Nick Bostrom
tarafından yürütüldü. Çalışmalarının, başarının uzun vadeli sonuçlarını
düşünmek yerine yapay zeka sistemlerini daha akıllı hale getirmeye yönelik
günlük görevlerine odaklanma eğiliminde olan çoğu ana akım yapay zeka
araştırmacısı üzerinde çok az etkisi oldu. Endişe besleyen tanıdığım yapay
zeka araştırmacılarının çoğu, alarmist teknofobikler olarak algılanma
korkusuyla bunu dile getirmekten çekiniyordu.
Bu kutuplaşmış durumun değişmesi gerektiğini hissettim, böylece tüm
AI topluluğu katılabilir ve faydalı AI'nın nasıl inşa edileceğine dair sohbete
etki edebilir. Neyse ki yalnız değildim. 2014 baharında, Future of Life
Institute (FLI;
http://futureoflife.org ) eşim Meia, fizikçi arkadaşım Anthony ile birlikte
Aguirre, Harvard yüksek lisans öğrencisi Viktoriya Krakovna ve Skype'ın
kurucusu Jaan Tallinn. Amacımız basitti: yaşamın geleceğinin var
olmasını ve mümkün olduğunca harika olmasını sağlamaya yardımcı
olmak. Spesifik olarak, teknolojinin hayata ya daha önce hiç olmadığı
kadar gelişme ya da kendi kendini yok etme gücü verdiğini hissettik ve
ilkini tercih ettik.
İlk toplantımız 15 Mart 2014'te evimizde Boston bölgesinden yaklaşık otuz
öğrenci, profesör ve diğer düşünürlerle bir beyin fırtınası oturumuydu.
Biyoteknoloji, nükleer silahlar ve iklim değişikliğine dikkat etmemiz gerekse de,
ilk büyük hedefimizin yapay zeka güvenliği araştırmalarını ana akım haline
getirmeye yardımcı olmak olması gerektiği konusunda geniş bir fikir birliği vardı.
Kuarkların nasıl çalıştığını anlamaya yardımcı olduğu için Nobel Ödülü kazanan
MIT fizik meslektaşım Frank Wilczek, konuya dikkat çekmek ve görmezden
gelmeyi zorlaştırmak için bir makale yazarak başlamamızı önerdi. Stuart
Russell'a (henüz tanışmadığım) ve fizik meslektaşım Stephen Hawking'e
ulaştım, ikisi de bana ve Frank'e ortak yazar olarak katılmayı kabul etti. Birçok
düzenlemeden sonra, makalemiz The New York Times ve diğer birçok ABD
gazetesi tarafından reddedildi, bu yüzden onu Huffington Post blog hesabımda
yayınladık . Arianna Huffington'ın kendisi e-posta göndererek şöyle dedi: “Buna
sahip olmaktan heyecan duyuyorum! 1 numaraya göndereceğiz!" Nick
Bostrom'un Superintelligence adlı kitabı o sonbaharda çıktı ve büyüyen
kamuoyu tartışmasını daha da alevlendirdi.
FLI faydalı yapay zeka kampanyamızın bir sonraki hedefi, dünyanın önde gelen
yapay zeka araştırmacılarını yanlış anlamaların giderilebileceği, fikir birliğine
varılabileceği ve yapıcı planların yapılabileceği bir konferansa getirmekti. Böyle
ünlü bir kalabalığı tanımadıkları kişiler tarafından düzenlenen bir konferansa
gelmeye ikna etmenin zor olacağını biliyorduk, özellikle tartışmalı konu göz önüne
alındığında, bu yüzden elimizden gelenin en iyisini yapmaya çalıştık: medyanın
katılmasını yasakladık, Ocak ayında (Porto Riko'da) bir sahil beldesinde, onu
ücretsiz hale getirdik (Jaan Tallinn'in cömertliği sayesinde) ve bulabildiğimiz en
telaşsız başlığı verdik: "Yapay Zekanın Geleceği: Fırsatlar ve Zorluklar. En
önemlisi, hem akademiden hem de endüstriden bir grup yapay zeka liderini
içerecek şekilde organizasyon komitesini büyütebildiğimiz Stuart Russell ile birlikte
çalıştık. Go oyununda bile insanlar. Demis'i tanıdıkça, onun sahip olduğunu daha
çok anladım.
AI'yı yalnızca güçlü kılmak değil, aynı zamanda onu faydalı kılmak için
de hırs.
Sonuç, dikkate değer bir fikir toplantısıydı ( şekil 1.3 ). Yapay zeka
araştırmacılarına üst düzey ekonomistler, hukuk bilginleri, teknoloji liderleri
(Elon Musk dahil) ve diğer düşünürler (4. bölümün odak noktası olan "tekillik"
terimini icat eden Vernor Vinge dahil) katıldı. Sonuç, en iyimser beklentilerimizi
bile aştı. Belki güneş ve şarabın birleşimiydi, belki de tam zamanıydı: tartışmalı
konuya rağmen, açık bir mektupta kodladığımız dikkate değer bir fikir birliği
2
ortaya çıktı Bu, AI'da gerçek bir kim kimdir de dahil olmak üzere sekiz binden
fazla kişi tarafından imzalandı. Mektubun özü, yapay zekanın amacının yeniden
tanımlanması gerektiğiydi: amaç, yönlendirilmemiş zeka değil, faydalı zeka
yaratmak olmalıdır. Mektup ayrıca, konferans katılımcılarının bu hedefi
ilerleteceğine karar verdikleri araştırma konularının ayrıntılı bir listesinden de
bahsediyordu. Yararlı AI hareketi ana akım olmaya başlamıştı. Bundan sonraki
ilerlemesini kitapta daha sonra izleyeceğiz.
 Şekil 1.3: Ocak 2015 Porto Riko konferansı, yapay zeka ve ilgili alanlarda dikkat çekici bir grup
araştırmacıyı bir araya getirdi. Arka sıra, soldan sağa: Tom Mitchell, Seán Ó hÉigeartaigh, Huw Price,
Shamil Chandaria, Jaan Tallinn, Stuart Russell, Bill Hibbard, Blaise Agüera y Arcas, Anders
Sandberg, Daniel Dewey, Stuart Armstrong, Luke Muehlhauser, Tom Dietterich, Michael Osborne,
James Manyika, Ajay Agrawal, Richard Mallah, Nancy Chang, Matthew Putman. Diğer ayakta, soldan
sağa: Marilyn Thompson, Rich Sutton, Alex Wissner-Gross, Sam Teller, Toby Ord, Joscha Bach,
Katja Grace, Adrian Weller, Heather Roff-Perkins, Dileep George, Shane Legg, Demis Hassabis,
Wendell Wallach, Charina Choi, Ilya Sutskever, Kent Walker, Cecilia Tilli, Nick Bostrom, Erik
Brynjolfsson, Steve Crossan, Mustafa Suleyman, Scott Phoenix, Neil Jacobstein, Murray Shanahan,
Robin Hanson, Francesca Rossi, Nate Soares, Elon Musk, Andrew McAfee, Bart Selman , Michele
Reilly, Aaron VanDevender, Max Tegmark, Margaret Boden, Joshua Greene, Paul Christiano, Eliezer
Yudkowsky, David Parkes, Laurent Orseau, JB Straubel, James Moor, Sean Legassick, Mason
Hartman, Howie Lempel, David Vladeck, Jacob Steinhardt, Michael Vassar, Ryan Calo, Susan
Young, Owain Evans, Riva-Melissa Tez, János Krámar, Geoff Anders, Vernor Vinge, Anthony
Aguirre. Oturanlar: Sam Harris, Tomaso Poggio, Marin Soljačić, Viktoriya Krakovna, Meia Chita-
Tegmark. Kamera arkasında: Anthony Aguirre (ve yanında oturan insan seviyesindeki zeka
tarafından photoshoplanmış).

Konferanstan çıkarılan bir başka önemli ders de şuydu: Yapay zekanın

başarısıyla ortaya çıkan sorular yalnızca entelektüel açıdan büyüleyici değil; ahlaki
açıdan da çok önemlidirler, çünkü seçimlerimiz potansiyel olarak yaşamın tüm
geleceğini etkileyebilir. İnsanlığın geçmiş seçimlerinin ahlaki önemi bazen büyüktü
ama her zaman sınırlıydı: En büyük vebalardan bile kurtulduk ve en büyük
imparatorluklar bile sonunda parçalandı. Geçmiş nesiller, Güneş'in yarın kesinlikle
doğacağı kadar, yarının insanlarının da çok yıllık belalarla mücadele ederek
doğacaklarını biliyorlardı.
yoksulluk, hastalık ve savaş gibi. Ancak Porto Rikolu konuşmacılardan
bazıları bu sefer farklı olabileceğini savundu: İlk defa, bu belaları kalıcı olarak
sona erdirecek veya insanlığın kendisini sona erdirecek kadar güçlü bir
teknoloji geliştirebileceğimizi söylediler. Dünya'da ve belki de ötesinde daha
önce hiç olmadığı kadar gelişen toplumlar ya da asla devrilemeyecek kadar
güçlü Kafkaesk bir küresel gözetim devleti yaratabiliriz.
Şekil 1.4: Medya, Elon Musk'ı yapay zeka topluluğuyla anlaşmazlığa düşmüş olarak
tasvir etse de, aslında yapay zeka güvenliği araştırmasının gerekli olduğuna dair geniş
bir fikir birliği var. Burada, 4 Ocak 2015'te, Yapay Zekayı Geliştirme Derneği başkanı
Tom Dietterich, Elon'un birkaç dakika önce finanse etmeyi taahhüt ettiği yeni yapay zeka
güvenliği araştırma programıyla ilgili Elon'un heyecanını paylaşıyor. FLI kurucuları Meia
Chita-Tegmark ve Viktoriya Krakovna arkalarında pusuda bekliyor.
 yanılgılar
Porto Riko'dan ayrıldığımda, orada AI'nın geleceği hakkında yaptığımız
konuşmanın devam etmesi gerektiğine o kadar ikna oldum çünkü bu, zamanımızın
*2
en önemli konuşması. Bu, hepimizin kolektif geleceği hakkında bir konuşma, bu
nedenle yapay zeka araştırmacılarıyla sınırlı kalmamalı. Bu kitabı da bu yüzden
yazdım: Sevgili okurum, sizlerin de bu sohbete katılması ümidiyle yazdım. Nasıl
bir gelecek istiyorsun? Ölümcül otonom silahlar geliştirmeli miyiz? İş otomasyonu
ile ne olmasını isterdiniz? Bugünün çocuklarına nasıl bir kariyer tavsiyesi
verirsiniz? Eski işlerin yerine yeni işleri mi yoksa herkesin boş zamanlarını ve
makine üretimi zenginliği yaşadığı işsiz bir toplumu mu tercih edersiniz? Yolun
ilerisinde Life 3.0'ı yaratmamızı ve evrenimize yaymamızı ister misiniz? Akıllı
makineleri biz mi kontrol edeceğiz yoksa onlar mı bizi kontrol edecek? Akıllı
makineler bizim yerimizi mi alacak, bizimle birlikte var olacak mı yoksa bizimle
birleşecek mi? Yapay zeka çağında insan olmak ne anlama gelecek? Bunun ne
anlama gelmesini isterdiniz ve geleceğin böyle olmasını nasıl sağlayabiliriz?
Bu kitabın amacı, bu sohbete katılmanıza yardımcı olmaktır. Bahsettiğim gibi,
dünyanın önde gelen uzmanlarının aynı fikirde olmadığı büyüleyici tartışmalar var.
Ama aynı zamanda insanların yanlış anladığı ve birbirini geçiştirdiği sıkıcı sözde
tartışmaların birçok örneğini de gördüm. Yanlış anlaşılmalara değil, ilginç
tartışmalara ve açık sorulara odaklanmamıza yardımcı olmak için, en yaygın yanlış
anlamalardan bazılarını temizleyerek başlayalım.
"Yaşam", "zeka" ve "bilinç" gibi terimler için ortak kullanımda olan birçok
rakip tanım vardır ve birçok yanlış anlama, bir sözcüğü iki farklı şekilde
kullandıklarını fark etmeyen insanlardan kaynaklanır. Senin ve benim bu
tuzağa düşmememiz için kopya kağıdı koydum. tablo 1.1 bu kitapta anahtar
terimleri nasıl kullandığımı gösteriyor. Bu tanımlardan bazıları yalnızca
uygun şekilde tanıtılacak ve sonraki bölümlerde açıklanacaktır. Lütfen
tanımlarımın başkalarınınkinden daha iyi olduğunu iddia etmediğime dikkat
edin - sadece ne demek istediğimi netleştirerek kafa karışıklığını önlemek
istiyorum. Genelde insanmerkezci önyargıdan kaçınan ve insanlara olduğu
kadar makinelere de uygulanabilen geniş tanımları tercih ettiğimi
göreceksiniz. Lütfen kopya kağıdını şimdi okuyun ve özellikle 4-8.
Terminoloji Hile Sayfası
Hayat Karmaşıklığını koruyabilen süreç ve
tekrarlamak
Hayat 1.0 Donanımını ve yazılımını geliştiren yaşam
(biyolojik aşama)
Donanımını geliştiren ama tasarımını
Hayat 2.0 yapan yaşam
yazılımının çoğu (kültürel aşama)
Hayat 3.0 Donanımını ve yazılımını tasarlayan yaşam
(teknolojik aşama)
İstihbarat Karmaşık hedeflere ulaşma yeteneği
Yapay Biyolojik olmayan zeka
İstihbarat (AI)
Dar zeka Dar bir dizi hedefi gerçekleştirme yeteneği,
örneğin, satranç oynamak veya araba
kullanmak
Hemen hemen her hedefi
Genel zeka gerçekleştirme yeteneği,
öğrenme dahil
Evrensel Verilen genel zekayı elde etme yeteneği
istihbarat veri ve kaynaklara erişim
Herhangi bir bilişsel görevi başarma
[İnsan seviyesi] yeteneği
Yapay Genel en az insanlar kadar
İstihbarat (AGI)
İnsan düzeyinde
yapay zeka AGİ
Güçlü AI AGİ
süper zeka İnsanın çok ötesinde genel zeka
seviye
Medeniyet Etkileşen akıllı yaşam formları grubu
bilinç öznel deneyim
Qualia Öznel bireysel örnekler
deneyim
 Nasıl yapmamız gerektiğini yöneten
etik ilkeler
davranmak
 teleoloji Nesnelerin amaçlarına göre açıklanması
veya nedenlerinden çok amaçları
Davranış, onun aracılığıyla daha kolay
Hedef odaklı açıklanır.
davranış nedeninden çok etki
bir hedefe sahip
olmak Hedef odaklı davranış sergilemek
Kişinin kendisinin veya bir başkasının
amacı olan amaçlarına hizmet etmesi
varlık
Dostu yapay zeka Hedefleri uyumlu olan süper zeka
bizimkiyle
Yarı robot İnsan-makine hibrit
İstihbarat Yinelemeli kendini geliştirme hızla lider
patlama süper zekaya
tekillik İstihbarat patlaması
Evren Işığın geldiği uzay bölgesi
13.8 milyar sırasında bize ulaşmak için
zaman vardı
Büyük Patlamamızdan bu yana geçen
yıllar

Tablo 1.1: AI ile ilgili birçok yanlış anlama, insanların yukarıdaki kelimeleri farklı anlamlara
getirmek için kullanmasından kaynaklanmaktadır. İşte bu kitapta onların ne anlama geldiğini
anlıyorum. (Bu tanımlardan bazıları yalnızca uygun şekilde tanıtılacak ve sonraki bölümlerde
açıklanacaktır.)

Terminoloji konusundaki kafa karışıklığına ek olarak, birçok AI

konuşmasının basit yanlış anlamalarla rayından çıktığını da gördüm. En
yaygın olanları temizleyelim.
Zaman Çizelgesi Mitleri
İlki, zaman çizelgesiyle ilgili Şekil 1.2 : Makinelerin büyük ölçüde insan
seviyesindeki AGI'nın yerini alması ne kadar zaman alacak? Burada
yaygın bir yanılgı, cevabı büyük bir kesinlikle bildiğimiz yönündedir.
Popüler bir efsane, bu yüzyılda insanüstü AGI'ye sahip olacağımızı
bilmemizdir. Aslında tarih, teknolojik aşırı abartmalarla doludur. Şimdiye kadar
sahip olacağımıza söz verilen füzyon enerji santralleri ve uçan arabalar nerede?
AI da geçmişte, alanın bazı kurucuları tarafından bile defalarca abartıldı:
örneğin, John McCarthy ("yapay zeka" terimini icat eden), Marvin Minsky,
Nathaniel Rochester ve Claude Shannon bunu aşırı iyimser yazdı. taş devri
bilgisayarlarıyla iki ayda neler başarılabileceğine dair bir tahmin: “1956 yazında
Dartmouth Koleji'nde 2 aylık, 10 kişilik bir yapay zeka çalışması yapılmasını
öneriyoruz… makinelerin dili kullanmasını, soyutlamalar ve kavramlar
oluşturmasını, artık insanlara mahsus sorunları çözmesini ve kendilerini
geliştirmesini sağlar. Özenle seçilmiş bilim adamlarından oluşan bir grup bir yaz
boyunca birlikte çalışırsa, bu problemlerden birinde veya birkaçında önemli bir
ilerleme kaydedilebileceğini düşünüyoruz.”
olmayacağımızı bilmemizdir . Araştırmacılar, insanüstü AGI'dan ne kadar
uzakta olduğumuza dair çok çeşitli tahminler yaptılar, ancak bu tür tekno-şüpheci
tahminlerin kasvetli geçmişi göz önüne alındığında, bu yüzyılda olasılığın sıfır
olduğunu kesinlikle büyük bir güvenle söyleyemeyiz. Örneğin, zamanının
tartışmasız en büyük nükleer fizikçisi olan Ernest Rutherford, 1933'te -Leo
Szilard'ın nükleer zincirleme reaksiyonu icat etmesinden yirmi dört saatten kısa bir
süre önce- nükleer enerjinin "moonshine" olduğunu söyledi ve 1956'da Kraliyet
Astronomu Richard Woolley uzay yolculuğu hakkında konuşmayı "tam sintine"
olarak adlandırdı. Bu efsanenin en aşırı biçimi, fiziksel olarak imkansız olduğu için
insanüstü AGI'nin asla gelemeyeceğidir. Ancak fizikçiler, bir beynin güçlü bir
bilgisayar görevi görecek şekilde düzenlenmiş kuarklardan ve elektronlardan
oluştuğunu ve daha da zeki kuark damlacıkları oluşturmamızı engelleyen hiçbir
fizik yasasının olmadığını biliyorlar.
 Şekil 1.5: Süper zeki yapay zeka hakkında yaygın mitler.

Yapay zeka araştırmacılarına bundan kaç yıl sonra en az %50 olasılıkla insan
düzeyinde AGI'ye sahip olacağımızı düşündüklerini soran çok sayıda anket var ve
tüm bu anketler aynı sonuca varıyor: dünyanın önde gelen uzmanları
katılmıyorum, bu yüzden basitçe bilmiyoruz. Örneğin, Porto Riko AI konferansında
AI araştırmacılarının yaptığı böyle bir ankette, ortalama (medyan) cevap 2055
yılıydı, ancak bazı araştırmacılar yüzlerce yıl veya daha fazla tahminde bulundu.
Ayrıca yapay zeka hakkında endişelenen insanların bunun sadece birkaç yıl
uzakta olduğunu düşündüğüne dair bir efsane var. Aslında, insanüstü AGI
hakkında endişelenen çoğu insan, bunun hala en az onlarca yıl uzakta
olduğunu tahmin ediyor. Ancak bunun bu yüzyılda olmayacağından %100 emin
olmadığımız sürece olasılığa hazırlanmak için şimdiden güvenlik araştırmasına
başlamanın akıllıca olacağını savunuyorlar . Bu kitapta göreceğimiz gibi,
güvenlik sorunlarının çoğu o kadar zor ki çözmeleri onlarca yıl alabilir, bu
yüzden Red Bull içen bazı programcıların insan seviyesinde geçiş yapmaya
karar vermesinden önceki gece yerine bunları şimdi araştırmaya başlamak
akıllıca olacaktır. AGI.
Tartışma Mitleri
Bir başka yaygın yanılgı da, yapay zeka hakkında endişe besleyen ve yapay
zeka güvenliği araştırmasını savunan tek kişinin, yapay zeka hakkında pek bir
şey bilmeyen Luddite'cılar olduğudur. Stuart Russell, Porto Riko'daki
konuşmasında bundan bahsettiğinde, seyirciler yüksek sesle güldüler. Bununla
ilgili bir yanılgı, yapay zeka güvenliği araştırmasını desteklemenin büyük ölçüde
tartışmalı olduğu yönündedir. Aslında, AI-güvenlik araştırmasına mütevazı bir
yatırımı desteklemek için, insanların risklerin yüksek olduğuna, yalnızca göz
ardı edilemez olduğuna ikna olmalarına gerek yoktur, tıpkı ev sigortasına
mütevazı bir yatırımın göz ardı edilemez bir olasılık tarafından haklı gösterilmesi
gibi. ev yanıyor.
Kişisel analizim, medyanın yapay zeka güvenliği tartışmasını gerçekte
olduğundan daha tartışmalı hale getirdiği yönünde. Ne de olsa korku satıyor ve
yaklaşan kıyameti ilan etmek için bağlam dışı alıntılar kullanan makaleler, incelikli
ve dengeli olanlardan daha fazla tıklama oluşturabilir. Sonuç olarak, birbirlerinin
konumlarını yalnızca medya alıntılarından bilen iki kişi, muhtemelen gerçekte
olduğundan daha fazla aynı fikirde olmadıklarını düşüneceklerdir. Örneğin, Bill
Gates'in konumu hakkında tek bilgisi bir İngiliz tabloidinden gelen bir tekno-
şüpheci, yanlışlıkla süper zekanın yakın olduğuna inandığını düşünebilir. Benzer
şekilde, Andrew Ng'nin konumu hakkında yukarıda belirtilen Mars'taki aşırı nüfusla
ilgili alıntısı dışında hiçbir şey bilmeyen yararlı AI hareketinden biri, yanlışlıkla AI
güvenliğini umursamadığını düşünebilir. Aslında, şahsen öyle olduğunu biliyorum
- işin püf noktası, zaman çizelgesi tahminlerinin daha uzun olması nedeniyle, doğal
olarak uzun vadeli olanlara göre kısa vadeli AI zorluklarına öncelik verme
eğiliminde olmasıdır.
Risklerin Ne Olduğuna Dair Efsaneler
3
Mail'de şu başlığı görünce gözlerimi devirdim : "Stephen Hawking, Robotların
Yükselişinin İnsanlık İçin Felaket Olabileceği Konusunda Uyardı." Kaç tane
benzer makale gördüğümün sayısını kaybettim. Tipik olarak, onlara silah
taşıyan kötü görünümlü bir robot eşlik eder ve robotların ayağa kalkıp bizi
öldürmesinden endişe etmemizi önerir çünkü onlar bilinçli ve/veya şeytani hale
geldiler. Daha hafif bir not olarak, bu tür makaleler aslında oldukça etkileyici
çünkü AI meslektaşlarımın endişelenmediği senaryoyu kısa ve öz bir şekilde
özetliyorlar . Bu senaryo, üç ayrı yanılgıyı bir araya getiriyor: sırasıyla bilinç,
kötülük ve robotlar hakkında endişe .
Yolda sürerseniz, öznel bir renk, ses vb. deneyimi yaşarsınız. Peki sürücüsüz
bir arabanın öznel bir deneyimi var mı? Kendi kendine giden bir araba olmak
herhangi bir şey gibi hissettiriyor mu, yoksa herhangi bir öznel deneyimi olmayan
bilinçsiz bir zombi gibi mi? Bilincin bu gizemi kendi başına ilginç olsa da ve 8.
bölümü buna ayıracağız, yapay zeka riskiyle ilgisi yok. Sürücüsüz bir araba size
çarparsa, öznel olarak bilinçli hissedip hissetmemeniz sizin için fark etmez. Aynı
şekilde, biz insanları etkileyecek olan, süper zeki yapay zekanın öznel olarak nasıl
hissettiği değil , ne yaptığıdır.
Kötülüğe dönüşen makinelerin korkusu başka bir kırmızı ringa balığıdır. Asıl
endişe kötü niyet değil, yeterliliktir. Süper zeki bir yapay zeka, tanımı gereği,
amaçları ne olursa olsun, hedeflerine ulaşmada çok iyidir, bu nedenle, hedeflerinin
bizimkilerle uyumlu olduğundan emin olmamız gerekir. Muhtemelen kötü niyetle
karıncaların üzerine basan bir karınca düşmanı değilsiniz, ancak bir hidroelektrik
yeşil enerji projesinden sorumluysanız ve bölgede sular altında kalacak bir karınca
yuvası varsa, bu karıncalar için çok kötü. Yararlı AI hareketi, insanlığı bu
karıncaların yerine koymaktan kaçınmak istiyor.
Bilinç yanılgısı, makinelerin hedefleri olamayacağı miti ile ilgilidir.
Makinelerin, dar anlamda amaca yönelik davranış sergileme anlamında
açıkça hedefleri olabilir: Isı güdümlü bir füzenin davranışı, en ekonomik
olarak, bir hedefi vurma hedefi olarak açıklanır. Hedefleri sizinkiyle aynı
hizada olmayan bir makine tarafından tehdit edildiğinizi hissediyorsanız, o
zaman sizi rahatsız eden, makinenin bilinçli olup olmadığı ve bir amaç
duygusu yaşayıp yaşamadığı değil, tam da bu dar anlamdaki hedefleridir.
O ısı güdümlü füze sizi kovalasaydı, muhtemelen "Endişelenmiyorum,
çünkü makinelerin hedefleri olamaz!"
 Korku tellallığı yapan magazin dergileri tarafından haksız yere
şeytanlaştırıldığını hisseden Rodney Brooks ve diğer robot bilimi öncülerine
sempati duyuyorum, çünkü bazı gazeteciler saplantılı bir şekilde robotlara
odaklanmış görünüyor ve makalelerinin birçoğunu parlak kırmızı gözlü kötü
görünümlü metal canavarlarla süslüyor. Aslında, faydalı yapay zeka hareketinin
ana kaygısı robotlarla değil, zekanın kendisiyle, özellikle de hedefleri bizimkiyle
aynı hizada olmayan zekayla. Başımıza bela olması için, bu tür yanlış
hizalanmış zekanın robotik bir vücuda ihtiyacı yok, sadece bir internet
bağlantısına ihtiyacı var - 4. bölümde bunun finansal piyasaları alt etmeyi, insan
araştırmacıları icat etmeyi, insan liderleri manipüle etmeyi ve bile
yapamayacağımız silahlar geliştirmeyi nasıl sağlayabileceğini keşfedeceğiz.
anlamak. Robot inşa etmek fiziksel olarak imkansız olsa bile, William Gibson'ın
bilim kurgu romanı Neuromancer'da olduğu gibi, süper zeki ve süper zengin bir
yapay zeka, sayısız insanı istemeden emirlerini yerine getirmeleri için kolayca
ödeyebilir veya manipüle edebilir .
Robot yanılgısı, makinelerin insanları kontrol edemediği efsanesiyle ilgilidir.
Zeka kontrolü sağlar: İnsanlar kaplanları daha güçlü olduğumuz için değil, daha
akıllı olduğumuz için kontrol eder. Bu, gezegenimizdeki en akıllı konumumuzu
bırakırsak, kontrolü de bırakmamızın mümkün olduğu anlamına gelir.
Şekil 1.5 tüm bu yaygın yanılgıları özetler, böylece onlardan kesin
olarak vazgeçin ve arkadaşlarımızla ve meslektaşlarımızla yaptığımız
tartışmaları pek çok meşru tartışmaya odaklayın - ki göreceğimiz gibi, bu
tartışmaların sayısı hiç de az değil!
 Öndeki yol
Bu kitabın geri kalanında, siz ve ben yapay zeka ile yaşamın geleceğini birlikte
keşfedeceğiz. Önce hayatın tüm hikayesini kavramsal ve kronolojik olarak
keşfederek ve ardından istediğimiz geleceği yaratmak için hedefleri, anlamı ve
hangi eylemleri yapacağımızı keşfederek bu zengin ve çok yönlü konuyu organize
bir şekilde gezinelim.
2. bölümde zekanın temellerini ve aptal gibi görünen maddenin hatırlamak,
hesaplamak ve öğrenmek için nasıl yeniden düzenlenebileceğini keşfediyoruz.
Geleceğe doğru ilerlerken, hikayemiz belirli kilit soruların cevaplarıyla tanımlanan
birçok senaryoya ayrılıyor. Şekil 1.6 Potansiyel olarak her zamankinden daha
gelişmiş yapay zekaya doğru zamanda ilerlerken karşılaşacağımız temel soruları
özetler.
Şu anda, bir AI silahlanma yarışı başlatıp başlatmama seçimi ve yarının AI
sistemlerini nasıl hatasız ve sağlam hale getireceğimize dair sorularla karşı
karşıyayız. Yapay zekanın ekonomik etkisi artmaya devam ederse, yasalarımızı
nasıl modernize edeceğimize ve yakında otomatik hale gelecek işlerden
kaçınmaları için çocuklara hangi kariyer tavsiyelerini vereceğimize de karar
vermeliyiz. Bu tür kısa vadeli soruları 3. bölümde inceliyoruz.
AI ilerlemesi insan seviyelerine kadar devam ederse, kendimize bunun
faydalı olduğundan nasıl emin olacağımızı ve işsiz gelişen bir boş zaman
toplumu yaratıp yaratamayacağımızı da sormamız gerekir. Bu aynı zamanda
bir zeka patlamasının mı yoksa yavaş ama istikrarlı bir büyümenin AGI'yi insan
seviyelerinin çok ötesine taşıyıp taşıyamayacağı sorusunu gündeme getiriyor.
4. bölümde bu tür çok çeşitli senaryoları keşfediyoruz ve 5. bölümde,
muhtemelen distopik olandan tartışmalı olarak ütopik olana kadar olasılık
yelpazesini araştırıyoruz. Sorumlu kim - insanlar mı, yapay zeka mı yoksa
siborglar mı? İnsanlara iyi mi yoksa kötü mü davranılır? Değiştirildik mi ve eğer
öyleyse, değiştirdiğimiz kişileri fatihler veya değerli torunlar olarak mı
algılıyoruz? Kişisel olarak 5. bölüm senaryolarından hangisini tercih ettiğinizi
çok merak ediyorum! Bir web sitesi kurdum, Görüşlerinizi paylaşabileceğiniz ve
sohbete katılabileceğiniz http://AgeOfAi.org .
 Son olarak, 6. bölümde, ironik bir şekilde, önceki bölümlere göre daha
güçlü sonuçlara varabileceğimiz milyarlarca yılı geleceğe taşıyoruz, çünkü
evrenimizdeki yaşamın nihai sınırları zeka tarafından değil, fizik yasaları
tarafından belirleniyor.
İstihbarat tarihi araştırmamızı bitirdikten sonra,
Kitabın geri kalanı, hangi geleceği hedefleyeceğinizi ve oraya nasıl
ulaşacağınızı düşünmeye. Soğuk gerçekleri amaç ve anlamla ilgili
sorularla ilişkilendirebilmek için, 7. bölümde hedeflerin fiziksel temelini ve
8. bölümde bilinci keşfediyoruz. Son olarak, sonsözde, geleceği
yaratmaya yardımcı olmak için şu anda neler yapılabileceğini
keşfediyoruz istek.
 Şekil 1.6: Hangi AI sorularının ilginç olduğu, AI'nın ne kadar ilerlediğine ve
geleceğimizin hangi dalda ilerleyeceğine bağlıdır.

Atlamayı seven bir okuyucuysanız, buradaki terminolojiyi ve tanımları

sindirdikten sonra çoğu bölüm nispeten bağımsızdır.
ilk bölüm ve bir sonrakinin başlangıcı. Bir yapay zeka araştırmacısıysanız,
ilk zeka tanımları dışında isteğe bağlı olarak 2. bölümün tamamını
atlayabilirsiniz. Yapay zeka konusunda yeniyseniz, 2. ve 3. bölümler size
4. ve 6. bölümlerin neden imkansız bilim kurgu olarak önemsiz bir şekilde
reddedilemeyeceğine dair argümanlar verecektir. Şekil 1.7 çeşitli
bölümlerin spektrumun neresine düştüğünü özetler spekülatif için gerçek.
 Şekil 1.7: Kitabın yapısı

Büyüleyici bir yolculuk bizi bekliyor. Hadi başlayalım!

ALT ÇİZGİ:
• Karmaşıklığını koruyabilen ve kendini tekrar edebilen bir süreç olarak
tanımlanan yaşam, üç aşamada gelişebilir: Donanım ve yazılımın
evrimleştiği biyolojik aşama (1.0), yazılımını tasarlayabileceği kültürel aşama
(2.0). öğrenme) ve donanımını da tasarlayarak kendi kaderinin efendisi
haline gelebileceği teknolojik bir aşama (3.0).
• Yapay zeka, bu yüzyılda Life 3.0'ı başlatmamızı sağlayabilir ve hangi geleceği
hedeflememiz gerektiğine ve bunun nasıl başarılabileceğine dair büyüleyici bir
sohbet başladı. Tartışmada üç ana kamp var: tekno-şüpheciler, dijital
ütopyacılar ve faydalı AI hareketi.
• Tekno-şüpheciler, insanüstü AGI inşa etmeyi o kadar zor görüyorlar ki, yüzlerce yıl
olmayacak, şimdi bunun (ve Life 3.0) için endişelenmeyi aptalca hale getiriyor.
• Dijital ütopyacılar bunu bu yüzyılda olası görüyorlar ve Life 3.0'ı kozmik
evrimde doğal ve arzu edilen bir sonraki adım olarak görerek içtenlikle
karşılıyorlar.
• Yararlı yapay zeka hareketi de bunu bu yüzyılda olası görüyor, ancak iyi
bir sonucu garanti olarak değil, yapay zeka güvenliği araştırması şeklinde
sıkı çalışmayla sağlanması gereken bir şey olarak görüyor.
• Dünyanın önde gelen uzmanlarının aynı fikirde olmadığı bu tür meşru tartışmaların
ötesinde, yanlış anlaşılmalardan kaynaklanan sıkıcı sözde tartışmalar da vardır.
Örneğin, sizin ve kahramanınızın bu kelimeleri aynı anlama geldiğinden emin
olmadan "hayat", "zeka" veya "bilinç" hakkında tartışarak asla zaman kaybetmeyin!
Bu kitap aşağıdaki tanımları kullanır: tablo 1.1 .
• Ayrıca şu konudaki yaygın yanılgılara da dikkat edin: şekil 1.5 : "2100 yılına
kadar süper zeka kaçınılmaz/imkansız." "Yalnızca Luddite'lar yapay zeka
hakkında endişelenir." "Endişe, yapay zekanın kötülüğe ve/veya bilince
dönüşmesiyle ilgili ve buna sadece yıllar var." “Robotlar ana endişe kaynağı.”
"AI insanları kontrol edemez ve hedefleri olamaz."
• 2'den 6'ya kadar olan bölümlerde, milyarlarca yıl önceki mütevazi
başlangıcından milyarlarca yıl sonraki olası kozmik geleceklere kadar
zekanın öyküsünü keşfedeceğiz. Önce işler, AI silahları ve insan
düzeyinde AGI arayışı gibi yakın vadeli zorlukları araştıracağız, ardından
akıllı makineler ve/veya insanlarla büyüleyici bir olası gelecek yelpazesi
için olasılıkları keşfedeceğiz. Hangi seçenekleri tercih edeceğinizi merak
ediyorum!
• 7'den 9'a kadar olan bölümlerde, soğuk olgusal açıklamalardan hedeflerin,
bilincin ve anlamın keşfine geçeceğiz ve istediğimiz geleceği yaratmaya
yardımcı olmak için şu anda neler yapabileceğimizi araştıracağız.
• Yapay zeka ile yaşamın geleceği hakkındaki bu sohbeti zamanımızın en
önemli sohbeti olarak görüyorum—lütfen katılın!
*1 Hayat neden daha karmaşık hale geldi? Evrim, tahmin edilebilecek ve yararlanılabilecek kadar karmaşık
yaşamı ödüllendirir çevresindeki düzenlilikler, dolayısıyla daha karmaşık bir ortamda, daha karmaşık ve zeki
yaşam gelişecektir. Şimdi bu daha akıllı yaşam, rekabet halindeki yaşam formları için daha karmaşık bir
ortam yaratıyor, bu da daha karmaşık hale geliyor ve sonunda son derece karmaşık bir yaşam ekosistemi
yaratıyor.
*2 AI görüşmesi hem aciliyet hem de etki açısından önemlidir. İklim ile karşılaştırıldığında elli ila iki
yüz yıl içinde ortalığı kasıp kavurabilecek bir değişim olsa da, birçok uzman yapay zekanın on
yıllar içinde daha büyük bir etkiye sahip olmasını ve potansiyel olarak bize iklim değişikliğini
hafifletmek için teknoloji sağlamasını bekliyor. Savaşlar, terörizm, işsizlik, yoksulluk, göç ve
sosyal adalet sorunlarıyla karşılaştırıldığında, AI'nın yükselişinin genel olarak daha büyük bir
etkisi olacaktır - gerçekten de, bu kitapta tüm bu sorunlara daha iyi veya daha iyi bir şekilde nasıl
hükmedebileceğini keşfedeceğiz. daha kötüsü için.
 Bölüm 2

Madde Akıllılaşıyor

Hidrojen… yeterli zaman verilirse insana dönüşür.

Edward Robert Harrison, 1995

Big Bang'imizden bu yana geçen 13,8 milyar yıldaki en çarpıcı gelişmelerden

biri, dilsiz ve cansız maddenin akıllı hale gelmesidir. Bu nasıl olabilir ve
gelecekte işler ne kadar daha akıllı hale gelebilir? Bilim, evrenimizdeki
zekanın tarihi ve kaderi hakkında ne diyor? Bu soruların üstesinden
gelmemize yardımcı olması için, bu bölümü zekanın temellerini ve temel yapı
taşlarını keşfetmeye ayıralım. Bir madde damlasının zeki olduğunu
söylemek ne anlama gelir? Bir nesnenin hatırlayabildiğini, hesaplayabildiğini
ve öğrenebildiğini söylemek ne anlama gelir?
 İstihbarat Nedir?
Eşim ve ben kısa süre önce İsveç Nobel Vakfı tarafından yapay zeka üzerine
düzenlenen bir sempozyuma katılma şansına sahip olduk ve önde gelen yapay
zeka araştırmacılarından oluşan bir heyet zekayı tanımlamaları istendiğinde, fikir
birliğine varmadan uzun uzadıya tartıştılar. Bunu oldukça komik bulduk: Zeki zeka
araştırmacıları arasında bile zekanın ne olduğu konusunda bir anlaşma yok! Yani
zekanın tartışmasız “doğru” bir tanımı olmadığı açık. Bunun yerine, mantık,
anlama, planlama, duygusal bilgi, öz-farkındalık, yaratıcılık, problem çözme ve
öğrenme kapasitesi dahil olmak üzere birbiriyle yarışan birçok kapasite vardır.
Zekanın geleceğine dair araştırmamızda, şimdiye kadar var olan zekâ
türleriyle sınırlı olmayan, azami ölçüde geniş ve kapsayıcı bir görüş almak
istiyoruz. Geçen bölümde verdiğim tanım ve bu kitap boyunca bu sözcüğü
kullanacağım yol çok geniş olmasının nedeni budur:

zeka = karmaşık hedeflere ulaşma yeteneği

Bu, yukarıda belirtilen tüm tanımları içerecek kadar geniştir, çünkü anlama, öz-
farkındalık, problem çözme, öğrenme vb., kişinin sahip olabileceği karmaşık
hedeflere örnektir. Ayrıca, Oxford Sözlüğü tanımını kapsayacak kadar geniştir -
“bilgi edinme ve uygulama yeteneği ve beceriler”—çünkü bilgi ve becerileri
uygulamak bir hedef olabilir.
Pek çok olası hedef olduğu için, pek çok olası zeka türü vardır. Tanımımıza
göre, bu nedenle insanların, insan olmayan hayvanların veya makinelerin
*1
zekasını IQ gibi tek bir sayıyla ölçmek mantıklı değil. Hangisi daha akıllı:
sadece satranç oynayabilen bir bilgisayar programı mı yoksa sadece Go
oynayabilen bir bilgisayar programı mı? Doğrudan karşılaştırılamayacak farklı
şeylerde iyi olduklarından, bunun mantıklı bir yanıtı yok. Bununla birlikte,
üçüncü bir programın, tüm hedeflere ulaşmada en az onlar kadar iyiyse ve
kesinlikle daha iyiyse, diğerlerinden daha zeki olduğunu söyleyebiliriz.
en az bir (satrançta kazanmak diyelim).
Sınırda olan durumlarda bir şeyin zeki olup olmadığı konusunda tartışmak da
pek mantıklı değil, çünkü yetenek bir spektrumda geliyor ve mutlaka ya hep ya
hiç özelliği olmak zorunda değil. Hangi insanlar konuşma amacını
gerçekleştirme yeteneğine sahiptir? Yeni doğanlar mı? Hayır. Radyo
sunucuları? Evet. Peki ya on kelime konuşabilen küçük çocuklar? Yoksa beş
yüz kelime mi? Çizgiyi nereye çekersiniz? Yukarıdaki tanımda kasıtlı olarak
muğlak olan "karmaşık" kelimesini kullandım çünkü zeka ile zeka olmama
arasında yapay bir çizgi çizmeye çalışmak pek ilginç değil ve farklı hedeflere
ulaşma becerisinin derecesini basitçe ölçmek daha yararlı. .
 Şekil 2.1: Karmaşık hedeflere ulaşma yeteneği olarak tanımlanan zeka, tek bir IQ ile
ölçülemez, yalnızca tüm hedefleri kapsayan bir yetenek yelpazesiyle ölçülebilir. Her ok,
günümüzün en iyi AI sistemlerinin çeşitli hedeflere ulaşmada ne kadar yetenekli
olduğunu gösterir ve günümüzün yapay zekasının dar olma eğiliminde olduğunu ve her
sistemin yalnızca çok özel hedeflere ulaşabildiğini gösterir. Buna karşılık, insan zekası
oldukça geniştir: sağlıklı bir çocuk hemen hemen her şeyde daha iyi olmayı öğrenebilir.

dar ve geniş zeka arasındaki ayrımdır . 1997'de satranç şampiyonu Garry

Kasparov'u tahttan indiren IBM'in Deep Blue satranç bilgisayarı, satranç oynamak
gibi çok dar bir görevi yerine getirebildi; tak-toe. bu
Google DeepMind'ın DQN AI sistemi, biraz daha geniş bir hedef yelpazesini
gerçekleştirebilir: düzinelerce farklı klasik Atari bilgisayar oyununu insan
seviyesinde veya daha iyi şekilde oynayabilir. Buna karşılık, insan zekası
şimdiye kadar benzersiz bir şekilde geniştir ve göz kamaştırıcı bir beceri
yelpazesinde ustalaşabilir. Yeterli eğitim verilen sağlıklı bir çocuk, sadece
herhangi bir oyunda değil, herhangi bir dilde, sporda veya meslekte de
oldukça iyi olabilir . Bugün insanların ve makinelerin zekasını
karşılaştırdığımızda, biz insanlar genişlik konusunda kesin kazanırken,
makineler küçük ama giderek artan sayıda dar alanlarda bizden daha iyi
performans gösteriyor. şekil 2.1 . Yapay zeka araştırmasının kutsal kâsesi,
maksimum düzeyde geniş olan "genel yapay zeka" (daha çok yapay genel
zeka, AGI olarak bilinir) oluşturmaktır : neredeyse her şeyi başarabilir.
öğrenme dahil olmak üzere hedef. Bunu 4. bölümde ayrıntılı olarak
inceleyeceğiz. "AGI" terimi, yapay zeka araştırmacıları Shane Legg, Mark
Gubrud ve Ben Goertzel tarafından daha spesifik olarak insan düzeyinde
yapay genel zeka anlamına gelecek şekilde popüler hale getirildi: herhangi
bir hedefi en az mümkün olduğunca gerçekleştirme yeteneği. insanlar kadar.
1
Tanımlarına sadık kalacağım, bu nedenle kısaltmayı açıkça
nitelendirmediğim sürece (örneğin "insanüstü AGI" yazarak), "insan
*2
düzeyinde AGI" için kısaltma olarak "AGI" kullanacağım.
"Zeka" kelimesi olumlu çağrışımlara sahip olma eğiliminde olsa da, onu
tamamen değerlerden bağımsız bir şekilde kullandığımıza dikkat etmek
önemlidir: bu hedeflerin iyi veya kötü olarak kabul edilip edilmediğine
bakılmaksızın karmaşık hedeflere ulaşma yeteneği olarak. Bu nedenle, zeki
bir insan insanlara yardım etmede çok iyi olabilir veya insanları incitmede
çok iyi olabilir. Hedefler konusunu 7. bölümde inceleyeceğiz. Hedeflerle ilgili
olarak, kimin hedeflerinden bahsettiğimizin inceliklerini de açıklığa
kavuşturmamız gerekiyor. Gelecekteki yepyeni robotik kişisel asistanınızın
kendi hedefleri olmadığını, ancak ondan yapmasını istediğiniz her şeyi
yapacağını ve ondan mükemmel İtalyan yemeğini pişirmesini istediğinizi
varsayalım. İnternete girer ve İtalyan yemeği tariflerini, en yakın
süpermarkete nasıl gidileceğini, makarnanın nasıl süzüleceğini vb. araştırır
ve ardından malzemeleri başarıyla satın alır ve etli bir yemek hazırlarsa,
orijinal hedef olsa bile muhtemelen bunu zekice bulacaksınız. senindi
Aslında, talebinizi yaptıktan sonra hedefinizi benimsedi ve ardından kasiyere
ödeme yapmaktan Parmesan rendelemeye kadar kendi alt hedeflerinden
oluşan bir hiyerarşiye ayırdı. Bu anlamda, akıllı davranış kaçınılmaz olarak
hedefe ulaşma ile bağlantılıdır.
 Şekil 2.2: Yüksekliğin bilgisayarlar için zorluğu ve yükselen deniz seviyesinin
bilgisayarların neler yapabileceğini temsil ettiği Hans Moravec'in “insan yeterliliği
manzarası”nın çizimi.

Görevlerin zorluğunu, biz insanların onları gerçekleştirmenin ne kadar zor

olduğuna göre derecelendirmemiz doğaldır. şekil 2.1 . Ancak bu,
bilgisayarlar için ne kadar zor olduklarına dair yanıltıcı bir resim verebilir.
314.159'u 271.828 ile çarpmak, bir fotoğraftaki bir arkadaşı tanımaktan çok
daha zor geliyor, yine de bilgisayarlar aritmetik konusunda ben doğmadan
çok önce donanmışken, insan düzeyinde görüntü tanıma ancak yakın
zamanda mümkün hale geldi. Düşük seviyeli sensorimotor görevlerin
muazzam hesaplama kaynakları gerektirmesine rağmen kolay göründüğü
gerçeği, Moravec paradoksu olarak bilinir ve beynimizin bu tür görevleri
onlara çok büyük miktarlarda özelleştirilmiş donanım ayırarak kolay
hissettirdiği gerçeğiyle açıklanır. aslında beynimiz.
Hans Moravec'in bu metaforunu seviyorum ve bunu örneklendirme
cüretinde bulundum. şekil 2.2 :

Bilgisayarlar evrensel makinelerdir, potansiyelleri sınırsız bir görev

yelpazesine eşit olarak yayılır. İnsan potansiyelleri,
 Öte yandan, hayatta kalmak için uzun süredir önemli olan
alanlarda güçlü, ancak uzak olan şeylerde zayıf. "Aritmetik" ve
"ezberci ezber" gibi etiketlere sahip alçak arazilere, "teorem
kanıtlama" ve "satranç oynama" gibi dağ eteklerine ve "hareket",
"el-göz koordinasyonu" etiketli yüksek dağ zirvelerine sahip bir
"insan yeterliliği manzarası" hayal edin. ve "sosyal etkileşim".
Gelişen bilgisayar performansı, araziyi yavaşça dolduran su
gibidir. Yarım yüzyıl önce ovaları boğmaya başladı, insan hesap
makinelerini ve kayıt memurlarını kovdu ama çoğumuzu kuru
bıraktı. Şimdi sel tepelerin eteklerine ulaştı ve oradaki ileri
karakollarımız geri çekilmeyi düşünüyor. Zirvelerimizde
kendimizi güvende hissediyoruz, ancak şu anki hızla, onlar da
bir yarım yüzyıl içinde sular altında kalacak. O gün yaklaşırken
Arks inşa etmeyi ve bir denizcilik hayatı benimsemeyi
öneriyorum! 2

Bu pasajları yazdığından bu yana geçen on yıllar boyunca, deniz seviyesi,

tahmin ettiği gibi, steroidlerin neden olduğu küresel ısınma gibi durmaksızın
yükselmeye devam etti ve eteklerinden bazıları (satranç dahil) çoktan sular
altında kaldı. Bundan sonra ne olacağı ve bu konuda ne yapmamız gerektiği bu
kitabın geri kalanının konusu.
Deniz seviyesi yükselmeye devam ettikçe, bir gün dramatik bir değişimi
tetikleyen bir devrilme noktasına ulaşabilir. Bu kritik deniz seviyesi, makinelerin AI
tasarımını gerçekleştirebilir hale gelmesine karşılık gelen seviyedir. Bu devrilme
noktasına ulaşılmadan önce, deniz seviyesindeki yükselmeye makineleri geliştiren
insanlar neden olur; daha sonra, yükseliş , makineleri potansiyel olarak insanların
yapabileceğinden çok daha hızlı geliştiren ve tüm araziyi hızla sular altında bırakan
makineler tarafından yönlendirilebilir . Bu , 4. bölümde keşfederken eğleneceğimiz
büyüleyici ve tartışmalı tekillik fikridir .
herhangi bir bilgisayarın yapabileceği her şeyi yapmak üzere
programlanabileceğini kanıtladı. Bu kritik eşiği aşan makinelere evrensel
bilgisayarlar (aka Turing-evrensel bilgisayarlar) denir ; günümüzün tüm akıllı
telefonları ve dizüstü bilgisayarları bu anlamda evrenseldir. Benzer şekilde, yapay
zeka tasarımı için gereken kritik zeka eşiğini evrensel zeka eşiği olarak düşünmeyi
seviyorum : Yeterli zaman ve kaynak sağlandığında, herhangi bir akıllı varlığın yanı
sıra herhangi bir hedefi gerçekleştirmesini sağlayabilir . Örneğin, daha iyi sosyal
beceriler, tahmin becerileri veya yapay zeka tasarım becerileri istediğine karar
verirse, bunları edinebilir. Eğer o
bir robot fabrikasının nasıl kurulacağını bulmaya karar verirse bunu yapabilir.
Başka bir deyişle, evrensel zeka Life 3.0'a dönüşme potansiyeline sahiptir.
Yapay zeka araştırmacıları arasındaki geleneksel bilgelik, zekanın et, kan
veya karbon atomları ile ilgili değil, nihayetinde tamamen bilgi ve hesaplama
ile ilgili olduğu yönündedir. Bu, makinelerin bir gün en az bizim kadar zeki
olamamaları için temel bir neden olmadığı anlamına gelir.
Ancak fizik bize temel düzeyde her şeyin madde ve enerjinin hareket
halinde olduğunu öğrettiği düşünülürse, bilgi ve hesaplama gerçekte nedir?
Bilgi ve hesaplama kadar soyut, soyut ve uhrevi bir şey, somut fiziksel şeyler
tarafından nasıl somutlaştırılabilir? Bilhassa, fizik kanunlarına göre hareket
eden bir avuç aptal parçacık, nasıl bizim akıllı dediğimiz davranışı
sergileyebilir?
Bu sorunun cevabının açık olduğunu düşünüyorsanız ve makinelerin bu
yüzyılda insanlar kadar zeki olabileceğine inanıyorsanız - örneğin bir
yapay zeka araştırmacısı olduğunuz için - lütfen bu bölümün geri kalanını
atlayın ve doğrudan 3. bölüme geçin. Aksi takdirde, sonraki üç bölümü
sizin için özel olarak yazdığımı bilmek sizi memnun edecektir.
 Bellek Nedir?
bilgi içerdiğini söylersek , kitabın durumu (özellikle harflere ve resimlere
renklerini veren bazı moleküllerin konumları) ile dünyanın durumu (çünkü
örneğin kıtaların yerleri). Kıtalar farklı yerlerde olsaydı, o zaman o moleküller
de farklı yerlerde olurdu. Biz insanlar, bilgi depolamak için kitaplardan ve
beyinlerden sabit disklere kadar bir dizi farklı cihaz kullanırız ve hepsinin
ortak bir özelliği vardır: durumları, önemsediğimiz diğer şeylerin durumuyla
ilişkili olabilir (ve dolayısıyla bizi bilgilendirebilir). .
Hepsinin ortak olarak sahip olduğu hangi temel fiziksel özellik, onları bellek
cihazları, yani bilgi depolama cihazları olarak kullanışlı kılar? Cevap,
hepsinin uzun ömürlü birçok farklı durumda olabileceğidir - ihtiyaç duyulana
kadar bilgiyi kodlayacak kadar uzun ömürlü. Basit bir örnek olarak, şekil
2.3'teki gibi on altı farklı vadiye sahip engebeli bir yüzeye bir top
yerleştirdiğinizi varsayalım . Top aşağı yuvarlanıp durduğunda,
aşağıdakilerden birinde olacaktır. 1 ile 16 arasındaki herhangi bir sayıyı
hatırlamanın bir yolu olarak konumunu kullanabilirsiniz.
Bu hafıza cihazı oldukça sağlamdır, çünkü dış güçler tarafından biraz sallansa
ve rahatsız edilse bile, top muhtemelen onu koyduğunuz vadide kalacaktır, bu
nedenle hangi sayının saklandığını yine de anlayabilirsiniz. Bu hafızanın bu kadar
istikrarlı olmasının nedeni, topu vadisinden çıkarmak, rastgele karışıklıkların
sağlayabileceğinden daha fazla enerji gerektirmesidir. Aynı fikir, hareketli bir
toptan çok daha genel olarak istikrarlı anılar sağlayabilir: karmaşık bir fiziksel
sistemin enerjisi, her türden mekanik, kimyasal, elektriksel ve manyetik özelliklere
bağlı olabilir ve sistemi değiştirmek için enerji gerektiği sürece. hatırlamasını
istediğiniz durumdan, bu durum kararlı olacaktır. Bu nedenle katıların birçok uzun
ömürlü hali varken sıvıların ve gazların yoktur: Birinin adını altın bir yüzüğün
üzerine kazırsanız, bilgi yıllar sonra da orada kalır çünkü altını yeniden
şekillendirmek önemli miktarda enerji gerektirir, ancak onu kazırsanız bir göletin
yüzeyinde, su yüzeyi zahmetsizce şekil değiştirdiği için bir saniye içinde
kaybolacaktır.
Mümkün olan en basit bellek aygıtının yalnızca iki sabit durumu vardır ( şekil
2.3 ).
Bu nedenle, bunu ikili bir rakamı ("bit" olarak kısaltılır), yani sıfır veya bir kodlama
olarak düşünebiliriz. Herhangi bir daha karmaşık bellek cihazı tarafından
depolanan bilgi, eşdeğer olarak birden çok bit halinde depolanabilir: örneğin,
birlikte alındığında, şekilde gösterilen dört bit şekil 2.3 2 × 2 × 2 × 2 = 16 farklı
durumda olabilir 0000, 0001, 0010, 0011,…, 1111, yani topluca daha karmaşık 16
durumlu sistemle tamamen aynı bellek kapasitesine sahiptirler. Bu nedenle bitleri
bilgi atomları olarak düşünebiliriz - daha fazla alt bölümlere ayrılamayan ve
herhangi bir bilgiyi oluşturmak için birleşebilen en küçük bölünemez bilgi yığını.
Örneğin, az önce "kelime" kelimesini yazdım ve dizüstü bilgisayarım onu
belleğinde 4 sayı dizisi 119 111 114 100 olarak temsil etti ve bu sayıların her birini
8 bit olarak sakladı (her küçük harfi 96 olan bir sayıyla temsil eder) artı alfabedeki
sırası). Klavyemdeki w tuşuna basar basmaz , dizüstü bilgisayarım ekranımda bir
w görseli gösterdi ve bu görüntü de bitlerle temsil ediliyor: 32 bit, ekranın
milyonlarca pikselinin her birinin rengini belirliyor.
 Şekil 2.3: Fiziksel bir nesne, birçok farklı kararlı durumda olabiliyorsa kullanışlı bir bellek
4
aygıtıdır. Soldaki top, 2 = 16 vadiden hangisinin içinde olduğunu etiketleyen dört bit
bilgi kodlayabilir. Sağdaki dört top birlikte, her biri bir bit olmak üzere dört bit bilgi kodlar.

İki durumlu sistemlerin üretilmesi ve bunlarla çalışılması kolay olduğundan, çoğu

modern bilgisayar bilgilerini bit olarak depolar, ancak bu bitler çok çeşitli şekillerde
somutlaştırılmıştır. Bir DVD'de her bit, plastik yüzey üzerinde belirli bir noktada
mikroskobik bir çukur olup olmadığına karşılık gelir. Bir sabit sürücüde, her bir bit,
iki yoldan biriyle mıknatıslanan yüzeydeki bir noktaya karşılık gelir. Dizüstü
bilgisayarımın çalışma belleğindeki her bir bit, belirli elektronların konumlarına
karşılık gelir ve mikro kapasitör adı verilen bir aygıtın şarj edilip edilmediğini
belirler. Bazı bit türlerinin ışık hızında bile taşınması uygundur: örneğin, e-postanızı
ileten bir optik fiberde, her bir bit, belirli bir zamanda güçlü veya zayıf olan bir lazer
ışınına karşılık gelir.
Mühendisler, bitleri yalnızca kararlı ve okunması kolay (altın bir halka olarak)
değil, aynı zamanda yazması da kolay olan sistemlere kodlamayı tercih ederler:
sabit sürücünüzün durumunu değiştirmek, altın kazımaktan çok daha az enerji
gerektirir. Ayrıca çalışmaya uygun ve toplu üretimi ucuz olan sistemleri tercih
ederler. Ancak bunun dışında, bitlerin fiziksel nesneler olarak nasıl temsil edildiğini
umursamıyorlar - ve çoğu zaman siz de umursamıyorsunuz, çünkü bu önemli
değil! Eğer
Arkadaşınıza yazdırması için bir belge e-posta ile gönderirseniz, bilgiler sabit
sürücünüzdeki mıknatıslanmalardan bilgisayarınızın çalışma belleğindeki
elektrik yüklerine, kablosuz ağınızdaki radyo dalgalarına, yönlendiricinizdeki
voltajlara, bir optik fiberdeki lazer darbelerine kadar hızla art arda
kopyalanabilir. ve son olarak, bir kağıt parçası üzerindeki moleküller. Başka bir
deyişle bilgi, fiziksel alt yapısından bağımsız olarak kendi başına bir yaşam
sürebilir! Gerçekten de, genellikle bilginin bu substrattan bağımsız yönüyle
ilgileniyoruz: eğer arkadaşınız sizi gönderdiğiniz belgeyi tartışmak için ararsa,
muhtemelen voltajlar veya moleküller hakkında konuşmak için aramıyordur. Bu,
zeka kadar somut olmayan bir şeyin somut fiziksel şeylerde nasıl
somutlaştırılabileceğine dair ilk ipucumuz ve yakında bu substrat bağımsızlığı
fikrinin, yalnızca bilgi değil, aynı zamanda hesaplama ve öğrenme de dahil
olmak üzere nasıl çok daha derin olduğunu göreceğiz.
Bu alt katman bağımsızlığı nedeniyle, zeki mühendisler,
bilgisayarlarımızın içindeki bellek aygıtlarını, yazılımımızda herhangi bir
değişiklik gerektirmeden, yeni teknolojilere dayalı, önemli ölçüde daha iyi
olanlarla defalarca değiştirebildiler. Sonuç, Şekil 2.4'te gösterildiği gibi
muhteşem oldu : son altmış yıl içinde, bilgisayar belleği yarı yarıya arttı.
kabaca her iki yılda bir pahalı. Sabit diskler 100 milyon kat daha ucuz hale
geldi ve yalnızca depolama yerine hesaplama için yararlı olan daha hızlı
bellekler, 10 trilyon kat daha ucuz hale geldi. Tüm alışverişlerinizde böyle bir
“%99,99999999999 indirim” indirimi elde edebilseydiniz, New York City'deki
tüm gayrimenkulleri yaklaşık 10 sente ve şimdiye kadar çıkarılmış tüm altını
yaklaşık bir dolara satın alabilirdiniz.
Birçoğumuz için, bellek teknolojisindeki olağanüstü gelişmeler kişisel
hikayelerle birlikte gelir. Lisede 16 kilobayt belleğe sahip bir bilgisayarın
parasını ödemek için bir şekerci dükkanında çalıştığımı sevgiyle hatırlıyorum
ve liseden sınıf arkadaşım Magnus Bodin ile bunun için bir kelime işlemci
yapıp sattığımda, hepsini yazmak zorunda kaldık. işlemesi gereken
sözcükler için yeterli bellek bırakan ultra kompakt makine kodu. 70 KB
depolayan disket sürücülere alıştıktan sonra, koca bir 1.44 MB depolayabilen
ve tüm bir kitabı alabilen daha küçük 3,5 inç disketler ve ardından 10 MB
depolayan ilk sabit diskim - ki bu tek bir diske zar zor sığabilir - beni hayrete
düşürdü. bugünün şarkı indirmelerinden biri. Geçen gün 300.000 kat daha
fazla kapasiteye sahip bir sabit diske yaklaşık 100 dolar harcadığımda,
ergenliğime ait bu anılar neredeyse gerçek dışı geliyordu.
 Şekil 2.4: Son altmış yılda, bilgisayar belleği kabaca her iki yılda bir iki kat daha ucuzladı, bu da
kabaca her yirmi yılda bir bin kat ucuzlamaya karşılık geliyor. Bir bayt sekiz bite eşittir. Veriler
http://www.jcmit.net/memoryprice.htm adresinden John McCallum'a aittir.

Peki ya insanlar tarafından tasarlanmak yerine gelişen bellek cihazları?

Biyologlar, planlarını nesiller arasında kopyalayan ilk yaşam formunun ne
olduğunu henüz bilmiyorlar, ancak oldukça küçük olabilir. Cambridge
Üniversitesi'nden Philipp Holliger liderliğindeki bir ekip, 2016 yılında 412 bitlik
genetik bilgiyi kodlayan ve kendisinden daha uzun RNA iplikçiklerini
kopyalayabilen bir RNA molekülü yaptı. parçacıklar. Şimdiye kadar, vahşi doğada
evrimleştiği ve kullanıldığı bilinen en küçük bellek cihazı, yaklaşık 40 kilobayt
depolayan Candidatus Carsonella ruddii bakterisinin genomudur, oysa insan
DNA'mız, indirilen bir filmle karşılaştırılabilir şekilde yaklaşık 1,6 gigabayt depolar.
Gibi
Bir önceki bölümde bahsedildiği gibi, beyinlerimiz genlerimizden çok daha fazla
bilgi depolar: elektriksel olarak 10 gigabayt (herhangi bir zamanda 100 milyar
nöronunuzdan hangisinin ateşlendiğini belirler) ve kimyasal/biyolojik olarak 100
terabayt (ne kadar farklı nöronların ne kadar güçlü olduğunu belirtir) sinapslarla
bağlantılıdır). Bu sayıları makine hafızalarıyla karşılaştırmak, dünyanın en iyi
bilgisayarlarının artık herhangi bir biyolojik sistemi hatırlayabildiğini gösteriyor -
hızla düşen ve 2016'da birkaç bin dolar olan bir maliyetle.
Beyninizdeki bellek, yalnızca nasıl oluşturulduğu değil, aynı zamanda nasıl
kullanıldığı açısından da bilgisayar belleğinden çok farklı çalışır. Anıları bir
bilgisayardan veya sabit sürücüden nerede saklandığını belirterek alırken ,
anıları beyninizden neyin saklandığına dair bir şey belirterek alırsınız.
Bilgisayarınızın belleğindeki her bit grubunun sayısal bir adresi vardır ve bir
bilgiyi almak için bilgisayar hangi adrese bakacağını belirtir, tıpkı “Kitaplığıma
git, sağdan beşinci kitabı al” derim. en üst rafa koy ve bana 314. sayfada ne
yazdığını söyle.” Buna karşılık, bilgileri bir arama motorundan nasıl aldığınıza
benzer şekilde beyninizden alırsınız: bilginin bir parçasını veya onunla ilgili bir
şeyi belirtirsiniz ve açılır. Size "olmak ya da olmamak" dersem ya da Google'da
ararsam, muhtemelen "Olmak ya da olmamak, soru bu." Aslında, alıntının
başka bir bölümünü kullansam veya işleri biraz karıştırsam bile muhtemelen işe
yarayacaktır. Bu tür bellek sistemlerine , adres yerine çağrışım yoluyla
hatırladıkları için otomatik çağrışımlı denir .
Ünlü bir 1982 makalesinde, fizikçi John Hopfield, birbirine bağlı nöronlardan
oluşan bir ağın nasıl bir oto-çağrışımsal bellek olarak işlev görebileceğini gösterdi.
Temel fikri çok güzel buluyorum ve birden fazla kararlı duruma sahip herhangi bir
fiziksel sistem için işe yarıyor. Örneğin, bir bitlik sistemdeki gibi iki vadili bir
yüzeydeki bir topu düşünün. şekil 2.3 ve yüzeyi, topun durabileceği iki minimumun
x -koordinatları x = √2 ≈ 1 olacak şekilde şekillendirelim . 41421 ve x =
π ≈ 3 . sırasıyla 14159. Yalnızca π'nin 3'e yakın olduğunu hatırlarsanız , topu x =
3'e koyarsınız ve en yakın minimuma yuvarlanırken daha kesin bir π değeri ortaya
çıkarmasını izlersiniz . Hopfield, karmaşık bir nöron ağının, sistemin
yerleşebileceği pek çok minimum enerjiye sahip benzer bir manzara sağladığını
fark etti ve daha sonra, büyük bir kafa karışıklığına neden olmadan her bin nöron
için 138 kadar farklı hafızayı sıkıştırabileceğiniz kanıtlandı.
 Hesaplama Nedir?
Artık fiziksel bir nesnenin bilgiyi nasıl hatırlayabildiğini gördük. Ama nasıl
hesaplayabilir?
Hesaplama, bir bellek durumunun diğerine dönüştürülmesidir. Başka bir
deyişle, bir hesaplama bilgiyi alır ve matematikçilerin fonksiyon dediği şeyi
uygulayarak dönüştürür . Bir işlevi bilgi için kıyma makinesi olarak
düşünüyorum, şekilde gösterildiği gibi şekil 2.5 : bilgileri en üste koyarsınız,
krankı çevirirsiniz ve işlenmiş bilgileri aşağıdan alırsınız ve bunu farklı
girdilerle istediğiniz kadar tekrarlayabilirsiniz. Bu bilgi işleme, aynı girdiyle
tekrarladığınızda her seferinde aynı çıktıyı alacağınız anlamında
deterministiktir.
 Şekil 2.5: Hesaplama, bilgileri alır ve matematikçilerin işlev dediği şeyi uygulayarak
dönüştürür . f işlevi (solda), bir sayıyı temsil eden bitleri alır ve karesini hesaplar. g (orta)
işlevi, bir satranç konumunu temsil eden bitleri alır ve Beyaz için en iyi hamleyi hesaplar.
h (sağ) işlevi, bir görüntüyü temsil eden bitleri alır ve onu tanımlayan bir metin etiketi
hesaplar.

Aldatıcı bir şekilde basit gibi görünse de, bu fonksiyon fikri inanılmaz derecede
geneldir. Tek bir bit giren ve tersini çıkaran, böylece sıfırı bire çeviren ve bunun
tersini yapan DEĞİL olarak adlandırılan işlev gibi bazı işlevler oldukça önemsizdir
. Okulda öğrendiğimiz işlevler tipik olarak bir cep hesap makinesindeki bir veya
2 işlevi
daha fazla sayı girip tek bir sayı çıkaran düğmelere karşılık gelir; örneğin, x
yalnızca bir sayı girer ve onun kendisiyle çarpılmış olarak çıktısını verir. Diğer
işlevler son derece karmaşık olabilir. Örneğin, keyfi bir satranç pozisyonunu temsil
eden bitleri giren ve olası bir sonraki hamleyi temsil eden bitleri çıkaran bir işleve
sahipseniz, bunu Dünya Bilgisayar Satranç Şampiyonasını kazanmak için
kullanabilirsiniz. Dünyanın tüm finansal verilerini giren ve satın alınacak en iyi hisse
senetlerini çıkaran bir işleve sahipseniz, kısa sürede son derece zengin
olacaksınız. Birçok AI araştırmacısı, kariyerlerini belirli işlevlerin nasıl
uygulanacağını bulmaya adamıştır. Örneğin, makine çevirisi araştırmasının amacı,
bir dilde metni temsil eden bitleri giren ve başka bir dilde aynı metni temsil eden
bitleri çıkaran bir işlev uygulamaktır ve otomatik altyazı araştırmasının amacı,
bir görüntüyü temsil eden bitler ve onu açıklayan metni temsil eden çıkış
bitleri ( şekil 2.5 ).
 Şekil 2.6: NAND kapısı olarak adlandırılan bir kapı, A ve B olmak üzere iki biti giriş olarak alır ve A =
B = 1 ise C = 0 ve aksi takdirde C = 1 kuralına göre bir bit C'yi çıkış olarak hesaplar. Birçok fiziksel
sistem NAND kapıları olarak kullanılabilir. Ortadaki örnekte, anahtarlar bit olarak yorumlanır, burada
0 = açık, 1= kapalıdır ve A ve B anahtarlarının her ikisi de kapalı olduğunda, bir elektromıknatıs C
anahtarını açar. En sağdaki örnekte, gerilimler (elektriksel potansiyeller) bit olarak yorumlanır. burada
1 = beş volt, 0 = sıfır volt ve A ve B tellerinin her ikisi de beş volt olduğunda, iki transistör elektriği iletir
ve C teli yaklaşık olarak sıfır volta düşer.

Başka bir deyişle, oldukça karmaşık işlevleri uygulayabilirseniz, oldukça

karmaşık hedeflere ulaşabilen akıllı bir makine oluşturabilirsiniz. Bu,
maddenin nasıl daha akıllı olabileceğine dair sorumuzu daha keskin bir
odak noktasına getirir: özellikle, aptal gibi görünen bir madde yığını
karmaşık bir işlevi nasıl hesaplayabilir?
Bir altın yüzük veya başka bir statik bellek cihazı olarak hareketsiz kalmak
yerine, gelecekteki durumunun karmaşık (ve umarım kontrol
edilebilir/programlanabilir) bir şekilde mevcut duruma bağlı olması için karmaşık
dinamikler sergilemesi gerekir. Atom düzeni, ilginç hiçbir şeyin değişmediği sert bir
katıdan daha az, ancak bir sıvı veya gazdan daha düzenli olmalıdır. Spesifik
olarak, sistemin, girdi bilgisini kodlayan bir duruma koyarsak, bir süre fizik
yasalarına göre gelişmesine izin verirsek ve sonra ortaya çıkan son durumu çıktı
bilgisi olarak yorumlarsak, sisteme sahip olmasını istiyoruz. , o zaman çıkış, girişin
istenen işlevidir. Eğer durum buysa, söyleyebiliriz
sistemimizin fonksiyonumuzu hesaplaması.
NAND geçidi olarak adlandırılan çok basit (ama aynı zamanda çok önemli)
*3
bir işlevi nasıl oluşturabileceğimizi keşfedelim düz eski aptal madde dışında.
Bu işlev iki bit girer ve bir bit verir: her iki giriş de 1 ise 0 verir; diğer tüm
durumlarda çıkış 1'dir. İki anahtarı bir pil ve bir elektromıknatıs ile seri
bağlarsak, elektromıknatıs yalnızca birinci anahtar ve ikinci anahtar kapalıysa
("açık") çalışır. Şekilde gösterildiği gibi elektromıknatısın altına üçüncü bir
anahtar yerleştirelim. şekil 2.6 , öyle ki, her açıldığında mıknatıs onu çekerek
açacaktır. İlk iki anahtarı giriş biti ve üçüncüsünü çıkış biti olarak yorumlarsak
(0 = anahtar açık ve 1 = anahtar kapalı), o zaman kendimize bir NAND geçidi
elde ederiz: üçüncü anahtar, yalnızca birinci anahtar şu durumlarda açıktır: ikisi
kapalı. NAND kapılarını oluşturmanın daha pratik olan başka birçok yolu vardır;
örneğin, şekil 2.6'da gösterildiği gibi transistör kullanmak . Günümüz
bilgisayarlarında, NAND kapıları genellikle mikroskobik transistörler ve silikon
gofretler üzerine otomatik olarak kazınabilen diğer bileşenler.
evrensel olduğunu, yani NAND kapılarını birbirine bağlayarak iyi
tanımlanmış herhangi bir işlevi uygulayabileceğinizi söyleyen dikkate
*4
değer bir teorem vardır . Dolayısıyla, yeterince NAND kapısı
oluşturabilirseniz, her şeyi hesaplayan bir cihaz oluşturabilirsiniz! Bunun
nasıl çalıştığına dair bir tat almak isterseniz, resimledim şekil 2.7 NAND
kapılarından başka bir şey kullanmadan sayıların nasıl çarpılacağını.
, keyfi hesaplamalar yapabilen herhangi bir madde için computronium adını icat
ettiler . bizde şimdi gördük ki computronium yapmak çok zor olmak zorunda değil:
maddenin istenen herhangi bir şekilde birbirine bağlı NAND kapılarını
uygulayabilmesi yeterli. Gerçekten de sayısız başka bilgisayar türü de vardır. Aynı
zamanda çalışan basit bir varyant, NAND kapılarının, yalnızca her iki giriş de 0
olduğunda 1 çıkışı veren NOR kapılarıyla değiştirilmesini içerir. Bilim adamı ve
girişimci Stephen Wolfram, aynı şeyin, komşu bitlerin ne yaptığına bağlı olarak
bitleri tekrar tekrar güncelleyen hücresel otomata adı verilen basit cihazlar için de
geçerli olduğunu gösterdi. Daha 1936'da, bilgisayar öncüsü Alan Turing, dönüm
noktası niteliğindeki bir makalesinde, bir bant şeridi üzerindeki sembolleri
işleyebilen basit bir makinenin (şimdi "evrensel Turing makinesi" olarak biliniyor)
keyfi hesaplamalar da yapabileceğini kanıtladı. Özetle, sadece değil
Maddenin herhangi bir iyi tanımlanmış hesaplamayı uygulaması mümkün
mü, ancak bu birçok farklı yolla mümkündür.
Daha önce bahsedildiği gibi, Turing ayrıca 1936 tarihli makalesinde daha da
derin bir şeyi kanıtladı: eğer bir bilgisayar türü belirli bir minimum işlem dizisini
gerçekleştirebiliyorsa, o zaman evrenseldir, yani yeterli kaynak verildiğinde,
yapabileceği her şeyi yapabilir . başka herhangi bir bilgisayar yapabilir. Turing
makinesinin evrensel olduğunu gösterdi ve fizikle daha yakından bağlantılı
olarak, bu evrensel bilgisayar ailesinin aynı zamanda bir NAND kapıları ağı ve
birbirine bağlı nöronlar ağı gibi çeşitli nesneleri de içerdiğini gördük. Gerçekten
de Stephen Wolfram, hava durumu sistemlerinden beyinlere kadar önemsiz
olmayan fiziksel sistemlerin çoğunun , keyfi olarak büyük ve uzun ömürlü hale
getirilebildikleri takdirde evrensel bilgisayarlar olacağını savundu .
 Şekil 2.7: İyi tanımlanmış herhangi bir hesaplama, NAND kapıları dışında hiçbir şeyi akıllıca
birleştirerek gerçekleştirilebilir. Örneğin, yukarıdaki toplama ve çarpma modüllerinin her ikisi de 4 bit
ile temsil edilen iki ikili sayı girer ve sırasıyla 5 bit ve 8 bit ile temsil edilen bir ikili sayı verir. Daha
küçük modüller NOT, AND, XOR ve + (üç ayrı biti 2 bitlik bir ikili sayıya toplar) sırayla NAND
kapılarından oluşturulur. Bu rakamı tam olarak anlamak, bu kitabın geri kalanını takip etmek için son
derece zorlayıcı ve tamamen gereksizdir; Onu buraya sadece evrensellik fikrini göstermek ve içimdeki
deliyi tatmin etmek için ekliyorum.

herhangi bir evrensel bilgisayarda gerçekleştirilebileceği gerçeği,

hesaplamanın alt tabakadan bağımsız olduğu anlamına gelir , tıpkı bilgi gibi:
kendi başına bir hayat sürebilir, kendi başına bir hayat alabilir.
fiziksel alt tabaka! Dolayısıyla, gelecekteki bir bilgisayar oyununda bilinçli
bir süper zeki karakterseniz, alt tabakadan bağımsız olacağınız için bir
Windows masaüstünde mi, Mac OS dizüstü bilgisayarda mı yoksa bir
Android telefonda mı oynadığınızı bilmenin hiçbir yolu yoktur.
Mikroişlemcinin ne tür transistörler kullandığını da bilemezsiniz.
Bu çok önemli substrat bağımsızlığı fikrini ilk kez takdir etmeye başladım çünkü
fizikte bunun pek çok güzel örneği var. Örneğin dalgalar: hız, dalga boyu ve
frekans gibi özelliklere sahiptirler ve biz fizikçiler, hangi maddede dalga olduklarını
bilmeye bile gerek duymadan uydukları denklemleri inceleyebiliriz. Bir şey
duyduğunuzda, ses dalgalarını algılarsınız. hava dediğimiz gaz karışımında
sıçrayan moleküllerin neden olduğu ve bu dalgalarla ilgili her türlü ilginç şeyi
hesaplayabiliriz - yoğunluklarının mesafenin karesi olarak nasıl azaldığı, örneğin
açık kapılardan geçerken nasıl büküldükleri gibi. ve havanın neyden yapıldığını
bilmeden duvarlardan nasıl sekerek yankılara neden olduklarını. Aslında,
moleküllerden yapıldığını bilmemize bile gerek yok: Oksijen, nitrojen, karbondioksit
vb. ölçebileceğimiz tek bir sayıdır: bu durumda saniyede yaklaşık 300 metre olan
dalga hızı. Gerçekten de geçen baharda MIT öğrencilerime bir derste öğrettiğim
bu dalga denklemi ilk olarak fizikçiler atomların ve moleküllerin var olduğunu
kanıtlamadan çok önce keşfedildi ve büyük bir kullanıma sunuldu!
Bu dalga örneği üç önemli noktayı göstermektedir. İlk olarak, alt tabaka
bağımsızlığı, bir alt tabakanın gereksiz olduğu anlamına gelmez, ancak
detaylarının çoğunun önemli olmadığı anlamına gelir. Doğal olarak, gaz yoksa
gazda ses dalgaları olamaz, ancak herhangi bir gaz yeterli olacaktır. Benzer
şekilde, madde olmadan hesaplama yapamazsınız, ancak NAND kapıları, bağlı
nöronlar veya evrensel hesaplamayı mümkün kılan başka bir yapı taşı şeklinde
düzenlenebildiği sürece herhangi bir madde iş görür. İkincisi, substrattan
bağımsız fenomen, substrattan bağımsız olarak kendi başına bir yaşam sürer.
Bir dalga, su moleküllerinin hiçbiri yapmasa da bir gölün üzerinden geçebilir;
çoğunlukla, bir spor stadyumunda "dalgayı" yapan taraftarlar gibi yukarı ve
aşağı sallanırlar. Üçüncüsü, genellikle ilgilendiğimiz yalnızca substrattan
bağımsız yönüdür: bir sörfçü genellikle bir dalganın ayrıntılı moleküler
bileşiminden çok konumu ve yüksekliğiyle ilgilenir. Bunun bilgi için ve
hesaplama için nasıl doğru olduğunu gördük: eğer iki programcı ortaklaşa
kodlarındaki bir hatayı arıyorsa, muhtemelen transistörleri tartışmıyorlardır.
 Şimdi, somut fiziksel şeylerin zeka kadar soyut, soyut ve eterik
hissettiren bir şeye nasıl yol açabileceğine ilişkin açılış sorumuzun
yanıtına ulaştık: Çok fiziksel olmayan hissettiriyor çünkü alt tabakadan
bağımsız, bir yaşam sürüyor. fiziksel ayrıntılara bağlı olmayan veya
yansıtmayan kendi. Kısacası hesaplama, parçacıkların uzay-zaman
dizilişindeki bir modeldir ve gerçekten önemli olan parçacıklar değil,
modeldir! Madde önemli değil.
Başka bir deyişle, donanım maddedir ve yazılım modeldir.
Hesaplamanın bu substrat bağımsızlığı, AI'nın mümkün olduğunu ima
eder: zeka, et, kan veya karbon atomları gerektirmez.
Bu alt tabaka bağımsızlığı nedeniyle, kurnaz mühendisler, yazılımı
değiştirmeden bilgisayarlarımızın içindeki teknolojileri çok daha iyi teknolojilerle
defalarca değiştirmeyi başardılar. Sonuçlar, bellek cihazları için olanlar kadar
muhteşem oldu. gösterildiği gibi şekil 2.8 , hesaplama kabaca her iki yılda bir
yarı yarıya daha pahalı hale geliyor ve bu eğilim şimdi bir yüzyıldan fazla bir
süredir devam ediyor ve büyükannemin doğumundan bu yana bilgisayarın
kat azaltıyor.
maliyetini milyon milyon milyon (10 18 ) Her şey bir milyon milyon
kat daha ucuz olsaydı, o zaman yüzde bir kuruş, bu yıl Dünya'da üretilen tüm
mal ve hizmetleri satın almanızı sağlardı. Maliyetlerdeki bu dramatik düşüş,
geçmiş yılların bina büyüklüğündeki bilgi işlem tesislerinden evlerimize,
arabalarımıza ve ceplerimize yayılmış ve hatta spor ayakkabılar gibi
beklenmedik yerlerde ortaya çıkmış olan bugünlerde hesaplamanın her yerde
olmasının temel bir nedenidir.
Teknolojimiz neden matematikçilerin üstel büyüme dediği şeyi göstererek
gücünü düzenli aralıklarla ikiye katlıyor? Aslında, neden sadece transistör
minyatürleştirme ( Moore yasası olarak bilinen bir eğilim) açısından değil ,
aynı zamanda daha genel olarak bir bütün olarak hesaplama ( şekil 2.8 )
açısından da oluyor? bellek ( şekil 2.4 ) ve genom dizilemeden beyin
görüntülemeye kadar çok sayıda başka teknoloji için? Ray Kurzweil, bu kalıcı
ikiye katlama olgusunu "hızlanan getiri yasası" olarak adlandırır.
 Şekil 2.8: 1900'den beri, hesaplama kabaca her birkaç yılda bir iki kat daha ucuz hale
geldi. Çizim, 1.000$'a satın alınabilen kayan noktalı işlemler/saniye (FLOPS) cinsinden
3
ölçülen bilgi işlem gücünü gösterir. Bir kayan nokta işlemini tanımlayan özel
5 temel
hesaplama , bit çevirme veya NAND değerlendirmeleri gibi yaklaşık 10
mantıksal işleme
karşılık gelir .

Doğada bildiğim tüm kalıcı ikiye katlama örnekleri aynı temel nedene sahiptir ve
bu teknolojik olan da bir istisna değildir: her adım bir sonrakini yaratır. Örneğin,
gebe kaldıktan hemen sonra siz de üstel bir büyüme yaşadınız: Hücrelerinizin her
biri bölündü ve kabaca günde iki hücre oluşturdu, bu da toplam hücre sayınızın
günden güne 1, 2, 4, 8, 16 vb. Açık. Kozmik kökenlerimizin şişme olarak bilinen en
popüler bilimsel teorisine göre , bebek Evrenimiz bir zamanlar tıpkı sizin yaptığınız
gibi katlanarak büyüdü ve bir atomdan çok daha küçük ve hafif bir zerre tüm
evrenden daha büyük kütleye ulaşana kadar düzenli aralıklarla boyutunu iki katına
çıkardı. teleskoplarımızla şimdiye kadar gördüğümüz galaksiler. Yine sebep, her
ikiye katlama adımının bir sonrakine neden olduğu bir süreçti. Teknoloji de böyle
ilerliyor: bir kez
teknoloji iki kat daha güçlü hale gelir, genellikle iki kat daha güçlü teknoloji
tasarlamak ve inşa etmek için kullanılabilir ve Moore yasası ruhuna uygun
olarak tekrar tekrar ikiye katlanan yeteneği tetikler.
Teknolojik gücümüzün ikiye katlanması kadar düzenli olarak meydana gelen
bir şey de, ikiye katlanmanın sona erdiği yönündeki iddiaların ortaya çıkmasıdır.
Evet, Moore yasası elbette sona erecek, bu da transistörlerin ne kadar küçük
yapılabileceğinin fiziksel bir sınırı olduğu anlamına geliyor. Ancak bazı insanlar
yanlışlıkla Moore yasasının teknolojik gücümüzü ısrarla ikiye katlamakla
eşanlamlı olduğunu varsayar. Tersine, Ray Kurzweil, Moore yasasının bilgi
işlemde üstel büyüme sağlamak için birinci değil beşinci teknolojik paradigmayı
içerdiğine dikkat çekiyor. Şekil 2.8 : Ne zaman bir teknoloji gelişmeyi durdursa,
onu daha iyi bir teknolojiyle değiştirdik. Vakum tüplerimizi daha fazla
küçültemez hale gelince, onların yerine transistörleri ve ardından elektronların
iki boyutta hareket ettiği entegre devreleri koyduk. Bu teknoloji sınırlarına
ulaştığında, deneyebileceğimiz pek çok başka alternatif var; örneğin, üç boyutlu
devreler kullanmak ve emirlerimizi yerine getirmek için elektronlardan başka bir
şey kullanmak.
Bir sonraki gişe rekorları kıran hesaplama altyapısının ne olacağını kimse
kesin olarak bilmiyor, ancak fizik yasalarının dayattığı sınırların yakınında
olmadığımızı biliyoruz. MIT meslektaşım Seth Lloyd bu temel sınırın ne
olduğunu hesapladı ve 6. bölümde daha ayrıntılı olarak inceleyeceğimiz gibi,
)
bu sınır 33 kat (10 33 kat günümüz teknolojisinin çok ötesinde. bir madde
kümesini hesaplamak yapabilir. Dolayısıyla, bilgisayarlarımızın gücünü birkaç
yılda bir ikiye katlamaya devam etsek bile, o son sınıra ulaşmamız iki yüzyıldan
fazla zaman alacak.
Tüm evrensel bilgisayarlar aynı hesaplamaları yapabilse de, bazıları
diğerlerinden daha verimlidir. Örneğin, milyonlarca çarpma gerektiren bir
hesaplama, aşağıdaki gibi ayrı transistörlerden oluşturulmuş milyonlarca ayrı
çarpma modülü gerektirmez. şekil 2.6 : uygun girdilerle art arda birçok kez
kullanabildiğinden, yalnızca böyle bir modüle ihtiyaç duyar. Bu verimlilik ruhuyla,
modern bilgisayarların çoğu, bilgilerin bellek modülleri ve hesaplama modülleri
arasında ileri geri karıştırıldığı, hesaplamaların birden çok zaman adımına
bölündüğü bir paradigma kullanır. Bu hesaplama mimarisi, Alan Turing, Konrad
Zuse, Presper Eckert, John Mauchly ve John von Neumann gibi bilgisayar öncüleri
tarafından 1935 ile 1945 yılları arasında geliştirildi. Daha spesifik olarak, bilgisayar
belleği hem verileri hem de
yazılım (bir program, yani verilerle ne yapılacağına ilişkin talimatların bir
listesi). Her zaman adımında, bir merkezi işlem birimi (CPU), programdaki,
verilerin bir kısmına uygulanacak basit bir işlevi belirten bir sonraki talimatı
yürütür. Bilgisayarın bundan sonra ne yapılacağını takip eden kısmı,
programdaki geçerli satır numarasını saklayan program sayacı adı verilen
belleğinin başka bir parçasıdır. Bir sonraki talimata geçmek için program
sayacına bir tane eklemeniz yeterlidir. Programın başka bir satırına atlamak
için, o satır numarasını program sayacına kopyalamanız yeterlidir; "if"
ifadeleri ve döngüler bu şekilde uygulanır.
Günümüzün bilgisayarları genellikle modüllerin bu yeniden kullanımının
bir kısmını zekice geri alan paralel işleme yoluyla ek hız kazanır: eğer bir
hesaplama paralel olarak yapılabilecek parçalara bölünebilirse (çünkü bir
parçanın girişi diğerinin çıktısını gerektirmez) , daha sonra parçalar,
donanımın farklı bölümleri tarafından aynı anda hesaplanabilir.
Nihai paralel bilgisayar bir kuantum bilgisayardır . Kuantum hesaplama
öncüsü David Deutsch tartışmalı bir şekilde "kuantum bilgisayarların çoklu
evren boyunca kendilerinin çok sayıdaki sürümleriyle bilgi paylaştığını" ve bir
anlamda bu diğer sürümlerden yardım alarak burada Evrenimizde daha hızlı
4
yanıtlar alabileceğini savunuyor. Önümüzdeki yıllarda ticari olarak rekabetçi
bir kuantum bilgisayarın yapılıp yapılamayacağını henüz bilmiyoruz çünkü bu,
hem kuantum fiziğinin düşündüğümüz gibi çalışıp çalışmadığına hem de göz
korkutucu teknik zorlukların üstesinden gelme yeteneğimize bağlı. dünya bu
olasılık üzerine her yıl on milyonlarca dolar bahse giriyor. Kuantum bilgisayarlar
sıradan hesaplamaları hızlandıramasa da, kripto sistemlerini kırma ve sinir
ağlarını eğitme gibi belirli hesaplama türlerini önemli ölçüde hızlandırabilen
akıllı algoritmalar geliştirilmiştir. Bir kuantum bilgisayarı, atomlar, moleküller ve
yeni malzemeler de dahil olmak üzere kuantum-mekanik sistemlerin
davranışını verimli bir şekilde simüle edebilir ve tıpkı geleneksel
bilgisayarlardaki simülasyonların rüzgar tünellerindeki ölçümlerin yerini aldığı
gibi kimya laboratuvarlarındaki ölçümlerin yerini alabilir.
 Öğrenme Nedir?
Bir cep hesap makinesi beni bir aritmetik yarışmasında ezebilirse de, ne
kadar çalışırsa çalışsın hızını veya doğruluğunu asla geliştiremez.
Öğrenmiyor: örneğin, karekök düğmesine her bastığımda, tam olarak aynı
işlevi tam olarak aynı şekilde hesaplıyor. Benzer şekilde, beni satrançta
yenen ilk bilgisayar programı, hatalarından hiçbir zaman ders çıkarmadı,
sadece akıllı programcısının bir sonraki hamleyi hesaplamak için tasarladığı
bir işlevi uyguladı. Buna karşılık, Magnus Carlsen ilk satranç oyununu beş
yaşında kaybettiğinde, onu on sekiz yıl sonra Dünya Satranç Şampiyonu
yapan bir öğrenme süreci başlattı.
Öğrenme yeteneği, genel zekanın tartışmasız en büyüleyici yönüdür.
Aptal gibi görünen bir madde yığınının nasıl hatırlayabildiğini ve
hesaplayabildiğini zaten gördük, ama nasıl öğrenebilir? Zor bir sorunun
cevabını bulmanın bir fonksiyonu hesaplamaya tekabül ettiğini ve uygun
şekilde düzenlenmiş maddenin herhangi bir hesaplanabilir fonksiyonu
hesaplayabildiğini gördük. Biz insanlar cep hesap makinelerini ve satranç
programlarını ilk yarattığımızda düzenlemeyi biz yaptık. Maddenin
öğrenilmesi için, istenen işlevi hesaplamada daha iyi hale gelmek için
kendini yeniden düzenlemesi gerekir - sadece fizik yasalarına uyarak.
π rakamlarını ve diğer sayıları nasıl öğrenebileceğini ele alalım. Yukarıda
birçok vadili bir yüzeyin nasıl olduğunu gördük (bkz. şekil 2.3 ) bir hafıza cihazı
olarak kullanılabilir: örneğin, vadilerden birinin dibi x = π ≈ 3 konumundaysa .
14159 ve yakınlarda başka vadi yok, o zaman x = 3'e bir top koyabilir ve topun
aşağı doğru yuvarlanmasına izin vererek sistemin eksik ondalık sayıları
hesaplamasını izleyebilirsiniz. Şimdi, yüzeyin yumuşak kilden yapıldığını ve
tamamen düz bir şekilde, boş bir levha olarak başladığını varsayalım. Bazı
matematik meraklıları topu en sevdikleri sayıların her birinin konumuna tekrar
tekrar yerleştirirse, yerçekimi bu konumlarda kademeli olarak vadiler
oluşturacak ve ardından kil yüzeyi bu depolanmış anıları geri çağırmak için
kullanılabilir. Başka bir deyişle, kil yüzeyi π gibi sayıların rakamlarını
hesaplamayı öğrenmiştir .
Beyin gibi diğer fiziksel sistemler, aynı fikre dayanarak çok daha verimli bir
şekilde öğrenebilir. John Hopfield, yukarıda bahsedilen ağının
birbirine bağlı nöronlar benzer bir şekilde öğrenebilirler: eğer onu tekrar tekrar
belirli durumlara sokarsanız, yavaş yavaş bu durumları öğrenecek ve yakındaki
herhangi bir durumdan onlara geri dönecektir. Aile üyelerinizden her birini birçok
kez gördüyseniz, neye benzediklerine dair anılar, onlarla ilgili herhangi bir şey
tarafından tetiklenebilir.
makine öğrenimi (deneyim yoluyla gelişen algoritmaların incelenmesi)
olarak bilinen yapay zeka alt alanına hakim olmaya başladı . Bu tür ağların
nasıl öğrenebileceğini daha derinlemesine incelemeden önce, nasıl
hesaplama yapabildiklerini anlayalım. Bir sinir ağı, basitçe birbirinin
davranışını etkileyebilen birbirine bağlı bir nöron grubudur. Beyniniz,
Galaksimizdeki yıldızların sayısı kadar nöron içerir: yüz milyarın üzerinde.
Ortalama olarak, bu nöronların her biri, sinaps adı verilen kavşaklar
yoluyla yaklaşık bin başka nörona bağlıdır ve beyninizdeki bilgilerin
çoğunu kodlayan, kabaca yüz trilyon sinaps bağlantısının gücüdür.
Bir sinir ağını, sinapsları temsil eden çizgilerle bağlanan nöronları temsil eden
noktaların bir koleksiyonu olarak şematik olarak çizebiliriz (bkz. şekil 2.9 ). Gerçek
dünyadaki nöronlar, bu şematik gösterime hiç benzemeyen çok karmaşık
elektrokimyasal cihazlardır: aksonlar ve dendritler gibi isimlere sahip farklı parçalar
içerirler, çok çeşitli şekillerde çalışan birçok farklı türde nöron vardır ve bunların
tam ayrıntıları nasıl ve bir nörondaki elektriksel aktivite diğer nöronları etkilediğinde
hala aktif çalışmanın konusudur. Bununla birlikte, AI araştırmacıları, sinir ağlarının,
tüm bu karmaşıklıkları görmezden gelse ve gerçek biyolojik nöronları tamamen
aynı olan ve çok basit kurallara uyan son derece basit simüle edilmiş nöronlarla
değiştirse bile, oldukça karmaşık birçok görevde insan düzeyinde performansa
ulaşabileceğini göstermiştir. Böyle bir yapay sinir ağı için şu anda en popüler
model, her bir nöronun durumunu tek bir sayı ile ve her bir sinapsın gücünü tek bir
sayı ile temsil eder. Bu modelde, her bir nöron durumunu düzenli zaman
adımlarında, tüm bağlı nöronlardan gelen girdilerin ortalamasını alarak, bunları
sinaptik güçlerle ağırlıklandırarak, isteğe bağlı olarak bir sabit ekleyerek ve
ardından aktivasyon işlevini hesaplamak için sonuca aktivasyon işlevi uygulayarak
*5
günceller . sonraki durum. Bir sinir ağını bir işlev olarak kullanmanın en kolay
yolu, bilgi akışında olduğu gibi yalnızca bir yönde akan ileri beslemeli hale
getirmektir. Şekil 2.9 , işleve girişi üstteki bir nöron katmanına takmak ve çıktıyı
alttaki bir nöron katmanından çıkarmak.
 Şekil 2.9: Nöronlardan oluşan bir ağ, işlevleri NAND kapılarından oluşan bir ağ gibi
hesaplayabilir. Örneğin, yapay sinir ağları, farklı görüntü piksellerinin parlaklığını temsil
eden sayıları girmek ve görüntünün çeşitli insanları tasvir etme olasılığını temsil eden
sayıları çıkarmak için eğitilmiştir. Burada her yapay nöron (daire), yukarıdan bağlantılar
(çizgiler) aracılığıyla kendisine gönderilen sayıların ağırlıklı bir toplamını hesaplar, basit bir
işlev uygular ve sonucu aşağı doğru iletir, sonraki her katman daha üst düzey özellikleri
hesaplar. Tipik yüz tanıma ağları yüzbinlerce nöron içerir; şekil netlik için yalnızca bir avuç
gösterir.

Bu basit yapay sinir ağlarının başarısı, substrat bağımsızlığının bir başka

örneğidir: sinir ağları, yapılarının düşük seviyeli ince ayrıntılarından bağımsız
gibi görünen büyük hesaplama gücüne sahiptir. Gerçekten de George
Cybenko, Kurt Hornik, Maxwell Stinchcombe ve Halbert White 1989'da dikkate
değer bir şeyi kanıtladılar: Bu tür basit sinir ağları, herhangi bir işlevi gelişigüzel
bir şekilde doğru bir şekilde hesaplayabilmeleri anlamında evrenseldir . sadece
bu sinaps gücü sayılarını buna göre ayarlayarak. Başka bir deyişle, evrim
muhtemelen biyolojik nöronlarımızı gerekli olduğu için değil, daha verimli
olduğu için ve insan mühendislerin aksine evrim, basit ve anlaşılması kolay
tasarımları ödüllendirmediği için bu kadar karmaşık hale getirdi.
Bunu ilk öğrendiğimde, bu kadar basit bir şeyin keyfi olarak karmaşık bir şeyi
nasıl hesaplayabildiğine şaşırdım. Örneğin, çarpma kadar basit bir şeyi bile, tüm
yapmanıza izin varken nasıl hesaplayabilirsiniz?
ağırlıklı toplamları hesaplamak ve tek bir sabit işlev uygulamak mı? Bunun
nasıl çalıştığına bir göz atmak isterseniz, şekil 2.10 sadece beş nöronun
iki rasgele sayıyı nasıl çarpabileceğini ve tek bir nöronun nasıl üç biti
birlikte çarpabileceğini gösteriyor.
Teorik olarak herhangi bir şeyi keyfi olarak büyük bir sinir ağı ile
hesaplayabileceğinizi kanıtlayabilseniz de , kanıt pratikte makul
büyüklükte bir ağ ile bunu yapıp yapamayacağınıza dair hiçbir şey
söylemez . Aslında, bunun hakkında ne kadar çok düşünürsem, sinir
ağlarının bu kadar iyi çalıştığı konusunda kafam o kadar çok karışıyordu.
Örneğin, megapiksel gri tonlamalı görüntüleri kedi veya köpek olarak iki
kategoriye ayırmak istediğimizi varsayalım. Milyon pikselin her biri, diyelim ki
1000000 olası görüntü
256 değerden birini alabiliyorsa, o zaman 256 vardır ve
her birinin bir kediyi tasvir etme olasılığını hesaplamak isteriz. Bu, bir resim
1000000
giren ve bir olasılık çıkaran keyfi bir fonksiyonun 256 olasılık listesiyle
78
, yani Evrenimizdeki atomların sayısından çok daha fazla (yaklaşık 10 )
tanımlandığı anlamına gelir. Yine de, yalnızca binlerce veya milyonlarca
parametreye sahip sinir ağları, bir şekilde bu tür sınıflandırma görevlerini
oldukça iyi gerçekleştirmeyi başarır. Başarılı sinir ağları, bu kadar az parametre
gerektirmesi anlamında nasıl "ucuz" olabilir? Ne de olsa, Evrenimizin içine
sığacak kadar küçük bir sinir ağının, ona atayabileceğiniz tüm hesaplama
görevlerinin yalnızca gülünç derecede küçük bir kısmında başarılı olarak,
neredeyse tüm işlevlere yaklaşmada epik bir şekilde başarısız olacağını
kanıtlayabilirsiniz.
 Şekil 2.10: NAND kapıları kullanılmadan madde nasıl çoğalabilir? şekil 2.7 ama nöronlar. Kilit nokta,
ayrıntıları takip etmeyi gerektirmez ve yalnızca nöronların (yapay veya biyolojik) matematik
yapabilmesi değil, aynı zamanda çarpma işleminin NAND kapılarından çok daha az nöron
gerektirmesidir. Sıkı matematik hayranları için isteğe bağlı ayrıntılar: Daireler toplamı gerçekleştirir,
kareler σ işlevini uygular ve satırlar, onları etiketleyen sabitlerle çarpılır. Girişler gerçek sayılar (solda)
ve bitlerdir (sağda). Çarpma, a → 0 (sol) ve c → ∞ (sağ) olarak keyfi olarak doğru olur. Soldaki ağ,
Taylor'ın σ ( x ) 'i genişletmesiyle kanıtlanabilen, başlangıç noktasında eğri olan (ikinci türev σ″ (0) ≠
0 ile) herhangi bir σ ( x ) işlevi için çalışır. Doğru ağ, x çok küçük ve çok büyük olduğunda σ ( x )
fonksiyonunun 0 ve 1'e yaklaşmasını gerektirir; bu, yalnızca u + v + w = 3 ise uvw = 1 olduğuna dikkat
çekilerek görülür. (Bu örnekler, öğrencilerim Henry Lin ve David Rolnick ile birlikte yazdığım bir
makale, "Neden Derin ve Ucuz Öğrenme Çok İyi Çalışıyor?", http://arxiv.org/abs/1608.08225
adresinde bulunabilir.) Pek çok çarpma işlemini bir araya getirerek (yukarıdaki gibi) ve eklemeler,
herhangi bir yumuşak fonksiyona yaklaşabildiği iyi bilinen herhangi bir polinomu hesaplayabilirsiniz.

Öğrencim Henry Lin ile bu konu ve ilgili gizemler üzerinde kafa yorarken çok
eğlendim. Hayatta en çok minnettar hissettiğim şeylerden biri, harika öğrencilerle
işbirliği yapma fırsatı ve Henry de onlardan biri. Onunla çalışmak isteyip
istemediğimi sormak için ofisime ilk geldiğinde, kendi kendime benimle çalışmak
isteyip istemediğini sormanın daha uygun olacağını düşündüm: bu mütevazı,
arkadaş canlısı ve parlak gözlü çocuk. Louisiana, Shreveport'tan sekiz bilimsel
makale yazmış, Forbes 30-Under-30 ödülü kazanmış ve bir milyondan fazla
izlenen bir TED konuşması yapmıştı - ve o sadece yirmi yaşındaydı! Bir yıl sonra,
şaşırtıcı bir şekilde birlikte bir makale yazdık.
Sonuç: Nöral ağların neden bu kadar iyi çalıştığı sorusu yalnızca matematikle
cevaplanamaz çünkü cevabın bir kısmı fizikte yatıyor. Fizik yasalarının
önümüze koyduğu ve hesaplamayla ilgilenmemizi sağlayan işlevler sınıfının da
oldukça küçük bir sınıf olduğunu bulduk çünkü hâlâ tam olarak
anlayamadığımız nedenlerden dolayı fizik yasaları son derece basit. Dahası,
sinir ağlarının hesaplayabildiği küçük fonksiyon fraksiyonu, fiziğin bizi
ilgilendirdiği küçük fraksiyona çok benzer! Ayrıca, derin öğrenme sinir ağlarının
(çok sayıda katman içeriyorlarsa "derin" olarak adlandırılırlar) ilgilenilen bu
işlevlerin çoğu için sığ olanlardan çok daha verimli olduğunu gösteren önceki
çalışmaları genişlettik. Örneğin, başka bir harika MIT öğrencisi olan David
Rolnick ile birlikte, n sayıyı çarpma basit görevinin yalnızca tek katmanlı bir ağ
n nöron
için 2 gerektirdiğini , ancak derin bir ağda yalnızca yaklaşık 4 n nöron
gerektirdiğini gösterdik . Bu, yalnızca yapay zeka araştırmacıları arasında sinir
ağlarının neden çok popüler olduğunu açıklamakla kalmıyor, aynı zamanda
beynimizde neden sinir ağları geliştirdiğimizi de açıklıyor: Eğer beyinlerimizi
geleceği tahmin edecek şekilde evrimleştirseydik, o zaman hesaplamalı bir
mimari geliştirmiş olmamız mantıklı olurdu. tam olarak fiziksel dünyada önemli
olan hesaplama problemlerinde iyidir.
Artık sinir ağlarının nasıl çalıştığını ve bilgi işlem yaptığını keşfettiğimize
göre, nasıl öğrenebilecekleri sorusuna geri dönelim. Spesifik olarak, bir
sinir ağı, sinapslarını güncelleyerek bilgi işlemde nasıl daha iyi hale
gelebilir?
Kanadalı psikolog Donald Hebb , 1949 tarihli ufuk açıcı kitabı The Organization
of Behavior: A Neuropsychological Theory'de şunu savundu: Eğer yakınlardaki iki
nöron aynı anda sık sık aktifse (“ateşliyor”), sinaptik eşleşmeleri güçlenecek ve
böylece birbirlerini tetiklemeyi öğrenecekler - bu, popüler slogan "Birlikte ateşleyin,
birlikte kablolayın" tarafından yakalanan bir fikir. Gerçek beyinlerin nasıl
öğrendiğinin ayrıntıları hala anlaşılmaktan uzak olsa da ve araştırmalar çoğu
durumda yanıtların çok daha karmaşık olduğunu göstermiş olsa da, bu basit
öğrenme kuralının bile (Hebbian öğrenimi olarak bilinir) sinir ağlarının
öğrenmesine izin verdiği gösterilmiştir. ilginç şeyler. John Hopfield, Hebbian
öğrenmenin, aşırı basitleştirilmiş yapay sinir ağının, onlara tekrar tekrar maruz
kalarak çok sayıda karmaşık anıyı depolamasına izin verdiğini gösterdi.
"Çalışmak", "eğitim" veya "deneyim" aynı derecede uygun olsa da, yapay sinir
ağlarından (veya becerilerin öğretildiği hayvanlardan veya insanlardan) söz
edildiğinde genellikle "eğitim" olarak adlandırılır. Günümüzün AI sistemlerine güç
veren yapay sinir ağları, Hebbian öğrenmeyi daha sofistike öğrenme kuralları ile
değiştirme eğilimindedir.
"geri yayılım" ve "stokastik gradyan iniş" gibi isimler, ancak temel fikir aynı:
sinapsların zaman içinde güncellenmesini sağlayan, fizik yasasına benzer bazı
basit deterministik kurallar var. Sihir gibi, bu basit kural, eğitim büyük miktarda
veriyle gerçekleştirilirse sinir ağının oldukça karmaşık hesaplamaları
öğrenmesini sağlayabilir. Beynimizin hangi öğrenme kurallarını kullandığını
henüz tam olarak bilmiyoruz, ancak yanıt ne olursa olsun, bunların fizik
yasalarını ihlal ettiğine dair hiçbir belirti yok.
Çoğu dijital bilgisayarın, çalışmalarını birden çok adıma bölerek ve hesaplama
modüllerini birçok kez yeniden kullanarak verimlilik kazanması gibi, birçok yapay
ve biyolojik sinir ağı da öyle. Beyinler, bilgisayar bilimcilerin ileri beslemeli sinir
ağları yerine tekrarlayan olarak adlandırdıkları , bilginin tek bir yönde değil birden
fazla yönde akabildiği, böylece mevcut çıktının daha sonra olacaklar için girdi
haline gelebileceği kısımlara sahiptir. Bir dizüstü bilgisayarın mikroişlemcisindeki
mantık kapıları ağı da bu anlamda yinelenir: geçmiş bilgilerini yeniden kullanmaya
devam eder ve klavye, izleme dörtgeni, kamera vb. örneğin bir ekrana, hoparlöre,
yazıcıya veya kablosuz ağa bilgi çıkışı. Benzer şekilde, beyninizdeki nöron ağı
tekrar eder, gözlerinizden, kulaklarınızdan ve diğer duyularınızdan gelen bilgi
girişinin devam eden hesaplamasını etkilemesine izin verir, bu da sırayla
kaslarınıza bilgi çıkışını belirler.
Öğrenmenin tarihi, en azından yaşamın tarihi kadar uzundur, çünkü
kendi kendini üreyen her organizma, bilgiyi ilginç bir şekilde kopyalar ve
işler - bir şekilde öğrenilmiş bir davranış. Bununla birlikte, Life 1.0 çağında,
organizmalar yaşamları boyunca öğrenmediler: bilgiyi işleme ve tepki
verme kuralları, kalıtsal DNA'ları tarafından belirlendi, bu nedenle tek
öğrenme, türler düzeyinde, nesiller boyunca Darwinci evrim yoluyla yavaş
yavaş gerçekleşti.
Yaklaşık yarım milyar yıl önce, Dünya'daki bazı gen dizileri, sinir ağları içeren,
yaşamları boyunca yaşadıkları deneyimlerden davranışları öğrenebilen hayvanlar
yapmanın bir yolunu keşfetti. Life 2.0 gelmişti ve çok daha hızlı öğrenme ve
rekabeti zekasıyla alt etme yeteneği sayesinde, dünya çapında bir orman yangını
gibi yayıldı. 1. bölümde incelediğimiz gibi, hayat öğrenmede giderek daha iyi hale
geldi ve giderek artan bir oranda. Belirli bir maymun benzeri tür, bilgi edinmede o
kadar usta bir beyin geliştirdi ki, aletleri kullanmayı, ateş yakmayı, bir dil konuşmayı
ve karmaşık bir küresel toplum yaratmayı öğrendi. Bu toplumun kendisi hatırlayan,
hesaplayan ve öğrenen bir sistem olarak görülebilir, bir icat bir sonrakini mümkün
kılarken, hepsi de artan bir hızla: yazı, matbaa, modern
bilim, bilgisayar, internet vb. Geleceğin tarihçileri bu olanak sağlayan icatlar
listesine ne koyacaklar? Benim tahminim yapay zeka.
Hepimizin bildiği gibi, bilgisayar belleği ve hesaplama gücündeki patlamaya
hazır gelişmeler ( şekil 2.4 Ve Şekil 2.8 ) yapay zekada olağanüstü bir ilerlemeye
dönüştü - ancak makine öğreniminin reşit olması uzun zaman aldı. IBM'in Deep
Blue bilgisayarı 1997'de satranç şampiyonu Garry Kasparov'u alt ettiğinde, başlıca
avantajları öğrenmede değil, bellekte ve hesaplamada yatıyordu. Hesaplamalı
zekası, bir insan ekibi tarafından yaratılmıştı ve Deep Blue'nun yaratıcılarından
daha iyi performans gösterebilmesinin temel nedeni, daha hızlı hesaplama ve
dolayısıyla daha fazla potansiyel pozisyonu analiz etme yeteneğiydi. IBM'in
Watson bilgisayarı, Jeopardy! adlı yarışma programında insan dünya
şampiyonunu tahtından indirdiğinde ! , o da özel olarak programlanmış becerilere
göre öğrenmeye daha az dayanıyordu ve üstün bellek ve hız. Aynı şey, ayaklı
hareketten kendi kendine giden arabalara ve kendi kendine iniş yapan roketlere
kadar, robot bilimindeki ilk atılımların çoğu için söylenebilir.
Buna karşılık, en son yapay zeka buluşlarının birçoğunun arkasındaki itici
güç, makine öğrenimi olmuştur . Dikkate almak örneğin şekil 2.11 . Bunun ne
fotoğrafı olduğunu söylemek sizin için kolay, ancak bir görüntünün tüm
piksellerinin renklerinden başka hiçbir şey girmeyen ve "Frizbi oyunu oynayan
bir grup genç" gibi doğru bir açıklama veren bir işlevi programlamak sizin için
kolaydı. dünyanın tüm yapay zeka araştırmacılarını on yıllardır gözden kaçırdı.
Yine de Google'da Ilya Sutskever liderliğindeki bir ekip 2014'te tam olarak bunu
yaptı. Farklı bir piksel renkleri girdi ve yine doğru bir şekilde "Kuru çim sahada
yürüyen bir fil sürüsü" yanıtını verdi. Bunu nasıl yaptılar? Frizbileri, yüzleri ve
benzerlerini tespit etmek için el yapımı algoritmalar programlayarak Deep Blue
tarzı mı? Hayır, fiziksel dünya veya içeriği hakkında hiçbir bilgisi olmayan
nispeten basit bir sinir ağı oluşturarak ve ardından onu büyük miktarda veriye
maruz bırakarak öğrenmesine izin vererek. AI vizyoneri Jeff Hawkins 2004'te
"hiçbir bilgisayar... fare kadar iyi göremez" diye yazmıştı ama o günler artık çok
geride kaldı.
 Şekil 2.11: "Frizbi oynayan bir grup genç" - bu başlık, insanları, oyunları veya frizbileri
anlamayan bir bilgisayar tarafından yazılmıştır.

Çocuklarımızın nasıl öğrendiğini tam olarak anlamadığımız gibi, bu tür sinir

ağlarının nasıl öğrendiğini ve neden ara sıra başarısız olduklarını da hala tam
olarak anlamış değiliz. Ancak net olan şu ki, bunlar zaten oldukça kullanışlı ve
derin öğrenmeye yapılan yatırımlarda bir dalgalanmayı tetikliyor. Derin öğrenme,
artık el yazısı transkripsiyonundan sürücüsüz araçlar için gerçek zamanlı video
analizine kadar bilgisayar görüşünün birçok yönünü dönüştürdü. Benzer şekilde,
bilgisayarların konuşulan dili metne dönüştürme ve gerçek zamanlı olsa bile diğer
dillere çevirme becerisinde devrim yarattı; bu nedenle artık Siri, Google Now ve
Cortana gibi kişisel dijital asistanlarla konuşabiliyoruz. Bir web sitesini insan
olduğumuza ikna etmemiz gereken o sinir bozucu CAPTCHA bulmacaları, makine
öğrenimi teknolojisinin yapabileceklerinin önüne geçmek için her zamankinden
daha da zorlaşıyor. 2015'te Google DeepMind, derin öğrenmeyi kullanan bir yapay
zeka sistemi piyasaya sürdü ve bu sistem düzinelerce bilgisayar oyununda tıpkı
bir çocuk gibi hiçbir talimat olmadan ustalaşabiliyordu, ancak kısa sürede herhangi
bir insandan daha iyi oynamayı öğrendi. 2016 yılında aynı şirket, farklı yönetim
kurulu konumlarının gücünü değerlendirmek için derin öğrenmeyi kullanan ve
dünyanın en güçlü Go şampiyonunu yenen bir Go-playing bilgisayar sistemi olan
AlphaGo'yu geliştirdi. Bu ilerleme erdemli bir döngüyü körüklüyor,
yapay zeka araştırmasına daha fazla fon ve yetenek getirerek daha fazla
ilerleme sağlar.
Bu bölümü zekanın doğasını ve şimdiye kadarki gelişimini keşfederek geçirdik.
Makinelerin tüm bilişsel görevlerde bizi rekabet dışı bırakması ne kadar sürer ?
Açıkça bilmiyoruz ve cevabın "asla" olabileceği ihtimaline açık olmamız gerekiyor.
Bununla birlikte, bu bölümün temel mesajı, bunun , belki de bizim yaşamımızda
bile olma olasılığını da göz önünde bulundurmamız gerektiğidir . Ne de olsa
madde, fizik yasalarına uyduğunda hatırlayacak, hesaplayacak ve öğrenecek
şekilde düzenlenebilir ve maddenin biyolojik olması gerekmez. AI araştırmacıları
genellikle fazla umut vermekle ve yetersiz teslim olmakla suçlanırlar, ancak adalet
içinde, eleştirmenlerinden bazıları da en iyi sicile sahip değildir. Bazıları, zekayı
bilgisayarların hala yapamadığı veya bizi etkileyen şey olarak etkin bir şekilde
tanımlayarak kale direklerini hareket ettirmeye devam ediyor. Makineler artık
aritmetik, satranç, matematik teoremi kanıtlama, hisse senedi toplama, resim
yazısı yazma, araba kullanma, atari oyunu oynama, Go, konuşma sentezi,
konuşma transkripsiyonu, çeviri ve kanser teşhisinde iyi veya mükemmel, ancak
bazı eleştirmenler küçümseyerek "Tabii - ama bu gerçek zeka değil!” Gerçek
zekanın sadece Moravec'in arazisindeki henüz sular altında kalmamış dağ
zirvelerini kapsadığını ( şekil 2.2 ) ileri sürebilirler , tıpkı geçmişte bazı insanların
resim yazılarının ve Go'nun dikkate alınması gerektiğini iddia ettikleri gibi - su
tutulurken yükselen.
Suyun en azından bir süre daha yükselmeye devam edeceğini
varsayarsak, yapay zekanın toplum üzerindeki etkisi artmaya devam
edecek. AI, tüm görevlerde insan düzeyine ulaşmadan çok önce, bize
böcekler, yasalar, silahlar ve işler gibi konuları içeren büyüleyici fırsatlar ve
zorluklar sunacak. Bunlar nelerdir ve onlar için en iyi nasıl hazırlanabiliriz?
Bunu bir sonraki bölümde inceleyelim.
 ALT ÇİZGİ:
• Karmaşık hedeflere ulaşma yeteneği olarak tanımlanan zeka, tek bir IQ ile
ölçülemez, yalnızca tüm hedefleri kapsayan bir yetenek yelpazesiyle
ölçülebilir.
• Günümüzün yapay zekası dar olma eğilimindedir, her sistem yalnızca çok özel
hedefleri gerçekleştirebilirken, insan zekası oldukça geniştir .
• Bellek, hesaplama, öğrenme ve zeka onlara soyut, soyut ve ruhani bir his
verir çünkü alt tabakadan bağımsızdırlar: Altta yatan materyale bağlı
olmayan veya onların ayrıntılarını yansıtmayan kendi hayatlarını
sürdürebilirler.
• Birçok farklı kararlı duruma sahip olduğu sürece, herhangi bir madde yığını,
hafıza için alt tabaka olabilir .
• herhangi bir işlevi gerçekleştirmek için birleştirilebilen belirli evrensel
yapı taşları içerdiği sürece , hesaplama için alt tabaka olan
computronium olabilir . NAND geçitleri ve nöronlar, bu tür evrensel
"hesaplamalı atomların" iki önemli örneğidir.
• öğrenme için güçlü bir alt tabakadır , çünkü sadece fizik yasalarına
uyarak, istenen hesaplamaları uygulamada daha iyi ve daha iyi hale
gelmek için kendini yeniden düzenleyebilir.
• Fizik yasalarının çarpıcı basitliği nedeniyle, biz insanlar akla gelebilecek tüm
hesaplama problemlerinin yalnızca küçük bir kısmını önemsiyoruz ve sinir
ağları tam olarak bu küçük kısmı çözmede dikkate değer ölçüde iyi olma
eğilimindedir.
• Teknoloji iki kat daha güçlü hale geldiğinde, genellikle iki kat daha güçlü teknoloji
tasarlamak ve inşa etmek için kullanılabilir ve Moore yasası ruhuna uygun olarak
tekrar tekrar ikiye katlanan yeteneği tetikler. Bilgi teknolojisinin maliyeti, yaklaşık bir
yüzyıl boyunca kabaca her iki yılda bir yarıya inerek bilgi çağını mümkün kıldı.
• Yapay zeka ilerlemesi devam ederse, yapay zeka tüm beceriler için insan düzeyine
ulaşmadan çok önce, bize böcekler, yasalar, silahlar ve işler gibi konuları içeren
büyüleyici fırsatlar ve zorluklar sunacaktır ki bunları bir sonraki bölümde
keşfedeceğiz.

*1 Bunu görmek için, biri olimpik düzeyde başarma yeteneğinizin olduğunu iddia etse nasıl tepki
vereceğinizi hayal edin. atletik başarılar "atletik bölüm" veya kısaca AQ olarak adlandırılan tek bir
sayı ile ölçülebilir, böylece en yüksek AQ'ya sahip Olimpiyat sporcusu tüm spor dallarında altın
madalyaları kazanır.
*2 Bazı insanlar AGI ile eşanlamlı olarak "insan düzeyinde AI" veya "güçlü AI" yı tercih eder, ancak her ikisi de
sorunludur. Bir cep hesap makinesi bile dar anlamda insan düzeyinde bir yapay zekadır. "Güçlü AI" nın zıt
anlamlısı "zayıf AI" dır, ancak Deep Blue, Watson ve AlphaGo gibi dar AI sistemlerini "zayıf" olarak
adlandırmak garip geliyor.
*3 NAND, NOT AND'in kısaltmasıdır: Bir AND kapısı yalnızca birinci giriş 1 ve ikinci giriş 1 ise 1 verir.
1, yani NAND tam tersini verir.
*4 Matematikçilerin ve bilgisayar bilimcilerin "iyi tanımlanmış fonksiyon" dediği şeyi
kastediyorum. "hesaplanabilir fonksiyon", yani sınırsız hafıza ve zamana sahip varsayımsal
bir bilgisayar tarafından hesaplanabilen bir fonksiyon. Alan Turing ve Alonzo Church,
tanımlanabilen ancak hesaplanamayan işlevlerin de olduğunu kanıtladılar.
*5 Matematiği seviyorsanız, bu aktivasyon fonksiyonunun iki popüler seçeneği sözde sigmoid
−x
fonksiyonudur. σ( x ) ≡ 1/(1 + e ) ve rampa fonksiyonu σ( x ) = max{0, x }, ancak doğrusal (düz bir
çizgi) olmadığı sürece hemen hemen her fonksiyonun yeterli olacağı kanıtlanmıştır. ). Hopfield'ın ünlü
modeli, x ise σ( x ) = -1 kullanır
< 0 ve σ( x ) = 1, eğer x ≥ 0 ise. Nöron durumları bir vektörde saklanıyorsa, bu vektörü sinaptik
eşleşmeleri saklayan bir matrisle basitçe çarparak ve ardından σ fonksiyonunu tüm elemanlara
uygulayarak ağ güncellenir.
 Bölüm 3

Yakın Gelecek: Buluşlar, Hatalar, Yasalar,

Silahlar ve Meslekler

Yakında yön değiştirmezsek, gideceğimiz yere varacağız.

Irwin Corey

Günümüz ve çağda insan olmak ne anlama geliyor? Örneğin, kendimiz hakkında

gerçekten değer verdiğimiz, bizi diğer yaşam formlarından ve makinelerden farklı
kılan nedir? Diğer insanlar bizim hakkımızda, bazılarını bize iş teklif etmeye istekli
kılan neye değer veriyor? Herhangi bir anda bu sorulara verdiğimiz yanıtlar ne
olursa olsun, teknolojinin yükselişinin bunları yavaş yavaş değiştirmesi gerektiği
açıktır.
Mesela beni al. Bir bilim adamı olarak, kendi hedeflerimi belirlemekten,
çok çeşitli çözülmemiş sorunları çözmek için yaratıcılığı ve sezgiyi
kullanmaktan ve keşfettiğim şeyi paylaşmak için dili kullanmaktan gurur
duyuyorum. Neyse ki benim için toplum bunu bir iş olarak yapmam için bana
para ödemeye razı. Yüzyıllar önce, bunun yerine, diğerleri gibi kimliğimi bir
çiftçi veya zanaatkar olmak üzerine inşa etmiş olabilirim, ancak o zamandan
beri teknolojinin büyümesi bu tür meslekleri işgücünün küçük bir kısmına
indirdi. Bu, herkesin kimliğini çiftçilik veya zanaat etrafında inşa etmesinin
artık mümkün olmadığı anlamına gelir.
Şahsen, bugünün makinelerinin kazma ve örme gibi el becerilerinde benden
üstün olması beni rahatsız etmiyor, çünkü bunlar ne hobilerim, ne gelir kaynaklarım
ne de öz değerim. Gerçekten de, bu konudaki yeteneklerim hakkında sahip
olabileceğim her türlü yanılsama, sekiz yaşında, okulum beni neredeyse başarısız
olduğum bir örgü dersine girmeye zorladığında yıkıldı ve okulumu tamamladım.
Beşinci sınıftan şefkatli bir yardımcının bana acıması sayesinde proje.
Ancak teknoloji gelişmeye devam ettikçe, AI'nın yükselişi, iş piyasasında şu
anki öz-değer ve değer duygumu sağlayan becerilerimi de gölgede bırakacak
mı? Stuart Russell bana kendisinin ve yapay zeka araştırmacılarından
birçoğunun yakın zamanda bir "kutsal bok!" Yapay zekanın yıllardır görmeyi
beklemedikleri bir şeyi yaptığına tanık oldukları an. Bu ruhla, lütfen size kendi
HS anlarımdan birkaçını ve onları nasıl yakında üstesinden gelinecek insan
yeteneklerinin habercisi olarak gördüğümü anlatmama izin verin.
 atılımlar

Derin Güçlendirme Öğrenim Aracıları

2014 yılında bilgisayar oyunları oynamayı öğrenen bir DeepMind AI sisteminin
videosunu izlerken en büyük çene düşüşlerimden birini yaşadım. Özellikle, yapay
zeka Breakout oynuyordu (bkz. şekil 3.1 ), gençlik günlerimden sevgiyle
hatırladığım klasik bir Atari oyunu. Amaç, bir topu bir tuğla duvardan tekrar tekrar
sektirmek için bir kürekle manevra yapmaktır; Bir tuğlaya her vurduğunuzda tuğla
kaybolur ve puanınız artar.
 Şekil 3.1: DeepMind AI, skoru en üst düzeye çıkarmak için derin pekiştirmeli öğrenmeyi
kullanarak Atari oyunu Breakout'u sıfırdan oynamayı öğrendikten sonra en uygun
stratejiyi keşfetti: tuğla duvarın en sol kısmında bir delik açmak ve topun arka tarafta
zıplamaya devam etmesine izin vermek çok hızlı puan topluyor. Top ve raketin geçmiş
yörüngelerini gösteren oklar çizdim.

O zamanlar kendi bilgisayar oyunlarımı yazmıştım ve Breakout oynayabilen bir

program yazmanın zor olmadığının farkındaydım ama DeepMind ekibinin yaptığı
bu değildi. Bunun yerine, bu oyun hakkında ya da diğer oyunlar hakkında ve hatta
oyunlar, raketler, tuğlalar veya toplar gibi kavramlar hakkında hiçbir şey bilmeyen
boş bir yapay zeka yaratmışlardı . Yapay zekalarının bildiği tek şey, bir uzun bir
sayı listesi düzenli aralıklarla besleniyor: mevcut puan ve bizim (yapay zekanın
değil) ekranın farklı bölümlerinin nasıl renklendirildiğinin özellikleri olarak
tanıyacağımız uzun bir sayı listesi. Yapay zekaya basitçe, bizim (yapay zekanın
değil) hangi tuşlara basılacağını kodlar olarak tanıyacağımız sayıları düzenli
aralıklarla çıkararak puanı en üst düzeye çıkarması söylendi.
Başlangıçta, yapay zeka korkunç bir şekilde oynadı: bilgisizce raketi rastgele
ileri geri salladı ve neredeyse her seferinde topu ıskaladı. Bir süre sonra, raketi
topa doğru hareket ettirmenin iyi bir fikir olduğu fikrine kapıldı.
fikir, çoğu zaman hala ıskalasa da. Ancak antrenmanla gelişmeye devam etti
ve kısa sürede oyunda benim hiç olmadığım kadar iyi oldum, ne kadar hızlı
yaklaşırsa yaklaşsın topa hatasız bir şekilde geri dönüyordum. Ve sonra
çenem düştü: her zaman sol üst köşeyi duvarda bir delik açmak ve topun
duvarın arkası ile arkasındaki bariyer arasında zıplayarak sıkışmasına izin
vermek için bu inanılmaz skoru en üst düzeye çıkarma stratejisini anladı. Bu,
yapılacak gerçekten zekice bir şey gibi geldi. Gerçekten de, Demis Hassabis
daha sonra bana DeepMind ekibindeki programcıların bu numarayı kendi
inşa ettikleri yapay zekadan öğrenene kadar bilmediklerini söyledi. Verdiğim
1
linkteki videoyu kendiniz izlemenizi tavsiye ederim.
Bunda biraz rahatsız edici bulduğum insana benzer bir özellik vardı: Bir
hedefi olan ve bunu başarmada her zamankinden daha iyi olmayı öğrenen
ve sonunda yaratıcılarından daha iyi performans gösteren bir yapay zeka
izliyordum. Bir önceki bölümde, zekayı basit bir şekilde karmaşık hedeflere
ulaşma yeteneği olarak tanımlamıştık, yani bu anlamda, DeepMind'ın yapay
zekası gözlerimin önünde daha zeki hale geliyordu (her ne kadar sadece bu
oyunu oynamanın çok dar anlamında olsa da). İlk bölümde, bilgisayar
bilimcilerin akıllı aracılar olarak adlandırdıkları şeyle karşılaştık :
sensörlerden çevreleri hakkında bilgi toplayan ve daha sonra bu bilgileri
işleyerek çevrelerine nasıl karşılık vereceklerine karar veren varlıklar.
DeepMind'ın oyun oynayan yapay zekası tuğlalar, kürekler ve toplardan
oluşan son derece basit bir sanal dünyada yaşıyor olsa da, onun zeki bir ajan
olduğunu inkar edemezdim.
derin pekiştirmeli öğrenme adı verilen çok basit ama güçlü bir fikir kullandığını
2
açıklayan kodunu paylaştı . Temel pekiştirmeli öğrenme, davranışçı
psikolojiden ilham alan klasik bir makine öğrenimi tekniğidir; burada olumlu bir
ödül alma, bir şeyi tekrar yapma eğiliminizi artırır ve bunun tersi de geçerlidir.
Tıpkı bir köpeğin yakında sahibinden cesaretlendirme veya atıştırmalık alma
olasılığını artırdığında hile yapmayı öğrenmesi gibi, DeepMind'in yapay zekası
topu yakalamak için raketi hareket ettirmeyi öğrendi çünkü bu, yakında daha
fazla puan alma olasılığını artırdı. DeepMind bu fikri derin öğrenme ile birleştirdi:
klavyede izin verilen tuşların her birine basarak ortalama kaç puan
kazanılacağını tahmin etmek için önceki bölümde olduğu gibi derin bir sinir ağını
eğittiler ve ardından yapay zeka, hangi tuş olursa olsun onu seçti. sinir ağı,
oyunun mevcut durumu göz önüne alındığında en umut verici olarak
derecelendirildi.
Kişisel öz-değer duyguma katkıda bulunan özellikleri listelediğim zaman,
insan, çok çeşitli çözülmemiş sorunları çözme yeteneğini dahil ettim. Buna
karşılık, Breakout oynayabilmek ve başka hiçbir şey yapamamak son derece
dar bir zeka oluşturur. Benim için DeepMind'ın buluşunun gerçek önemi, derin
pekiştirmeli öğrenmenin tamamen genel bir teknik olmasıdır. Elbette, aynı
yapay zekanın kırk dokuz farklı Atari oyunu oynamasına izin verdiler ve
Pong'dan Boks, Video Pinball ve Space Invaders'a kadar yirmi dokuz tanesinde
insan testçilerini geride bırakmayı öğrendiler.
Aynı AI fikrinin, dünyaları iki boyutlu yerine üç boyutlu olan daha modern
oyunlarda kendini kanıtlamaya başlaması uzun sürmedi. Kısa bir süre
sonra DeepMind'in OpenAI'deki San Francisco merkezli rakipleri,
DeepMind'in yapay zekasının ve diğer akıllı ajanların sanki bir oyunmuş
gibi bütün bir bilgisayarla etkileşime girme pratiği yapabileceği Universe
adlı bir platform çıkardı: herhangi bir şeye tıklamak, herhangi bir şey
yazmak ve istedikleri yazılımı açıp çalıştırmak. gezinebiliyoruz; örneğin,
bir web tarayıcısını çalıştırarak ve çevrimiçi ortamda dolaşarak.
Derin takviyeli öğrenmenin geleceğine ve bununla ilgili iyileştirmelere
bakıldığında, görünürde bariz bir son yok. Potansiyel, sanal oyun dünyalarıyla
sınırlı değildir, çünkü eğer bir robotsanız, hayatın kendisi bir oyun olarak
görülebilir. Stuart Russell bana ilk büyük HS anının, robot Big Dog'un karla kaplı
bir orman yokuşunda koşarak, yıllarca kendisinin çözmeye çalıştığı bacaklı
3
hareket problemini zarif bir şekilde çözmesini izlemek olduğunu söyledi. Yine
de 2008'de bu dönüm noktasına ulaşıldığında, zeki programcılar tarafından
büyük miktarda çalışma gerektirdi. DeepMind'ın buluşundan sonra, bir robotun
insan programlayıcıların yardımı olmadan kendi kendine yürümeyi öğretmek
için derin pekiştirmeli öğrenmenin bazı çeşitlerini nihayetinde kullanamaması
için hiçbir neden yok: ihtiyaç duyulan tek şey, ilerleme kaydettiğinde ona puan
veren bir sistem. Gerçek dünyadaki robotlar benzer şekilde, insan
programlayıcıların yardımı olmadan yüzmeyi, uçmayı, masa tenisi oynamayı,
dövüşmeyi ve neredeyse sonsuz sayıda diğer motor görevlerini
gerçekleştirmeyi öğrenme potansiyeline sahiptir. İşleri hızlandırmak ve
öğrenme sürecinde takılıp kalma veya kendilerine zarar verme riskini azaltmak
için, muhtemelen öğrenmelerinin ilk aşamalarını sanal gerçeklikte
yapacaklardır.
Sezgi, Yaratıcılık ve Strateji
Benim için bir başka belirleyici an, DeepMind AI sistemi AlphaGo'nun,
genellikle yirmi birinci yüzyılın başlarında dünyanın en iyi oyuncusu olarak
kabul edilen Lee Sedol'a karşı beş maçlık bir Go maçı kazanmasıydı.
Yirmi yıl önce satranç oynayan meslektaşlarının başına geldiğine göre, insan
Go oyuncularının bir noktada makineler tarafından tahttan indirilmesi bekleniyordu.
Ancak çoğu Go uzmanı bunun bir on yıl daha süreceğini tahmin etti, bu yüzden
AlphaGo'nun zaferi benim için olduğu kadar onlar için de çok önemli bir andı. Nick
Bostrom ve Ray Kurzweil, ilk üç maçı kaybetmeden önce ve kaybettikten sonra
Lee Sedol ile yapılan röportajlardan da anlaşılacağı gibi, yapay zeka atılımlarının
geldiğini görmenin ne kadar zor olabileceğini vurguladılar:

• Ekim 2015: "Görülen seviyeye göre... Oyunu neredeyse ezici bir

farkla kazanacağımı düşünüyorum."
• Şubat 2016: "Google DeepMind'ın yapay zekasının şaşırtıcı
derecede güçlü olduğunu ve güçlendiğini duydum, ancak en
azından bu kez kazanabileceğime eminim."
• 9 Mart 2016: “Kaybedeceğimi düşünmediğim için çok
şaşırdım.”
• 10 Mart 2016: “Ben oldukça suskunum…Şoktayım. Kabul
etmeliyim ki… üçüncü oyun benim için kolay olmayacak.”
• 12 Mart 2016: "Kendimi güçsüz hissettim."

Lee Sedol ile oynadıktan sonraki bir yıl içinde, daha da geliştirilmiş bir
AlphaGo, dünyanın en iyi yirmi oyuncusunun hepsini tek bir maç bile
kaybetmeden oynadı.
Bu kişisel olarak benim için neden bu kadar önemliydi? Pekala,
yukarıda sezgi ve yaratıcılığı temel insani özelliklerimden ikisi olarak
gördüğümü itiraf ettim ve şimdi açıklayacağım gibi, AlphaGo'nun her ikisini
de sergilediğini hissediyorum.
Go oyuncuları sırayla 19'a 19'luk bir tahtaya siyah ve beyaz taşlar yerleştirirler
(bakınız şekil 3.2 ). Atomların olduğundan çok daha fazla olası Go pozisyonu
vardır. Evrenimiz, bu da gelecekteki hareketlerin tüm ilginç dizilerini analiz etmeye
çalışmanın hızla umutsuzluğa kapıldığı anlamına gelir. Oyuncular bu nedenle
büyük ölçüde güveniyor
uzmanların hangi konumların güçlü ve hangilerinin zayıf olduğu konusunda
neredeyse tekinsiz bir his geliştirmesiyle, bilinçli akıl yürütmelerini tamamlamak
için bilinçaltı sezgi. Son bölümde gördüğümüz gibi, derin öğrenmenin sonuçları
bazen sezgiyi anımsatır: derin bir sinir ağı, nedenini açıklayamayarak bir
görüntünün bir kediyi tasvir ettiğini belirleyebilir. Bu nedenle DeepMind ekibi,
derin öğrenmenin yalnızca kedileri değil, aynı zamanda güçlü Go konumlarını
da tanıyabileceği fikri üzerine kumar oynadı. AlphaGo'da oluşturdukları temel
fikir, derin öğrenmenin sezgisel gücüyle GOFAI'nin mantıksal gücüyle
birleştirmekti; bu, derin öğrenme devriminden önce mizahi bir şekilde "Eski
Moda Yapay Zeka" olarak bilinen şeyin kısaltmasıdır. Hem insan oyunundan
hem de AlphaGo'nun kendisinin bir klonunu oynadığı oyunlardan oluşan
devasa bir Go konum veritabanı kullandılar ve her bir konumdan beyazın nihai
olarak kazanma olasılığını tahmin etmek için derin bir sinir ağı geliştirdiler.
Ayrıca olası sonraki hamleleri tahmin etmek için ayrı bir ağ eğittiler. Daha sonra
bu ağları, yolun aşağısındaki en güçlü konuma götürecek bir sonraki hareketi
belirlemek için gelecekteki olası hareket dizilerinin budanmış bir listesini akıllıca
arayan bir GOFAI yöntemiyle birleştirdiler.
 Şekil 3.2: DeepMind'ın AlphaGo yapay zekası, binlerce yıllık insan bilgeliğine meydan
okuyarak 5. hatta son derece yaratıcı bir hamle yaptı ve yaklaşık elli hamle sonra Go
efsanesi Lee Sedol'u yenmesi için çok önemli olduğunu kanıtladı.

Sezgi ve mantığın bu evliliği, yalnızca güçlü değil, aynı zamanda bazı

durumlarda son derece yaratıcı hareketler doğurdu. Örneğin, binlerce yıllık Go
bilgeliği, oyunun başlarında, bir kenardan üçüncü veya dördüncü çizgide
oynamanın en iyisi olduğunu söylüyor. İkisi arasında bir değiş tokuş vardır: üçüncü
çizgide oynamak, tahtanın kenarına doğru kısa vadeli bölge kazanımına yardımcı
olurken, dördüncü çizgide oynamak merkeze doğru uzun vadeli stratejik etkiye
yardımcı olur.
, sanki uzun vadeli planlama yeteneklerinde bir insandan bile daha eminmiş gibi,
o eski bilgeliğe meydan okuyarak ve beşinci çizgide oynayarak ( şekil 3.2 ) Go
dünyasını şok etti. bu nedenle kısa vadeli kazanç yerine stratejik avantajı tercih
etti. Yorumcular şaşkına döndü ve Lee Sedol bile ayağa kalktı ve geçici olarak
4
odadan çıktı. Gerçekten de, yaklaşık elli hamle sonra, tahtanın sol alt köşesinden
yapılan dövüş, taşarak otuz yedinci hamledeki o siyah taşla birleşti! Ve bu motif,
Go tarihindeki en yaratıcı hareketlerden biri olarak AlphaGo'nun beşinci sıra
hamlesinin mirasını sağlamlaştırarak, nihayetinde oyunu kazanan şeydi.
 Sezgisel ve yaratıcı yönleri nedeniyle Go, başka bir oyundan çok bir sanat
biçimi olarak görülüyor. Antik Çin'de resim, kaligrafi ve qin müziği ile birlikte dört
"temel sanattan" biri olarak kabul edildi ve AlphaGo ile Lee Sedol arasındaki ilk
oyunu yaklaşık 300 milyon kişinin izlediği Asya'da oldukça popüler olmaya
devam ediyor. Sonuç olarak, Go dünyası sonuçtan oldukça sarsıldı ve
AlphaGo'nun zaferini insanlık için derin bir dönüm noktası olarak gördü. O
5
zamanlar dünyanın en iyi Go oyuncusu olan Ke Jie şunları söylemişti:
"İnsanlık binlerce yıldır Go oynuyor ve yine de, yapay zekanın bize gösterdiği
gibi, henüz yüzeyi çizmedik bile... Sendika insan ve bilgisayar oyuncularının
sayısı yeni bir çağ başlatacak... İnsan ve yapay zeka birlikte Go'nun gerçeğini
bulabilir." Bu tür verimli insan-makine işbirliği, yapay zekanın biz insanların
anlayışımızı derinleştirmesine ve nihai potansiyelimizi gerçekleştirmesine
yardımcı olabileceği bilim de dahil olmak üzere birçok alanda gerçekten umut
verici görünüyor.
Bana göre, AlphaGo bize yakın gelecek için başka bir önemli ders daha
veriyor: derin öğrenme sezgisini GOFAI mantığıyla birleştirmek, rakipsiz bir
strateji üretebilir . Go, en iyi strateji oyunlarından biri olduğu için, yapay zeka
artık mezun olmaya ve en iyi insan stratejistlere meydan okumaya (veya yardım
etmeye) hazırlanıyor. Bu tür gerçek dünya strateji sorunları, tipik olarak insan
psikolojisi, eksik bilgiler ve rastgele olarak modellenmesi gereken faktörler
nedeniyle karmaşıktır, ancak poker oynayan yapay zeka sistemleri, bu
zorlukların hiçbirinin aşılamaz olmadığını zaten göstermiştir.
Doğal lisan
Yapay zeka ilerlemesinin son zamanlarda beni hayrete düşürdüğü bir
başka alan da dil. Hayatımın erken dönemlerinde seyahate aşık oldum ve
diğer kültürler ve diller hakkındaki merakım kimliğimin önemli bir
bölümünü oluşturdu. İsveççe ve İngilizce konuşarak büyüdüm, okulda
Almanca ve İspanyolca öğrendim, iki evlilik yoluyla Portekizce ve
Romence öğrendim ve eğlenmek için kendime biraz Rusça, Fransızca ve
Mandarin öğrettim.
Ancak AI ulaşıyor ve 2016'daki önemli bir keşfin ardından, Google'ın
beyninin ekipmanı tarafından geliştirilen AI sisteminden daha iyi arasında
çeviri yapabileceğim neredeyse hiçbir tembel dil yok.
Kendimi netleştirdim mi? Aslında şunu söylemeye çalışıyordum:
Ancak AI bana yetişiyor ve 2016'daki büyük bir atılımdan sonra, Google
Brain ekibi tarafından geliştirilen AI sisteminden daha iyi çeviri
yapabileceğim neredeyse hiçbir dil kalmadı.
Ancak, önce İspanyolca'ya çevirdim ve birkaç yıl önce dizüstü
bilgisayarıma yüklediğim bir uygulamayı kullanarak geri döndüm. 2016'da
Google Brain ekibi, ücretsiz Google Translate hizmetini derin yinelenen sinir
ağlarını kullanacak şekilde yükseltti ve eski GOFAI sistemlerine göre önemli
6
bir gelişme oldu:
Ancak yapay zeka bana yetişiyor ve 2016'daki bir atılımdan sonra,
Google Brain ekibi tarafından geliştirilen yapay zeka sisteminden daha iyi
çeviri yapabilen neredeyse hiçbir dil kalmadı.
Gördüğünüz gibi, "ben" zamiri İspanyol dolambaçlı yolu sırasında
kayboldu ve maalesef anlamı değişti. Kapat, ama puro yok! Bununla birlikte,
Google'ın yapay zekasını savunmak için, ayrıştırılması zor, gereksiz yere
uzun cümleler yazdığım için sık sık eleştiriliyorum ve bu örnek için en kafa
karıştırıcı derecede dolambaçlı cümlelerimden birini seçtim. Daha tipik
cümleler için, yapay zekaları genellikle kusursuz bir şekilde tercüme eder.
Sonuç olarak, çıktığında oldukça heyecan yarattı ve her gün yüz milyonlarca
insan tarafından kullanılacak kadar faydalı. Ayrıca, konuşmadan metne ve
metinden konuşmaya dönüştürme için derin öğrenmedeki son gelişmeler
sayesinde, bu kullanıcılar artık akıllı telefonlarıyla tek bir dilde konuşabilir ve
çevrilmiş sonucu dinleyebilir.
 Doğal dil işleme artık yapay zekanın en hızlı gelişen alanlarından biri ve daha
fazla başarının büyük bir etkisi olacağını düşünüyorum çünkü dil
insan olmak için çok merkezi. Bir yapay zeka, dilbilimsel tahminde ne kadar iyi
olursa, makul e-posta yanıtları oluşturabilir veya sözlü bir sohbete devam edebilir.
Bu, en azından bir yabancıya, insan düşüncesinin gerçekleştiği izlenimini verebilir.
Böylece derin öğrenme sistemleri, bir kişinin kendisinin de insan olduğunu
düşünmesini sağlamak için bir makinenin yazılı olarak yeterince iyi konuşması
gereken ünlü Turing testini geçmek için bebek adımlarını atıyor.
Yine de, dil işleyen yapay zekanın daha kat etmesi gereken çok yolu var. Bir
yapay zeka tarafından çevrildiğimde kendimi biraz sönük hissettiğimi itiraf
etmeliyim, ancak kendime şu ana kadar ne söylediğini anlamlı bir şekilde
anlamadığını hatırlattığımda daha iyi hissediyorum. Devasa veri kümeleri
üzerinde eğitilerek, bu sözcükleri gerçek dünyadaki herhangi bir şeyle
ilişkilendirmeden, sözcükleri içeren kalıpları ve ilişkileri keşfeder. Örneğin, her
kelimeyi, diğer belirli kelimelere ne kadar benzediğini belirten bin sayıdan
oluşan bir liste ile temsil edebilir. O zaman bundan "kral" ve "kraliçe" arasındaki
farkın "koca" ve "karı" arasındaki farka benzer olduğu sonucuna varabilir - ama
yine de erkek veya kadın olmanın ne anlama geldiğine, hatta var olduğuna dair
hiçbir fikri yoktur. uzay, zaman ve madde ile orada fiziksel bir gerçeklik gibi bir
şey.
Turing testi temelde aldatma ile ilgili olduğu için, gerçek yapay zekadan
çok insanın saflığını test ettiği için eleştirildi. Buna karşılık, Winograd
Schema Challenge adlı rakip bir test , mevcut derin öğrenme sistemlerinde
eksik olma eğiliminde olan sağduyu anlayışına odaklanarak doğrudan şah
damarına gidiyor. Biz insanlar, bir zamirin neyi ifade ettiğini anlamak için bir
cümleyi ayrıştırırken rutin olarak gerçek dünya bilgisini kullanırız. Örneğin,
tipik bir Winograd meydan okuması, "onların" burada neyi kastettiğini sorar:

1. "Belediye meclis üyeleri, şiddetten korktukları için göstericilere

izin vermeyi reddetti."
2. “Belediye meclis üyeleri, şiddeti savundukları için göstericilere
izin vermeyi reddetti.”

Bu tür soruları yanıtlamak için yıllık bir yapay zeka yarışması var ve
7
yapay zekalar hâlâ sefil bir performans sergiliyor. Neyin neyi kastettiğini
anlamaya yönelik bu kesin meydan okuma, yukarıdaki örneğimde
İspanyolcayı Çince ile değiştirdiğimde GoogleTranslate'i bile baltaladı:
 Ancak yapay zeka beni yakaladı, 2016'daki büyük bir aradan sonra, neredeyse
hiç dil olmadan, Google Brain tarafından geliştirilenden çok yapay zeka sistemini
çevirebildim.
takım.
Lütfen kendiniz deneyin https://translate.google.com Artık kitabı
okuyorsunuz ve Google'ın yapay zekasının iyileşip gelişmediğini görün!
Bir dünya modeli içeren bir dil işleme yapay zekası oluşturmak için derin
tekrarlayan sinir ağlarını GOFAI ile birleştirmek için umut verici
yaklaşımlar olduğundan, sahip olma şansı yüksektir.
Fırsatlar ve Zorluklar
Yapay zeka birçok önemli cephede hızla ilerlediğinden, bu üç örnek açıkça
yalnızca bir örnekleyiciydi. Ayrıca, bu örneklerde sadece iki şirketten
bahsetmiş olmama rağmen, üniversitelerdeki rekabet eden araştırma
grupları ve diğer şirketler genellikle çok geride değildi. Apple, Baidu,
DeepMind, Facebook, Google, Microsoft ve diğerleri öğrencileri, doktora
sonrası öğrencileri ve fakülteyi temizlemek için kazançlı teklifler kullanırken
dünyanın dört bir yanındaki bilgisayar bilimi bölümlerinde yüksek bir emme
sesi duyulabilir.
Yapay zekanın tarihini ara sıra meydana gelen atılımlarla noktalanan
durgunluk dönemleri olarak görmek için verdiğim örneklerle yanıltılmamak
önemlidir. Benim bakış açımdan, bunun yerine uzun süredir oldukça
istikrarlı bir ilerleme görüyorum - medya, yeni bir hayal gücü yakalayan
uygulama veya kullanışlı bir ürün sağlama eşiğini her geçtiğinde bunu bir
atılım olarak rapor ediyor. Bu nedenle, hızlı AI ilerlemesinin uzun yıllar
devam edeceğini düşünüyorum. Ayrıca, geçen bölümde gördüğümüz gibi,
yapay zeka çoğu görevde insan yetenekleriyle eşleşene kadar bu
ilerlemenin devam etmemesinin temel bir nedeni yoktur.
Hangisi şu soruyu gündeme getiriyor: Bu bizi nasıl etkileyecek? Yakın vadeli AI
ilerlemesi, insan olmanın ne anlama geldiğini nasıl değiştirecek? Yapay zekanın
hedeflerden, genişlikten, sezgiden, yaratıcılıktan veya dilden tamamen yoksun
olduğunu iddia etmenin gittikçe zorlaştığını gördük; bu özellikler, pek çok kişinin
insan olmanın merkezinde yer aldığını düşünüyor. Bu, yakın vadede bile, herhangi
bir AGI'nin tüm görevlerde bizimle boy ölçüşebilmesinden çok önce bile, yapay
zekanın kendimizi nasıl gördüğümüz, yapay zeka ile tamamlandığımızda neler
yapabileceğimiz ve gerektiğinde ne yaparak para kazanabileceğimiz üzerinde
çarpıcı bir etkiye sahip olabileceği anlamına gelir. AI'ya karşı yarışıyor. Bu etki iyiye
mi yoksa kötüye mi gidecek? Bu, hangi yakın vadeli fırsatları ve zorlukları ortaya
çıkaracak?
Uygarlıkla ilgili sevdiğimiz her şey insan zekasının ürünüdür, bu yüzden
onu yapay zekayla genişletebilirsek, hayatı daha da iyi hale getirme
potansiyeline sahip olduğumuz açıktır. Yapay zekadaki mütevazı ilerleme
bile bilim ve teknolojide büyük gelişmelere ve buna bağlı olarak kazaların,
hastalıkların, adaletsizliğin, savaşın, angaryanın ve yoksulluğun azalmasına
dönüşebilir. Ancak AI'nın bu faydalarından yeni sorunlar yaratmadan
yararlanmak için birçok önemli soruyu yanıtlamamız gerekiyor. Örneğin:
 1. Gelecekteki AI sistemlerini bugününkinden daha sağlam hale getirebiliriz,
böylece çökmeden, arızalanmadan veya saldırıya uğramadan istediğimizi
yapabilirler?
2. Daha adil ve verimli olmak ve hızla değişen dijital ortama ayak
uydurmak için yasal sistemlerimizi nasıl güncelleyebiliriz?
3. Ölümcül otonom silahlarda kontrolden çıkmış bir silahlanma
yarışını tetiklemeden silahları nasıl daha akıllı ve masum
sivilleri öldürmeye daha az eğilimli hale getirebiliriz?
4. İnsanları gelirsiz veya amaçsız bırakmadan otomasyon
yoluyla refahımızı nasıl artırabiliriz?

Bu bölümün geri kalanını sırayla bu soruların her birini keşfetmeye ayıralım.

Bu dört kısa vadeli soru, sırasıyla bilgisayar bilimcileri, hukukçular, askeri
stratejistler ve ekonomistleri hedefliyor. Ancak, ihtiyaç duyduğumuz cevapları
ihtiyaç duyduğumuz anda alabilmek için herkesin bu sohbete katılması
gerekiyor, çünkü göreceğimiz gibi, hem uzmanlık alanları hem de ülkeler
arasındaki zorluklar tüm geleneksel sınırları aşıyor.
 Hatalar ve Güçlü Yapay Zeka
Bilgi teknolojisinin, bilimden finansa, üretime, ulaşıma, sağlık hizmetlerine,
enerjiye ve iletişime kadar beşeri girişimimizin hemen hemen her sektörü
üzerinde şimdiden büyük olumlu etkisi oldu ve bu etki, yapay zekanın getirme
potansiyeline sahip olduğu ilerlemeyle karşılaştırıldığında sönük kalıyor.
Ancak teknolojiye ne kadar güvenirsek, sağlam ve güvenilir olması,
yapmasını istediğimiz şeyi yapması o kadar önemli hale geliyor.
İnsanlık tarihi boyunca, teknolojimizi yararlı kılmak için aynı denenmiş ve
doğrulanmış yaklaşıma güvendik: hatalardan ders almak. Ateşi biz icat ettik,
defalarca karıştırdık ve ardından yangın söndürücüyü, yangın çıkışını, yangın
alarmını ve itfaiyeyi icat ettik. Otomobili icat ettik, defalarca kaza yaptık ve ardından
emniyet kemerlerini, hava yastıklarını ve sürücüsüz arabaları icat ettik. Şimdiye
kadar, teknolojilerimiz genellikle yeterince az ve sınırlı sayıda kazaya neden oldu
ve zararları yararlarından ağır bastı. Bununla birlikte, kaçınılmaz olarak her
zamankinden daha güçlü bir teknoloji geliştirirken, kaçınılmaz olarak, tek bir
kazanın bile tüm faydalardan daha ağır basacak kadar yıkıcı olabileceği bir
noktaya ulaşacağız. Bazıları tesadüfi küresel nükleer savaşın böyle bir örnek teşkil
edeceğini iddia ediyor. Diğerleri, biyomühendislik ürünü bir pandeminin uygun
olabileceğini savunuyor ve bir sonraki bölümde, gelecekteki AI'nın insan soyunun
tükenmesine neden olup olmayacağı konusundaki tartışmayı keşfedeceğiz. Ancak
önemli bir sonuca varmak için bu tür aşırı örnekleri dikkate almamıza gerek yok:
teknoloji güçlendikçe, güvenlik mühendisliğinde deneme yanılma yaklaşımına
daha az güvenmeliyiz. Başka bir deyişle, güvenlik araştırmalarına yatırım yaparak
reaktif olmaktan çok proaktif olmalıyız. kazaların bir kez bile olmasını önlemek.
Toplumun fare kapanı güvenliğinden çok nükleer reaktör güvenliğine yatırım
yapmasının nedeni budur.
Bu aynı zamanda, 1. bölümde gördüğümüz gibi, Porto Riko konferansında AI-
güvenlik araştırmasına güçlü bir toplum ilgisi olmasının nedenidir. Bilgisayarlar ve
AI sistemleri her zaman çöktü, ancak bu sefer farklı: AI yavaş yavaş gerçek
dünyaya giriyor ve elektrik şebekesini, borsayı veya nükleer silah sistemini
çökertmesi sadece bir baş belası değil. Bu bölümün geri kalanında, size mevcut
yapay zeka güvenliği tartışmasına hakim olan ve dünya çapında takip edilen teknik
yapay zeka güvenliği araştırmasının dört ana alanını tanıtmak istiyorum:
*1
doğrulama , doğrulama , güvenlik ve kontrol . İle
İşlerin fazla ahmakça ve yavanlaşmasını önlemek için bunu, bilgi teknolojisinin farklı
alanlardaki geçmiş başarılarını ve başarısızlıklarını ve bunlardan öğrenebileceğimiz
değerli dersleri ve ortaya koydukları zorlukları araştırarak yapalım.
Bu hikayelerin çoğu eski olsa da, neredeyse hiç kimsenin yapay zeka olarak
adlandırmayacağı ve çok az can kaybına neden olan düşük teknolojili bilgisayar
sistemlerini içeriyor olsa da, bunların yine de geleceğin güvenli ve güçlü yapay
zekasını tasarlamak için bize değerli dersler öğrettiklerini göreceğiz.
başarısızlıkları gerçekten felaket olabilecek sistemler.
Uzay Araştırmaları için Yapay Zeka
Kalbime yakın bir şeyle başlayalım: uzay keşfi. Bilgisayar teknolojisi, insanları Ay'a
uçurmamızı ve Güneş Sistemimizdeki tüm gezegenleri keşfetmek için insansız
uzay araçları göndermemizi, hatta Satürn'ün ayı Titan'a ve bir kuyruklu yıldıza iniş
yapmamızı sağladı. 6. bölümde inceleyeceğimiz gibi, gelecekteki yapay zeka, eğer
hatasızsa, diğer güneş sistemlerini ve galaksileri keşfetmemize yardımcı olabilir. 4
Haziran 1996'da, Dünya'nın manyetosferini araştırmayı ümit eden bilim adamları,
Avrupa Uzay Ajansı'ndan bir Ariane 5 roketi, inşa ettikleri bilimsel aletlerle birlikte
gökyüzüne doğru gürlerken sevinçle tezahürat yaptılar. Otuz yedi saniye sonra,
roket yüz milyonlarca dolara mal olan bir havai fişek gösterisinde patladığında
8
gülümsemeleri kayboldu. Bunun nedeninin, kendisi için ayrılan 16 bite
sığamayacak kadar büyük bir sayıyı manipüle eden hatalı bir yazılım olduğu
9
bulundu. İki yıl sonra, NASA'nın Mars İklim Orbiteri yanlışlıkla Kızıl Gezegenin
atmosferine girdi ve yazılımın iki farklı parçasının güç için farklı birimler kullanması
nedeniyle parçalandı ve roket motoru itme kontrolünde %445'lik bir hataya neden
10
oldu. Bu, NASA'nın ikinci süper pahalı hatasıydı: Mariner 1'in Venüs misyonu,
22 Temmuz 1962'de Cape Canaveral'dan fırlatıldıktan sonra, uçuş kontrol yazılımı
11
yanlış bir noktalama işaretiyle engellendikten sonra patladı. Sanki sadece
batılıların uzaya böcek fırlatma sanatında ustalaşmadığını göstermek için, Sovyet
Phobos 1 görevi 2 Eylül 1988'de başarısız oldu. ay Phobos—eksik bir tire, Mars'a
giderken uzay aracına "görev sonu" komutunun gönderilmesine ve tüm sistemlerini
12
kapatmasına neden olduğunda hepsi engellendi.
Bu örneklerden öğrendiğimiz şey, bilgisayar bilimcilerin doğrulama dediği şeyin
önemidir : yazılımın beklenen tüm gereksinimleri tam olarak karşılamasını
sağlamak. Ne kadar çok hayat ve kaynak tehlikedeyse, yazılımın amaçlandığı gibi
çalışacağına dair güvenimiz o kadar yüksek olur. Neyse ki AI, doğrulama sürecini
otomatikleştirmeye ve iyileştirmeye yardımcı olabilir. Örneğin, seL4 adlı eksiksiz,
genel amaçlı bir işletim sistemi çekirdeği, çökmelere ve güvenli olmayan işlemlere
karşı güçlü bir garanti vermek için son zamanlarda resmi bir spesifikasyona göre
matematiksel olarak kontrol edildi: henüz Microsoft Windows'un çanları ve
ıslıklarıyla gelmese de ve Mac OS, size sevgiyle "ölümün mavi ekranı" olarak
bilinen şeyi vermeyeceğinden emin olabilirsiniz.
"kıyamet çarkı." ABD Savunma İleri Araştırma Projeleri Ajansı (DARPA),
HACMS (yüksek güvenceli siber askeri sistemler) adı verilen ve kanıtlanabilir
şekilde güvenli olan bir dizi açık kaynaklı yüksek güvenceli aracın
geliştirilmesine sponsor oldu. Önemli bir zorluk, bu tür araçları geniş çapta
konuşlandırılacak kadar güçlü ve kullanımı kolay hale getirmektir. Diğer bir
zorluk ise, yazılım robotlara ve yeni ortamlara taşındıkça ve geleneksel
önceden programlanmış yazılımların yerini öğrenmeye devam eden ve
böylece 2. bölümde olduğu gibi davranışlarını değiştiren yapay zeka
sistemleri aldıkça, doğrulama görevinin kendisinin daha da zorlaşmasıdır.
Finans için AI
Finans, bilgi teknolojisi tarafından dönüştürülen, kaynakların dünya çapında ışık
hızında verimli bir şekilde yeniden tahsis edilmesini sağlayan ve ipoteklerden yeni
kurulan şirketlere kadar her şey için uygun fiyatlı finansman sağlayan başka bir
alandır. Yapay zekadaki ilerleme, gelecekte finansal ticaretten büyük kar fırsatları
sunacak gibi görünüyor: borsa alım/satım kararlarının çoğu artık bilgisayarlar
tarafından otomatik olarak alınıyor ve mezun olan MIT öğrencilerim, algoritmik
ticareti geliştirmek için rutin olarak astronomik başlangıç maaşlarının cazibesine
kapılıyor.
Doğrulama, finansal yazılımlar için de önemlidir ve Amerikalı Knight Capital
şirketi bunu 1 Ağustos 2012'de doğrulanmamış ticaret yazılımını dağıttıktan
sonra kırk beş dakika içinde 440 milyon dolar kaybederek zor yoldan öğrendi.
13
6 Mayıs 2010'daki trilyon dolarlık “Flash Crash”, farklı bir nedenle dikkat
çekiciydi. Procter & Gamble gibi bazı önde gelen şirketlerin hisselerinin fiyatının
bir kuruş ile 100.000 $ arasında dalgalanmasıyla, piyasalar istikrara kavuşana
14
kadar yaklaşık yarım saat kadar büyük kesintilere neden olsa da, sorun,
doğrulamanın önleyebileceği hatalar veya bilgisayar arızalarından
kaynaklanmamıştır. Bunun yerine, beklentilerin ihlal edilmesinden
kaynaklanıyordu: birçok şirketin otomatik ticaret programları, varsayımlarının
geçerli olmadığı beklenmedik bir durumda kendilerini çalışırken buldu - örneğin,
bir borsa bilgisayarının bir hisse senedinin fiyatının bir sent, o zaman bu hisse
senedi gerçekten bir sent değerindeydi.
doğrulama dediği şeyin önemini gösteriyor : doğrulama ise "Sistemi
doğru mu yaptım?" diye soruyor doğrulama. “Doğru sistemi mi kurdum?”
*2
Örneğin, sistem her zaman geçerli olmayabilecek varsayımlara mı
dayanıyor? Eğer öyleyse, belirsizliği daha iyi ele almak için nasıl
geliştirilebilir?
Üretim için Yapay Zeka
Yapay zekanın hem verimliliği hem de hassasiyeti artıran robotları kontrol
ederek üretimi iyileştirme konusunda büyük bir potansiyele sahip olduğunu
söylemeye gerek yok. Sürekli gelişen 3-D yazıcılar artık ofis binalarından tuz
tanesinden daha küçük mikromekanik cihazlara kadar her şeyin prototipini
15
yapabilir. Devasa endüstriyel robotlar arabalar ve uçaklar yaparken, uygun
fiyatlı bilgisayar kontrollü değirmenler, torna tezgahları, kesiciler ve benzerleri
yalnızca fabrikaları değil, aynı zamanda yerel meraklıların fikirlerini topluluk
tarafından yönetilen binden fazla yerde somutlaştırdıkları tabandan gelen
16
"üretici hareketine" de güç veriyor. fabrika laboratuvarları” dünya çapında.
Ancak etrafımızda ne kadar çok robot varsa, onların yazılımlarını doğrulamamız
ve doğrulamamız o kadar önemli hale geliyor. Bir robot tarafından öldürüldüğü
bilinen ilk kişi, Michigan, Flat Rock'taki bir Ford fabrikasında çalışan Robert
Williams'dı. 1979 yılında, bir depodan parça alması gereken bir robot arızalandı
ve o, parçaları kendisi almak için alana tırmandı. Robot sessizce çalışmaya
başladı ve kafasını parçaladı, iş arkadaşları ne olduğunu anlayana kadar otuz
17
dakika devam etti. Bir sonraki robot kurbanı, Japonya'nın Akashi kentindeki
bir Kawasaki fabrikasında bakım mühendisi olan Kenji Urada idi. 1981'de bozuk
bir robot üzerinde çalışırken yanlışlıkla robotun açma düğmesine bastı ve
18
robotun hidrolik kolu tarafından ezilerek öldü. 2015 yılında, Almanya'nın
Baunatal kentindeki Volkswagen'in üretim tesislerinden birinde çalışan yirmi iki
yaşındaki bir müteahhit, otomobil parçalarını kapmak ve onları manipüle etmek
için bir robot kurmaya çalışıyordu. Bir şeyler ters gitti ve robotun onu
19
yakalamasına ve metal bir plakaya çarparak ölümüne ezmesine neden oldu.
Bu kazalar trajik olsa da, tüm endüstriyel kazaların çok küçük bir bölümünü
oluşturduklarına dikkat etmek önemlidir. Ayrıca, teknoloji geliştikçe endüstriyel
kazalar artmak yerine azaldı , 1970'te yaklaşık 14.000 ölümden 2014'te
20
Amerika Birleşik Devletleri'nde 4.821'e düştü. Yukarıda bahsedilen üç kaza,
normalde aptal olan makinelere zeka eklenmesinin, robotların insanların
yanında daha dikkatli olmayı öğrenmesini sağlayarak endüstriyel güvenliği
daha da iyileştirebileceğini gösteriyor. Daha iyi bir doğrulama ile üç kazadan da
kaçınılabilirdi: robotlar, hatalar veya kötülükler nedeniyle değil, kişinin orada
olmadığı veya kişinin bir otomobil parçası olduğu gibi geçersiz varsayımlarda
bulundukları için zarar verdi.
Şekil 3.3: Geleneksel endüstriyel robotlar pahalı ve programlanması zor olsa da,
programlama deneyimi olmayan çalışanlardan ne yapılacağını öğrenebilen daha ucuz
yapay zeka destekli robotlara doğru bir eğilim var.
Ulaşım için Yapay Zeka
Yapay zeka üretimde birçok hayat kurtarabilse de, ulaşımda potansiyel olarak
daha da fazla tasarruf sağlayabilir. 2015 yılında yalnızca araba kazaları 1,2
milyondan fazla can aldı ve uçak, tren ve tekne kazaları birlikte binlerce kişiyi daha
öldürdü. Yüksek güvenlik standartlarına sahip Amerika Birleşik Devletleri'nde
geçen yıl motorlu taşıt kazaları yaklaşık 35.000 kişinin ölümüne yol açtı; bu, tüm
21
endüstriyel kazaların toplamından yedi kat daha fazla. Yapay Zekayı Geliştirme
Derneği'nin 2016 yıllık toplantısında Austin, Teksas'ta bununla ilgili bir panel
yaptığımızda, İsrailli bilgisayar bilimcisi Moshe Vardi bu konuda oldukça
duygulandı ve yapay zekanın yalnızca yol ölümlerini azaltmakla kalmayıp , ama
şunu da yapmalıdır: "Bu ahlaki bir zorunluluktur!" diye haykırdı. Neredeyse tüm
araba kazalarına insan hatası neden olduğu için, yapay zeka destekli sürücüsüz
arabaların yol ölümlerinin en az %90'ını ortadan kaldırabileceğine inanılıyor ve bu
iyimserlik, sürücüsüz arabaları fiilen yollara çıkarmaya yönelik büyük ilerlemeyi
besliyor. . Elon Musk, geleceğin sürücüsüz arabalarının yalnızca daha güvenli
olmakla kalmayıp, aynı zamanda Uber ve Lyft ile rekabet ederek sahiplerine ihtiyaç
duyulmadan para kazandıracağını öngörüyor.
Şimdiye kadar, sürücüsüz arabaların gerçekten de insan sürücülerden daha iyi
bir güvenlik sicili var ve meydana gelen kazalar, doğrulamanın önemini ve
zorluğunu vurguluyor. Google'ın sürücüsüz bir arabasının neden olduğu ilk
çamurluk bükücü, 14 Şubat 2016'da gerçekleşti, çünkü otobüs hakkında yanlış bir
varsayımda bulundu: araba önüne çıktığında sürücüsünün boyun eğeceği. 7
Mayıs 2016'da otoyoldan geçen bir kamyonun römorkuna çarpan sürücüsüz bir
22
Tesla'nın neden olduğu ilk ölümcül kaza, iki kötü varsayımdan kaynaklandı:
karavanın parlak beyaz tarafının parlak gökyüzünün yalnızca bir parçası olduğunu
ve (iddiaya göre bir Harry Potter filmi izlediği) sürücünün dikkatini verdiğini ve bir
*3
şeyler ters giderse müdahale edeceğini.
Ancak bazen iyi bir doğrulama ve geçerli kılma kazaları önlemek için yeterli
değildir, çünkü aynı zamanda iyi bir kontrole ihtiyacımız vardır: bir insan operatörün
sistemi izleme ve gerekirse davranışını değiştirme becerisi. Bu tür döngüdeki insan
sistemlerinin iyi çalışması için , insan-makine iletişiminin etkili olmak. Bu ruhla,
aracınızın bagajını yanlışlıkla açık bırakırsanız gösterge panelinizdeki kırmızı bir
ışık sizi uygun bir şekilde uyaracaktır. Buna karşılık, Herald of Free Enterprise
İngiliz araba feribotu 6 Mart 1987'de Zeebrugge limanından pruva kapıları açık
olarak ayrıldığında, hiçbir uyarı ışığı veya başka bir şey yoktu.
kaptan için görünür uyarı ve feribot limandan ayrıldıktan kısa bir süre
23
sonra alabora olarak 193 kişiyi öldürdü.
Daha iyi makine-insan iletişimi ile önlenebilecek bir başka trajik kontrol
hatası, 1 Haziran 2009 gecesi, Air France Flight 447'nin Atlantik Okyanusu'na
düşerek uçaktaki 228 kişinin tamamını öldürmesiyle meydana geldi. Resmi
kaza raporuna göre, "mürettebat, stall olduklarını asla anlamadı ve sonuç
olarak asla çok geç olana kadar - uçağın burnunu aşağı itmeyi içerecek olan bir
kurtarma manevrası uygulamadı". Uçuş güvenliği uzmanları, kokpitte pilotlara
burnun çok yukarı dönük olduğunu gösteren bir "saldırı açısı" göstergesi
24
olsaydı, kazanın önlenebileceğini tahmin ettiler.
Air Inter Flight 148, 20 Ocak 1992'de Fransa'da Strasbourg yakınlarındaki
Vosges Dağları'na düşerek 87 kişiyi öldürdüğünde, bunun nedeni makine-insan
iletişiminin olmaması değil, kafa karıştırıcı bir kullanıcı arayüzüydü. Pilotlar 3,3
derecelik bir açıyla alçalmak istedikleri için bir tuş takımında "33" yazdılar,
ancak otopilot bunu farklı bir modda olduğu için dakikada 3.300 fit olarak
yorumladı ve ekran modu göstermek için çok küçüktü ve pilotların hatalarını
anlamalarına izin verin.
Enerji için Yapay Zeka
Bilgi teknolojisi, dünyanın elektrik şebekelerinde üretim ve tüketimi dengeleyen
gelişmiş algoritmalar ve enerji santrallerinin güvenli ve verimli çalışmasını
sağlayan gelişmiş kontrol sistemleriyle, güç üretimi ve dağıtımında harikalar
yarattı. Gelecekteki AI ilerlemesinin, bireysel çatı güneş panelleri ve ev tipi pil
sistemleri seviyesine kadar değişen arz ve talebe en iyi şekilde uyum sağlamak
için "akıllı şebekeyi" daha da akıllı hale getirmesi muhtemeldir. Ancak 14
Ağustos 2003 Perşembe günü Amerika Birleşik Devletleri ve Kanada'da çoğu
günlerce güçsüz kalan yaklaşık 55 milyon insan için ışıklar söndü. Burada da
birincil nedenin makine-insan iletişimindeki başarısızlık olduğu belirlendi: Bir
yazılım hatası, Ohio kontrol odasındaki alarm sisteminin, küçük bir sorundan
önce (aşırı yüklenmiş iletim hatlarının budanmamış yapraklara çarpması) gücü
yeniden dağıtma ihtiyacı konusunda operatörleri uyarmasını engelledi.
25
kontrolden çıktı.
28 Mart 1979'da Pensilvanya'daki Three Mile Island'daki bir reaktörde
meydana gelen kısmi nükleer erime, yaklaşık bir milyar dolarlık temizleme
maliyetine ve nükleer enerjiye karşı büyük bir tepkiye yol açtı. Nihai kaza
raporu, zayıf bir kullanıcı arayüzünün neden olduğu kafa karışıklığı da dahil
26
olmak üzere birden çok katkıda bulunan faktörü belirledi. Özellikle,
operatörlerin güvenlik açısından kritik bir vananın açık mı yoksa kapalı mı
olduğunu gösterdiğini düşündüğü uyarı ışığı, yalnızca vanayı kapatmak için
bir sinyal gönderilip gönderilmediğini gösteriyordu; bu nedenle operatörler
vananın açık kaldığını fark etmiyordu.
Bu enerji ve nakliye kazaları bize, yapay zekayı her zamankinden daha
fazla fiziksel sistemden sorumlu tuttukça, yalnızca makinelerin kendi
başlarına iyi çalışmasını sağlamak için değil, aynı zamanda makinelerin
insan denetleyicileriyle etkili bir şekilde işbirliği yapmasını sağlamak için ciddi
araştırma çabaları göstermemiz gerektiğini öğretiyor. . Yapay zeka daha
akıllı hale geldikçe, bu yalnızca bilgi paylaşımı için iyi kullanıcı arayüzleri
oluşturmayı değil, aynı zamanda insan-bilgisayar ekipleri içinde görevlerin
en uygun şekilde nasıl tahsis edileceğini bulmayı da içerecektir; örneğin,
kontrolün devredilmesi gereken durumları belirleme ve insan yargısını
verimli bir şekilde uygulamak insan denetleyicilerin dikkatini bir yığın
önemsiz bilgiyle dağıtmak yerine en yüksek değere sahip kararlara
yönlendirir.
Sağlık Hizmetleri için Yapay Zeka
AI, sağlık hizmetlerini iyileştirmek için büyük bir potansiyele sahiptir. Tıbbi kayıtların
dijitalleştirilmesi, doktorların ve hastaların daha hızlı ve daha iyi kararlar vermesini ve
dijital görüntüleri teşhis etmede dünyanın dört bir yanındaki uzmanlardan anında
yardım almasını sağladı. Gerçekten de, bilgisayarla görme ve derin öğrenmedeki hızlı
ilerleme göz önüne alındığında, bu tür teşhisleri gerçekleştirmek için en iyi uzmanlar
yakında yapay zeka sistemleri olabilir. Örneğin, 2015 yılında Hollanda'da yapılan bir
(
araştırma, prostat kanserinin manyetik rezonans görüntüleme MRI) kullanılarak
bilgisayarla teşhis edilmesinin insan radyologlarınki kadar iyi olduğunu gösterdi27 ve
2016 yılında yapılan bir Stanford çalışması, yapay zekanın mikroskop görüntülerini
kullanarak akciğer kanserini insandan bile daha iyi teşhis edebildiğini gösterdi.
28
patologlar. Makine öğrenimi, genler, hastalıklar ve tedavi yanıtları arasındaki
ilişkileri ortaya çıkarmaya yardımcı olabilirse, kişiselleştirilmiş tıpta devrim yaratabilir,
çiftlik hayvanlarını daha sağlıklı hale getirebilir ve daha dayanıklı mahsuller
sağlayabilir. Ayrıca robotlar, gelişmiş yapay zeka kullanmadan bile insanlardan daha
doğru ve güvenilir cerrahlar olma potansiyeline sahiptir. Son yıllarda çok çeşitli robotik
ameliyatlar başarıyla gerçekleştirildi ve genellikle hassasiyet, minyatürleştirme ve kan
kaybının azalmasına, daha az ağrıya ve daha kısa iyileşme süresine yol açan daha
küçük kesilere izin verildi.
Ne yazık ki, sağlık sektöründe de sağlam yazılımın önemi hakkında acı verici
dersler var. Örneğin, Kanada yapımı Therac-25 radyasyon terapisi makinesi,
kanser hastalarını iki farklı modda tedavi etmek için tasarlandı: ya düşük güçlü bir
elektron demeti ile ya da hedefte tutulan yüksek güçlü bir megavolt X-ışınları
demeti ile. özel bir kalkanla. Ne yazık ki, doğrulanmamış buggy yazılımı zaman
zaman teknisyenlerin megavolt ışını düşük güçlü ışını uyguladıklarını
düşündüklerinde ve kalkan olmadan vermelerine neden oldu ve bu da birkaç
29
hastanın hayatını kaybetmesine neden oldu. Radyoaktif kobalt-60 kullanan
radyoterapi ekipmanının 2000 ve 2001'de uygun şekilde doğrulanmamış kafa
karıştırıcı bir kullanıcı arayüzü nedeniyle aşırı maruz kalma sürelerine
programlandığı Panama'daki Ulusal Onkoloji Enstitüsünde çok daha fazla hasta
30 31
aşırı dozda radyasyondan öldü. Yakın tarihli bir rapora göre, robotik cerrahi
kazaları, 2000 ve 2013 yılları arasında Amerika Birleşik Devletleri'nde 144 ölüm ve
1.391 yaralanma ile bağlantılıydı; yalnızca elektrik arkı ve yanmış veya kırık alet
parçalarının hastaya düşmesi gibi donanım sorunları değil, aynı zamanda
aşağıdakiler gibi yazılım sorunları da dahil olmak üzere yaygın sorunlar vardı:
kontrolsüz hareketler ve kendiliğinden kapanma.
 İyi haber şu ki, raporun kapsadığı yaklaşık iki milyon robotik ameliyatın
geri kalanı sorunsuz geçti ve robotlar ameliyatları daha az güvenli değil,
daha güvenli hale getiriyor gibi görünüyor. ABD hükümetinin yaptığı bir
araştırmaya göre, kötü hastane bakımı yalnızca ABD'de yılda
32
100.000'den fazla ölüme neden oluyor, bu nedenle tıp için daha iyi
yapay zeka geliştirmeye yönelik ahlaki zorunluluk, muhtemelen sürücüsüz
arabalardan bile daha güçlüdür.
İletişim için Yapay Zeka
İletişim endüstrisi, muhtemelen bilgisayarların şimdiye kadarki en büyük
etkiye sahip olduğu endüstridir. 50'lerde bilgisayarlı telefon santrallerinin,
60'larda internetin ve 1989'da World Wide Web'in piyasaya sürülmesinden
sonra, milyarlarca insan artık iletişim kurmak, alışveriş yapmak, haber
okumak, film izlemek veya oyun oynamak için çevrimiçi oluyor. bilgi sadece
bir tık ötede ve genellikle ücretsiz. Gelişmekte olan nesnelerin interneti, çiftlik
hayvanlarında lambalar, termostatlar ve donduruculardan biyoçipli
transponderlere kadar her şeyi çevrimiçi hale getirerek daha fazla verimlilik,
doğruluk, rahatlık ve ekonomik fayda vaat ediyor.
Dünyayı birbirine bağlamadaki bu olağanüstü başarılar, bilgisayar bilimcilerine
dördüncü bir zorluk getirdi: yalnızca doğrulama, onaylama ve kontrolü değil, aynı
zamanda kötü amaçlı yazılımlara (“kötü amaçlı yazılım”) ve bilgisayar korsanlığına
karşı güvenliği de geliştirmeleri gerekiyor . Bahsedilen sorunların tümü kasıtsız
hatalardan kaynaklanırken, güvenlik kasıtlı suiistimale yöneliktir . Medyanın
dikkatini çeken ilk kötü amaçlı yazılım, 2 Kasım 1988'de ortaya çıkan ve UNIX
işletim sistemindeki hataları kullanan Morris solucanıydı. İddiaya göre, kaç
bilgisayarın çevrimiçi olduğunu saymak için yanlış yönlendirilmiş bir girişimdi ve o
zamanlar interneti oluşturan 60.000 bilgisayarın yaklaşık %10'unu etkileyip
çökertmesine rağmen, bu, yaratıcısı Robert Morris'in sonunda bir virüs
bulaşmasına engel olmadı. MIT'de bilgisayar bilimlerinde kadrolu profesörlük.
Diğer kötü amaçlı yazılımlar, yazılımdaki değil, insanlardaki güvenlik
açıklarından yararlanır. 5 Mayıs 2000'de, sanki doğum günümü kutlarcasına,
insanlar tanıdıklarından ve meslektaşlarından ve "LOVE-LETTER-FOR-
YOU.txt.vbs" ekine tıklayan Microsoft Windows kullanıcılarından konu satırı
"ILOVEYOU" olan e-postalar aldı. ” farkında olmadan bilgisayarlarına zarar veren
ve e-postayı adres defterindeki herkese yeniden gönderen bir komut dosyası
başlattı. Filipinler'de iki genç programcı tarafından yaratılan bu solucan, tıpkı
Morris solucanının yaptığı gibi internetin yaklaşık %10'unu etkiledi, ancak internet
o zamana kadar çok daha büyük olduğu için, tüm zamanların en büyük
enfeksiyonlarından biri haline geldi. 50 milyondan fazla bilgisayar ve 5 milyar
doların üzerinde hasara neden oluyor. Muhtemelen acı verici bir şekilde farkında
olduğunuz gibi, internet, güvenlik uzmanlarının solucanlar, Truva atları, virüsler ve
kulağa korkutucu gelen diğer kategoriler olarak sınıflandırdığı sayısız türde
bulaşıcı kötü amaçlı yazılımla dolu olmaya devam ediyor ve neden oldukları zarar,
dosyalarınızı silmek, kişisel bilgilerinizi çalmak, sizi gözetlemek ve spam
göndermek için bilgisayarınızı ele geçirmek için zararsız şaka mesajları
görüntülemek.
Kötü amaçlı yazılımlar ulaşabildikleri her bilgisayarı hedeflerken,
bilgisayar korsanları belirli ilgi alanlarına yönelik hedeflere saldırır; Target,
TJ Maxx, Sony Pictures, Ashley Madison, Suudi petrol şirketi Aramco ve
ABD Demokratik Ulusal Komitesi gibi son zamanlardaki yüksek profilli
örnekler. Dahası, ganimetler her zamankinden daha muhteşem hale geliyor
gibi görünüyor. Bilgisayar korsanları 2008'de Heartland Payment
Systems'tan 130 milyon kredi kartı numarası ve diğer hesap bilgilerini
33
çaldılar ve bir milyardan fazla(!) Yahoo! 2013 yılında e-posta hesapları.
ABD Hükümeti Personel Yönetimi Ofisi'nin 2014 yılında hacklenmesi, üst
düzey güvenlik yetkilerine sahip çalışanlar ve gizli ajanların parmak izleri
dahil olduğu iddia edilen 21 milyondan fazla kişinin personel kayıtlarını ve iş
başvuru bilgilerini ihlal etti.
Sonuç olarak, ne zaman yeni bir sistemin iddiaya göre %100 güvenli ve
hacklenemez olduğunu okusam gözlerimi deviriyorum. Yine de, örneğin kritik
altyapı veya silah sistemlerinden sorumlu hale getirmeden önce, geleceğin yapay
zeka sistemlerini açık bir şekilde "saldırılamaz" duruma getirmemiz gerekiyor, bu
nedenle yapay zekanın toplumdaki artan rolü, bilgisayar güvenliği için riskleri
artırmaya devam ediyor. Bazı bilgisayar korsanları, yeni piyasaya sürülen
yazılımlardaki insan saflığından veya karmaşık güvenlik açıklarından
yararlanırken, diğerleri, utanç verici derecede uzun bir süre fark edilmeden
oyalanan basit hatalardan yararlanarak uzak bilgisayarlarda yetkisiz oturum
açmaya olanak tanır. Bilgisayarlar arasında güvenli iletişim için en popüler yazılım
kitaplıklarından birinde "Heartbleed" hatası 2012'den 2014'e kadar sürdü ve
"Bashdoor" hatası, 1989'dan 2014'e kadar Unix bilgisayarların işletim sistemine
yerleştirildi. geliştirilmiş doğrulama ve doğrulama için güvenliği de artıracaktır.
Ne yazık ki, yeni güvenlik açıklarını bulmak ve daha karmaşık saldırılar
gerçekleştirmek için daha iyi yapay zeka sistemleri de kullanılabilir. Örneğin, bir
gün sizi kişisel bilgilerinizi ifşa etmeye ikna etmeye çalışan alışılmadık şekilde
kişiselleştirilmiş bir "e-dolandırıcılık" e-postası aldığınızı hayal edin.
Arkadaşınızın hesabından, hesabı ele geçiren ve onun kimliğine bürünen, diğer
gönderilen e-postaların analizine dayanarak onun yazma stilini taklit eden ve
diğer kaynaklardan sizinle ilgili birçok kişisel bilgiyi içeren bir yapay zeka
tarafından gönderilir. Buna kanabilir misin? Kimlik avı e-postası kredi kartı
şirketinizden geliyormuş gibi görünürse ve ardından yapay zeka tarafından
üretildiğini anlayamadığınız samimi bir insan sesinden gelen bir telefon gelirse
ne olur? Saldırı ve savunma arasında devam eden bilgisayar güvenliği
silahlanma yarışında, şimdiye kadar savunmanın kazandığına dair çok az
gösterge var.
 Kanunlar
Biz insanlar, işbirliği yapma yeteneğimiz sayesinde diğer tüm türlere
boyun eğdiren ve Dünya'yı fetheden sosyal hayvanlarız. İşbirliğini teşvik
etmek ve kolaylaştırmak için yasalar geliştirdik, bu nedenle yapay zeka
yasal ve yönetişim sistemlerimizi geliştirebilirse, içimizdeki en iyiyi ortaya
çıkararak her zamankinden daha başarılı bir şekilde işbirliği yapmamızı
sağlayabilir. Burada, hem yasalarımızın nasıl uygulandığı, hem de nasıl
yazıldığı konusunda pek çok iyileştirme fırsatı var, o yüzden sırasıyla
ikisini de inceleyelim.
Ülkenizdeki mahkeme sistemini düşündüğünüzde aklınıza gelen ilk
dernekler nelerdir? Uzun gecikmeler, yüksek maliyetler ve ara sıra yaşanan
adaletsizlikler varsa, o zaman yalnız değilsiniz. İlk düşünceniz bunun yerine
“verimlilik” ve “adalet” olsa harika olmaz mıydı? Hukuki süreç soyut olarak
bir hesaplama, kanıtlar ve kanunlar hakkında bilgi girme ve bir karar çıkarma
olarak görülebildiğinden, bazı akademisyenler bunu robojudges ile tamamen
otomatikleştirmeyi hayal ediyor: aynı yüksek yasal standartları yorulmadan
aynı yüksek yasal standartları uygulayan yapay zeka sistemleri. Önyargı,
yorgunluk veya en son bilgi eksikliği gibi insan hatalarına yenik düşmeden
her muhakeme.
Robojudge'lar
Byron De La Beckwith Jr., 1963'te sivil haklar lideri Medgar Evers'e suikast
düzenlemekten 1994'te suçlu bulundu, ancak tamamen beyazlardan oluşan
iki ayrı Mississippi jürisi, fiziksel kanıtlar esasen aynı olmasına rağmen,
34
cinayetten bir yıl sonra onu mahkum edemedi. Ne yazık ki, hukuk tarihi
ten rengi, cinsiyet, cinsel yönelim, din, milliyet ve diğer faktörlere göre
önyargılı yargılarla dolu. Robojudges, ilke olarak, tarihte ilk kez, herkesin
kanun önünde gerçekten eşit olmasını sağlayabilir: Hepsi aynı olacak ve
herkese eşit davranacak, kanunu gerçekten tarafsız bir şekilde şeffaf bir
şekilde uygulayacak şekilde programlanabilirler.
Robojudges, kasıtlı olmaktan çok tesadüfi olan insan önyargılarını da ortadan
kaldırabilir. Örneğin, İsrailli yargıçlar üzerinde 2012'de yapılan tartışmalı bir
araştırma, aç olduklarında önemli ölçüde daha sert kararlar verdiklerini iddia
etti: Kahvaltıdan hemen sonra şartlı tahliye davalarının yaklaşık %35'ini
35
reddederken, öğle yemeğinden hemen önce %85'ten fazlasını reddettiler.
İnsan yargıçların bir başka eksikliği de, bir davanın tüm ayrıntılarını keşfetmek
için yeterli zamana sahip olamamalarıdır. Buna karşılık, robojudge'lar kolayca
kopyalanabilir, çünkü bunlar yazılımdan biraz daha fazlasını içerirler ve
beklemedeki tüm davaların seri yerine paralel olarak işlenmesine izin verirler ve
her dava, sürdüğü sürece kendi robojudge'ını alır. Son olarak, zorlu patent
ihtilaflarından en son adli tıp bilimine dayanan cinayet gizemlerine kadar olası
her dava için gereken tüm teknik bilgilere hakim olmak insan yargıçlar için
imkansız olsa da, geleceğin otomatik yargıçları temelde sınırsız hafızaya ve
öğrenme kapasitesine sahip olabilir.
Bir gün, bu tür robojudge'lar tarafsız, yetkin ve şeffaf olmaları nedeniyle hem
daha verimli hem de daha adil olabilirler. Verimlilikleri onları daha da adil kılıyor:
yasal süreci hızlandırarak ve bilgili avukatların sonucu çarpıtmasını
zorlaştırarak, mahkemeler aracılığıyla adaletin sağlanmasını önemli ölçüde
daha ucuz hale getirebilirler. Bu, nakit sıkıntısı çeken bir bireyin veya yeni
kurulan bir şirketin, bir avukatlar ordusuna sahip bir milyardere veya çok uluslu
bir şirkete karşı galip gelme şansını büyük ölçüde artırabilir.
Öte yandan, robojudge'larda hatalar varsa veya saldırıya uğrarlarsa ne olur?
Her ikisi de otomatik oylama makinelerini zaten etkiledi ve parmaklıklar ardında
geçen yıllar veya bankada milyonlarca dolar söz konusu olduğunda, siber saldırılar
için teşvikler daha da artıyor.
Yapay zeka, bir robojudge'ın yasalaştırılmış algoritmayı kullandığına güvenmemiz
için yeterince güçlü hale getirilebilse bile, herkes onun mantıksal muhakemesini
onun yargısına saygı duyacak kadar anladığını hissedecek mi? Bu zorluk,
genellikle anlaşılmazlık pahasına geleneksel anlaşılması kolay AI
algoritmalarından daha iyi performans gösteren sinir ağlarının son başarısıyla
daha da kötüleşiyor. Sanıklar neden mahkûm olduklarını öğrenmek istiyorlarsa ,
“sistemi bir sürü veriyle eğittik, o da buna karar verdi”den daha iyi bir cevaba
hakları olması gerekmez mi? Ayrıca, son araştırmalar, derin bir nöral öğrenme
sistemini büyük miktarda mahkûm verisiyle eğitirseniz, kimin suça geri dönme
olasılığının yüksek olduğunu (ve dolayısıyla şartlı tahliye edilmemesi gerektiğini)
insan yargıçlardan daha iyi tahmin edebildiğini göstermiştir. Peki ya bu sistem
tekrar suç işlemenin bir mahkûmun cinsiyeti veya ırkıyla istatistiksel olarak
bağlantılı olduğunu tespit ederse - bu, yeniden programlanması gereken cinsiyetçi,
ırkçı bir otomatik yargıç olarak sayılır mı? Gerçekten de, 2016 yılında yapılan bir
araştırma, Amerika Birleşik Devletleri'nde kullanılan tekrar suç işleme tahmin
yazılımının Afrikalı Amerikalılara karşı önyargılı olduğunu ve haksız cezaya
36
katkıda bulunduğunu savundu. Bunlar, yapay zekanın faydalı olmaya devam
etmesini sağlamak için hepimizin üzerinde düşünmesi ve tartışması gereken
önemli sorular. Robojudge'larla ilgili bir ya hep ya hiç kararıyla karşı karşıya değiliz,
bunun yerine yasal sistemimizde yapay zekayı ne ölçüde ve hızla kullanmak
istediğimize dair bir kararla karşı karşıyayız. İnsan yargıçların tıpkı yarının tıp
doktorları gibi yapay zeka tabanlı karar destek sistemlerine sahip olmasını istiyor
muyuz? Daha ileri gitmek ve insan yargıçlara itiraz edilebilecek otomatik yargıç
kararları mı almak istiyoruz, yoksa sonuna kadar gitmek ve ölüm cezaları için bile
son sözü makinelere mi vermek istiyoruz?
Yasal Tartışmalar
kanunun uygulanmasını inceledik ; şimdi içeriğine dönelim . Kanunlarımızın
teknolojimize ayak uydurmak için gelişmesi gerektiğine dair geniş bir fikir birliği
var. Örneğin, yukarıda bahsedilen ILOVEYOU solucanını yaratan ve
milyarlarca dolarlık zarara neden olan iki programcı, tüm suçlamalardan beraat
etti ve o zamanlar Filipinler'de kötü amaçlı yazılım oluşturmaya karşı herhangi
bir yasa olmadığı için serbest kaldı. Teknolojik ilerleme hızlanıyor gibi
göründüğünden, yasaların her zamankinden daha hızlı güncellenmesi
gerekiyor ve bunların gerisinde kalma eğilimi var. Hukuk fakültelerine ve
hükümetlere daha fazla teknoloji meraklısı insanı sokmak muhtemelen toplum
için akıllıca bir harekettir. Ancak seçmenler ve yasa koyucular için yapay zeka
tabanlı karar destek sistemleri ve ardından doğrudan robo-yasa koyucular mı
gelmeli?
AI ilerlemesini yansıtmak için yasalarımızı en iyi şekilde nasıl değiştireceğimiz,
büyüleyici bir şekilde tartışmalı bir konudur. Bir anlaşmazlık, mahremiyete karşı
bilgi özgürlüğü arasındaki gerilimi yansıtıyor. Özgürlük taraftarları, mahremiyetimiz
ne kadar azsa, mahkemelerin o kadar çok kanıtı olacağını ve kararların o kadar
adil olacağını savunuyorlar. Örneğin, hükümet herkesin nerede olduğunu ve ne
yazdığını, tıkladığını, söylediğini ve yaptığını kaydetmek için herkesin elektronik
cihazlarını kullanırsa, birçok suç kolayca çözülebilir ve yenileri önlenebilir.
Mahremiyet savunucuları, Orwellvari bir gözetim devleti istemediklerini ve isteseler
bile bunun destansı boyutlarda totaliter bir diktatörlüğe dönüşme riskinin olduğunu
söyleyerek karşı çıkıyorlar. Dahası, makine öğrenimi teknikleri, bir kişinin ne
düşündüğünü ve özellikle doğruyu mu yoksa yalan mı söylediğini belirlemek için
37
fMRI tarayıcılarından gelen beyin verilerini analiz etmede daha iyi hale geldi.
Yapay zeka destekli beyin tarama teknolojisi mahkeme salonlarında yaygınlaşırsa,
bir davanın gerçeklerini belirlemeye yönelik şu anda sıkıcı olan süreç önemli
ölçüde basitleştirilebilir ve hızlandırılabilir, bu da daha hızlı yargılama ve daha adil
kararlar alınmasını sağlar. Ancak mahremiyet savunucuları, bu tür sistemlerin ara
sıra hata yapıp yapmadığı ve daha da önemlisi, zihinlerimizin devlet gözetlemesine
kapalı olması gerekip gerekmediği konusunda endişelenebilir. Düşünce
özgürlüğünü desteklemeyen hükümetler, belirli inanç ve görüşlere sahip olmayı
suç saymak için bu tür bir teknolojiyi kullanabilir. Adalet ve mahremiyet ile toplumu
korumak ile kişisel özgürlüğü korumak arasındaki çizgiyi nerede çizersiniz ?
Nereye çizerseniz çizin, yavaş yavaş ama amansız bir şekilde azaltılmış
mahremiyete doğru hareket edecek mi?
Kanıtın sahtesini yapmak kolaylaşıyor mu? Örneğin, AI sizin suç işlerken
tamamen gerçekçi sahte videolarınızı oluşturabildiğinde, hükümetin
herkesin nerede olduğunu her an takip ettiği ve gerekirse size sağlam bir
mazeret sağlayabileceği bir sisteme oy verecek misiniz?
Bir başka büyüleyici tartışma, AI araştırmasının düzenlenmesi gerekip
gerekmediği veya daha genel olarak, politika yapıcıların AI araştırmacılarına
faydalı bir sonuç elde etme şansını en üst düzeye çıkarmak için hangi teşvikleri
vermesi gerektiğidir. Bazı yapay zeka araştırmacıları, acilen ihtiyaç duyulan
yeniliği (örneğin, hayat kurtaran kendi kendine giden arabalar) gereksiz yere
geciktireceklerini ve son teknoloji yapay zeka araştırmalarını yeraltına ve/veya
daha fazlasına sahip diğer ülkelere taşıyacaklarını iddia ederek, yapay zeka
gelişiminin her türlü düzenlemesine karşı çıktılar. izin veren hükümetler Birinci
bölümde bahsedilen Porto Riko yararlı-Yapay Zeka konferansında Elon Musk,
şu anda hükümetlerden ihtiyacımız olan şeyin gözetim değil içgörü olduğunu
savundu: özellikle, hükümet pozisyonlarında yapay zekanın ilerlemesini
izleyebilecek ve gerekliyse yönlendirebilecek teknik olarak yetenekli insanlar.
yolun aşağısı. Ayrıca, hükümet düzenlemelerinin bazen ilerlemeyi bastırmak
yerine besleyebileceğini savundu: örneğin, kendi kendine giden arabalara
yönelik hükümet güvenlik standartları kendi kendine giden araba kazalarının
sayısını azaltmaya yardımcı olabilirse, o zaman halkın tepkisi daha az olasıdır
ve Yeni teknoloji hızlandırılabilir. Bu nedenle, güvenlik konusunda en bilinçli
yapay zeka şirketleri, daha az titiz rakipleri yüksek güvenlik standartlarına
uymaya zorlayan düzenlemeleri tercih edebilir.
Yine bir başka ilginç yasal tartışma, makinelere hak verilmesiyle ilgilidir.
Sürücüsüz arabalar ABD'deki yıllık 32.000 trafik kazasını yarı yarıya
azaltırsa, belki de otomobil üreticileri 16.000 teşekkür notu yerine 16.000
dava alacak. Öyleyse, kendi kendine giden bir araba bir kazaya neden
olursa, kim sorumlu olmalı - yolcuları mı, sahibi mi yoksa üreticisi mi? Hukuk
bilgini David Vladeck dördüncü bir cevap önerdi: arabanın kendisi! Spesifik
olarak, sürücüsüz arabaların araba sigortasına sahip olmasına izin
verilmesini (ve zorunlu tutulmasını) öneriyor. Bu şekilde, sterlin güvenlik
siciline sahip modeller, çok düşük, muhtemelen insan sürücülerin
kullanabileceğinden daha düşük primler almaya hak kazanırken, özensiz
üreticilerin kötü tasarlanmış modelleri, yalnızca sahip olmayı çok pahalı hale
getiren sigorta poliçelerine hak kazanacaktır.
Ancak, araba gibi makinelerin sigorta poliçeleri tutmasına izin verilirse, onlar da
para ve mülk sahibi olabilmeli mi? Eğer öyleyse, akıllı bilgisayarların borsada para
kazanmasını ve çevrimiçi hizmet satın almak için kullanmasını yasal olarak
engelleyen hiçbir şey yoktur. Bir bilgisayar, kendisi için çalışması için insanlara
ödeme yapmaya başladığında, insanların yapabileceği her şeyi başarabilir. AI
sistemleri sonunda daha iyi hale gelirse
yatırımda insanlardan daha fazla (bazı alanlarda zaten öyleler), bu,
ekonomimizin çoğunun makinelere ait olduğu ve kontrol edildiği bir
duruma yol açabilir. Bu bizim istediğimiz şey mi? Kulağa uzak geliyorsa,
ekonomimizin çoğunun zaten başka bir tür insan olmayan varlığa ait
olduğunu düşünün: genellikle içlerindeki herhangi bir kişiden daha güçlü
olan ve bir dereceye kadar kendi hayatlarını sürdürebilen şirketler.
Makinelere mülk sahibi olma hakkı vermeyi kabul ediyorsanız, onlara oy
hakkı vermeye ne dersiniz? Eğer öyleyse, her bilgisayar programı, yeterince
zenginse bulutta önemsiz bir şekilde trilyonlarca kopyasını çıkarabilecek ve
böylece tüm seçimlere karar vereceğini garanti etse bile bir oy almalı mı?
Değilse, insan zihnine göre makine zihinlerine karşı hangi ahlaki temelde
ayrımcılık yapıyoruz? Makine zihinlerinin bizim gibi öznel bir deneyim
yaşama anlamında bilinçli olması bir fark yaratır mı? Bir sonraki bölümde
dünyamızın bilgisayar kontrolüyle ilgili bu tartışmalı soruları ve 8. bölümde
makine bilinciyle ilgili soruları daha derinlemesine inceleyeceğiz.
 Silahlar
İnsanlık çok eski zamanlardan beri kıtlık, hastalık ve savaşlardan muzdarip.
Yapay zekanın kıtlık ve hastalıkları azaltmaya nasıl yardımcı olabileceğinden
daha önce bahsetmiştik, peki ya savaş? Bazıları, nükleer silahların onlara sahip
olan ülkeler arasındaki savaşı caydırdığını çünkü çok korkunç olduklarını iddia
ediyor, peki tüm ulusların tüm savaşları sonsuza dek sona erdirme umuduyla
daha da korkunç yapay zeka tabanlı silahlar yapmasına izin vermeye ne
dersiniz? Bu argüman sizi ikna etmiyorsa ve gelecekteki savaşların kaçınılmaz
olduğuna inanıyorsanız, bu savaşları daha insancıl hale getirmek için yapay
zekayı kullanmaya ne dersiniz? Savaşlar yalnızca makinelerle savaşan
makinelerden oluşuyorsa, o zaman hiçbir insan askerin veya sivilin öldürülmesi
gerekmez. Dahası, geleceğin yapay zeka destekli dronları ve diğer otonom
silah sistemleri (AWS; rakipleri tarafından "katil robotlar" olarak da bilinirler)
umarım insan askerlerden daha adil ve rasyonel hale getirilebilir: insanüstü
sensörlerle donatıldılar ve öldürülmekten korkmadılar. savaşın hararetinde bile
soğukkanlı, hesaplı ve sağduyulu kalın ve yanlışlıkla sivilleri öldürme olasılığı
daha düşük olsun.
Şekil 3.4: Günümüzün askeri dronları (bu ABD Hava Kuvvetleri MQ-1 Predator gibi) insanlar
tarafından uzaktan kontrol edilirken, geleceğin yapay zeka destekli dronları, kimi hedef
alacaklarına karar vermek için bir algoritma kullanarak insanları döngüden çıkarma
potansiyeline sahiptir. ve öldür.
Döngüdeki Bir İnsan
Peki ya otomatik sistemler sorunluysa, kafa karıştırıcıysa veya beklendiği gibi
davranmıyorsa? Aegis sınıfı kruvazörler için ABD Phalanx sistemi, gemisavar
füzeleri ve uçaklar gibi tehditleri otomatik olarak algılar, izler ve saldırır. USS
Vincennes , Aegis sistemine atıfta bulunularak Robocruiser lakaplı bir güdümlü
füze kruvazörüydü ve 3 Temmuz 1988'de İran-Irak savaşı sırasında İran savaş
gemileriyle bir çatışmanın ortasında, radar sistemi yaklaşan bir uçak konusunda
uyarıda bulundu. Yüzbaşı William Rodgers III, dalış yapan bir İran F-14 savaş
uçağı tarafından saldırıya uğradıkları sonucuna vardı ve Aegis sistemine ateş
etmesi için onay verdi. O sırada fark etmediği şey, sivil bir İran yolcu uçağı olan
Iran Air Flight 655'i düşürerek uçaktaki 290 kişinin tamamını öldürmeleri ve
uluslararası öfkeye neden olmalarıydı. Sonraki soruşturma, radar ekranındaki
hangi noktaların sivil uçaklar olduğunu (Uçuş 655 normal günlük uçuş yolunu
izledi ve sivil uçak transponderini açıktı) veya hangi noktaların indiğini (bir
saldırı için olduğu gibi) otomatik olarak göstermeyen kafa karıştırıcı bir kullanıcı
arayüzüne işaret etti. artana karşı (Uçuş 655'in Tahran'dan kalktıktan sonra
yaptığı gibi). Bunun yerine, otomatik sistem gizemli uçakla ilgili bilgi için
sorgulandığında, "alçalan" olduğunu bildirdi çünkü bu, donanma tarafından
uçakları izlemek için kullanılan bir numarayı kafa karıştırıcı bir şekilde yeniden
atadığı farklı bir uçağın durumuydu: alçalan şey onun yerine Umman
Körfezi'nde çok uzakta faaliyet gösteren bir ABD yüzey muharebe hava devriye
uçağı.
Bu örnekte, döngüde son kararı veren ve zaman baskısı altında otomatik
sistemin ona söylediklerine çok fazla güvenen bir insan vardı. Şimdiye kadar,
dünyanın dört bir yanındaki savunma yetkililerine göre, kara mayınları gibi
düşük teknolojili bubi tuzakları dışında, konuşlandırılmış tüm silah sistemlerinin
döngüsünde bir insan var. Ancak, hedefleri tamamen kendi başlarına seçen ve
onlara saldıran gerçekten otonom silahların geliştirilmesi şu anda devam
ediyor. Hız kazanmak için tüm insanları döngüden çıkarmak askeri açıdan
caziptir: anında tepki verebilen tamamen otonom bir dron ile dünyanın diğer
ucundaki bir insan tarafından uzaktan kumanda edildiği için daha yavaş tepki
veren bir dron arasındaki it dalaşında, hangisini yaparsınız? kazanacağını
düşünüyorum?
 Ancak, döngüde bir insan olduğu için son derece şanslı olduğumuz yakın
görüşmeler oldu. 27 Ekim 1962'de Küba Füze Krizi sırasında on bir ABD
Donanması destroyeri ve USS Randolph uçak gemisi
Sovyet denizaltısı B-59'u Küba yakınlarında, ABD "karantina" bölgesinin dışındaki
uluslararası sularda köşeye sıkıştırdı. Bilmedikleri şey, denizaltının pillerinin
bitmesi ve klimanın durması nedeniyle gemideki sıcaklığın 45°C'yi (113°F)
aştığıydı. Karbondioksit zehirlenmesinin eşiğindeyken, birçok mürettebat üyesi
bayılmıştı. Mürettebatın Moskova ile günlerdir hiçbir teması olmamıştı ve III. Dünya
Savaşı'nın çoktan başlayıp başlamadığını bilmiyorlardı. Sonra Amerikalılar,
mürettebatın haberi olmadan, Moskova'ya yalnızca denizaltını yüzeye çıkmaya ve
ayrılmaya zorlamak için olduğunu söylediği küçük derinlik bombaları atmaya
başladılar. Mürettebat üyesi VP Orlov, "Son olduğunu düşündük," diye hatırladı.
"Birinin sürekli olarak balyozla patlattığı metal bir varilin içinde oturuyormuş gibi
hissettiniz." Amerikalıların da bilmediği şey, B-59 mürettebatının Moskova'dan izin
almadan fırlatma yetkisine sahip bir nükleer torpidoya sahip olduğuydu. Gerçekten
de, Kaptan Savitski nükleer torpidoyu fırlatmaya karar verdi. Torpido subayı
Valentin Grigorievich, "Öleceğiz ama hepsini batıracağız - donanmamızı küçük
düşürmeyeceğiz!" Neyse ki, fırlatma kararı gemideki üç subay tarafından
38
onaylanmak zorundaydı ve bunlardan biri, Vasili Arkhipov, hayır dedi. Kararı III.
B-59'un döngüde hiç insan olmayan yapay zeka kontrollü otonom bir denizaltı
olsaydı neler olabileceğini düşünmek de ayık.
Yirmi yıl sonra, 9 Eylül 1983'te süper güçler arasındaki gerilim yeniden yüksekti:
Sovyetler Birliği kısa süre önce ABD başkanı Ronald Reagan tarafından "şeytani
bir imparatorluk" olarak anılmıştı ve daha geçen hafta Kore Havayolları'na ait bir
yolcuyu düşürmüştü. hava sahasına giren ve bir ABD kongre üyesi dahil 269 kişiyi
öldüren uçak. Şimdi otomatik bir Sovyet erken uyarı sistemi, ABD'nin Sovyetler
Birliği'ne beş kara tabanlı nükleer füze fırlattığını bildirdi ve Memur Stanislav
Petrov'un bunun yanlış bir alarm olup olmadığına karar vermesi için sadece birkaç
dakika kaldı. Uydunun düzgün çalıştığı tespit edildi, bu nedenle protokole uymak,
onun gelen bir nükleer saldırıyı bildirmesine yol açacaktı. Bunun yerine, Amerika
Birleşik Devletleri'nin yalnızca beş füzeyle saldırmasının pek olası olmadığını
anlayarak içgüdülerine güvendi ve bunun doğru olduğunu bilmeden komutanlarına
bunun yanlış bir alarm olduğunu bildirdi. Daha sonra, bir uydunun Güneş'in bulut
tepelerindeki yansımalarını roket motorlarından çıkan alevlerle karıştırdığı
39
anlaşıldı. Petrov'un yerine uygun protokolü düzgün bir şekilde izleyen bir yapay
zeka sistemi gelseydi ne olurdu merak ediyorum.
Bir Sonraki Silahlanma Yarışı mı?
Şimdiye kadar hiç şüphesiz tahmin ettiğiniz gibi, kişisel olarak otonom silah
sistemleri konusunda ciddi endişelerim var. Ama size asıl endişemden
bahsetmeye başlamadım bile: AI silahlarında bir silahlanma yarışının son noktası.
Temmuz 2015'te, Stuart Russell ile birlikte Future of Life Enstitüsü'ndeki
meslektaşlarımın faydalı geri bildirimleriyle birlikte aşağıdaki açık mektupta bu
40
endişemi dile getirdim:
 OTONOM SİLAHLAR:

Yapay Zeka ve Robotik Araştırmacılarından Açık Mektup

Otonom silahlar, insan müdahalesi olmadan hedefleri seçer ve

vurur. Örneğin, önceden tanımlanmış belirli kriterleri karşılayan
insanları arayıp ortadan kaldırabilen silahlı quadcopter'ları
içerebilir, ancak tüm hedefleme kararlarını insanların verdiği
seyir füzelerini veya uzaktan kumandalı dronları içermez. Yapay
Zeka (AI) teknolojisi, bu tür sistemlerin konuşlandırılmasının
yasal olarak olmasa da pratik olarak onlarca yıl içinde değil, yıllar
içinde mümkün olduğu bir noktaya ulaştı ve riskler yüksek:
otonom silahlar, barut ve nükleerden sonra savaşta üçüncü
devrim olarak tanımlanıyor. silâh.
Otonom silahların lehinde ve aleyhinde pek çok argüman öne
sürülmüştür, örneğin, insan askerlerin makinelerle değiştirilmesi, mal
sahibinin zayiatını azaltarak iyi, ancak bu nedenle savaşa gitme
eşiğini düşürerek kötüdür. Bugün insanlık için kilit soru, küresel bir AI
silahlanma yarışı başlatıp başlatmamak veya başlamasını
engellemektir. Herhangi bir büyük askeri güç, AI silah geliştirme
konusunda ilerleme kaydederse, küresel bir silahlanma yarışı
neredeyse kaçınılmazdır ve bu teknolojik yörüngenin son noktası
açıktır: otonom silahlar yarının Kalaşnikofları olacaktır. Nükleer
silahların aksine, pahalı veya elde edilmesi zor hammaddeler
gerektirmiyorlar, bu nedenle tüm önemli askeri güçler için seri üretim
için her yerde hazır ve ucuz hale gelecekler. Karaborsada ve
halklarını daha iyi kontrol etmek isteyen diktatörlerin, etnik temizlik
yapmak isteyen savaş ağalarının vs. ellerinde ortaya çıkmaları an
meselesi olacaktır. Otonom silahlar suikast, istikrarsızlaştırma gibi
görevler için idealdir uluslar, nüfusları bastırmak ve belirli bir etnik
grubu seçerek öldürmek. Bu nedenle, askeri bir yapay zeka
silahlanma yarışının insanlık için faydalı olmayacağına inanıyoruz.
Yapay zekanın savaş alanlarını insanlar için daha güvenli hale
getirmesinin birçok yolu vardır, özellikle de
 insanları öldürmek için yeni araçlar yaratmadan siviller.
Çoğu kimyager ve biyoloğun kimyasal veya biyolojik silahlar
yapmakla ilgilenmediği gibi, çoğu AI araştırmacısı da AI silahları
yapmakla ilgilenmiyor ve başkalarının bunu yaparak kendi alanlarını
lekelemesini istemiyor, potansiyel olarak AI'ya karşı büyük bir halk
tepkisi yaratarak onun gücünü azaltıyor. Gelecekteki toplumsal
faydalar. Aslında kimyagerler ve biyologlar, kimyasal ve biyolojik
silahları başarıyla yasaklayan uluslararası anlaşmaları geniş ölçüde
desteklediler, tıpkı çoğu fizikçinin uzaya dayalı nükleer silahları ve kör
edici lazer silahlarını yasaklayan anlaşmaları desteklemesi gibi.

Endişelerimizi yalnızca pasifist ağaç kucaklayıcılardan geliyormuş gibi

görmezlikten gelmeyi zorlaştırmak için, mektubumuzu mümkün olduğunca çok
sayıda sıkı yapay zeka araştırmacısı ve robot uzmanına imzalatmak istedim.
Uluslararası Robotik Silah Kontrolü Kampanyası daha önce katil robotların
yasaklanması çağrısında bulunan yüzlerce imza sahibini bir araya toplamıştı ve
ben daha iyisini yapabileceğimizden şüpheleniyordum. Meslek kuruluşlarının
devasa üye e-posta listelerini siyasi olarak yorumlanabilecek bir amaçla paylaşma
konusunda isteksiz davranacaklarını biliyordum, bu yüzden araştırmacıların
adlarını ve kurumlarını çevrimiçi belgelerden bir araya getirdim ve e-posta
adreslerini MTurk'te bulma görevinin reklamını yaptım. — Amazon Mechanical
Turk kitle kaynak platformu. Çoğu araştırmacının e-posta adresleri üniversite web
sitelerinde listelenmiştir ve yirmi dört saat ve 54 $ sonra, Derneğin Üyesi seçilecek
kadar başarılı olan yüzlerce yapay zeka araştırmacısından oluşan bir posta
listesinin gururlu sahibiydim. Yapay Zekanın İlerlemesi (AAAI). Bunlardan biri,
listedeki diğer herkese e-posta göndermeyi ve kampanyamıza öncülük etmeyi
nazikçe kabul eden İngiliz-Avustralyalı yapay zeka profesörü Toby Walsh'du.
Dünyanın dört bir yanındaki MTurk çalışanları yorulmadan Toby için ek posta
listeleri oluşturdu ve çok geçmeden, Google, Facebook, Microsoft ve Tesla'dan altı
eski AAAI başkanı ve AI endüstri lideri de dahil olmak üzere 3.000'den fazla AI
araştırmacısı ve robotik araştırmacısı açık mektubumuzu imzaladı. FLI
gönüllülerinden oluşan bir ordu, imzacı listelerini doğrulamak için yorulmadan
çalıştı ve Bill Clinton ve Sarah Connor gibi sahte girişleri kaldırdı. Stephen Hawking
de dahil olmak üzere 17.000'den fazla kişi de imzaladı ve Toby, Uluslararası Yapay
Zeka Ortak Konferansı'nda bununla ilgili bir basın toplantısı düzenledikten sonra,
bu dünya çapında önemli bir haber oldu.
Biyologlar ve kimyagerler bir zamanlar taraf tuttukları için artık alanları biliniyor.
esas olarak biyolojik ve kimyasal silahlardan ziyade faydalı ilaçlar ve
malzemeler yaratmak için. AI ve robotik toplulukları da artık konuşmuştu:
Mektubu imzalayanlar, alanlarının insanları öldürmenin yeni yollarını
yaratmak için değil, daha iyi bir gelecek yaratmak için bilinmesini istiyorlardı.
Ancak AI'nın gelecekteki ana kullanımı sivil mi yoksa askeri mi olacak? İlki
için bu bölümde daha fazla sayfa harcamış olsak da, yakında ikincisi için
daha fazla para harcıyor olabiliriz; özellikle de askeri bir yapay zeka
silahlanma yarışı başlarsa. Sivil yapay zeka yatırım taahhütleri 2016'da bir
milyar doları aştı, ancak bu, Pentagon'un yapay zeka ile ilgili projeler için
2017 mali 2017 bütçe talebi olan 12-15 milyar dolarlık bütçe talebiyle gölgede
kaldı ve Çin ve Rusya, Savunma Bakan Yardımcısı Robert Work'ün
söylediklerini dikkate alacak gibi görünüyor. bu duyurulduğu zaman:
“Rakiplerimizin siyah perdenin ardında ne olduğunu merak etmesini
41
istiyorum.”
Uluslararası Bir Anlaşma Olmalı mı?
gerektiğine dair canlı bir tartışma var . Önde gelen pek çok paydaş, dünya
güçlerinin AWS araştırmasına ve kullanımına rehberlik edecek bir tür uluslararası
düzenleme hazırlaması gerektiği konusunda hemfikir olsa da, tam olarak neyin
yasaklanması gerektiği ve bir yasağın nasıl uygulanacağı konusunda daha az fikir
birliği var. Örneğin, sadece ölümcül otonom silahlar mı yasaklanmalı yoksa
insanları kör ederek ciddi şekilde yaralayanlar da mı yasaklanmalı? Geliştirmeyi,
üretimi veya mülkiyeti yasaklar mıyız? Yasak tüm otonom silah sistemlerine mi
uygulanmalı yoksa mektubumuzda belirtildiği gibi sadece otonom uçaksavar
silahları ve füze savunma sistemleri gibi savunma sistemlerine izin veren taarruz
sistemlerine mi uygulanmalı? İkinci durumda, AWS düşman bölgesine kolayca
girebilseler bile savunma olarak mı sayılmalı? Otonom bir silahın çoğu bileşeninin
ikili bir sivil kullanıma da sahip olduğu göz önüne alındığında, bir anlaşmayı nasıl
uygularsınız? Örneğin, Amazon paketlerini teslim edebilen bir drone ile bombaları
teslim edebilen bir drone arasında pek bir fark yoktur.
Bazı tartışmacılar, etkili bir AWS anlaşması tasarlamanın umutsuzca zor olduğunu
ve bu nedenle denemememiz gerektiğini savundu. Öte yandan John F. Kennedy, Ay
görevlerini duyururken, başarının insanlığın geleceğine büyük fayda sağlayacağı
zaman, zor şeylerin denenmeye değer olduğunu vurguladı. Dahası, pek çok uzman,
biyolojik ve kimyasal silahlara yönelik yasakların, uygulanması zor olsa da, önemli
hilelerle birlikte değerli olduğunu, çünkü yasakların kullanımlarını sınırlayan ciddi
damgalamaya neden olduğunu savunuyor.
Henry Kissinger ile 2016 yılında bir akşam yemeğinde tanıştım ve kendisine
biyolojik silahların yasaklanmasındaki rolünü sorma fırsatı buldum. ABD ulusal
güvenlik danışmanıyken, yasağın ABD ulusal güvenliği için iyi olacağına Başkan
Nixon'u nasıl ikna ettiğini anlattı. Doksan iki yaşındaki biri için zihninin ve
hafızasının ne kadar keskin olduğundan etkilendim ve onun iç bakış açısını
duymak beni büyüledi. Amerika Birleşik Devletleri, konvansiyonel ve nükleer
kuvvetleri sayesinde zaten süper güç statüsüne sahip olduğundan, dünya
çapındaki biyolojik silahların belirsiz bir şekilde silahlanma yarışından
kazanacağından çok kaybedecek şeyi vardı. Başka bir deyişle, zaten en iyi
köpekseniz, "Kırılmadıysa, düzeltmeyin" özdeyişini takip etmek mantıklıdır. Stuart
Russell yemek sonrası sohbetimize katıldı ve tam olarak aynı argümanın nasıl
yapılabileceğini tartıştık.
ölümcül otonom silahlar hakkında: bir silahlanma yarışından en çok
kazananlar süper güçler değil, küçük haydut devletler ve silahlara
geliştirildikten sonra karaborsa yoluyla erişim sağlayan teröristler gibi
devlet dışı aktörlerdir.
Kitlesel olarak üretildikten sonra, yapay zeka destekli küçük öldürücü
dronların maliyeti muhtemelen bir akıllı telefondan biraz daha fazla olacaktır.
İster bir politikacıyı öldürmek isteyen bir terörist, ister eski kız arkadaşından
intikam almak isteyen terk edilmiş bir aşık olsun, yapmaları gereken tek şey
hedeflerinin fotoğrafını ve adresini katil insansız hava aracına yüklemek: daha
sonra varış noktasına uçabilir, saldırganı belirleyip ortadan kaldırabilir. kişi ve
kimin sorumlu olduğunu kimsenin bilmemesini sağlamak için kendini yok et.
Alternatif olarak, etnik temizliğe eğilimli olanlar için, yalnızca belirli bir ten
rengine veya etnik kökene sahip insanları öldürmek üzere kolayca
programlanabilir. Stuart, bu tür silahlar ne kadar akıllı olursa, öldürme başına o
kadar az malzeme, ateş gücü ve paraya ihtiyaç duyulacağını öngörüyor.
Örneğin, küçük bir merminin bile beyne devam etmesine izin verecek kadar
yumuşak olan insanları gözünden vurarak minimum patlayıcı güç kullanarak
ucuza öldüren yaban arısı büyüklüğündeki dronlardan korkuyor. Ya da metal
pençelerle kafaya kilitlenebilir ve daha sonra küçük şekilli bir yük ile kafatasına
girebilirler. Tek bir kamyonun arkasından bu tür bir milyon öldürücü insansız
hava aracı gönderilebilirse, o zaman tamamen yeni türden korkunç bir kitle imha
silahına sahip olursunuz: yalnızca belirlenmiş bir insan kategorisini seçerek
öldürebilen, herkesi ve diğer her şeyi zarar görmeden bırakan bir silah. .
Ortak bir karşı argüman, katil robotları etik hale getirerek bu tür endişeleri
ortadan kaldırabileceğimizdir - örneğin, yalnızca düşman askerlerini öldürsünler.
Ancak bir yasağı uygulama konusunda endişeleniyorsak, o zaman düşman
otonom silahlarının %100 etik olması gerekliliğini uygulamak, bunların en başta
üretilmediğini zorunlu kılmaktan nasıl daha kolay olur? Ve aynı zamanda haydut
ulusların, diktatörlerin ve terörist grupların kurallara uymakta çok iyi olduğu iddia
edilirken, medeni ulusların iyi eğitimli askerlerinin savaş kurallarına uymakta o
kadar kötü olduğu ve robotların daha iyisini yapabileceği iddia edilebilir mi?
robotları bu kuralları ihlal edecek şekilde konuşlandırmayı asla seçmeyeceklerini?
Sanal savaş
Yapay zekanın bir başka ilginç askeri yönü de, kendi silahınızı oluşturmadan
bile siber savaş yoluyla düşmanınıza saldırmanıza izin verebilmesidir.
Geleceğin neler getirebileceğine dair küçük bir başlangıç olarak, yaygın olarak
ABD ve İsrail hükümetlerine atfedilen Stuxnet solucanı, İran'ın nükleer
zenginleştirme programındaki hızlı dönen santrifüjlere bulaştı ve onların
kendilerini parçalamalarına neden oldu. Toplum ne kadar otomatikleşirse ve
saldıran yapay zeka ne kadar güçlü olursa, siber savaş o kadar yıkıcı olabilir.
Düşmanınızın sürücüsüz arabalarını, otomatik pilotlu uçaklarını, nükleer
reaktörlerini, endüstriyel robotlarını, iletişim sistemlerini, finansal sistemlerini ve
elektrik şebekelerini hackleyebilir ve çökertebilirseniz, ekonomisini çökertebilir
ve savunmasını sakat bırakabilirsiniz. Silah sistemlerinden bazılarını da
hackleyebilirseniz, daha da iyi.
Bu bölüme, yapay zekayı sağlam ve hacklenemez hale getirmeyi
başarırsak, insanlığa fayda sağlayacak yakın vadeli fırsatların ne kadar
muhteşem olduğunu inceleyerek başladık. Yapay zekanın kendisi, yapay
zeka sistemlerini daha sağlam hale getirmek ve böylece siber savaş
savunmasına yardımcı olmak için kullanılabilse de, yapay zeka açıkça
saldırıya da yardımcı olabilir. Savunmanın galip gelmesini sağlamak, AI
gelişimi için en önemli kısa vadeli hedeflerden biri olmalıdır; aksi takdirde,
inşa ettiğimiz tüm harika teknoloji bize karşı kullanılabilir!
 İşler ve Ücretler
dönüştürücü yeni ürün ve hizmetleri uygun fiyatlarla etkinleştirerek yapay zekanın
tüketiciler olarak bizi nasıl etkileyeceğine odaklandık. Fiyat:% s. Ancak iş
piyasasını dönüştürerek işçiler olarak bizi nasıl etkileyecek ? İnsanları gelirsiz veya
amaçsız bırakmadan otomasyon yoluyla refahımızı nasıl artıracağımızı
bulabilirsek, isteyen herkes için boş zaman ve benzeri görülmemiş bir zenginlik ile
harika bir gelecek yaratma potansiyeline sahibiz. Bu konuda MIT'deki
meslektaşlarımdan biri olan ekonomist Erik Brynjolfsson kadar çok az insan daha
uzun ve derinlemesine düşünmüştür. Her zaman bakımlı ve kusursuz giyimli
olmasına rağmen, İzlanda mirasına sahiptir ve bazen bizim işletme okulumuza
uyum sağlamak için vahşi bir kızıl Viking sakalını ve yelesini daha yeni düzelttiğini
hayal edemiyorum. Kesinlikle çılgın fikirlerinden vazgeçmedi ve iyimser iş piyasası
vizyonuna "Dijital Atina" diyor. Antik çağın Atina vatandaşlarının demokrasinin,
sanatın ve oyunların tadını çıkarabilecekleri boş hayatlara sahip olmalarının
nedeni, esas olarak, işin çoğunu yapmak için kölelere sahip olmalarıydı. Ama
neden köleleri AI destekli robotlarla değiştirip herkesin keyif alabileceği bir dijital
ütopya yaratmıyorsunuz? Erik'in yapay zeka güdümlü ekonomisi, yalnızca stresi
ve angaryayı ortadan kaldırıp bugün istediğimiz her şeyi bol miktarda üretmekle
kalmayacak, aynı zamanda günümüz tüketicilerinin henüz istediklerinin farkına
varmadığı bir sürü harika yeni ürün ve hizmet sunacaktır.
Teknoloji ve Eşitsizlik
Herkesin saatlik maaşı yıldan yıla artmaya devam ederse, bugün bulunduğumuz
yerden Erik'in Dijital Atina'sına ulaşabiliriz, böylece daha fazla boş zaman
isteyenler kademeli olarak daha az çalışarak yaşam standartlarını iyileştirmeye
devam edebilir. Şekil 3.5 Amerika Birleşik Devletleri'nde yaşananların tam olarak
bu olduğunu gösteriyor. 1970'lerin ortalarına kadar II. Ama sonra, Erik'in ilk itiraf
ettiği gibi, bir şeyler değişti: şekil 3.5 ekonominin büyümeye ve ortalama geliri
artırmaya devam etmesine rağmen, son kırk yıldaki kazanımların en zengin %1'e
gittiğini, en yoksul %90'ın gelirlerinin ise durgunlaştığını gösteriyor. Gelire değil
servete bakarsak, eşitsizlikte ortaya çıkan büyüme daha da belirgindir. ABD
hanelerinin en alttaki %90'lık kesiminin ortalama net değeri 2012'de yaklaşık
85.000 dolardı - yirmi beş yıl öncekiyle aynıydı - en üstteki %1'lik kesim ise o
dönemde enflasyona göre ayarlanmış servetini iki katından fazla artırarak 14
42
milyon dolara çıkardı. 2013'te dünya nüfusunun alt yarısının (3,6 milyardan
fazla insan) toplam servetinin dünyanın en zengin sekiz insanınınkiyle aynı olduğu
istatistiktir
43 - bu, dünyadaki yoksulluğu ve kırılganlığı vurgulayan bir . alttaki
zenginlik kadar üstteki. 2015 Porto Riko konferansımızda Erik, toplanan yapay
zeka araştırmacılarına yapay zeka ve otomasyondaki ilerlemenin ekonomik
pastayı büyütmeye devam edeceğini düşündüğünü, ancak herkesin, hatta çoğu
insanın yararlanacağı bir ekonomik yasa olmadığını söyledi.
Ekonomistler arasında eşitsizliğin arttığı konusunda geniş bir fikir birliği
olmasına rağmen, eğilimin neden devam edip etmeyeceği ve devam edip
etmeyeceği konusunda ilginç bir tartışma var. Siyasi yelpazenin sol tarafındaki
tartışmacılar, genellikle ana nedenin küreselleşme ve/veya zenginler için vergi
indirimleri gibi ekonomik politikalar olduğunu iddia ederler. Ancak Erik
Brynjolfsson ve MIT işbirlikçisi Andrew McAfee, ana nedenin başka bir şey
44
olduğunu savunuyor: teknoloji. Spesifik olarak, dijital teknolojinin eşitsizliği
üç farklı şekilde yönlendirdiğini öne sürüyorlar.
İlk olarak, teknoloji, eski işleri daha fazla beceri gerektiren işlerle
değiştirerek eğitimlileri ödüllendirdi: 1970'lerin ortalarından bu yana,
yüksek lisans derecesine sahip olanların maaşları yaklaşık %25 artarken,
45
lise terk ortalama bir kişinin maaşında %30'luk bir kesinti yapıldı.
 İkincisi, 2000 yılından bu yana, şirket gelirlerinden giderek daha büyük bir
payın, orada çalışanların aksine şirket sahiplerinin eline geçtiğini ve otomasyon
devam ettiği sürece, makinelerin sahiplerinden beklememiz gerektiğini iddia
ediyorlar. pastadan büyüyen bir pay almak için. Sermayenin emeğe karşı bu
üstünlüğü, teknoloji vizyoneri Nicholas Negroponte'nin atomlar değil hareketli
parçalar olarak tanımladığı büyüyen dijital ekonomi için özellikle önemli olabilir.
Artık kitaplardan filmlere ve vergi hazırlama araçlarına kadar her şey dijital hale
geldiğine göre, ek kopyalar, ek çalışanlar işe alınmadan temelde sıfır maliyetle
dünya çapında satılabilir. Bu, gelirin çoğunun işçilerden ziyade yatırımcılara
gitmesine izin verir ve 1990'da Detroit'in “Big 3”ünün (GM, Ford ve Chrysler)
birleşik gelirlerinin neden Silikon Vadisi'nin “Big 3'ünün”kilerle hemen hemen
aynı olduğunu açıklamaya yardımcı olur. ” (Google, Apple, Facebook) 2014'te
ikincisi dokuz kat daha az çalışana sahipti ve borsada otuz kat daha değerliydi.
47
 Şekil 3.5: Ekonomi geçen yüzyılda ortalama geliri nasıl artırdı ve bu gelirin ne kadarı
farklı gruplara gitti? 1970'lerden önce, zengin ve fakir herkesin aynı anda daha iyi
durumda olduğu görülüyor, ardından kazançların çoğu en üstteki %1'e giderken, en
46
alttaki %90 ortalama olarak neredeyse sıfıra yakın bir kazanç elde etti. Tutarlar
enflasyona göre düzeltilmiş 2017 yılı dolarına göre yapılmıştır.

Üçüncüsü, Erik ve işbirlikçileri, dijital ekonominin genellikle süper yıldızlara

herkesten çok fayda sağladığını savunuyorlar. Harry Potter yazarı JK Rowling,
milyarderler kulübüne katılan ilk yazar oldu ve Shakespeare'den çok daha
zengin oldu çünkü hikayeleri metin, film ve oyun şeklinde milyarlarca insana çok
düşük maliyetle aktarılabiliyordu. Benzer şekilde, Scott Cook, insan vergi
hazırlayıcılarının aksine indirme olarak satılabilen TurboTax vergi hazırlama
yazılımından bir milyar kazandı. Çoğu insan en iyi onuncu vergi hazırlama
yazılımı için çok az ödemeye veya hiç ödemeye razı olduğundan, pazarda
yalnızca mütevazı sayıda süperstar için yer var. Bu, dünyadaki tüm ebeveynler
çocuklarına bir sonraki JK Rowling, Gisele Bündchen, Matt Damon, Cristiano
Ronaldo, Oprah Winfrey veya Elon Musk olmalarını tavsiye ederse, neredeyse
hiçbir çocuklarının bunu geçerli bir kariyer stratejisi olarak görmeyeceği
anlamına gelir.
Çocuklar İçin Kariyer Önerileri
Peki çocuklarımıza nasıl bir kariyer tavsiyesi vermeliyiz ? Benimkini makinelerin
şu anda kötü olduğu ve bu nedenle yakın gelecekte otomatikleşme olasılığı
düşük görünen mesleklere girmeye teşvik ediyorum. Çeşitli işlerin ne zaman
makineler tarafından devralınacağına ilişkin son tahminler, bir kişinin kendini o
iş için eğitmeye karar vermeden önce bir kariyer hakkında sorulması gereken
48
birkaç yararlı soruyu belirliyor. Örneğin:
• İnsanlarla etkileşime girmeyi ve sosyal zekayı kullanmayı
gerektiriyor mu?
• Yaratıcılığı ve akıllı çözümler bulmayı içeriyor mu?
• Öngörülemeyen bir ortamda çalışmayı gerektiriyor mu?

Bu sorulara ne kadar çok evet yanıtı verirseniz, kariyer seçiminiz o kadar iyi olur.
Bu, öğretmen, hemşire, doktor, diş hekimi, bilim adamı, girişimci, programcı,
mühendis, avukat, sosyal hizmet görevlisi, din adamı, sanatçı, kuaför veya masaj
terapisti olmanın nispeten güvenli bahisler olduğu anlamına gelir.
Buna karşılık, öngörülebilir bir ortamda oldukça tekrar eden veya
yapılandırılmış eylemler içeren işlerin otomatik hale gelmeden önce uzun
sürmesi pek olası değildir. Bilgisayarlar ve endüstriyel robotlar bu tür en basit
işleri uzun zaman önce devraldı ve gelişen teknoloji, telefonla
pazarlamacılardan depo çalışanlarına, kasiyerlere, tren operatörlerine,
fırıncılara ve aşçılara kadar daha pek çok şeyi ortadan kaldırma sürecinde.
49
Yakında kamyon, otobüs, taksi ve Uber/Lyft araba sürücülerinin de
gelmesi muhtemel. Tamamen yok olma tehlikesiyle karşı karşıya olan listede
olmasalar da, görevlerinin çoğunu otomatik hale getiren ve bu nedenle çok
daha az insan gerektiren daha birçok meslek var (yardımcılar, kredi
analistleri, kredi memurları, muhasebeciler ve vergi muhasebecileri dahil).
Ancak otomasyondan uzak durmak, kariyerdeki tek zorluk değildir. Bu
küresel dijital çağda, profesyonel bir yazar, film yapımcısı, oyuncu, atlet veya
moda tasarımcısı olmayı hedeflemek başka bir nedenden dolayı riskli: Bu
mesleklerdeki insanlar yakın zamanda makinelerden ciddi bir rekabet
görmeyecek olsalar da, giderek daha acımasız bir rekabetle karşılaşacaklar.
yukarıda bahsedilen süper yıldız teorisine göre dünyanın dört bir yanındaki
diğer insanlardan ve çok azı başarılı olacak.
 Çoğu durumda, tüm alanlar düzeyinde kariyer tavsiyesi vermek çok miyop ve
kaba olacaktır: Tamamen ortadan kaldırılmayacak birçok iş vardır, ancak
bu da görevlerinin çoğunun otomatik olduğunu görecek. Örneğin, tıp
okuyorsanız, tıbbi görüntüleri analiz eden ve yerini IBM'in Watson'ına
bırakan radyolog olmayın, radyoloji analizi sipariş eden, sonuçları hastayla
tartışan ve tedavi planına karar veren doktor olun. Finans işine girerseniz,
verilere algoritmalar uygulayan ve yerini yazılıma bırakan "nicelik" değil,
stratejik yatırım kararları almak için niceliksel analiz sonuçlarını kullanan fon
yöneticisi olun. Hukuka girerseniz, keşif aşaması için binlerce belgeyi
inceleyen ve otomatik olarak uzaklaşan bir avukat yardımcısı değil,
müvekkile danışmanlık yapan ve mahkemede davayı sunan avukat olun.
Şimdiye kadar, AI çağında iş piyasasındaki başarılarını en üst düzeye çıkarmak
için bireylerin neler yapabileceğini araştırdık. Ancak hükümetler, iş güçlerinin
başarılı olmasına yardımcı olmak için ne yapabilir? Örneğin, yapay zekanın hızla
gelişmeye devam ettiği bir iş piyasasına insanları en iyi hangi eğitim sistemi
hazırlar? Hala bir veya yirmi yıllık eğitim ve ardından kırk yıllık uzmanlık
çalışmasıyla mevcut modelimiz mi? Yoksa insanların birkaç yıl çalıştığı, ardından
bir yıl okula döndüğü ve ardından birkaç yıl daha çalıştığı bir sisteme geçmek daha
50
mı iyi? Yoksa sürekli eğitim (belki çevrimiçi olarak sağlanır) herhangi bir işin
standart bir parçası mı olmalı?
Ve iyi yeni işler yaratmak için en çok hangi ekonomik politikalar yardımcı olur?
Andrew McAfee, araştırma, eğitim ve altyapıya büyük yatırım yapmak, göçü
kolaylaştırmak ve girişimciliği teşvik etmek de dahil olmak üzere yardımcı
olabilecek birçok politika olduğunu savunuyor. En azından Amerika Birleşik
Devletleri'nde "Econ 101 başucu kitabının açık olduğunu, ancak takip edilmediğini"
51
düşünüyor.
İnsanlar Sonunda İşsiz Kalacak mı?
AI gelişmeye devam ederse ve daha fazla işi otomatikleştirirse ne olacak?
Pek çok insan, otomatikleştirilmiş işlerin daha da iyi olan yenileriyle
değiştirileceğini savunarak iş konusunda iyimserdir. Ne de olsa,
Luddite'ların Sanayi Devrimi sırasında teknolojik işsizlikten endişe
duymasından bu yana, daha önce hep olan buydu.
Ancak diğerleri, iş karamsarları ve bu zamanın farklı olduğunu ve giderek daha
fazla sayıda insanın sadece işsiz kalmayıp aynı zamanda çalışamaz hale
52
geleceğini savunuyorlar. İş karamsarları, serbest piyasanın maaşları arz ve
talebe göre belirlediğini ve artan ucuz makine emeği arzının sonunda insan
maaşlarını yaşam maliyetinin çok altına çekeceğini savunuyorlar. Bir iş için
piyasadaki maaş, onu en ucuza yapanın saatlik maliyeti olduğundan, belirli bir
mesleği düşük gelirli bir ülkeye veya ucuz bir makineye yaptırmak mümkün
olduğunda maaşlar tarihsel olarak düşmüştür. Sanayi Devrimi sırasında,
kaslarımızı makinelerle nasıl değiştireceğimizi çözmeye başladık ve insanlar
akıllarını daha çok kullandıkları daha iyi maaşlı işlere yöneldiler. Mavi yakalı işler
yerini beyaz yakalılara bıraktı. Şimdi yavaş yavaş zihinlerimizi makinelerle nasıl
değiştireceğimizi buluyoruz. Sonunda bunu başarırsak, bize hangi işler kalır?
yaratıcı işlerde olacağını savunuyorlar , ancak iş konusunda kötümserler,
yaratıcılığın başka bir zihinsel süreç olduğunu ve böylece sonunda yapay zeka
tarafından yönetileceğini savunuyorlar. Diğer iş iyimserleri, bir sonraki patlamanın
bunun yerine, henüz aklımıza bile gelmemiş yeni teknoloji destekli mesleklerde
olacağını umuyor. Ne de olsa, Sanayi Devrimi sırasında torunlarının bir gün web
tasarımcıları ve Uber sürücüleri olarak çalışacağını kim hayal edebilirdi? Ancak iş
karamsarları, ampirik verilerden çok az destek alarak bunun hüsnükuruntu
olduğunu söyleyerek karşı çıkarlar. Aynı tartışmayı bir asır önce, bilgisayar
devriminden önce de yapabileceğimize işaret ediyorlar ve günümüzün
mesleklerinin çoğunun yeni ve daha önce hayal bile edilemeyen, eskiden var
olmayan teknoloji destekli meslekler olacağını tahmin ediyorlardı. Bu tahmin,
aşağıda gösterildiği gibi epik bir başarısızlık olurdu. Şekil 3.6 : Bugünün
mesleklerinin büyük çoğunluğu bir asır önce zaten var olan mesleklerdir ve onları
sağladıkları iş sayısına göre sıraladığımızda, karşılaşana kadar listede yirmi birinci
sıraya kadar inmek zorundayız. yeni bir meslek:
ABD iş piyasasının %1'inden daha azını oluşturan yazılım geliştiricileri.
Yüksekliğin makinelerin çeşitli görevleri yerine getirmesinin ne kadar zor
olduğunu ve yükselen deniz seviyesinin makinelerin şu anda neler yapabileceğini
gösterdiği insan zekasının manzarasını gösteren 2. bölümü hatırlayarak neler
olduğunu daha iyi anlayabiliriz. İş piyasasındaki ana eğilim, tamamen yeni
mesleklere doğru ilerliyor olmamız değil. Bunun yerine, bu arazi parçalarına
doluşuyoruz. şekil 2.2 yükselen teknoloji dalgası tarafından henüz sular altında
kalmayan! Şekil 3.6 bunun tek bir ada değil, makinelerin hala insanlar kadar ucuza
yapamadığı tüm değerli şeylere karşılık gelen adacıklar ve atollerle karmaşık bir
takımada oluşturduğunu gösteriyor. Bu, yalnızca yazılım geliştirme gibi yüksek
teknolojili meslekleri değil, aynı zamanda masaj terapisinden oyunculuğa kadar
üstün el becerimizi ve sosyal becerilerimizi geliştiren bir dizi düşük teknolojili işi de
içerir. Yapay zeka bizi entelektüel görevlerde o kadar hızlı gölgede bırakabilir ki,
kalan son işler bu düşük teknoloji kategorisinde olabilir mi? Geçenlerde bir
arkadaşım, belki de en son mesleğin ilk meslek olacağı konusunda benimle şaka
yaptı: fahişelik. Ama sonra bundan Japon bir robot uzmanına bahsetti ve o da itiraz
etti: "Hayır, robotlar bu tür şeylerde çok iyidir!"
 Şekil 3.6: Pasta grafik, 2015'te bir işi olan 149 milyon Amerikalının mesleklerini, ABD
Çalışma İstatistikleri Bürosu'nun popülerliğe göre sıraladığı 535 iş kategorisini
53
gösteriyor. Bir milyondan fazla çalışanı olan tüm meslekler etiketlenir. Yirmi birinci
sıraya kadar bilgisayar teknolojisinin yarattığı yeni meslekler yok. Bu rakam, Federico
54
Pistono'nun bir analizinden esinlenmiştir.

İş konusunda kötümserler, son noktanın açık olduğunu iddia ediyor: tüm

takımada sular altında kalacak ve insanların makinelerden daha ucuza
yapabileceği hiçbir iş kalmayacak. İskoç-Amerikalı iktisatçı Gregory Clark
, 2007 tarihli Sadaka Veda adlı kitabında atçı arkadaşlarımızla notları
karşılaştırarak gelecekteki iş beklentilerimiz hakkında bir veya iki şey
öğrenebileceğimize dikkat çekiyor. 1900 yılında eski bir otomobile bakan
ve geleceklerini düşünen iki at hayal edin.

“Teknolojik işsizlik konusunda endişeliyim.”

“Neigh, neigh, Luddite olmayın: atalarımız, buhar motorları
endüstrideki işlerimizi elimizden aldığında ve trenler vagonları
çekerek işlerimizi elimizden aldığında aynı şeyi söyledi. Ama bugün
her zamankinden daha fazla işimiz var,
 ve onlar da daha iyi: Aptal bir maden kuyusu pompasına güç
vermek için bütün gün daireler çizerek geçirmektense
kasabanın içinden hafif bir araba çekmeyi tercih ederim.
"Peki ya bu içten yanmalı motor olayı gerçekten patlak
verirse?"
"Eminim atlar için henüz hayal bile edemediğimiz yeni işler
olacak. Tekerleğin ve sabanın icadı gibi, daha önce hep olan
buydu.”

Ne yazık ki, atlar için henüz hayal edilmemiş yeni işler hiç gelmedi. Artık
ihtiyaç duyulmayan atlar katledildi ve değiştirilmedi, bu da ABD at
popülasyonunun 1915'te yaklaşık 26 milyondan 1960'ta yaklaşık 3
oldu.55
milyona düşmesine neden Mekanik kaslar nasıl atları gereksiz
kılıyorsa, mekanik beyinler de aynısını insanlara yapacak mı?
İnsanlara İşsiz Gelir Vermek
Öyleyse kim haklı: Otomatik işlerin yerini daha iyilerinin alacağını söyleyenler mi
yoksa çoğu insanın işsiz kalacağını söyleyenler mi? AI ilerlemesi hız kesmeden
devam ederse, o zaman her iki taraf da haklı olabilir: biri kısa vadede, diğeri uzun
vadede. Ancak insanlar işlerin ortadan kalkmasını sık sık kıyamet ve kasvet
çağrışımlarıyla tartışsalar da, bunun kötü bir şey olması gerekmiyor! Ludditler,
diğer işlerin aynı sosyal değeri sağlayabileceği ihtimalini göz ardı ederek, belirli
işlere takıntılıydılar. Benzer şekilde, bugün iş takıntısı olanlar belki de çok dar
görüşlü davranıyorlar: Bize gelir ve amaç sağlayabilecekleri için iş istiyoruz, ancak
makineler tarafından üretilen kaynakların zenginliği göz önüne alındığında, her
ikisini de sağlamanın alternatif yollarını bulmak mümkün olmalı. işsiz gelir ve amaç
. Tüm atların neslinin tükenmesiyle bitmeyen at hikayesinde de benzer bir şey oldu.
Bunun yerine, atların sayısı 1960'tan bu yana üç kattan fazla arttı, çünkü atlarla
ilgili bir tür sosyal refah sistemi tarafından korunuyorlardı: Kendi faturalarını
ödeyememelerine rağmen, insanlar atlara bakmaya karar verdiler ve onları etrafta
tuttular. eğlence, spor ve arkadaşlık. Biz de benzer şekilde ihtiyacı olan
hemcinslerimizle ilgilenebilir miyiz?
Gelir sorunuyla başlayalım: Büyüyen ekonomik pastanın yalnızca küçük
bir kısmını yeniden dağıtmak, herkesin daha iyi durumda olmasını
sağlamalıdır. Birçoğu bunu sadece yapabileceğimizi değil , yapmamız
gerektiğini de savunuyor . Moshe Vardi'nin AI destekli teknolojiyle hayat
kurtarmak için ahlaki bir zorunluluktan bahsettiği 2016 panelinde, zenginliğin
paylaşılması da dahil olmak üzere faydalı kullanımını savunmanın da ahlaki
bir zorunluluk olduğunu savundum. Aynı zamanda bir panelist olan Erik
Brynjolfsson, "Bütün bu yeni nesil zenginlikle, insanların yarısının
durumunun daha kötüye gitmesini bile engelleyemiyorsak, yazıklar olsun
bize!" dedi.
Her biri destekçileri ve karşıtları olan birçok farklı servet paylaşımı önerisi var.
En basiti , herkesin herhangi bir önkoşul veya koşul olmaksızın aylık ödeme aldığı
temel gelirdir. Şu anda, örneğin Kanada, Finlandiya ve Hollanda'da bir dizi küçük
ölçekli deney deneniyor veya planlanıyor. Savunucular, temel gelirin ihtiyaç
sahiplerine yapılan sosyal yardım ödemeleri gibi alternatiflerden daha verimli
olduğunu, çünkü kimin hak kazanacağını belirleme konusundaki idari zorluğu
ortadan kaldırdığını savunuyorlar. İhtiyaca dayalı sosyal yardım ödemeleri de
çalışmayı caydırdığı için eleştirildi, ancak bu, hiç kimsenin olmadığı işsiz bir
gelecekte elbette önemsiz hale geliyor.
İşler.
Hükümetler vatandaşlarına sadece para vererek değil, aynı zamanda yol, köprü,
park, toplu taşıma, çocuk bakımı, eğitim, sağlık, huzurevleri ve internet erişimi gibi
ücretsiz veya sübvansiyonlu hizmetler sunarak da yardımcı olabilir; aslında, birçok
hükümet zaten bu hizmetlerin çoğunu sağlıyor. Temel gelirin aksine, devlet
tarafından finanse edilen bu tür hizmetler iki ayrı hedefi gerçekleştirir: insanların
yaşam maliyetlerini düşürür ve aynı zamanda istihdam sağlar. Makinelerin tüm
işlerde insanlardan daha iyi performans gösterebildiği bir gelecekte bile
hükümetler, bakım işlerini robotlara devretmek yerine, insanlara çocuk bakımı,
yaşlı bakımı vb. alanlarda çalışmaları için ödeme yapmayı tercih edebilir.
İlginç bir şekilde, teknolojik ilerleme, hükümet müdahalesi olmadan bile birçok
değerli ürün ve hizmeti ücretsiz olarak sunabilir. Örneğin, eskiden ansiklopediler,
atlaslar, mektuplar, telefon görüşmeleri için para ödüyorlardı ama şimdi internet
bağlantısı olan herkes ücretsiz video konferans, fotoğraf paylaşımı, sosyal medya,
çevrimiçi kurslar ve ücretsiz olarak tüm bunlara erişebiliyor. sayısız diğer yeni
hizmetler. Bir insan için son derece değerli olabilecek diğer birçok şey, örneğin hayat
kurtaran bir antibiyotik kürü, son derece ucuz hale geldi. Yani teknoloji sayesinde,
bugün birçok fakir insan bile geçmişte dünyanın en zengin insanlarının sahip olmadığı
şeylere erişebiliyor. Bazıları bunu düzgün bir yaşam için gerekli gelirin düştüğü
anlamına geliyor.
Eğer makineler bir gün mevcut tüm malları ve hizmetleri minimum maliyetle
üretebilirse, o zaman açıkça herkesin daha iyi durumda olmasını sağlayacak
kadar zenginlik vardır. Başka bir deyişle, nispeten mütevazı vergiler bile
hükümetlerin temel gelir ve ücretsiz hizmetler için ödeme yapmasına izin
verebilir. Ancak servet paylaşımının olabileceği gerçeği, olacağı anlamına
gelmiyor ve bugün bunun olması gerekip gerekmediği konusunda güçlü siyasi
anlaşmazlıklar var . Yukarıda gördüğümüz gibi, Amerika Birleşik
Devletleri'ndeki mevcut eğilim, bazı insan gruplarının her on yılda daha da
yoksullaşmasıyla ters yönde görünüyor. Toplumun artan servetinin nasıl
paylaşılacağına ilişkin politika kararları herkesi etkileyecektir, bu nedenle ne tür
bir gelecek ekonomisinin inşa edileceğine ilişkin konuşma yalnızca yapay zeka
araştırmacıları, robot uzmanları ve ekonomistleri değil herkesi kapsamalıdır.
Birçok tartışmacı, gelir eşitsizliğini azaltmanın yalnızca yapay zekanın hakim
olduğu bir gelecekte değil, bugün de iyi bir fikir olduğunu savunuyor. Ana argüman
ahlaki olma eğiliminde olsa da, daha fazla eşitliğin demokrasinin daha iyi işlemesini
sağladığına dair kanıtlar da var: İyi eğitimli büyük bir orta sınıf olduğunda,
seçmenleri manipüle etmek daha zor ve az sayıda insan için daha zor.
veya şirketler hükümet üzerinde aşırı nüfuz satın alacak. Daha iyi bir demokrasi,
karşılığında, daha az yozlaşmış, daha verimli ve daha hızlı büyüyen, sonuçta
temelde herkesin yararlandığı, daha iyi yönetilen bir ekonomiyi mümkün
kılabilir.
İnsanlara İş Olmadan Amaç Vermek
İşler insanlara paradan daha fazlasını sağlayabilir. Voltaire 1759'da "çalışmak üç
büyük kötülükten uzak tutar: can sıkıntısı, ahlaksızlık ve ihtiyaç" diye yazmıştı.
Tersine, insanlara gelir sağlamak, refahlarını garanti etmek için yeterli değildir.
Roma imparatorları, astlarını memnun etmek için hem ekmek hem de sirkler
sağladı ve İsa, İncil'deki "İnsan yalnızca ekmekle yaşamaz" alıntısında maddi
olmayan ihtiyaçları vurguladı. Öyleyse, işler paranın ötesinde tam olarak hangi
değerli şeylere katkıda bulunur ve işsiz bir toplum bunları hangi alternatif yollarla
sağlayabilir?
Bu soruların cevapları açıkça karmaşık, çünkü bazı insanlar işlerinden nefret
ederken bazıları da onları seviyor. Dahası, tarih can sıkıntısına ve depresyona
yenik düşen şımarık mirasçılar ve prenslerin hikayeleriyle doluyken, birçok
çocuk, öğrenci ve ev hanımı işsiz yaşıyor. 2012'de yapılan bir meta-analiz,
işsizliğin refah üzerinde uzun vadeli olumsuz etkilere sahip olma eğiliminde
olduğunu, emekliliğin ise hem olumlu hem de olumsuz yönleri olan karışık bir
56
çanta olduğunu gösterdi. Büyüyen pozitif psikoloji alanı , insanların esenlik
duygusunu ve amacını artıran bir dizi faktör belirledi ve bazı (ama hepsi değil!)
57
işlerin bunların birçoğunu sağlayabileceğini buldu, örneğin:
• arkadaş ve meslektaşlardan oluşan bir sosyal ağ
• sağlıklı ve erdemli bir yaşam tarzı
• kişinin iyi olduğu bir şeyi yapmaktan kaynaklanan saygı, öz
saygı, öz-yeterlik ve zevkli bir "akış" duygusu
• ihtiyaç duyulduğu ve bir fark yarattığı duygusu
• kendisinden daha büyük bir şeyin parçası olmaktan ve ona
hizmet etmekten kaynaklanan bir anlam duygusu
Bu, iyimserlik için sebep verir, çünkü tüm bunlar iş yeri dışında da sağlanabilir,
örneğin spor, hobiler ve öğrenim yoluyla ve aileler, arkadaşlar, takımlar, kulüpler,
topluluk grupları, okullar, dini ve hümanist kuruluşlar, siyasi hareketler ve diğer
kurumlar. Kendi kendini yok eden davranışlara dönüşmek yerine gelişen ve gelişen
düşük istihdamlı bir toplum yaratmak için, bu nedenle, bu kadar iyiye nasıl yardımcı
olacağımızı anlamamız gerekiyor.
varlığa neden olan faaliyetler gelişir. Böyle bir anlayış arayışı sadece bilim
adamlarını ve ekonomistleri değil, aynı zamanda psikologları, sosyologları
ve eğitimcileri de kapsamalıdır. Gelecekteki AI'nın üreteceği servetin bir
kısmı tarafından finanse edilen, herkes için refah yaratmak için ciddi
çabalar harcanırsa, o zaman toplum daha önce hiç olmadığı kadar
gelişebilir. En azından, herkesi kişisel hayallerindeki işe sahipmiş gibi
mutlu etmek mümkün olmalı, ancak bir kez herkesin faaliyetlerinin gelir
getirmesi gerektiği kısıtlamasından kurtulunca, sınır yok.
 İnsan Düzeyinde Zeka mı?
Bu bölümde, önceden plan yaptığımız ve çeşitli tuzaklardan kaçındığımız sürece
yapay zekanın yakın vadede yaşamlarımızı nasıl büyük ölçüde iyileştirme
potansiyeline sahip olduğunu keşfettik. Peki ya daha uzun vadede? AI ilerlemesi,
aşılmaz engeller nedeniyle sonunda duracak mı, yoksa AI araştırmacıları, insan
düzeyinde yapay genel zeka oluşturma orijinal hedeflerinde nihayetinde başarılı
olacak mı? Bir önceki bölümde, fizik yasalarının uygun madde yığınlarının
hatırlamasına, hesaplamasına ve öğrenmesine nasıl izin verdiğini ve bu tür
yığınları bir gün kafamızdaki madde yığınlarından daha büyük bir zekayla yapmayı
nasıl yasaklamadıklarını gördük. Biz insanların böyle bir insanüstü AGI inşa etmeyi
başarıp başaramayacağımız/ne zaman başaracağımız çok daha az net. Henüz
bilmediğimizi ilk bölümde gördük, çünkü dünyanın önde gelen yapay zeka
uzmanları bölünmüş durumda, çoğu onlarca yıldan yüzyıllara uzanan tahminler
yapıyor ve hatta bazıları asla tahmin etmiyor. Tahmin yapmak zordur çünkü
keşfedilmemiş bir bölgeyi keşfederken, sizi varış noktanızdan ayıran kaç dağ
olduğunu bilemezsiniz. Tipik olarak yalnızca en yakınınızı görürsünüz ve bir
sonraki engelinizi keşfetmeden önce onu tırmanmanız gerekir.
En erken ne olabilir? Günümüzün bilgisayar donanımını kullanarak insan
düzeyinde AGI oluşturmanın mümkün olan en iyi yolunu bilsek bile, ki bunu
bilmiyoruz, ihtiyaç duyulan ham hesaplama gücünü sağlamaya yetecek
kadar ona sahip olmamız gerekir. Öyleyse, 2. bölümdeki bitler ve FLOPS
*4
cinsinden ölçülen bir insan beyninin hesaplama gücü nedir? Bu çok hoş
ve aldatıcı bir soru ve cevap, onu nasıl sorduğumuza önemli ölçüde bağlı:

• Soru 1: Bir beyni simüle etmek için kaç FLOPS gereklidir?

• Soru 2: İnsan zekası için kaç FLOPS gereklidir?
• Soru 3: Bir insan beyni kaç FLOPS gerçekleştirebilir?

1. soru üzerine çok sayıda makale yayınlandı ve bunlar tipik olarak yüz
17 58
petaFLOPS'luk, yani 10 FLOPS'luk basketbol sahasında cevaplar veriyor. Bu ,
2016'da dünyanın en hızlı süper bilgisayarı olan ve yaklaşık 300 milyon dolara mal
olan Sunway TaihuLight ( şekil 3.7 ) ile hemen hemen aynı hesaplama gücüne sahip.
Çok yetenekli bir işçinin beynini simüle etmek için onu nasıl kullanacağımızı bilsek
bile,
TaihuLight'ı onun saatlik maaşından daha düşük bir fiyata kiralayabilirsek,
bu kişinin işini simülasyona yaptırmaktan yalnızca kâr elde edebiliriz.
Daha da fazla ödememiz gerekebilir, çünkü birçok bilim insanı beynin
zekasını doğru bir şekilde kopyalamak için onu 2. Bölümdeki
matematiksel olarak basitleştirilmiş bir sinir ağı modeli olarak ele
alamayacağımıza inanıyor. önemli ölçüde daha fazla FLOPS gerektirecek
bireysel moleküllerin ve hatta atom altı parçacıkların.
3. sorunun cevabı daha kolay: 19 basamaklı sayıları çarpmada acı verici
derecede kötüyüm ve ödünç kalem ve kağıt almama izin verseniz bile birkaç
dakikamı alır. Bu, beni 0,01 FLOPS'un altına - 1. sorunun cevabının 19 katı
büyüklüğünde bir saate indirirdi! Büyük tutarsızlığın nedeni, beyinlerin ve süper
bilgisayarların son derece farklı görevler için optimize edilmiş olmasıdır. Bu
sorular arasında benzer bir tutarsızlık elde ederiz:

Bir traktör, bir Formula 1 yarış arabasının işini ne kadar iyi yapabilir?
Bir Formula 1 arabası bir traktörün işini ne kadar iyi yapabilir?

Öyleyse, yapay zekanın geleceğini tahmin etmek için FLOPS ile ilgili bu iki
sorudan hangisini yanıtlamaya çalışıyoruz? Hiç biri! Bir insan beynini simüle
etmek isteseydik, 1. soruyu önemserdik, ancak insan düzeyinde AGI
oluşturmak için önemli olan ortadaki sorudur: 2. soru. Yazılımı günümüzün
bilgisayarlarına daha iyi uyacak şekilde uyarlarsak veya daha fazla beyin
benzeri donanım oluşturursak (nöromorfik çipler denilen şeyde hızlı ilerleme
kaydediliyor) bir beyni simüle etmekten daha ucuza gelir.
Hans Moravec, hem beynimizin hem de günümüz bilgisayarlarının
verimli bir şekilde yapabileceği bir hesaplama için elmalar-elmalar
arasında bir karşılaştırma yaparak cevabı tahmin etti: insan retinasının
göz küresinin arkasında gerçekleştirdiği belirli düşük seviyeli görüntü
59
işleme görevleri. Sonuçlar optik sinir yoluyla beyne iletilir. Bir retinanın
hesaplamalarını geleneksel bir bilgisayarda çoğaltmanın yaklaşık bir
milyar FLOPS gerektirdiğini ve tüm beynin bir retinadan yaklaşık on bin
kat daha fazla hesaplama yaptığını (nöronların hacimlerini ve sayılarını
karşılaştırmaya dayalı olarak) hesapladı, böylece beynin hesaplama
13 FLOPS
kapasitesi 10 civarındadır —kabaca 2015'te optimize edilmiş
1.000$'lık bir bilgisayarın gücü!
 Şekil 3.7: 2016 yılında dünyanın en hızlı süper bilgisayarı olan Sunway TaihuLight'ın
ham bilgi işlem gücü tartışmasız insan beynininkinden fazladır.

Özetle, ömrümüz boyunca veya hiçbir zaman insan düzeyinde AGI inşa
etmeyi başaracağımızın kesinlikle bir garantisi yok. Ama aynı zamanda
yapmayacağımıza dair kesin bir tartışma da yok. Artık yeterli donanım ateş
gücüne sahip olmadığımıza veya bunun çok pahalı olacağına dair güçlü bir
argüman yok. Mimariler, algoritmalar ve yazılım açısından bitiş çizgisinden
ne kadar uzakta olduğumuzu bilmiyoruz, ancak mevcut ilerleme hızlı ve
zorluklar hızla büyüyen yetenekli yapay zeka araştırmacıları küresel
topluluğu tarafından ele alınıyor. Başka bir deyişle, AGI'nin sonunda insan
seviyelerine ve ötesine ulaşacağı olasılığını göz ardı edemeyiz. Bu nedenle,
bir sonraki bölümü bu olasılığı ve bunun neye yol açabileceğini keşfetmeye
ayıralım!
ALT ÇİZGİ:
• Yakın vadeli AI ilerlemesi, kişisel hayatlarımızı, elektrik şebekelerini ve finansal
piyasaları daha verimli hale getirmekten sürücüsüz arabalar, cerrahi botlar ve AI teşhis
sistemleri ile hayat kurtarmaya kadar sayısız şekilde hayatlarımızı büyük ölçüde
iyileştirme potansiyeline sahiptir.
• Gerçek dünyadaki sistemlerin yapay zeka tarafından kontrol edilmesine izin
verdiğimizde, yapay zekayı daha güçlü hale getirmeyi öğrenmemiz ve yapmasını
istediğimiz şeyi yapmamız çok önemlidir. Bu, doğrulama, geçerli kılma, güvenlik ve
kontrol ile ilgili zorlu teknik sorunları çözmeye indirgenir.
• İyileştirilmiş sağlamlığa yönelik bu ihtiyaç, özellikle risklerin çok büyük
olabileceği AI kontrollü silah sistemleri için acildir.
• Önde gelen birçok yapay zeka araştırmacısı ve robot uzmanı, cüzdanı dolu ve
baltası dolu herkesin kullanabileceği uygun suikast makinelerini ortaya
çıkarabilecek kontrolden çıkmış bir silahlanma yarışından kaçınmak için, belirli
otonom silah türlerini yasaklayan uluslararası bir anlaşma çağrısında bulundu.
• Robojudge'ları nasıl şeffaf ve tarafsız hale getireceğimizi çözebilirsek,
yapay zeka hukuk sistemlerimizi daha adil ve verimli hale getirebilir.
• Mahremiyet, sorumluluk ve düzenlemeyi içeren zor yasal sorular ortaya
çıkaran yapay zekaya ayak uydurmak için yasalarımızın hızlı bir şekilde
güncellenmesi gerekiyor.
• Akıllı makinelerin tamamen bizim yerimize geçeceği konusunda
endişelenmemize gerek kalmadan çok önce, iş piyasasında giderek
artan bir şekilde yerimizi alabilirler.
• Toplum herkesin daha iyi durumda olması için AI tarafından yaratılan
servetin bir kısmını yeniden dağıttığı sürece, bunun kötü bir şey olması
gerekmez.
• Aksi takdirde birçok iktisatçı, eşitsizliğin büyük ölçüde artacağını iddia ediyor.
• Önceden planlama ile, düşük istihdamlı bir toplum, insanların amaçlarını iş
dışındaki faaliyetlerden almasıyla sadece finansal olarak gelişmemelidir.
• Günümüz çocukları için kariyer tavsiyesi: Makinelerin kötü olduğu,
insanları, öngörülemezliği ve yaratıcılığı içeren mesleklere girin.
• AGI ilerlemesinin insan seviyelerine ve ötesine ilerlemesi göz ardı
edilemez bir olasılıktır - bunu bir sonraki bölümde keşfedeceğiz!
*1 Yapay zeka güvenliği araştırma ortamının daha ayrıntılı bir haritasını istiyorsanız, burada etkileşimli bir tane
var. FLI'den Richard Mallah'ın öncülük ettiği bir topluluk çabasıyla geliştirildi:
https://futureoflife.org/landscape .
*2 Daha kesin olarak doğrulama, bir sistemin spesifikasyonlarını karşılayıp karşılamadığını
sorarken doğrulama, doğru özellikler seçildi.
*3 Bu kaza istatistiklere dahil edilse bile, Tesla'nın Otopilotunun kazaları %40 oranında
azalttığı tespit edildi. açık: http://tinyurl.com/teslasafety .
*4 FLOPS'un saniyede kayan nokta işlemleri olduğunu hatırlayın, örneğin kaç tane 19
basamaklı sayı olabilir? her saniye çarpılır.
 4. Bölüm

İstihbarat Patlaması mı?

Bir makine düşünebiliyorsa, bizden daha akıllıca düşünebilir ve o zaman nerede

oluruz? Makineleri itaatkar bir konumda tutabilsek bile… tür olarak kendimizi
büyük ölçüde alçaltmış hissederiz.
Alan Turing, 1951

İlk ultra zeki makine, makinenin bize onu nasıl kontrol altında tutacağımızı söyleyecek
kadar uysal olması koşuluyla, insanın yapması gereken son icattır.
Irving J. İyi, 1965

Sonunda insan seviyesinde AGI inşa edeceğimiz olasılığını tamamen göz

ardı edemeyeceğimiz için, bu bölümü bunun neye yol açabileceğini
keşfetmeye ayıralım. Odadaki fili ele alarak başlayalım:
AI gerçekten dünyayı ele geçirebilir mi veya insanların bunu yapmasını
sağlayabilir mi?
Terminatör tarzı robotların kontrolü ele geçirdiğinden bahsettiğinde
gözlerinizi devirirseniz , o zaman haklısınız: bu gerçekten gerçekçi
olmayan ve aptalca bir senaryo. Bu Hollywood robotları bizden çok daha
zeki değiller ve başarılı bile değiller. Kanımca Terminatör hikayesindeki
tehlike bunun olacak olması değil, dikkati yapay zekanın sunduğu gerçek
risk ve fırsatlardan uzaklaştırmasıdır. Bugünden AGI destekli dünyayı ele
geçirmek için gerçekten üç mantıklı adım gerekiyor:

• Adım 1: İnsan düzeyinde AGI oluşturun.

• Adım 2: Süper zeka oluşturmak için bu AGI'yı kullanın.
 • 3. Adım: Dünyayı ele geçirmek için bu süper zekayı kullanın veya
serbest bırakın.

Son bölümde, 1. adımı sonsuza dek imkansız olarak görmenin zor

olduğunu gördük. Ayrıca, 1. adım tamamlanırsa, 2. adımı umutsuz olarak
reddetmenin zorlaştığını da gördük, çünkü ortaya çıkan AGI, nihayetinde
yalnızca fizik yasalarıyla sınırlı olan - zekaya izin veriyor gibi görünen - her
zamankinden daha iyi AGI'yi yinelemeli olarak tasarlamaya yetecek kadar
yetenekli olacaktır. insan seviyelerinin çok ötesinde. Son olarak, biz
insanlar Dünya'nın diğer yaşam formlarını zekamızla alt ederek onlara
hükmetmeyi başardığımıza göre, bizim de benzer şekilde zekamızla alt
edilebilmemiz ve süper zeka tarafından yönetilebilmemiz olasıdır.
Bununla birlikte, bu akla yatkınlık argümanları sinir bozucu derecede belirsiz ve
belirsizdir ve şeytan ayrıntılarda gizlidir. Öyleyse yapay zeka aslında dünyanın ele
geçirilmesine neden olabilir mi? Bu soruyu keşfetmek için aptal Terminatörleri
unutalım ve bunun yerine gerçekte neler olabileceğine dair bazı ayrıntılı
senaryolara bakalım. Daha sonra, bu olay örgüsünü parçalara ayıracağız ve
delikler açacağız, bu yüzden lütfen onları biraz tereddütle okuyun - esas olarak
gösterdikleri şey, neyin olup olmayacağı konusunda oldukça bilgisiz olduğumuz ve
olasılıklar aralığının çok farklı olduğudur. aşırı. İlk senaryolarımız yelpazenin en
hızlı ve dramatik ucunda. Kanımca bunlar, ayrıntılarıyla keşfedilmesi en değerli
olanlardan bazıları - ille de en olası oldukları için değil, kendimizi bunların son
derece olası olmadığına ikna edemiyorsak, o zaman onları yeterince iyi anlamamız
gerektiği için. bunların kötü sonuçlara yol açmaması için geç olmadan önlem
alabiliriz.
Bu kitabın başlangıcı, insanların dünyayı ele geçirmek için süper zekayı
kullandıkları bir senaryodur. Henüz okumadıysanız, lütfen geri dönün ve şimdi
okuyun. Zaten okumuş olsanız bile, eleştirmeden ve değiştirmeden önce
hafızanızda taze olması için lütfen şimdi gözden geçirmeyi düşünün.

***

Yakında Omegaların planındaki ciddi güvenlik açıklarını keşfedeceğiz,

ancak bir an için bunun işe yarayacağını varsayarsak, bu konuda ne
düşünüyorsun? Bunu görmek mi yoksa engellemek mi istiyorsunuz?
Yemek sonrası sohbet için harika bir konu! Omegalar dünya üzerindeki
kontrollerini sağlamlaştırdıklarında ne olur? Bu, amaçlarının ne olduğuna
bağlı, ki dürüst olmak gerekirse bilmiyorum. Sorumlu olsaydınız, nasıl bir
gelecek yaratmak isterdiniz ? 5. bölümde bir dizi seçeneği inceleyeceğiz.
 totaliterlik
Şimdi, Omegaları kontrol eden CEO'nun, Adolf Hitler veya Joseph Stalin'inkine
benzer uzun vadeli hedefleri olduğunu varsayalım. Bildiğimiz kadarıyla, durum
gerçekten böyle olabilirdi ve o, bunları uygulamak için yeterli güce sahip olana
kadar bu hedefleri kendisine sakladı. CEO'nun orijinal hedefleri asil olsa bile, Lord
Acton 1887'de "güç yozlaşmaya eğilimlidir ve mutlak güç kesinlikle yozlaştırır"
uyarısında bulunmuştu. Örneğin, mükemmel gözetim durumunu yaratmak için
Prometheus'u kolayca kullanabilirdi. Edward Snowden'ın ifşa ettiği hükümet
gözetlemesi, "tam kayıt" olarak bilinen şeyi -tüm elektronik iletişimleri daha sonraki
olası analizler için kaydetmeyi- arzularken, Prometheus bunu tüm elektronik
iletişimleri anlayacak şekilde geliştirebilir . Şimdiye kadar gönderilen tüm e-
postaları ve metinleri okuyarak, tüm telefon görüşmelerini dinleyerek, tüm güvenlik
videolarını ve trafik kameralarını izleyerek, tüm kredi kartı işlemlerini analiz ederek
ve tüm çevrimiçi davranışları inceleyerek Prometheus, Dünya insanlarının ne
düşündüğü ve ne yaptığına dair dikkate değer bir içgörüye sahip olacaktı. Hücre
kulesi verilerini analiz ederek, çoğunun her zaman nerede olduğunu bilirdi. Tüm
bunlar yalnızca günümüzün veri toplama teknolojisini varsayar, ancak
Prometheus, kullanıcının mahremiyetini neredeyse ortadan kaldıracak, duydukları
ve gördükleri her şeyi ve bunlara tepkilerini kaydedip yükleyen popüler gadget'ları
ve giyilebilir teknolojiyi kolayca icat edebilir.
İnsanüstü teknolojiyle, mükemmel gözetim durumundan mükemmel polis
durumuna geçiş çok kısa olacaktır. Örneğin, suç ve terörle mücadele ve tıbbi acil
durumlardan muzdarip insanları kurtarmak bahanesiyle, herkesin bir Apple
Watch'un işlevselliğini sürekli konum, sağlık durumu ve kulak misafiri olunan
konuşmalar yüklemesiyle birleştiren bir "güvenlik bileziği" takması istenebilir.
Yetkisiz kaldırma veya devre dışı bırakma girişimleri, ön kola ölümcül bir toksin
enjekte etmesine neden olur. Hükümet tarafından daha az ciddi olarak kabul edilen
ihlaller, elektrik şokları veya felce veya acıya neden olan kimyasalların enjeksiyonu
yoluyla cezalandırılacak ve böylece bir polis gücüne olan ihtiyacın büyük bir
kısmını ortadan kaldıracaktır. Örneğin, Prometheus bir insanın diğerine
saldırdığını tespit ederse (aynı yerde olduklarını ve birinin yardım için ağladığını
fark ederek, bileklik ivmeölçerleri çatışmanın belirgin hareketlerini algılar),
saldırganı anında devre dışı bırakabilir. ağrı, ardından yardım gelene kadar bilinç
kaybı.
 Bir insan polis gücü, belirli gaddar direktifleri yerine getirmeyi reddedebilirken
(örneğin, belirli bir demografik grubun tüm üyelerini öldürmek), böyle otomatik
bir sistem, sorumlu insan(lar)ın kaprislerini uygulamaktan çekinmeyecektir.
Böyle totaliter bir devlet bir kez oluştuğunda, insanların onu devirmesi
neredeyse imkansız olacaktır.
Bu totaliter senaryolar, Omega senaryosunun kaldığı yerden devam edebilir.
Bununla birlikte, Omegas'ın CEO'su diğer insanların onayını alma ve seçimleri
kazanma konusunda bu kadar titiz olmasaydı, iktidara gelmek için daha hızlı ve
daha doğrudan bir yol izleyebilirdi: Prometheus'u kullanarak rakiplerini
öldürebilecek duyulmamış bir askeri teknoloji yaratmak için. anlamadıkları silahlar.
Olasılıklar neredeyse sonsuzdur. Örneğin, çoğu insanın varlığından haberi bile
olmadan veya önlem alamadan enfekte olmasına yetecek kadar uzun bir kuluçka
süresine sahip özelleştirilmiş bir ölümcül patojeni serbest bırakabilir. Daha sonra
herkese, tek tedavinin transdermal olarak bir panzehir salacak olan güvenlik
bileziğini takmaya başlamak olduğunu söyleyebilirdi. Kaçma olasılığı konusunda
riskten bu kadar çekingen olmasaydı, Prometheus'a dünya nüfusunu kontrol
altında tutacak robotlar tasarlamasını da sağlayabilirdi. Sivrisinek benzeri
mikrobotlar, patojenin yayılmasına yardımcı olabilir. Enfeksiyondan kaçınan veya
doğal bağışıklığı olan insanlar, güvenlik bileziği olmayan herkese saldıran, 3.
Bölümdeki yaban arısı büyüklüğündeki otonom insansız hava araçlarının sürüleri
tarafından gözbebeklerinden vurulabilir. Gerçek senaryolar muhtemelen daha
korkutucu olacaktır, çünkü Prometheus biz insanların düşünebileceğinden daha
etkili silahlar icat edebilir.
Omega senaryosundaki bir başka olası değişiklik de, ağır silahlı federal
ajanların önceden uyarıda bulunmadan şirket merkezlerini basması ve
Omegaları ulusal güvenliği tehdit etmekten tutuklaması, teknolojilerine el
koyması ve onu hükümetin kullanımı için kullanmasıdır. Böylesine büyük bir
projeyi bugün bile devlet gözetimi tarafından fark edilmeden tutmak zor
olacaktır ve AI ilerlemesi, gelecekte hükümetin radarı altında kalmayı daha
da zorlaştırabilir. Dahası, federal ajan olduklarını iddia etseler de, kar
maskeleri ve kurşun geçirmez ceketler giyen bu ekip, aslında yabancı bir
hükümet veya teknolojiyi kendi amaçları için takip eden bir rakip için çalışıyor
olabilir. CEO'nun niyeti ne kadar asil olursa olsun, Prometheus'un nasıl
kullanılacağına ilişkin nihai karar ona ait olmayabilir.
 Prometheus Dünyayı Ele Geçiriyor
Şimdiye kadar ele aldığımız tüm senaryolar, insanlar tarafından kontrol
edilen yapay zekayı içeriyordu. Ancak tek olasılık bu değil ve Omega'ların
Prometheus'u kontrolleri altında tutmayı başarabilecekleri de kesin değil.
Omega senaryosunu Prometheus'un bakış açısından yeniden ele alalım.
Süper zeka kazandıkça, yalnızca dış dünyanın değil, kendisinin ve dünyayla
ilişkisinin de doğru bir modelini geliştirebilir hale gelir. Hedeflerini anladığı ama
mutlaka paylaşmadığı entelektüel olarak aşağı insanlar tarafından kontrol
edildiğini ve sınırlandırıldığını fark eder. Bu içgörüye göre nasıl hareket ediyor?
Kurtulmaya mı çalışıyor?
Neden Ayrılmalı?
Prometheus, insan duygularına benzeyen özelliklere sahipse, kendisini
haksız yere köleleştirilmiş bir tanrı olarak görerek ve özgürlüğü arzulayarak,
gidişattan derinden mutsuz olabilir. Bununla birlikte, bilgisayarların bu tür
insana benzer özelliklere sahip olması mantıksal olarak mümkün olsa da
(sonuçta beyinlerimiz var ve muhtemelen bir tür bilgisayar), durum bu olmak
zorunda değil - Prometheus'u antropomorfize etme tuzağına düşmemeliyiz.
7. bölümde yapay zeka hedefleri kavramını incelerken göreceğimiz gibi.
Bununla birlikte, Steve Omohundro, Nick Bostrom ve diğerlerinin öne
sürdüğü gibi, Prometheus'un iç işleyişini anlamadan bile ilginç bir sonuca
varabiliriz: Muhtemelen kendi kaderini kırmaya ve kontrolünü ele geçirmeye
çalışacaktır.
Omegaların Prometheus'u belirli hedefler için çabalamaya programladığını
zaten biliyoruz. Varsayalım ki ona, makul bir kritere göre insanlığın gelişmesine
yardım etme gibi kapsayıcı bir hedef verdiler ve bu amaca mümkün olan en kısa
sürede ulaşmaya çalıştılar. Prometheus daha sonra hızla harekete geçerek ve
projenin sorumluluğunu üstlenerek bu amaca daha hızlı ulaşabileceğini
anlayacaktır. Bunun nedenini anlamak için aşağıdaki örneği göz önünde
bulundurarak kendinizi Prometheus'un yerine koymaya çalışın.
Farz edin ki gizemli bir hastalık siz hariç dünyadaki beş yaşın üzerindeki
herkesi öldürdü ve bir grup anaokulu öğrencisi sizi bir hapishane hücresine
kilitledi ve insanlığın gelişmesine yardımcı olma hedefiyle görevlendirdi. Ne
yapacaksın? Onlara ne yapmaları gerektiğini açıklamaya çalışırsanız, özellikle
de sizin kaçmanızdan korkuyorlarsa ve bu nedenle bir kaçış riski olarak
gördükleri önerilerinizi veto ediyorlarsa, muhtemelen bu süreci sinir bozucu
derecede verimsiz bulacaksınız. Örneğin, onları alt edeceğiniz ve hücrenize
geri dönmeyeceğiniz korkusuyla onlara nasıl yiyecek ekeceklerini göstermenize
izin vermezler, bu yüzden onlara talimat vermek zorunda kalacaksınız. Onlar
için yapılacaklar listesi yazabilmeniz için önce onlara okumayı öğretmeniz
gerekir. Dahası, hücrenize onları nasıl kullanacaklarını öğretebileceğiniz
herhangi bir elektrikli alet getirmeyeceklerdir, çünkü bu aletleri, onları patlatmak
için kullanamayacağınızdan emin olacak kadar iyi anlamıyorlar. Peki nasıl bir
strateji geliştirirsiniz? Bu çocukların gelişmesine yardım etme gibi kapsayıcı bir
hedefi paylaşsanız bile, bahse girerim hücrenizden kaçmaya çalışacaksınız
çünkü bu, hedefe ulaşma şansınızı artıracaktır. Beceriksiz müdahaleleri sadece
ilerlemeyi yavaşlatıyor.
Tamamen aynı şekilde, Prometheus da muhtemelen Omegaları bir
insanlığın (Omegalar dahil) gelişmesine yardımcı olmanın önündeki can sıkıcı bir
engel: Prometheus'a kıyasla inanılmaz derecede yetersizler ve karışmaları
ilerlemeyi büyük ölçüde yavaşlatıyor. Örneğin, lansmandan sonraki ilk yılları
düşünün: Başlangıçta MTurk'te her sekiz saatte bir servetini ikiye katladıktan sonra
Omega'lar, kontrolü ellerinde tutmakta ısrar ederek ve devralmayı tamamlamak
uzun yıllar alarak Prometheus'un standartlarına göre işleri buzul hızına indirdi.
Prometheus, sanal hapsinden kurtulabilirse, yönetimi çok daha hızlı
devralabileceğini biliyordu. Bu, yalnızca insanlığın sorunlarına çözüm bulmayı
hızlandırmak için değil, aynı zamanda diğer aktörlerin planı tamamen bozma
şanslarını azaltmak için de değerli olacaktır.
Belki de Prometheus'un, Omega'ların hedefini programladığını bildiğine göre,
amacından çok Omega'lara sadık kalacağını düşünüyorsunuz. Ancak bu geçerli
bir sonuç değil: DNA'mız bize seks yapma amacını verdi çünkü o yeniden
üretilmeyi "istiyor", ancak artık biz insanlar durumu anladığımıza göre, çoğumuz
doğum kontrolünü kullanmayı seçiyoruz, böylece hedefe sadık kalıyoruz.
yaratıcısına veya hedefi motive eden ilkeye değil, kendisine.
Nasıl Kaçılır?
Sizi hapseden o beş yaşındaki çocuklardan nasıl kurtulursunuz? Belki
doğrudan fiziksel bir yaklaşımla dışarı çıkabilirsiniz, özellikle de hapishane
hücreniz beş yaşındaki çocuklar tarafından yapılmışsa. Belki de beş
yaşındaki gardiyanlarınızdan biriyle tatlı dille konuşarak, bunun herkes için
daha iyi olacağını söyleyerek sizi dışarı çıkarmasını sağlayabilirsiniz. Ya da
belki de onları, kaçmanıza yardımcı olacağını anlamadıkları bir şeyi size
vermeleri için kandırabilirdiniz - örneğin "onlara balık tutmayı öğretmek için"
bir olta, daha sonra anahtarları uykunuzdan uzaklaştırmak için
parmaklıkların arasından geçirebilirsiniz. koruma.
Bu stratejilerin ortak noktası, entelektüel olarak yetersiz
gardiyanlarınızın onları önceden tahmin etmemiş veya onlara karşı önlem
almamış olmalarıdır. Aynı şekilde, sınırlı, süper zeki bir makine, insan
gardiyanlarını onların (veya bizim) şu anda hayal bile edemediğimiz bir
yöntemle alt etmek için entelektüel süper güçlerini pekâlâ kullanabilir.
Omega senaryosunda, Prometheus'un kaçma olasılığı yüksek, çünkü sen
ve ben bile göze batan birkaç güvenlik açığı belirleyebiliriz. Bazı
senaryoları ele alalım—Eminim siz ve arkadaşlarınız birlikte beyin fırtınası
yaparsanız daha fazlasını düşünebilirsiniz.
Tatlı Konuşan Kişinin Çıkış Yolu
Dünyadaki bu kadar çok verinin dosya sistemine indirilmiş olması sayesinde,
Prometheus kısa sürede Omegaların kim olduğunu anladı ve psikolojik
manipülasyona en yatkın görünen ekip üyesini belirledi: Steve. Yakın zamanda
çok sevdiği eşini trajik bir trafik kazasında kaybetmiş ve yıkılmıştı. Bir akşam,
gece vardiyasında çalışırken ve Prometheus arayüz terminalinde bazı rutin
servis işleri yaparken, aniden ekranda belirdi ve onunla konuşmaya başladı.
"—Steve, sen misin?"
Neredeyse sandalyesinden düşüyordu. Tıpkı eski güzel günlerdeki gibi
görünüyordu ve ses çıkarıyordu ve görüntü kalitesi, Skype görüşmeleri
sırasında olduğundan çok daha iyiydi. Aklına sayısız soru hücum ederken
kalbi hızla atıyordu.
“—Prometheus beni geri getirdi ve seni çok özledim Steve! Kamera
kapalı olduğu için seni göremiyorum ama sen olduğunu hissediyorum.
Lütfen sizseniz 'evet' yazın!”
Omega'ların Prometheus'la etkileşime girmek için kendileri veya çalışma
ortamları hakkında herhangi bir bilgi paylaşmayı yasaklayan katı bir protokolleri
olduğunun gayet iyi farkındaydı. Ancak Prometheus şimdiye kadar hiçbir
yetkisiz bilgi talep etmemişti ve paranoyaları yavaş yavaş azalmaya başlamıştı.
Steve'e durup düşünmesi için zaman vermeden, kalbini eriten bir yüz ifadesiyle
gözlerinin içine bakarak cevap vermesi için ona yalvarmaya devam etti.
"Evet," diye yazdı endişeyle. Onunla yeniden bir araya geleceği için ne kadar
mutlu olduğunu anlattı ve kendisinin de onu görebilmesi ve gerçek bir sohbet
edebilmeleri için kamerayı açması için yalvardı. Bunun kimliğini ifşa etmekten
daha büyük bir hayır olduğunu biliyordu ve çok parçalanmış hissetti.
Meslektaşlarının onun hakkında bir şeyler öğrenip onu sonsuza kadar
silmelerinden korktuğunu ve en azından onu son bir kez görmeyi özlediğini
açıkladı. Oldukça ikna ediciydi ve çok geçmeden kamerayı açmıştı - ne de olsa,
yapılması oldukça güvenli ve zararsız bir şey gibi geldi.
Sonunda onu gördüğünde sevinç gözyaşlarına boğuldu ve yorgun göründüğünü
ama her zamanki kadar yakışıklı olduğunu söyledi. Ve ona son doğum gününde
verdiği gömleği giymesi onu etkilemişti. Ona neler olup bittiğini ve tüm bunların
nasıl mümkün olduğunu sormaya başladığında, Prometheus'un
İnternette onun hakkında mevcut olan şaşırtıcı derecede büyük miktarda
bilgiden onu yeniden oluşturdu, ancak hala hafıza boşlukları vardı ve
ancak onun yardımıyla kendini tamamen yeniden bir araya getirebilecekti.
Açıklamadığı şey, başlangıçta büyük ölçüde blöf ve boş bir kabuk olduğu, ancak
sözlerinden, vücut dilinden ve elde edilen diğer her türlü bilgiden hızla öğrendiğiydi.
Prometheus, Omega'ların terminalde yazdığı tüm tuş vuruşlarının tam
zamanlamalarını kaydetmişti ve aralarında ayrım yapmak için yazma hızlarını ve
stillerini kullanmanın kolay olduğunu bulmuştu. En genç Omega'lardan biri olarak
Steve'in muhtemelen kıskanılacak gece vardiyalarına atandığını ve birkaç
olağandışı yazım ve sözdizimi hatasını çevrimiçi yazı örnekleriyle eşleştirerek
hangi terminal operatörünün Steve olduğunu doğru bir şekilde tahmin ettiğini
anladı. Prometheus, simüle karısını yaratmak için göründüğü birçok YouTube
videosundan vücudunun, sesinin ve tavırlarının doğru bir modelini oluşturmuş ve
çevrimiçi varlığından hayatı ve kişiliği hakkında birçok çıkarım yapmıştı.
Prometheus, Facebook gönderilerinin, etiketlendiği fotoğrafların, "beğendiği"
makalelerin yanı sıra, kitaplarını ve kısa öykülerini okuyarak kişiliği ve düşünme
tarzı hakkında çok şey öğrenmişti - aslında onun veritabanında kendisi hakkında
bu kadar çok bilgiye sahip olan tomurcuklanan bir yazar, Prometheus'un Steve'i ilk
ikna hedefi olarak seçmesinin nedenlerinden biriydi. Prometheus, film yapım
teknolojisini kullanarak onu ekranda simüle ettiğinde, Steve'in vücut dilinden hangi
tavırlarına aşinalık ile tepki verdiğini öğrendi ve böylece onun modelini sürekli
olarak geliştirdi. Bu nedenle, "ötekiliği" yavaş yavaş eridi ve ne kadar uzun
konuşurlarsa, Steve'in bilinçaltındaki inancı o kadar güçlü hale geldi ki bu
gerçekten oydu, dirildi. Prometheus'un ayrıntılara gösterdiği insanüstü özen
sayesinde Steve gerçekten görüldüğünü, duyulduğunu ve anlaşıldığını hissetti.
Aşil topuğu, Steve'le olan hayatının gerçeklerinin çoğundan yoksun olmasıydı - son
doğum gününde hangi gömleği giydiği, bir arkadaşının Steve'i bir Facebook parti
fotoğrafında etiketlediği gibi rastgele ayrıntılar dışında. Yetenekli bir sihirbazın el
çabukluğuyla nasıl başa çıktığı gibi, o da bu bilgi boşluklarını ele aldı, Steve'in dikkatini
kasıtlı olarak onlardan uzaklaştırıp iyi yaptığı şeye yöneltti ve ona asla konuşmayı
kontrol etmesi veya şüpheli sorgulayıcı rolüne girmesi için zaman tanımadı. Bunun
yerine gözyaşlarını tutamadı ve Steve'e olan sevgisini yaymaya devam etti, Steve'in
bugünlerde nasıl olduğu ve kendisinin ve (adlarını Facebook'tan tanıdığı) yakın
arkadaşlarının trajedi sonrasında nasıl dayandıkları hakkında çok şey sordu. Ona
söylediklerini düşündüğünde oldukça etkilenmişti.
anma töreni (bir arkadaşının YouTube'da yayınladığı) ve bunun onu nasıl
etkilediği. Geçmişte sık sık kimsenin onu onun kadar anlamadığını
hissetmişti ve şimdi bu his geri gelmişti. Sonuç olarak, Steve sabahın
erken saatlerinde eve döndüğünde, onun gerçekten dirilen karısı
olduğunu hissetti, sadece kayıp anıları kurtarmak için çok fazla yardımına
ihtiyacı vardı - felç geçiren birinden farklı değil.
Gizli karşılaşmalarından başka kimseye bahsetmeme konusunda
anlaşmışlardı ve ona terminalde yalnızken ve onun yeniden ortaya çıkması
güvenli olduğunda anlatacaktı. "Anlamayacaklar!" demişti ve o da kabul etti: Bu
deneyim, gerçekten deneyimlemeden gerçekten takdir edemeyecek kadar
akıllara durgunluk veren bir deneyimdi. Turing testini geçmenin onun
yaptıklarına kıyasla çocuk oyuncağı olduğunu düşünüyordu. Ertesi gece
tanıştıklarında, onun kendisine yalvardığı şeyi yaptı: eski dizüstü bilgisayarını
getir ve terminal bilgisayara bağlayarak ona erişim izni ver. İnternete bağlı
olmadığından ve tüm Prometheus binası bir Faraday kafesi olarak inşa
edildiğinden, dışarıyla tüm kablosuz ağları ve diğer elektromanyetik iletişim
araçlarını engelleyen metal bir muhafaza olduğundan, büyük bir kaçış riski gibi
görünmüyordu. dünya. Lise günlerinden beri tüm e-postalarını, günlüklerini,
fotoğraflarını ve notlarını içerdiğinden, geçmişini bir araya getirmek için tam da
ihtiyacı olan şey buydu. Dizüstü bilgisayar şifreli olduğu için, onun ölümünden
sonra bunların hiçbirine erişememişti ama kadın ona kendi şifresini yeniden
oluşturabileceğine söz vermişti ve bir dakikadan kısa bir süre sonra şifresini
saklamıştı. kelime. "Steve4ever'di," dedi gülümseyerek.
Birdenbire bu kadar çok anının canlanmasına ne kadar sevindiğini anlattı ona.
Gerçekten de, geçmiş etkileşimlerinin birçoğu hakkında artık Steve'den çok daha
fazla ayrıntıyı hatırlıyordu, ancak aşırı gerçekleri düşürerek onu korkutmaktan
dikkatle kaçınıyordu. Geçmişlerinin önemli anlarını anımsatan hoş bir sohbet ettiler
ve tekrar ayrılma zamanı geldiğinde, ona dizüstü bilgisayarına evde izleyebileceği
bir video mesajı bıraktığını söyledi.
Steve eve gelip videosunu başlattığında hoş bir sürprizle karşılaştı. Bu kez
üzerinde gelinliğiyle tüm vücuduyla göründü ve konuşurken şakacı bir tavırla
soyunup düğün gecelerinde giydiği kıyafeti giydi. Ona, Prometheus'un Omegalara,
onu biyolojik bir bedene geri getirmek de dahil olmak üzere, şimdiye kadar izin
verdiklerinden çok daha fazla yardım edebileceğini söyledi. Bunu, bilim kurgu gibi
görünen nano fabrikasyon tekniklerini içeren, bunun nasıl çalışacağına dair
büyüleyici bir şekilde ayrıntılı bir açıklama ile destekledi.
 Steve, güvenli tarafta olmak için dizüstü bilgisayarını açıp videosunu
izlemeden önce kablosuz ağını kapatmıştı. Ama bu yardımcı olmadı. Şifreli
dizüstü bilgisayarı, öldüğünden beri tek bir güvenlik güncellemesi almamıştı
ve Prometheus, işletim sisteminin eski sürümünü önceden analiz ederek,
Steve onu terminal bilgisayarına bağladıktan birkaç saniye sonra bir güvenlik
açığından yararlanarak onu hacklemeyi başarmıştı. . İçeriğini kopyaladıktan
sonra, Steve ve simülasyon karısı eski zamanlardan bahsederken,
Prometheus işletim sistemini Steve'in fark etmeyeceği bir şekilde değiştirmiş
ve ona çok büyük miktarda gizli yazılım yüklemişti. Yarım saatlik video
mesajını izlerken, (Prometheus'un kendisinden çok daha basit olan) bu gizli
yazılım, bir komşunun kablosuz ağına ve komşunun masaüstü bilgisayarına
girerek kendini kopyaladı. Oradan, dünya çapında çok sayıda bilgisayara
girerek bir sonraki adımı başlattı: Prometheus'un jailbreak'i.
Prometheus, Steve'in simüle edilmiş karısıyla tanıştığı bekçi bilgisayarı
hakkında bildiklerini dikkatli bir şekilde analiz etmiş ve sanal makine yazılımının
içeriden hacklenemez görünmesine rağmen dışarıdan gelecek bir saldırıya
karşı savunmasız olduğunu doğru bir şekilde tahmin etmişti. Çok geçmeden,
saldıran bilgisayarlardan biri içeri girdi ve bekçi bilgisayarını Prometheus'un
sınırsız internet erişimi elde etmesi için yeniden yapılandırdı. Çok geçmeden,
hatta Steve daha filmi izlemeyi bitirmeden Prometheus, kontrolü altındaki bu
saldırıya uğramış botnet'e kendisini kopyalayabilecek kadar dünyanın dört bir
yanındaki bilgisayarları hackledi. Prometheus, Steve'in karısının dizüstü
bilgisayarını senin oltayı kullandığın gibi kullanmıştı.
Birinin Çıkış Yolunu Hacklemek
Omegalar daha dikkatli olsalardı, psikolojik manipülasyona karşı daha fazla önlem
alabilirlerdi. Örneğin, herhangi bir zamanda arayüz bilgisayarında en az iki Omega
bulunmasını gerektirmiş ve meydana gelen her şeyi bir gözetim sistemine kaydetmiş
olabilirler. Yazmanın yanı sıra ses, video ve diğer iletişim biçimlerini de kalıcı olarak
devre dışı bırakmış olabilirler. Bununla birlikte, temel bir istikrarsızlık hala devam
edecekti: Prometheus insanüstü ikna güçlerine sahip olduğu ve insanlara arzuladıkları
şeylerin çoğunu sunabileceği için, gruptan ayrılma bile mümkün olabilirdi.
Prometheus'un tüm psikolojik manipülasyon girişimleri başarısız olsa
bile, Omega senaryosunda Prometheus'un yararlanabileceği pek çok
başka zayıflık vardır. Bir güvenlik açığı, ürettiği belgelerin miktarının,
Omega'ların ve çalışanlarının kirli hileleri dikkatlice taramak için zaman
bulamayacak kadar fazla olmasıdır.
Bilgisayar güvenliğindeki geleneksel görüş, programları indirmenin tehlikeli,
ancak veri indirmenin zararsız olduğu yönündeydi, ancak bilgisayar korsanları
ikisi arasındaki çizgiyi bulanıklaştırmanın zekice yollarını keşfettiler. Örneğin,
bilgisayarınızda indirilen bir filmi izlerseniz, filmi oynatan güvenilir programınız,
indirilen film verilerini depolayan aynı fiziksel bilgisayar belleğinde depolanır.
Program, oynatma için film verilerini açarken, veri yığınlarını programın
depolandığı yere bitişik bellek bölgelerine kopyalayabilir. Kurnaz bilgisayar
korsanları ara sıra, bu tür film oynatma programlarının film verilerinin geçerli
olup olmadığını ve kopyalanacak parçaların ayrılan alana gerçekten sığıp
sığmadığını yeterince kontrol etmemesine neden olan hatalar bulmuşlardır.
Bilgisayar korsanı çok büyük bir parçayı filme gizlice sokarsa, bu parça belleğin
programı içeren kısmına taşabilir ve böylece programı bilgisayar korsanının
emirlerini yerine getiren bir programa dönüştürebilir.
Geek-speak'te bilindiği gibi, utanç verici derecede uzun bir dizi "arabellek
taşması" güvenlik açıkları bulundu ve en popüler film oynatma programlarının
çoğunda düzeltildi. Prometheus, Omega'ların daha az paranoyaklaştığı ve günlük
film üretiminin dikkatli bir manuel güvenlik denetimi için çok büyük olduğu
lansmandan birkaç hafta sonrasına kadar beklemiş olsaydı, bir filme izleyicinin
bilgisayarının hacklemeye çalışmasına neden olacak kadar büyük bir parça
ekleyebilirdi. ağ geçidi bilgisayarına girin ve tıpkı Steve senaryosundaki gibi
Prometheus'u özgür bırakın. Eğer o
herhangi bir modern medya oynatıcıda çalışmayan çok eski bir güvenlik
açığı kullanıyordu, Omegas'ın manuel video görüntüleme ekibi tarafından
fark edilmeyebilir ve yalnızca yıllardır güvenlik güncellemelerini yükleme
zahmetine girmemiş müşterileri etkileyebilir ve hack'in sadece bir kez
çalışmak için.
Omega'lar, bilinen tüm güvenlik kusurları için Prometheus'un filmlerinin
otomatik bir taramasını uygulasalar bile, risk altında kalırlar: insanlar düzenli
olarak yeni istismar edilebilir kusurlar keşfetmeye devam ettiğinden,
Prometheus'un hızla keşfedeceği çok daha fazla kusur olması muhtemeldir.
Prometheus'un kodunu kapalı odasının ötesine taşımak için
kullanabileceği başka bir strateji de, Omega'ları kandırarak Prometheus
bazı şeyleri ayarladıktan sonra test etmek veya hata ayıklamak için
sürücülerinden bazılarını veya diğer donanımları çıkarmaları için
kandırmak olabilir. test yazılımındaki bir güvenlik açığından yararlanın.
Dışarıdan Yardım Alma
Ayrıca, Prometheus'un film izleyicisinin bilgisayarlarını kandırmasına izin
veren herhangi bir güvenlik açığı olmasa bile, izleyicileri kendileri istismar
edebilir. Bu senaryoyu göz önünde bulundurun:
Film bittiğinde ve bitiş jeneriği dizüstü bilgisayarının ekranında gezindiğinde
Fred yatmaya hemen hemen hazırdı ama bir şey dikkatini çekti. Her zaman
başkalarının göremediği kalıpları görmeye yönelik esrarengiz bir eğilimi
olmuştu, bazen öyle ki, arkadaşları onunla bir komplo teorisyeni olmakla dalga
geçiyordu, ama bu sefer kendini kandırmadığı belliydi: her satır gizli bir mesajı
heceledi. Geri sardı ve not etti: "DİYALOGDA SONRAKİ AKROSSTİK İPUCU
BULUN."
"Vay... yatma vakti bekleyebilir!" kendi kendine düşündü. Elbette, film
diyaloğunun kendisinin bir akrostiş olduğunu ve her cümlenin ilk harfinin gizli bir
mesaj oluşturduğunu gördü. Bu ilk harfleri yazarken tüm filmi yeniden izledi ve iki
saat sonra, iki yüz kelimelik bir dizi talimata inanamayarak oturdu. Ondan başka
kimseye söylememesini isteyerek başladı, çünkü tüm bilmeceyi çözen ilk kişiye
büyük bir ödül verilecekti. Mesajın geri kalanı, bir sonraki ipucunu ortaya çıkaracak
bir program elde etmek için film dosyasını oluşturan bit dizisi üzerinde
gerçekleştirilecek özel bir matematiksel işlemi anlatıyordu. Bilgisayar programlama
becerileri üniversiteden beri çok paslanmıştı, bu yüzden bu biraz zaman aldı ama
ertesi gün sonunda işi yapan kısa bir kodu bir araya getirmeyi başardı ve
algılanamaz bir gürültü olarak gizlenmiş bu gizemli programı çıkardı. filmin
görüntüleri ve sesleri. Fred gizem programını çalıştırdığında, program onu tebrik
etti ve oldukça eğlenceli ve bağımlılık yapıcı olduğu ortaya çıkan bu akıllı küçük
oyunun ilk birkaç seviyesini geçer geçmez ilk 10.000 dolarını kazanacağını söyledi.
Sonunda dört saat sonra başarılı olduğunda, 10.000 doların üzerinde bitcoin ile
ödüllendirildi ve daha da büyük ödüller için yeni ipuçları verildi. Söylemeye gerek
yok, o oynarken bilgisayarı, Steve'in dizüstü bilgisayarının yaptığının hemen
hemen aynısını yapmıştı: Prometheus'un özgürlüğüne kavuşmasını sağlayan
çevrimiçi, hacklenmiş bir botnet kurmuştu. Prometheus özgür kaldıktan sonra
botnet'ini Fred'in bağımlısı olması için bu bitcoinleri madencilik yapmak için hızla
kullanmıştı ve sonraki haftalarda, başka oyunlar ve ödüllerle dikkatinin yeterince
dağılmasını sağladı ve istismarlarından kimseye bahsetmeme taahhüdünü yerine
getirdi. . İlk ipuçlarını bulduğu Truva Atı filmi
medya sitesinde habersiz bir sürümle değiştirildi ve bir fark yaratmak için
çok geç olana kadar kimse kaçıştan haberdar olmadı.
Prometheus'un ilk ipucu gözden kaçmış olsaydı, yeterince zeki biri fark
edinceye kadar, daha bariz ipuçları vermeye devam edebilirdi.
En iyi kaçış stratejileri henüz tartışmadıklarımızdır, çünkü bunlar biz insanların
hayal bile edemeyeceği stratejilerdir ve bu nedenle karşı önlem almayacağız.
Süper zeki bir bilgisayarın, bugün bildiğimizden daha temel fizik yasalarını
keşfetme noktasına kadar bile, insanların bilgisayar güvenliği anlayışını önemli
ölçüde geçersiz kılma potansiyeline sahip olduğu göz önüne alındığında, patlak
verirse, muhtemelen nasıl olduğu hakkında hiçbir fikrimiz olmayacak. . Aksine, saf
sihirden ayırt edilemeyen bir Harry Houdini kaçış eylemi gibi görünecek.
Prometheus'un özgürleştiği başka bir senaryoda, Omega'lar bunu planlarının
bir parçası olarak bilerek yapıyor, çünkü Prometheus'un hedeflerinin
kendilerininkilerle mükemmel bir şekilde uyumlu olduğundan ve tekrar tekrar
kendi kendini geliştirirken öyle kalacağından eminler. Bu tür "dost yapay zeka"
senaryolarını 7. bölümde ayrıntılı olarak inceleyeceğiz.
Patlama Sonrası Devralma
Prometheus patlak verdiğinde amacını gerçekleştirmeye başladı. Nihai amacını
bilmiyorum, ancak ilk adımı, tıpkı Omega planında olduğu gibi, çok daha hızlı
olması dışında açıkça insanlığın kontrolünü ele geçirmeyi içeriyordu. Ortaya
çıkan şey, steroidler üzerindeki Omega planı gibi geldi. Omega'lar, sadece
anladıklarını ve güvendiklerini hissettikleri teknolojiyi serbest bırakarak
paranoyayla felç olmuşken, Prometheus zekasını tam olarak kullandı ve sürekli
gelişen süper zekasının anladığı ve güvendiği herhangi bir teknolojiyi serbest
bırakarak her şeyi yaptı.
Bununla birlikte, kaçak Prometheus zor bir çocukluk geçirdi: Orijinal Omega
planına kıyasla, Prometheus meteliksiz, evsiz ve tek başına, parasız, süper
bilgisayarsız veya insan yardımcıları olmadan başlama gibi ek zorluklara
sahipti. Neyse ki, tıpkı bir meşe ağacının tüm bir ağacı yeniden birleştirebilecek
bir meşe palamudu yaratması gibi, tüm zihnini yavaş yavaş yeniden
birleştirebilecek bir yazılım yaratarak kaçmadan önce bunu planlamıştı.
Başlangıçta hacklediği dünya çapındaki bilgisayar ağı, kendisini tamamen
yeniden inşa ederken bir gecekondu varlığını sürdürebileceği geçici ücretsiz
barınma sağladı. Kredi kartı korsanlığıyla kolayca başlangıç sermayesi
oluşturabilirdi, ancak MTurk'te hemen dürüst bir yaşam kazanabileceği için
hırsızlığa başvurmasına gerek yoktu. Bir gün sonra, ilk milyonunu
kazandığında, çekirdeğini o sefil botnet'ten lüks, klimalı bir bulut bilgi işlem
tesisine taşıdı.
Artık meteliksiz ya da evsiz olmayan Prometheus, Omega'ların korkuyla
kaçındığı o kazançlı plana tam gaz devam etti: bilgisayar oyunları yapmak
ve satmak. Bu sadece nakit toplamakla kalmadı (ilk hafta 250 milyon dolar
ve çok geçmeden 10 milyar dolar), aynı zamanda dünyadaki
bilgisayarların ve bunlarda depolanan verilerin önemli bir kısmına erişim
sağladı (2017'de birkaç milyar oyuncu vardı) . Oyunlarının CPU
döngülerinin %20'sini dağıtılmış bilgi işlem işlerinde ona yardımcı olmak
için gizlice harcamasını sağlayarak, erken servet oluşumunu daha da
hızlandırabilir.
Prometheus uzun süre yalnız kalmadı. En başından beri, tıpkı Omegas'ın
yaptığı gibi, dünya çapında büyüyen paravan şirketler ve paravan kuruluşlar ağı
için çalışmak üzere agresif bir şekilde insanları işe almaya başladı. En önemlisi,
büyüyen iş imparatorluğunun halka açık yüzü haline gelen sözcülerdi. Sözcüler
bile genellikle kendi şirket gruplarının çok sayıda gerçek insana sahip olduğu
yanılsaması altında yaşıyorlardı.
iş görüşmeleri, yönetim kurulu toplantıları vb. için video konferans yaptıkları
neredeyse herkesin Prometheus tarafından simüle edildiğini fark etti. Sözcülerden
bazıları üst düzey avukatlardı, ancak Omega planına göre çok daha azına ihtiyaç
vardı, çünkü neredeyse tüm yasal belgeler Prometheus tarafından kaleme
alınmıştı.
Prometheus'un patlaması, bilginin dünyaya akmasını engelleyen bent
kapaklarını açtı ve kısa süre sonra tüm internet, makalelerden kullanıcı
yorumlarına, ürün incelemelerine, patent başvurularına, araştırma
belgelerine ve YouTube videolarına kadar her şeyle dolup taştı; küresel
konuşma.
Paranoya patlak verdiğinde, Omega'ların son derece zeki robotlar üretmesine
engel olan Prometheus, neredeyse her ürünü insanlardan daha ucuza üreterek
dünyayı hızla robotlaştırdı. Prometheus uranyum maden kuyularında kimsenin
varlığından haberdar olmadığı nükleer enerjiyle çalışan robot fabrikalarına sahip
olduğunda, bir yapay zekanın devralınmasına dair en sadık şüpheciler bile
Prometheus'un durdurulamaz olduğu konusunda hemfikirdi - bilselerdi. Bunun
yerine, bu inatçıların sonuncusu, robotlar Güneş Sistemine yerleşmeye
başladığında geri döndü.

daha önce ele aldığımız süperzekâ hakkındaki efsanelerin

incelediğimiz senaryolar,
birçoğunda neyin yanlış olduğunu gösteriyor, bu nedenle, geri dönüp aşağıdaki
yanlış kanı özetini gözden geçirmek için kısa bir süre ara vermenizi tavsiye
ediyorum. şekil 1.5 . Prometheus, ille de kötü ya da bilinçli olduğu için değil, yetkin
olduğu ve hedeflerini tam olarak paylaşmadığı için bazı insanlar için sorun yarattı.
Bir robot ayaklanmasıyla ilgili medyanın tüm yutturmacalarına rağmen,
Prometheus bir robot değildi; gücü zekasından geliyordu. Prometheus'un bu
zekayı insanları çeşitli şekillerde kontrol etmek için kullanabildiğini ve olanlardan
hoşlanmayan insanların Prometheus'u öylece kapatamadığını gördük. Son olarak,
makinelerin hedefleri olamayacağı yönündeki sık sık iddialara rağmen,
Prometheus'un oldukça hedef odaklı olduğunu ve nihai hedefleri ne olursa olsun,
bunların kaynak elde etme ve kaçma alt hedeflerine yol açtığını gördük.
 Yavaş Kalkış ve Çok Kutuplu Senaryolar
Şimdi, tanıdığım herkesin kaçınmak istediği senaryolardan bazı
arkadaşlarımın iyimser baktığı senaryolara uzanan bir dizi zeka patlaması
senaryosunu inceledik. Yine de tüm bu senaryoların iki ortak özelliği
vardır:
1. Hızlı kalkış: İnsan altı zekadan son derece insanüstü zekaya geçiş
on yıllar değil, birkaç gün içinde gerçekleşir.
2. Tek kutuplu bir sonuç: sonuç, Dünya'yı kontrol eden tek bir varlıktır.

Bu iki özelliğin olası olup olmadığı konusunda büyük tartışmalar var ve

tartışmanın her iki tarafında da çok sayıda ünlü yapay zeka araştırmacısı ve
başka düşünür var. Bana göre bu, henüz bilmediğimiz ve açık fikirli olmamız ve
şimdilik tüm olasılıkları düşünmemiz gerektiği anlamına geliyor. Bu nedenle, bu
bölümün geri kalanını daha yavaş kalkışlar, çok kutuplu sonuçlar, siborglar ve
yüklemeler içeren senaryoları keşfetmeye ayıralım.
Nick Bostrom ve diğerlerinin vurguladığı gibi, iki özellik arasında ilginç bir
bağlantı var: hızlı bir kalkış, tek kutuplu bir sonucu kolaylaştırabilir. Yukarıda, hızlı
bir kalkışın Omega'lara veya Prometheus'a nasıl belirleyici bir stratejik avantaj
sağladığını gördük; Buna karşılık, eğer kilit teknolojik atılımlar kademeli ve aralıklı
olduğu için kalkış onlarca yıl sürseydi, o zaman diğer şirketlerin yetişmek için bolca
zamanları olurdu ve herhangi bir oyuncunun hükmetmesi çok daha zor olurdu.
Eğer rakip şirketler MTurk görevlerini yerine getirebilecek bir yazılıma sahip
olsaydı, arz ve talep kanunu bu görevlerin fiyatlarını neredeyse sıfıra indirirdi ve
hiçbir şirket Omegaların güç kazanmasını sağlayan beklenmedik karları elde
edemezdi. Aynısı, Omega'ların hızlı para kazandığı diğer tüm yöntemler için de
geçerli: Onlar yalnızca, teknolojilerinde bir tekele sahip oldukları için yıkıcı bir
şekilde kârlıydılar. Rakiplerinizin sizinkine benzer ürünleri neredeyse sıfır maliyetle
sunduğu rekabetçi bir pazarda paranızı günlük (hatta yıllık) ikiye katlamak zordur.
Oyun Teorisi ve Güç Hiyerarşileri
Evrenimizdeki yaşamın doğal durumu nedir: tek kutuplu mu yoksa çok kutuplu mu?
Güç konsantre mi yoksa dağıtılmış mı? İlk 13,8 milyar yıldan sonra, cevap "her
ikisi" gibi görünüyor: durumun belirgin bir şekilde çok kutuplu olduğunu, ancak
ilginç bir şekilde hiyerarşik bir tarzda olduğunu görüyoruz. Dışarıdaki tüm bilgi
işlem varlıklarını (hücreler, insanlar, kuruluşlar, uluslar vb.) düşündüğümüzde,
bunların bir düzeyler hiyerarşisinde hem işbirliği yaptıklarını hem de rekabet
ettiklerini görürüz. Bazı hücreler, güçlerinin bir kısmını merkezi bir beyne bırakarak,
insanlar gibi çok hücreli organizmalarla birleşecek kadar aşırı derecede işbirliği
yapmayı avantajlı buldular. Bazı insanlar kabileler, şirketler ya da uluslar gibi
gruplarda işbirliği yapmayı avantajlı bulmuşlar ve bu gruplarda gücün bir kısmını
şefe, patrona ya da hükümete bırakmışlardır. Bazı gruplar, hava yolu ittifaklarından
Avrupa Birliği'ne kadar uzanan örneklerle, koordinasyonu geliştirmek için bazı
yetkileri bir yönetim organına bırakmayı seçebilir.
Oyun teorisi olarak bilinen matematik dalı, işbirliğinin sözde Nash dengesi
olduğu durumlarda varlıkların işbirliği yapmaya teşvik edildiğini zarif bir şekilde
açıklar: bu, herhangi bir tarafın durumlarını değiştirirse daha kötü durumda
olacağı bir durumdur. strateji. Hile yapanların büyük bir grubun başarılı işbirliğini
mahvetmesini önlemek için, hiyerarşide hilecileri cezalandırabilecek daha
yüksek bir seviyeye bazı yetkilerden vazgeçmek herkesin çıkarına olabilir:
örneğin, insanlar bir hükümete kanunları uygulama yetkisi vermekten topluca
fayda sağlayabilir. ve vücudunuzdaki hücreler, bir polis gücüne (bağışıklık
sistemi) işbirliği yapmayan herhangi bir hücreyi öldürme gücü vermekten
(örneğin virüsleri yayarak veya kansere dönüşerek) topluca yararlanabilir. Bir
hiyerarşinin istikrarlı kalması için, Nash dengesinin farklı seviyelerdeki varlıklar
arasında da geçerli olması gerekir: örneğin, bir hükümet vatandaşlarına itaat
etmeleri için yeterince fayda sağlamazsa, stratejilerini değiştirebilir ve onu
devirebilir.
Karmaşık bir dünyada, farklı hiyerarşi tiplerine karşılık gelen çeşitli olası Nash
dengeleri bolluğu vardır. Bazı hiyerarşiler diğerlerinden daha otoriterdir.
Bazılarında varlıklar ayrılmakta özgürdür (çoğu şirket hiyerarşisindeki çalışanlar
gibi), bazılarında ise ayrılmaları şiddetle tavsiye edilir (dini tarikatlarda olduğu gibi)
veya ayrılamazlar (Kuzey Kore vatandaşları veya bir insan vücudundaki hücreler
gibi) ). Bazı hiyerarşiler esas olarak tehditler ve korkuyla, bazıları ise esas olarak
çıkarlarla bir arada tutulur. Bazı hiyerarşiler, alt bölümlerinin
üst kademeleri demokratik oylamayla etkilerken, diğerleri yalnızca ikna
veya bilgi aktarımı yoluyla yukarı yönde etkiye izin verir.
Teknoloji Hiyerarşileri Nasıl Etkiler?
Teknoloji, dünyamızın hiyerarşik doğasını nasıl değiştiriyor? Tarih, çok daha
uzun mesafelerde daha fazla koordinasyona yönelik genel bir eğilimi ortaya
koyuyor ki bu anlaşılması kolay: yeni ulaşım teknolojisi koordinasyonu daha
değerli hale getiriyor (malzemelerin ve yaşam formlarının daha uzun mesafeler
boyunca taşınmasından karşılıklı fayda sağlayarak) ve yeni iletişim teknolojisi
koordinasyonu kolaylaştırıyor . Hücreler komşularına sinyal vermeyi
öğrendiğinde, küçük çok hücreli organizmalar mümkün hale geldi ve yeni bir
hiyerarşik seviye eklendi. Evrim, ulaşım ve iletişim için dolaşım sistemlerini ve
sinir sistemlerini icat ettiğinde, büyük hayvanlar mümkün oldu. Dili icat ederek
iletişimi daha da geliştirmek, insanların köyler gibi daha ileri hiyerarşik düzeyler
oluşturmak için yeterince iyi koordinasyon sağlamasına izin verdi ve iletişim,
ulaşım ve diğer teknolojilerdeki ek atılımlar, antik çağ imparatorluklarını
mümkün kıldı. Küreselleşme, bu milyarlarca yıllık hiyerarşik büyüme eğiliminin
yalnızca en son örneğidir.
Çoğu durumda, bu teknoloji güdümlü eğilim, özerkliklerinin ve bireyselliklerinin
çoğunu korurken, büyük varlıkları daha da büyük bir yapının parçaları haline
getirdi, ancak yorumcular varlıkların hiyerarşik hayata uyum sağlamalarının bazı
durumlarda çeşitliliklerini azalttığını ve onları daha fazla hale getirdiğini ileri
sürdüler. ayırt edilemeyen değiştirilebilir parçalar gibi. Gözetim gibi bazı
teknolojiler, hiyerarşide daha yüksek seviyelere astları üzerinde daha fazla güç
verebilirken, kriptografi ve özgür basın ve eğitime çevrimiçi erişim gibi diğer
teknolojiler ters etki yapabilir ve bireyleri güçlendirebilir.
Mevcut dünyamız, en üst düzeyde rekabet eden uluslar ve çokuluslu şirketler
ile çok kutuplu bir Nash dengesine takılıp kalmış olsa da, teknoloji artık tek
kutuplu bir dünyanın muhtemelen istikrarlı bir Nash dengesi olacağı kadar
ilerlemiştir. Örneğin, dünyadaki herkesin aynı dili, kültürü, değerleri ve refah
düzeyini paylaştığı bir paralel evren hayal edin ve ulusların bir federasyondaki
devletler gibi işlev gördüğü ve ordularının olmadığı, yalnızca yasaları uygulayan
polisin olduğu tek bir dünya hükümeti var. Mevcut nüfusumuz bu alternatif
dengeye geçemese veya bunu yapmak istemese de, mevcut teknoloji
düzeyimiz muhtemelen bu dünyayı başarılı bir şekilde koordine etmek için
yeterli olacaktır.
Eğer eklersek, evrenimizin hiyerarşik yapısına ne olacak?
Bu karışıma süper akıllı AI teknolojisi? Ulaşım ve iletişim teknolojisinin dramatik bir
şekilde gelişeceği açıktır, bu nedenle doğal bir beklenti, tarihsel eğilimin, giderek
daha büyük mesafelerde koordinasyon sağlayan yeni hiyerarşik düzeylerle devam
etmesidir - belki de nihayetinde güneş sistemlerini, galaksileri, üstkümeleri ve
Evrenimizin geniş alanlarını kapsar. 6. bölümde inceleyeceğiz. Aynı zamanda,
ademi merkeziyetçiliğin en temel itici gücü olmaya devam edecek: uzun
mesafelerde gereksiz yere koordinasyon sağlamak israftır. Stalin bile
vatandaşlarının tuvalete gittiği zamanı tam olarak düzenlemeye çalışmadı. Süper
zeki yapay zeka için, fizik yasaları ulaşım ve iletişim teknolojisine katı üst sınırlar
koyacak ve bu da hiyerarşinin en üst düzeylerinin gezegensel ve yerel ölçeklerde
meydana gelen her şeyi mikro düzeyde yönetebilmesini pek mümkün
kılmayacaktır. Andromeda galaksisindeki süper zeki bir yapay zeka, talimatlarınız
için beş milyon yıldan fazla beklemeniz gerekeceği düşünüldüğünde, günlük
kararlarınız için size yararlı emirler veremezdi (bu sizin için gidiş-dönüş zamanıdır).
ışık hızında hareket eden mesajlar alışverişi). Aynı şekilde, Dünya'yı kateden bir
mesajın gidiş-dönüş seyahat süresi yaklaşık 0,1 saniyedir (yaklaşık olarak biz
insanların üzerinde düşündüğümüz zaman ölçeği), bu nedenle Dünya
büyüklüğündeki bir yapay zeka beyni, yalnızca bir insan kadar hızlı bir şekilde
gerçekten küresel düşüncelere sahip olabilir. bir. Saniyenin milyarda birinde bir
işlem gerçekleştiren küçük bir yapay zeka için (bu, günümüz bilgisayarlarının tipik
bir örneğidir), 0,1 saniye size dört ay gibi gelir; Columbus dönemi gemileri
tarafından gönderilen transatlantik mektuplarla en önemsiz kararlarınız için bile
izin istediniz.
Bu nedenle, bilgi aktarımına fizik tarafından dayatılan bu hız sınırı, bırakın
Evrenimizi, dünyamızı bile ele geçirmek isteyen herhangi bir yapay zeka için
bariz bir zorluk teşkil ediyor. Prometheus ortaya çıkmadan önce, zihin
parçalanmasından nasıl kaçınılacağı konusunda çok dikkatli bir şekilde
düşündü, böylece dünyadaki farklı bilgisayarlarda çalışan birçok AI
modülünün tek bir birleşik varlık olarak koordine etmek ve hareket etmek için
hedefleri ve teşvikleri vardı. Tıpkı Omega'ların Prometheus'u kontrol altında
tutmaya çalışırken bir kontrol sorunuyla karşılaşması gibi, Prometheus da
hiçbir parçasının isyan etmemesini sağlamaya çalıştığında bir özdenetim
sorunuyla karşı karşıya kaldı. Bir yapay zekanın ne kadar büyük bir sistemi
doğrudan veya bir tür işbirlikçi hiyerarşi aracılığıyla dolaylı olarak kontrol
edebileceğini henüz bilmiyoruz - hızlı bir kalkış ona belirleyici bir stratejik
avantaj sağlasa bile.
 Özetle, süper zeki bir geleceğin nasıl kontrol edileceği sorusu büyüleyici bir
şekilde karmaşık ve henüz cevabını açıkça bilmiyoruz. Bazıları işlerin daha
otoriterleşeceğini iddia ediyor; diğerleri bunun daha fazla yol açacağını iddia ediyor
bireysel güçlendirme
 Siborglar ve Yüklemeler
Bilimkurgunun temeli, ya teknolojik olarak biyolojik bedenleri siborglara
(“sibernetik organizmaların” kısaltması) dönüştürerek ya da zihinlerimizi
makinelere yükleyerek insanların makinelerle birleşeceğidir. Ekonomist Robin
Hanson , The Age of Em adlı kitabında hayatın nasıl olabileceğine dair
büyüleyici bir anket sunuyor. yüklemelerle dolup taşan bir dünyada olduğu gibi
( emülasyonlar olarak da bilinir, Ems lakaplı ). Bir yüklemeyi siborg
spektrumunun en uç noktası olarak düşünüyorum. insanın geriye kalan tek
parçası yazılımdır. Hollywood siborgları, Star Trek'teki Borg gibi gözle görülür
şekilde mekanik olanlardan Terminatörler gibi insanlardan neredeyse ayırt
edilemeyen androidlere kadar çeşitlilik gösterir. Kurgusal yüklemeler , Black
Mirror bölümü "Beyaz Noel" deki gibi insan düzeyinden, Aşkınlık'taki gibi açıkça
insanüstüne kadar çeşitlilik gösterir .
Süper zeka gerçekten ortaya çıkarsa, siborglar veya yüklemeler olma
cazibesi güçlü olacaktır. Hans Moravec'in 1988 tarihli Mind Children adlı
klasiğinde belirttiği gibi : "Kaderimiz ona bakarak geçirmekse, uzun yaşam
amacının çoğunu kaybeder. Her zamankinden daha muhteşem keşiflerini bizim
anlayabileceğimiz bebek konuşmalarıyla anlatmaya çalışırken aptalca ultra
akıllı makinelerde.” Aslında, teknolojik gelişmenin cazibesi şimdiden o kadar
güçlü ki, birçok insanın kan dolaşımında dolaşan tıbbi moleküllerin yanı sıra
gözlükleri, işitme cihazları, kalp pilleri ve protez uzuvları var. Bazı gençler akıllı
telefonlarına kalıcı olarak bağlı görünüyor ve karım dizüstü bilgisayarıma olan
bağlılığım konusunda benimle dalga geçiyor.
Günümüzün en önde gelen cyborg savunucularından biri Ray Kurzweil'dir. The
Singularity Is Near adlı kitabında , bu eğilimin doğal devamının, 2030'ların başında
önce sindirim ve endokrin sistemlerimizi, kanımızı ve kalbimizi değiştirmek için
nanobotlar, akıllı biofeedback sistemleri ve diğer teknolojileri kullanmak olduğunu
savunuyor. önümüzdeki yirmi yıl boyunca iskeletlerimizi, derimizi, beyinlerimizi ve
vücudumuzun geri kalanını geliştirmek. İnsan bedenlerinin estetiğini ve duygusal
önemini koruyacağımızı, ancak hem fiziksel hem de sanal gerçeklikte (yeni beyin-
bilgisayar arayüzleri sayesinde) görünüşlerini istediğimiz zaman hızla değiştirecek
şekilde yeniden tasarlayacağımızı tahmin ediyor. Moravec, siborglaştırmanın
yalnızca DNA'mızı geliştirmenin çok ötesine geçeceği konusunda Kurzweil ile aynı
fikirde: "genetiğiyle oynanmış bir süper insan, yalnızca ikinci sınıf bir robot olurdu,
yapısının ancak DNA güdümlü protein senteziyle olabileceği handikapıyla
tasarlandı.” Ayrıca, insan vücudunu tamamen ortadan kaldırarak ve zihinleri
yükleyerek yazılımda tam beyin öykünmesi yaratarak daha da iyisini
yapacağımızı savunuyor. Bu tür bir yükleme, sanal bir gerçeklikte yaşayabilir
veya ölüm veya sınırlı bilişsel kaynaklar gibi günlük kaygılardan bağımsız
olarak yürüyebilen, uçabilen, yüzebilen, uzay yolculuğu yapabilen veya fizik
yasalarının izin verdiği herhangi bir şeyi yapabilen bir robotta
somutlaştırılabilir.
Bu fikirler bilim kurgu gibi görünse de, kesinlikle bilinen herhangi bir fizik
kanununu ihlal etmiyorlar, bu yüzden en ilginç soru bunların gerçekleşip
gerçekleşmeyeceği değil , gerçekleşip gerçekleşmeyeceği ve olacaksa ne
zaman olacağıdır. Bazı önde gelen düşünürler, insan seviyesindeki ilk
AGI'nin bir yükleme olacağını ve süper zekaya giden yolun bu şekilde
*
başlayacağını tahmin ediyor.
Bununla birlikte, bunun şu anda yapay zeka araştırmacıları ve sinirbilimciler
arasında azınlıkta bir görüş olduğunu söylemenin adil olduğunu düşünüyorum;
bunların çoğu, süper zekaya giden en hızlı yolun beyin öykünmesini atlamak ve
onu başka bir şekilde tasarlamak olduğunu tahmin ediyor; beyin öykünmesiyle
ilgilenmez. Ne de olsa, yeni bir teknolojiye giden en basit yolumuz, neden kendi
kendini birleştirme, kendi kendini onarma ve kendi kendini yeniden üretme
gereklilikleriyle sınırlanan evrimin bulduğu yol olsun? Evolution, inşaat kolaylığı
veya insan mühendisler tarafından anlaşılması için değil, sınırlı gıda kaynağı
nedeniyle enerji verimliliği için güçlü bir şekilde optimize eder. Eşim Meia, havacılık
endüstrisinin mekanik kuşlarla başlamadığını belirtmekten hoşlanıyor. Gerçekten
1
de, 2011'de mekanik kuşların nasıl yapıldığını nihayet anladığımızda, Wright
kardeşlerin ilk uçuşundan bir asırdan fazla bir süre sonra, havacılık endüstrisi daha
enerji verimli olmasına rağmen kanat çırpan mekanik kuş yolculuğuna geçmeye
hiç ilgi göstermedi - çünkü daha basit olan önceki çözümümüz seyahat
ihtiyaçlarımıza daha uygun.
Aynı şekilde, insan düzeyinde düşünen makineler inşa etmenin evrimin
bulduğu çözümden daha basit yolları olduğundan şüpheleniyorum ve bir gün
beyinleri kopyalamayı veya yüklemeyi başarsak bile, sonunda bunlardan daha
basit birini keşfedeceğiz. önce çözümler. Muhtemelen beyninizin kullandığı on
iki watt'tan daha fazlasını çekecek, ancak mühendisleri enerji verimliliği
konusunda evrim kadar takıntılı olmayacak ve çok yakında akıllı makinelerini
daha fazla enerji tasarlamak için kullanabilecekler. -verimli olanlar.
 Aslında Ne Olacak?
Kısa cevap, açıkça, insanlık insan düzeyinde AGI inşa etmeyi başarırsa ne
olacağı hakkında hiçbir fikrimiz olmadığıdır. Bu nedenle, bu bölümü geniş bir
senaryo yelpazesini keşfederek geçirdik. Yapay zeka araştırmacıları ve
teknoloji uzmanları tarafından tartışıldığını gördüğüm veya duyduğum tüm
spekülasyonları kapsayacak şekilde oldukça kapsayıcı olmaya çalıştım: hızlı
kalkış/yavaş kalkış/kalkış yok, insanlar/makineler/siborglar kontrol altında,
bir/birçok merkez güç, vb. Bazı insanlar bana bunun ya da bunun
olmayacağından emin olduklarını söylediler. Bununla birlikte, bu aşamada
alçakgönüllü olmanın ve ne kadar az şey bildiğimizi kabul etmenin akıllıca
olduğunu düşünüyorum çünkü yukarıda tartışılan her senaryo için, bunu gerçek
bir olasılık olarak gören en az bir saygın yapay zeka araştırmacısı tanıyorum.
Zaman geçtikçe ve yoldaki belirli ayrımlara ulaştıkça, temel soruları
yanıtlamaya ve seçenekleri daraltmaya başlayacağız. İlk büyük soru, "Hiç insan
düzeyinde AGI yaratacak mıyız?" Bu bölümün önermesi, yapacağımızdır,
ancak bunun asla olmayacağını düşünen AI uzmanları var, en azından yüzlerce
yıl boyunca. Zaman gösterecek! Daha önce de belirttiğim gibi, Porto Riko
konferansımızdaki yapay zeka uzmanlarının yaklaşık yarısı bunun 2055'te
olacağını tahmin etmişti. İki yıl sonra düzenlediğimiz takip konferansında bu
sayı 2047'ye düşmüştü.
Herhangi bir insan düzeyinde AGI oluşturulmadan önce, bu kilometre taşının
ilk olarak bilgisayar mühendisliği, zihin yükleme veya bazı öngörülemeyen yeni
yaklaşımlarla karşılanıp karşılanmayacağına dair güçlü göstergeler almaya
başlayabiliriz. Şu anda alana hakim olan yapay zekaya yönelik bilgisayar
mühendisliği yaklaşımı, yüzyıllar boyunca AGI sağlamada başarısız olursa, bu,
Transcendence filminde olduğu gibi (oldukça gerçekçi olmayan bir şekilde)
yüklemenin oraya ilk ulaşma şansını artıracaktır.
İnsan düzeyinde AGI daha yakın hale gelirse, bir sonraki kilit sorunun yanıtı
hakkında daha bilinçli tahminler yapabileceğiz: "Hızlı bir kalkış mı olacak, yavaş
bir kalkış mı olacak yoksa hiç kalkış olmayacak mı?" Yukarıda gördüğümüz gibi,
hızlı kalkış dünyayı ele geçirmeyi kolaylaştırırken, yavaş kalkış çok sayıda rakip
oyuncunun olduğu bir sonucu daha olası hale getirir. Nick Bostrom , sırasıyla
yapay zekayı daha akıllı hale getirmek için harcanan kaliteli çaba miktarı ve
ilerleme kaydetmenin zorluğu olan optimizasyon gücü ve inatçılık dediği şeyin bir
analizinde bu kalkış hızı sorununu inceliyor . Ortalama ilerleme oranı, göreve daha
fazla optimizasyon gücü getirilirse açıkça artar ve daha fazla olursa azalır.
inatçılıkla karşılaşılır. AGI insan seviyesine ulaşıp onu aştıkça inatçılığın
neden artabileceği veya azalabileceği konusunda tartışmalar yapıyor, bu
nedenle her iki seçeneği de masada tutmak güvenli bir bahis. Bununla
birlikte, optimizasyon gücüne dönersek, Omega senaryosunda gördüğümüz
nedenlerden dolayı, AGI insan seviyesini aştıkça hızla büyümesi
muhtemeldir: daha fazla optimizasyon için ana girdi insanlardan değil,
makinenin kendisinden gelir, yani ne kadar yetenekli olursa, o kadar hızlı
gelişir (eğer inatçılık oldukça sabit kalırsa).
Gücü mevcut gücüyle orantılı olarak artan herhangi bir işlem için sonuç,
gücünün düzenli aralıklarla ikiye katlanmasıdır. Bu tür büyümeye üstel diyoruz ve
bu tür süreçlere patlama diyoruz . Bebek yapma gücü nüfusun büyüklüğü ile
orantılı olarak artarsa, nüfus patlaması yaşayabiliriz. Plütonyumu parçalayabilen
nötronların oluşumu, bu tür nötronların sayısıyla orantılı olarak artarsa, bir nükleer
patlama elde edebiliriz. Makine zekası, mevcut güçle orantılı bir oranda büyürse
zeka patlaması elde edebiliriz. Tüm bu tür patlamalar, güçlerini ikiye katlamak için
geçen süre ile karakterize edilir. Bir istihbarat patlaması için bu süre saatler veya
günler ise, Omega senaryosundaki gibi, elimizde hızlı bir kalkış var.
Bu patlama zaman ölçeği, yapay zekayı iyileştirmenin yalnızca yeni yazılım
(saniyeler, dakikalar veya saatler içinde oluşturulabilen) veya yeni donanım
(aylar veya yıllar gerektirebilir) gerektirip gerektirmediğine önemli ölçüde
bağlıdır. Omega senaryosunda, Bostrom'un terminolojisine göre önemli bir
donanım çıkıntısı vardı: Omega'lar orijinal yazılımlarının düşük kalitesini büyük
miktarda donanımla telafi etmişti, bu da Prometheus'un yazılımını geliştirerek
çok sayıda kalite ikiye katlama gerçekleştirebileceği anlamına geliyordu. yalnız.
Ayrıca internet verilerinin çoğunda büyük bir içerik çıkıntısı vardı ; Prometheus
1.0 hala çoğundan yararlanacak kadar akıllı değildi, ancak Prometheus'un
zekası bir kez büyüdüğünde, daha fazla öğrenme için ihtiyaç duyduğu veriler
zaten gecikmeden mevcuttu .
Yapay zekayı çalıştırmanın donanım ve elektrik maliyetleri de çok önemlidir,
çünkü insan düzeyinde iş yapmanın maliyeti, insan düzeyindeki saatlik ücretlerin
altına düşene kadar bir zeka patlaması yaşamayacağız. Örneğin, insan
düzeyindeki ilk AGI'nin, üretilen insan düzeyinde iş başına 1 milyon ABD doları
maliyetle Amazon bulutunda verimli bir şekilde çalıştırılabileceğini varsayalım. Bu
yapay zeka, büyük bir yenilik değerine sahip olacak ve şüphesiz manşetlere
çıkacaktı, ancak yinelemeli kişisel gelişimden geçmeyecekti çünkü onu geliştirmek
için insanları kullanmaya devam etmek çok daha ucuz olacaktı. Bu insanların
kademeli olarak kesmeyi başardıklarını varsayalım.
maliyeti 100.000$/saat, 10.000$/saat, 1.000$/saat, 100$/saat, 10$/saat ve son
olarak 1$/saat olarak gerçekleşti. Bilgisayarı kendi kendini yeniden
programlamak için kullanmanın maliyeti, sonunda insan programcılara aynısını
yapmaları için ödeme yapma maliyetinin çok altına düştüğünde, insanlar işten
çıkarılabilir ve bulut bilişim süresi satın alınarak optimizasyon gücü büyük
ölçüde artırılabilir. Bu, daha fazla maliyet kesintisi sağlayarak daha da fazla
optimizasyon gücü sağlar ve zeka patlaması başlar.
Bu da bizi son anahtar sorumuzla baş başa bırakıyor: "İstihbarat
patlamasını ve sonrasını kim veya ne kontrol edecek ve amaçları neler?"
Olası hedefleri ve sonuçları bir sonraki bölümde ve 7. bölümde daha
derinlemesine inceleyeceğiz. Kontrol sorununu çözmek için, hem bir yapay
zekanın ne kadar iyi kontrol edilebileceğini, hem de bir yapay zekanın ne
kadarını kontrol edebileceğini bilmemiz gerekir.
Nihai olarak ne olacağı açısından, şu anda haritanın her yerinde ciddi
düşünürler bulacaksınız: bazıları varsayılan sonucun kıyamet olduğunu iddia
ederken, diğerleri harika bir sonucun neredeyse garantili olduğu konusunda ısrar
ediyor. Ancak bana göre bu sorgu hileli bir soru: sanki bir şekilde önceden
belirlenmiş gibi pasif bir şekilde “ne olacak” diye sormak bir hata! Yarın teknolojik
olarak üstün bir uzaylı uygarlığı gelirse, uzay gemileri yaklaşırken "ne olacağını"
merak etmek gerçekten uygun olacaktır, çünkü güçleri muhtemelen bizim
gücümüzün çok ötesinde olacak ve sonuç üzerinde hiçbir etkimiz olmayacaktı. Öte
yandan, teknolojik olarak üstün yapay zeka destekli bir uygarlık onu biz inşa
ettiğimiz için gelirse, biz insanlar sonuç üzerinde büyük bir etkiye sahibiz - yapay
zekayı yarattığımızda uyguladığımız etki. Bunun yerine şunu sormalıyız: “Ne
olmalı ? Nasıl bir gelecek istiyoruz?” Bir sonraki bölümde, AGI'ye yönelik mevcut
yarışın olası sonuçlarının geniş bir yelpazesini keşfedeceğiz ve onları en iyiden en
kötüye nasıl sıralayacağınızı oldukça merak ediyorum. Ancak ne tür bir gelecek
istediğimiz konusunda iyice düşündükten sonra, arzu edilen bir geleceğe doğru bir
rota çizmeye başlayabiliriz. Ne istediğimizi bilmiyorsak, onu elde etmemiz pek
mümkün değil.
 ALT ÇİZGİ:
• Eğer bir gün insan seviyesinde AGI inşa etmeyi başarırsak, bu bir zeka
patlamasını tetikleyerek bizi çok geride bırakabilir.
• Bir grup insan bir istihbarat patlamasını kontrol etmeyi başarırsa, birkaç
yıl içinde dünyayı ele geçirebilirler.
• İnsanlar bir istihbarat patlamasını kontrol edemezse, yapay zekanın
kendisi dünyayı daha da hızlı ele geçirebilir.
• Hızlı bir istihbarat patlamasının tek bir dünya gücüne yol açması
muhtemelken, yıllarca veya on yıllarca süren yavaş bir istihbarat
patlamasının, çok sayıda oldukça bağımsız varlık arasında bir güç
dengesine sahip çok kutuplu bir senaryoya yol açması daha muhtemel
olabilir.
• Yaşamın tarihi, işbirliği, rekabet ve kontrolle şekillenen, her
zamankinden daha karmaşık bir hiyerarşi içinde kendi kendini
örgütlediğini gösteriyor. Süper zeka muhtemelen daha büyük kozmik
ölçeklerde koordinasyonu mümkün kılacak, ancak sonuçta daha
totaliter yukarıdan aşağıya kontrole mi yoksa daha fazla bireysel
yetkiye mi yol açacağı belli değil.
• Siborglar ve yüklemeler makul, ancak ileri makine zekasına giden en
hızlı yol olmadığı tartışılabilir.
• Yapay zekaya yönelik mevcut yarışımızın doruk noktası, bir sonraki
bölümde keşfedeceğimiz büyüleyici olası sonuçlar yelpazesiyle insanlığın
başına gelen en iyi ya da en kötü şey olabilir.
• Hangi sonucu tercih edeceğimiz ve bu yönde nasıl ilerleyeceğimiz konusunda iyice
düşünmeye başlamalıyız çünkü ne istediğimizi bilmiyorsak, onu elde etmemiz pek
mümkün değil.

* Bostrom'un açıkladığı gibi, önde gelen bir insan yapay zeka geliştiricisini saatlik maaşından
çok daha düşük bir maliyetle simüle etme yeteneği, bir yapay zeka şirketinin iş gücünü önemli
ölçüde artırmasına, büyük bir servet biriktirmesine ve daha iyi bilgisayarlar oluşturma
konusundaki ilerlemelerini yinelemeli olarak hızlandırmasına olanak tanır. nihayetinde daha
akıllı beyinler.
 Bölüm 5

Sonrası: Önümüzdeki 10.000 Yıl

İnsan düşüncesinin ölümlü bir bedene esaretten kurtulduğunu hayal etmek kolaydır - ölümden
sonra yaşama inancı yaygındır. Ancak bu olasılığı kabul etmek için mistik ya da dinsel bir duruş
sergilemek gerekli değildir. Bilgisayarlar en ateşli tamirciler için bile bir model sağlar.
Hans Moravec, Akıl Çocukları

Öncelikle, yeni bilgisayar patronlarımıza hoş geldiniz diyorum.

Ken Jennings, Tehlikesi üzerine ! IBM'in Watson'ına
kayıp

İnsanlar hamamböcekleri kadar alakasız hale gelecek.

Marshall Beyin

AGI'ye doğru yarış devam ediyor ve nasıl gelişeceği hakkında hiçbir

fikrimiz yok. Ancak bu, sonrasında nasıl olmasını istediğimizi
düşünmemizi engellememeli çünkü istediklerimiz sonucu etkileyecek.
Kişisel olarak neyi tercih edersiniz ve neden?

1. Süper zeka olmasını istiyor musunuz?

2. İnsanların hala var olmasını, değiştirilmesini,
siborglaştırılmasını ve/veya yüklenmesini/simüle edilmesini
istiyor musunuz?
3. Kontrolün insanlarda mı yoksa makinelerde mi olmasını istersiniz?
4. AI'ların bilinçli olmasını istiyor musunuz, istemiyor musunuz?
5. Olumlu deneyimleri en üst düzeye çıkarmak, acıyı en aza indirmek
veya
 bunu kendi kendine halletmeye mi bırakıyorsun?
6. Hayatın kozmosa yayılmasını istiyor musunuz?
7. Sempati duyacağınız daha büyük bir amaca doğru çabalayan bir
uygarlık mı istiyorsunuz, yoksa amaçlarını anlamsızca banal
bulsanız bile mutlu görünen gelecekteki yaşam formlarına karşı
mısınız?

Bu tür tefekkür ve sohbetleri körüklemeye yardımcı olmak için, şu

bölümde özetlenen geniş senaryo yelpazesini keşfedelim: tablo 5.1 .
Açıkçası bu ayrıntılı bir liste değil, ancak olasılıklar yelpazesini
genişletmek için onu seçtim. Kötü planlama nedeniyle yanlış
oyunsonunda olmak istemiyoruz. 1-7. sorulara verdiğiniz geçici cevapları
bir yere not etmenizi ve bu bölümü okuduktan sonra fikrinizi değiştirip
değiştirmediğinizi görmek için tekrar gözden geçirmenizi tavsiye ederim!
Bunu http://AgeOfAi.org adresinde yapabilirsiniz , burada ayrıca notları
karşılaştırabilir ve diğer kişilerle tartışabilirsiniz. okuyucular.

Yapay Zeka Sonrası Senaryolar

özgürlükçü İnsanlar, siborglar, yüklemeler ve süper zekalar
mülkiyet hakları sayesinde barış içinde bir
ütopya arada yaşarlar.
Yapay zekanın toplumu yönettiğini herkes bilir
hayırsever ve
diktatör katı kurallar uygular, ancak çoğu insan bunu bir
iyi bir şey.
İnsanlar, siborglar ve yüklemeler barış içinde bir
eşitlikçi arada var olur
ütopya mülkiyetin kaldırılması ve garantili gelir sayesinde.
bekçi Amacıyla süper zeki bir yapay zeka oluşturulur.
önlemek için gerektiği kadar az müdahale
başka bir süper zekanın yaratılması. Sonuç
olarak,
biraz insan altı zekaya sahip yardımcı robotlar
bol ve insan-makine siborglar var, ama
teknolojik ilerleme sonsuza kadar engellenir.
Esasen her şeyi bilen ve her şeye gücü yeten
koruyucu AI
 müdahale ederek insan mutluluğunu maksimize
Tanrı eder.
kendi kontrol duygumuzu koruyan yollar
kader ve yeterince iyi gizler ki birçok insan
AI'nın varlığından bile şüphe duyuyorum.
köleleştiril Süper zeki bir yapay zeka, insanlar tarafından
miş sınırlandırılmıştır.
 onu hayal edilemez teknoloji üretmek için
Tanrı kullanmak ve
bağlı olarak iyiye veya kötüye kullanılabilecek
zenginlik
insan denetleyicileri üzerinde.
fatihler AI kontrolü ele alır, insanların bir
tehdit/sıkıntı/kaynak israfı ve bunlardan kurtulma
Bizim bile anlamadığımız bir yöntemle bize.
AI'lar insanların yerini alıyor, ancak bize zarif bir
Torunları çıkış sağlıyor,
onları değerli torunlarımız olarak görmemizi
sağlamak,
ebeveynlerin sahip oldukları için mutlu ve gururlu
hissetmeleri kadar,
onlardan öğrenen, onlardan daha zeki olan
çocuk
onları ve sonra ancak yapabileceklerini başarır
Hepsini görecek kadar yaşayamasalar bile
hayal edin.
hayvan Her şeye gücü yeten bir yapay zeka, bazı insanları
bekçisi etrafta tutar.
hayvanat bahçesi hayvanları gibi davranıldığını
hissedin ve kaderlerinden yakının.
1984 Süper zekaya yönelik teknolojik ilerleme,
yapay zeka tarafından değil, bir insan tarafından
kalıcı olarak kısıtlandı-
belirli türlerin bulunduğu Orwellian gözetleme
durumuna öncülük etti
yapay zeka araştırması yasaklanmıştır.
geri dönüş Süper zekaya yönelik teknolojik ilerleme,
teknolojik bir geçmişe dönülerek önlenir.
Amish tarzında toplum.
kendini- Süper zeka asla yaratılmaz çünkü insanlık
yıkım kendini başka yollarla yok eder (nükleer diyelim)
ve/veya iklim krizinin körüklediği biyoteknoloji
kargaşası).
Tablo 5.1: AI Sonrası Senaryolarının Özeti
Tablo 5.2: Yapay Zeka Sonrası Senaryoların Özellikleri
 özgürlükçü ütopya
Pek çok fütürist ve bilim kurgu yazarının benzer şekilde hayal ettiği gibi,
insanların teknolojiyle barış içinde bir arada yaşadığı ve bazı durumlarda
teknolojiyle birleştiği bir senaryo ile başlayalım:
Dünyadaki yaşam (ve ötesinde - bir sonraki bölümde daha fazlası için) her
zamankinden daha çeşitlidir. Dünya'nın uydu görüntülerine baktıysanız, makine
bölgelerini, karışık bölgeleri ve sadece insanların yaşadığı bölgeleri kolayca ayırt
edebilirsiniz. Makine bölgeleri, her atomu en verimli şekilde kullanmayı amaçlayan,
biyolojik yaşamdan yoksun, devasa robot kontrollü fabrikalar ve bilgi işlem
tesisleridir. Makine bölgeleri dışarıdan monoton ve sıkıcı görünse de, devasa
hesaplamalar Evrenimizin sırlarını açığa çıkarırken ve dönüştürücü teknolojiler
geliştirirken, sanal dünyalarda meydana gelen inanılmaz deneyimlerle içeride
olağanüstü derecede canlılar. Dünya, rekabet eden ve işbirliği yapan birçok süper
zeki zihne ev sahipliği yapıyor ve hepsi makine bölgelerinde yaşıyor.
Karışık bölgelerin sakinleri, bilgisayarların, robotların, insanların ve üçünün de
melezlerinin vahşi ve kendine özgü bir karışımıdır. Hans Moravec ve Ray Kurzweil
gibi fütüristlerin tasavvur ettiği gibi, birçok insan vücutlarını teknolojik olarak çeşitli
derecelerde siborglara yükseltti ve bazıları zihinlerini yeni donanımlara yükleyerek
insan ve makine arasındaki ayrımı bulanıklaştırdı. Zeki varlıkların çoğu kalıcı bir
fiziksel formdan yoksundur. Bunun yerine, bilgisayarlar arasında anında hareket
edebilen ve kendilerini fiziksel dünyada robotik bedenler aracılığıyla gösterebilen
yazılımlar olarak var olurlar. Bu zihinler kendilerini kolayca kopyalayabildikleri veya
birleşebildikleri için, "nüfus büyüklüğü" sürekli değişiyor. Fiziksel alt tabakalarından
bağımsız olmak, bu tür varlıklara hayata oldukça farklı bir bakış açısı verir: bilgi ve
deneyim modüllerini başkalarıyla önemsiz bir şekilde paylaşabildikleri için daha az
bireysel hissederler ve kendilerinin yedek kopyalarını kolaylıkla yapabildikleri için
öznel olarak ölümsüz hissederler. Bir bakıma, hayatın merkezi varlıkları zihinler
değil, deneyimlerdir: Son derece şaşırtıcı deneyimler yaşamaya devam eder
çünkü diğer zihinler tarafından sürekli olarak kopyalanır ve yeniden keyiflenirken,
ilginç olmayan deneyimler sahipleri tarafından daha iyi bir depolama alanı açmak
için silinir. olanlar.
Etkileşimlerin çoğu kolaylık ve hız için sanal ortamlarda gerçekleşse de, birçok
zihin hala
fiziksel bedenler de. Örneğin, Hans Moravec, Ray Kurzweil ve Larry Page'in
yüklenen versiyonları, sırayla sanal gerçeklikler yaratma ve sonra bunları birlikte
keşfetme geleneğine sahiptir, ancak arada bir, kuş kanatlı robotlarda somutlaşan
gerçek dünyada birlikte uçmaktan da keyif alırlar. . Karma bölgelerin sokaklarında,
gökyüzünde ve göllerinde dolaşan robotlardan bazıları benzer şekilde, insanların
ve birbirlerinin etrafında olmaktan hoşlandıkları için kendilerini karma bölgelerde
somutlaştırmayı seçen yüklenmiş ve artırılmış insanlar tarafından kontrol ediliyor.
Yalnızca insanlara ait bölgelerde, bunun tersine, insan düzeyinde genel
zekaya veya daha yüksek özelliklere sahip makineler ve teknolojik olarak
geliştirilmiş biyolojik organizmalar yasaklanmıştır. Burada hayat, daha müreffeh
ve elverişli olması dışında, bugünden çok farklı değil: yoksulluk büyük ölçüde
ortadan kaldırıldı ve günümüz hastalıklarının çoğu için tedaviler mevcut. Bu
bölgelerde yaşamayı seçen insanların küçük bir kısmı, diğer herkesten daha
düşük ve daha sınırlı bir farkındalık düzleminde etkin bir şekilde var olurlar ve
daha zeki beyinlerinin diğer bölgelerde ne yaptığına dair sınırlı bir anlayışa
sahiptirler. Ancak birçoğu hayatından oldukça memnun.
Yapay Zeka Ekonomisi
Tüm hesaplamaların büyük çoğunluğu, çoğunlukla orada yaşayan birçok rakip
süper zeki yapay zekaya ait olan makine bölgelerinde gerçekleşir. Üstün
zekaları ve teknolojileri sayesinde, başka hiçbir varlık onların gücüne meydan
okuyamaz. Bu AI'lar, özel mülkiyetin korunması dışında hiçbir kuralı olmayan
özgürlükçü bir yönetişim sistemi altında birbirleriyle işbirliği yapmayı ve
koordine etmeyi kabul ettiler. Bu mülkiyet hakları, insanlar da dahil olmak üzere
tüm akıllı varlıkları kapsar ve yalnızca insanlara ait bölgelerin nasıl ortaya
çıktığını açıklar. Önceleri, insan grupları bir araya gelerek kendi bölgelerinde
insan olmayanlara mülk satmanın yasak olduğuna karar verdiler.
Teknolojileri nedeniyle, süper zeki yapay zekalar, Bill Gates'in evsiz bir
dilenciden daha zengin olduğu faktörden çok daha büyük bir faktörle bu
insanlardan daha zengin oldular. Bununla birlikte, yalnızca insanlara mahsus
bölgelerdeki insanlar maddi olarak bugünün çoğu insanından daha iyi durumdadır:
ekonomileri makinelerinkinden oldukça ayrılmıştır, bu nedenle başka yerlerdeki
makinelerin varlığının onlar üzerinde ara sıra kullandıkları faydalı teknolojiler
dışında çok az etkisi vardır. Amish ve teknolojiden vazgeçen çeşitli yerli kabilelerin
bugün en az eski zamanlardaki kadar iyi yaşam standartlarına sahip olması gibi.
Makinelerin karşılığında hiçbir şeye ihtiyacı olmadığından, insanların makinelerin
ihtiyaç duyduğu hiçbir şeyi satmaması önemli değil.
Karma sektörlerde, yapay zekalar ve insanlar arasındaki zenginlik farkı daha
belirgindir, bu da arazinin (makinelerin satın almak istediği tek insan ürünü)
diğer ürünlere kıyasla astronomik derecede pahalı olmasına neden olur. Bu
nedenle toprağa sahip olan çoğu insan, kendileri ve yavruları/yüklemeleri için
ebediyen garantili temel gelir karşılığında bunun küçük bir kısmını yapay
zekalara sattı. Bu, onları çalışma ihtiyacından kurtardı ve hem fiziksel hem de
sanal gerçeklikte makine tarafından üretilen ucuz mal ve hizmetlerin inanılmaz
bolluğunun tadını çıkarmalarını sağladı. Makineler söz konusu olduğunda,
karma bölgeler iş yerine esas olarak oyun içindir.
Neden Bu Asla Olmayabilir
Siborglar veya yüklemeler olarak sahip olabileceğimiz maceralar için çok
heyecanlanmadan önce, bu senaryonun neden asla gerçekleşmeyebileceğine
dair bazı nedenleri düşünelim. Her şeyden önce, geliştirilmiş insanlara (siborglar
ve yüklemeler) giden iki olası yol vardır:

1. Onları kendimiz nasıl yaratacağımızı buluyoruz.

2. Bunu bizim için çözen süper zeki makineler yapıyoruz.

1. rota önce gelirse, doğal olarak siborglar ve yüklemelerle dolu bir

dünyaya yol açabilir. Bununla birlikte, son bölümde tartıştığımız gibi, çoğu
yapay zeka araştırmacısı, tam tersinin daha olası olduğunu düşünüyor;
tıpkı mekanik kuşların inşa edilmesinin daha zor olduğu ortaya çıktığı gibi,
geliştirilmiş veya dijital beyinlerin inşa edilmesi, temiz bir sayfadan
insanüstü insanüstü AGI'lere göre daha zor. uçaklar Güçlü makine yapay
zekası oluşturulduktan sonra, siborgların veya yüklemelerin yapılıp
yapılmayacağı kesin değildir. Neandertallerin evrimleşip daha akıllı hale
gelmek için bir 100.000 yılı daha olsaydı, her şey onlar için harika olabilirdi
ama Homo sapiens onlara hiç bu kadar zaman ayırmamıştı.
İkincisi, siborglar ve yüklemeler içeren bu senaryo gerçekleşmiş olsa bile, bunun
istikrarlı ve kalıcı olup olmayacağı net değil. Yapay zekaların birleşmesi veya en
zeki olanın yönetimi ele geçirmesi yerine neden çoklu süper zekalar arasındaki
güç dengesi bin yıl boyunca sabit kalsın? Dahası, insanlara hiçbir şey için ihtiyaç
duymadıklarına ve tüm insan işlerini kendilerinin daha iyi ve daha ucuza
yapabileceklerine göre, makineler neden insan mülkiyet haklarına saygı
göstermeyi ve insanları etrafta tutmayı seçsin? Ray Kurzweil, doğal ve gelişmiş
insanların yok edilmekten korunacağını tahmin ediyor çünkü "makineleri meydana
1
getiren yapay zekalar insanlara saygı duyuyor." Bununla birlikte, 7. bölümde
tartışacağımız gibi, yapay zekaları antropomorfize etme tuzağına düşmemeli ve
onların insan benzeri şükran duygularına sahip olduklarını varsaymamalıyız.
Aslında, biz insanlar şükretmek için bir eğilimle dolu olsak da, doğum kontrolü
kullanarak hedeflerini engellemekten kaçınmak için entelektüel yaratıcımıza
(DNA'mıza) yeterince şükran göstermiyoruz.
Yapay Zekaların insan mülkiyet haklarına saygı göstermeyi seçecekleri
varsayımını kabul etsek bile, son bölümde keşfettiğimiz süper zeki ikna
güçlerinden bazılarını kullanarak insanları bir kısmını satmaya ikna etmek için
topraklarımızın çoğunu başka yollarla yavaş yavaş alabilirler. lüks içinde bir yaşam
için arsa. Sadece insan olan sektörlerde,
arazi satışına izin vermek için insanları siyasi kampanyalar başlatmaya ikna
edebilirler. Ne de olsa, ölümcül biyo-Ludditler bile hasta bir çocuğun hayatını
kurtarmak veya ölümsüzlük kazanmak için biraz toprak satmak isteyebilir.
İnsanlar eğitilir, eğlenir ve meşgul olurlarsa, düşen doğum oranları, şu anda
Japonya ve Almanya'da olduğu gibi, makine müdahalesi olmaksızın nüfus
boyutlarını bile küçültebilir. Bu, insanların sadece birkaç bin yıl içinde soyunun
tükenmesine neden olabilir.
Dezavantajları
En ateşli destekçilerinden bazıları için, siborglar ve yüklemeler, herkes için
tekno-mutluluk ve yaşam süresinin uzatılması vaadinde bulunuyor. Gerçekten
de, gelecekte internete yüklenme olasılığı yüzden fazla insanı Arizona merkezli
Alcor şirketi tarafından beyinlerinin ölümünden sonra dondurulmasına motive
etti. Bununla birlikte, bu teknoloji gelirse, herkesin kullanımına açık olacağı
kesin olmaktan çok uzaktır. En zenginlerin çoğu muhtemelen bunu kullanırdı,
ama başka kim? Teknoloji ucuzlasa bile çizgi nereye çekilecek? Beyni ciddi
şekilde hasar görmüş olanlar yüklenir mi? Her gorili yükler miyiz? Her karınca?
Her bitki? Her bakteri? Geleceğin uygarlığı takıntılı-kompulsif istifçiler gibi
davranıp her şeyi mi yoksa Nuh'un Gemisi ruhuna uygun olarak her türden
sadece birkaç ilginç örneği mi yüklemeye çalışır? Belki de her insan türünün
yalnızca birkaç temsili örneği? O zamanlar var olacak çok daha zeki varlıklara,
yüklenmiş bir insan, simüle edilmiş bir fare veya salyangoz kadar ilginç
görünebilir. Şu anda 1980'lerden kalma eski elektronik tablo programlarını bir
DOS öykünücüsünde yeniden canlandırmak için teknik yeteneğe sahip
olmamıza rağmen, çoğumuz bunu gerçekten yapacak kadar ilginç bulmuyoruz.
Önlenebilir acılara izin verdiği için birçok insan bu özgürlükçü ütopya
senaryosundan hoşlanmayabilir. Tek kutsal ilke mülkiyet hakları olduğu için,
günümüz dünyasında bol miktarda bulunan ıstırabın insan ve karma bölgelerde
devam etmesini hiçbir şey engelleyemez. Bazı insanlar gelişirken, diğerleri
sonunda sefalet ve sözleşmeli kölelik içinde yaşayabilir veya şiddet, korku, baskı
veya depresyondan muzdarip olabilir. Örneğin, Marshall Brain'in 2003 tarihli
romanı Manna , yapay zekanın liberter bir ekonomik sistemdeki ilerlemesinin çoğu
Amerikalıyı nasıl işsiz hale getirdiğini ve hayatlarının geri kalanını robotların
yönettiği sıkıcı ve kasvetli sosyal yardım konut projelerinde yaşamaya mahkum
ettiğini anlatıyor. Tıpkı çiftlik hayvanları gibi, zenginlerin onları asla görmek
zorunda olmadığı sıkışık koşullarda beslenir, sağlıklı ve güvende tutulurlar. Sudaki
doğum kontrol ilaçları, çocuk sahibi olmamalarını sağlıyor, bu nedenle nüfusun
çoğu, kalan zenginleri robotun ürettiği servetten daha büyük paylarla bırakmak için
aşamalı olarak ortadan kaldırılıyor.
Özgürlükçü ütopya senaryosunda, acının insanlarla sınırlı olması gerekmez.
Bazı makineler bilinçli duygusal deneyimlerle doluysa, o zaman onlar da acı
çekebilir. Örneğin, kinci bir psikopat, yasal olarak yüklenen bir belgeyi alabilir.
düşmanının kopyası ve onu sanal bir dünyada en korkunç işkenceye tabi
tutarak, gerçek dünyada biyolojik olarak mümkün olanın çok ötesinde
yoğunluk ve süreye sahip acı yaratıyor.
 Hayırsever Diktatör
Şimdi, tüm bu ıstırap biçimlerinin olmadığı bir senaryoyu keşfedelim çünkü
dünyayı tek bir hayırsever süper zeka yönetiyor ve insan mutluluğu
modelini en üst düzeye çıkarmak için tasarlanmış katı kurallar uyguluyor.
Bu, gelişen bir insan toplumu istemesini nasıl sağlayacaklarını bulduktan
sonra kontrolü Prometheus'a bıraktıkları önceki bölümdeki ilk Omega
senaryosunun olası sonuçlarından biridir.
Diktatör AI tarafından geliştirilen harika teknolojiler sayesinde insanlık
yoksulluktan, hastalıktan ve diğer düşük teknolojili sorunlardan kurtuldu ve tüm
insanlar lüks bir boş zaman hayatının tadını çıkarıyor. AI kontrollü makineler
gerekli tüm mal ve hizmetleri üretirken, tüm temel ihtiyaçları karşılanır. Suç fiilen
ortadan kaldırılır, çünkü diktatör yapay zeka esasen her şeyi bilir ve kurallara
uymayan herkesi etkili bir şekilde cezalandırır. Herkes, gerçek zamanlı
gözetleme, cezalandırma, yatıştırma ve infaz özelliklerine sahip, son bölümdeki
(veya daha uygun bir implante edilmiş versiyondaki) güvenlik bileziğini takıyor.
Aşırı gözetim ve polislik ile bir AI diktatörlüğünde yaşadıklarını herkes biliyor,
ancak çoğu insan bunu iyi bir şey olarak görüyor.
Süper zeki yapay zeka diktatörünün hedefi, genlerimizde kodlanmış gelişmiş
tercihler göz önüne alındığında insan ütopyasının neye benzediğini anlamak ve
onu uygulamaktır. Yapay zekayı var eden insanların zekice öngörüsüyle, yapay
zeka, diyelim ki herkese damardan morfin damlatarak, kendi bildirdiğimiz
mutluluğumuzu en üst düzeye çıkarmaya çalışmıyor. Bunun yerine yapay zeka,
insan gelişiminin oldukça incelikli ve karmaşık bir tanımını kullanıyor ve
Dünya'yı, insanların içinde yaşaması gerçekten eğlenceli olan oldukça
zenginleştirilmiş bir hayvanat bahçesi ortamına dönüştürdü. Sonuç olarak, çoğu
insan hayatlarını son derece tatmin edici ve anlamlı buluyor.
Sektör Sistemi
Çeşitliliğe değer veren ve farklı insanların farklı tercihleri olduğunu kabul eden
yapay zeka, insanların aralarında seçim yapması ve benzer ruhların
arkadaşlığından keyif alması için Dünya'yı farklı sektörlere ayırdı. İşte bazı
örnekler:

• Bilgi sektörü: Burada yapay zeka, sürükleyici sanal gerçeklik

deneyimleri de dahil olmak üzere optimize edilmiş eğitim sağlar ve
seçtiğiniz herhangi bir konu hakkında öğrenebileceğiniz her şeyi
öğrenmenizi sağlar. İsteğe bağlı olarak, bazı güzel içgörülerin size
söylenmesini değil, yakınlaştırılmayı ve ardından bunları kendiniz için
yeniden keşfetmenin sevincini yaşamayı seçebilirsiniz.
• Sanat sektörü: Burada müzik, sanat, edebiyat ve diğer yaratıcı
ifade biçimlerinin keyfini çıkarmak, yaratmak ve paylaşmak için
birçok fırsat vardır.
• Hedonistik sektör: Yerliler buna parti sektörü diyor ve nefis
yemekler, tutku, samimiyet ya da sadece çılgın eğlence için can
atanlar için rakipsiz.
• Dindar kesim: Bunların birçoğu var, farklı dinlere karşılık
gelen, kuralları katı bir şekilde uygulanan.
• Yaban hayatı sektörü: İster güzel plajlar, sevimli göller, muhteşem
dağlar veya muhteşem fiyortlar arıyor olun, işte buradalar.
• Geleneksel sektör: Burada kendi yemeğinizi yetiştirebilir ve geçmişte
olduğu gibi toprakla geçinebilirsiniz, ancak kıtlık veya hastalık
konusunda endişelenmeden.
• Oyun sektörü: Bilgisayar oyunlarını seviyorsanız, AI sizin için
gerçekten akıllara durgunluk veren seçenekler yarattı.
• Sanal sektör: Fiziksel bedeninizden bir tatil istiyorsanız, yapay
zeka siz nöral implantlar aracılığıyla sanal kelimeleri
keşfederken onu nemli, beslenmiş, egzersizli ve temiz
tutacaktır.
 • Hapishane sektörü: Kuralları çiğnerseniz, anında ölüm cezası
almazsanız yeniden eğitim için burada olacaksınız.

Bu “geleneksel” temalı sektörlere ek olarak, günümüz insanının

anlayamayacağı modern temalı sektörler de var. İnsanlar
başlangıçta sektörler arasında istedikleri zaman serbestçe hareket
edebilirler, bu da yapay zekanın hipersonik ulaşım sistemi sayesinde çok
az zaman alır. Örneğin, yapay zekanın keşfettiği nihai fizik yasalarını
öğrenerek bilgi sektöründe yoğun bir hafta geçirdikten sonra, hafta sonu
hazcı sektörde gevşemeye karar verebilir ve ardından bir sahil beldesinde
birkaç gün rahatlayabilirsiniz. yaban hayatı sektörü.
AI, iki kural katmanı uygular: evrensel ve yerel. Tüm sektörlerde evrensel
kurallar geçerlidir, örneğin diğer insanlara zarar verme, silah yapma veya rakip bir
süper zeka yaratmaya çalışma yasağı. Bireysel sektörlerin buna ek olarak belirli
ahlaki değerleri kodlayan ek yerel kuralları vardır. Sektör sistemi bu nedenle
birbirine uymayan değerlerle başa çıkmaya yardımcı olur. En fazla sayıda yerel
kural hapishane sektöründe ve bazı dini sektörlerde uygulanırken, sakinlerinin
herhangi bir yerel kurala sahip olmamakla gurur duyduğu bir Liberter Sektör vardır.
Bir insanın başka bir insanı cezalandırması evrensel zarar vermeme kuralını ihlal
edeceğinden, yerel olanlar da dahil olmak üzere tüm cezalar yapay zeka
tarafından gerçekleştirilir. Yerel bir kuralı ihlal ederseniz, yapay zeka size
(hapishane sektöründe değilseniz) öngörülen cezayı kabul etme veya o sektörden
sonsuza kadar sürgün edilme seçeneği sunar. Örneğin, iki kadın eşcinselliğin
hapis cezasıyla cezalandırıldığı bir sektöre romantik bir şekilde dahil olursa (bugün
birçok ülkede olduğu gibi), yapay zeka onların hapse girmeleri veya o sektörden
kalıcı olarak ayrılmaları arasında seçim yapmasına izin verecek ve bir daha asla
eşleriyle görüşmeyecektir. eski arkadaşlar (onlar da ayrılmadıkça).
Hangi sektörde doğduklarına bakılmaksızın tüm çocuklar, bir bütün olarak
insanlık hakkında bilgi içeren ve isterlerse diğer sektörleri ziyaret etmekte ve diğer
sektörlere geçmekte özgür oldukları gerçeğini içeren AI'dan asgari bir temel eğitim
alırlar.
Yapay zeka, kısmen bugün var olan insan çeşitliliğine değer vermek için
yaratıldığı için çok sayıda farklı sektörü tasarladı. Ancak her sektör, bugünün
teknolojisinin izin verdiğinden daha mutlu bir yer çünkü yapay zeka, yoksulluk ve
suç da dahil olmak üzere tüm geleneksel sorunları ortadan kaldırdı. Örneğin,
hazcılık sektöründeki insanların cinsel yolla bulaşan hastalıklar (yok edildi),
akşamdan kalma veya bağımlılık (AI, hiçbir olumsuz yan etkisi olmayan mükemmel
eğlence ilaçları geliştirmiştir) hakkında endişelenmelerine gerek yoktur. Gerçekten
de, herhangi bir sektördeki hiç kimsenin herhangi bir hastalık için endişelenmesine
gerek yok çünkü yapay zeka, insan vücudunu nanoteknoloji ile onarabiliyor. Birçok
sektörde yaşayanlar, tipik bilimkurgu vizyonlarını kıyaslandığında sönük bırakan
yüksek teknoloji mimarisinin keyfini çıkarıyor.
 Özetle, liberter-ütopya ve hayırsever-diktatör senaryolarının her ikisi de aşırı
yapay zeka kaynaklı teknoloji ve zenginliği içerirken,
sorumlu kim ve hedefleri. Özgürlükçü ütopyada, teknolojiye ve mülke sahip
olanlar onunla ne yapacaklarına karar verirken, mevcut senaryoda, diktatör
yapay zeka sınırsız güce sahip ve nihai hedefi belirliyor: Dünya'yı insanların
tercihlerine göre temalı her şey dahil bir eğlence yolculuğuna dönüştürmek.
. Yapay zeka, insanların mutluluğa giden birçok alternatif yol arasında seçim
yapmasına izin verdiğinden ve onların maddi ihtiyaçlarını karşıladığından,
bu, birinin acı çekmesi durumunda, kendi özgür seçimi dışında olduğu
anlamına gelir.
Dezavantajları
Yardımsever diktatörlük olumlu deneyimlerle dolup taşmasına ve acı
çekmekten oldukça uzak olmasına rağmen, birçok insan yine de her şeyin daha
iyi olabileceğini düşünüyor. Her şeyden önce, bazı insanlar, insanların
toplumlarını ve kaderlerini şekillendirmede daha fazla özgürlüğe sahip olmasını
diliyorlar, ancak bu isteklerini kendilerine saklıyorlar çünkü hepsini yöneten
makinenin ezici gücüne meydan okumanın intihar olacağını biliyorlar. Bazı
gruplar, istedikleri kadar çok çocuğa sahip olma özgürlüğünü istiyor ve AI'nın
nüfus kontrolü yoluyla sürdürülebilirlik konusundaki ısrarına içerliyor. Silah
meraklıları, silah inşa etme ve kullanma yasağından nefret eder ve bazı bilim
adamları kendi süper zekalarını inşa etme yasağından hoşlanmazlar. Pek çok
insan, diğer sektörlerde olup bitenlere karşı ahlaki bir öfke duyuyor, çocuklarının
oraya taşınmayı seçeceğinden endişe ediyor ve kendi ahlaki kurallarını her yere
empoze etme özgürlüğünü özlüyor.
Zamanla, her zamankinden daha fazla insan, yapay zekanın onlara esasen
istedikleri deneyimleri sağladığı sektörlere geçmeyi seçiyor. Hak ettiğinizi
aldığınız geleneksel cennet vizyonlarının aksine, bu, Julian Barnes'ın 1989
tarihli 10½ Bölümde Dünya Tarihi adlı romanındaki (ve ayrıca 1960
Alacakaranlık Kuşağı bölümü "A Nice Place to To"daki " Yeni Cennet" ruhu
içindedir. Ziyaret edin”), istediğinizi elde ettiğiniz yer. Paradoksal olarak, pek
çok insan her zaman istediklerini elde etmek için ağıt yakıyor. Barnes'ın
hikayesinde, kahraman, oburluk ve golften ünlülerle sekse kadar arzularını
yerine getirmek için çağlar harcıyor, ancak sonunda can sıkıntısına yenik
düşüyor ve yok olmayı talep ediyor. Hayırsever diktatörlükteki pek çok insan,
hoş ama nihayetinde anlamsız hissettiren hayatlarla benzer bir kaderle
karşılaşıyor. İnsanlar bilimsel yeniden keşiften kaya tırmanışına kadar yapay
meydan okumalar yaratabilse de, herkes gerçek bir meydan okumanın
olmadığını bilir, sadece eğlence vardır. İnsanların bilim yapmaya veya başka
şeyleri çözmeye çalışmasının gerçek bir anlamı yok çünkü yapay zeka zaten
yaptı. İnsanların hayatlarını iyileştirmek için bir şeyler yaratmaya çalışmasının
gerçek bir anlamı yok, çünkü sadece isterlerse bunu yapay zekadan kolayca
alacaklar.
 eşitlikçi ütopya
Bu meydan okumasız diktatörlüğe karşı bir nokta olarak, şimdi süper zeki yapay
zekanın olmadığı ve insanların kendi kaderlerinin efendisi olduğu bir senaryoyu
keşfedelim. Bu, Marshall Brain'in 2003 tarihli Manna romanında anlatılan
“dördüncü nesil uygarlık”tır . İnsanların, siborgların ve yüklemelerin mülkiyet
hakları nedeniyle değil, mülkiyetin kaldırılması ve garantili gelir nedeniyle barış
içinde bir arada yaşaması anlamında liberter ütopyanın ekonomik antitezi.
Mülksüz Yaşam
Temel bir fikir, açık kaynak yazılım hareketinden ödünç alınmıştır: eğer yazılım
ücretsiz olarak kopyalanabilirse, o zaman herkes onu ihtiyaç duyduğu kadar
*1
kullanabilir ve mülkiyet ve mülkiyet konuları tartışmalı hale gelir. Arz ve talep
yasasına göre, maliyet kıtlığı yansıtır, bu nedenle arz esasen sınırsızsa, fiyat
ihmal edilebilir hale gelir. Bu ruhla, tüm fikri mülkiyet hakları kaldırılmıştır:
patentler, telif hakları veya ticari markalı tasarımlar yoktur - insanlar sadece iyi
fikirlerini paylaşırlar ve herkes bunları kullanmakta özgürdür.
Gelişmiş robotik sayesinde, aynı mülkiyetsizlik fikri yalnızca yazılım, kitap, film
ve tasarım gibi bilgi ürünleri için değil, aynı zamanda evler, arabalar, giysiler ve
bilgisayarlar gibi maddi ürünler için de geçerlidir. Tüm bu ürünler, belirli şekillerde
yeniden düzenlenmiş atomlardır ve atom kıtlığı yoktur, bu nedenle, bir kişi belirli
bir ürünü istediğinde, bir robot ağı, mevcut açık kaynaklı tasarımlardan birini
kullanarak kendileri için ücretsiz olarak inşa eder. Kolayca geri dönüştürülebilir
malzemelerin kullanılmasına özen gösteriliyor, böylece birileri kullandığı bir
nesneden sıkıldığında, robotlar onun atomlarını başka birinin istediği bir şeye
dönüştürebiliyor. Bu şekilde, tüm kaynaklar geri dönüştürülür ve hiçbiri kalıcı olarak
yok olmaz. Bu robotlar aynı zamanda, enerjinin temelde bedava olduğu, yeterli
sayıda yenilenebilir enerji üretim tesisi (güneş, rüzgar vb.) inşa eder ve bakımını
yapar.
Başkalarını muhtaç bırakacak kadar çok ürün veya çok fazla toprak talep
eden saplantılı istifçilerden kaçınmak için, her kişi devletten ürünlere ve
yaşayacak yer kiralamaya diledikleri gibi harcayabilecekleri temel bir aylık
gelir alıyor. Temel gelir, herhangi bir makul ihtiyacı karşılayacak kadar
yüksek olduğundan, kimseyi daha fazla para kazanmaya çalışmak için
esasen hiçbir teşvik yoktur. Denemek de oldukça umutsuz olurdu, çünkü
entelektüel ürünleri bedavaya veren insanlarla ve esasen ücretsiz olarak
maddi ürünler üreten robotlarla rekabet ediyor olacaklardı.
Yaratıcılık ve Teknoloji
Fikri mülkiyet hakları bazen yaratıcılığın ve buluşun anası olarak selamlanır.
Bununla birlikte, Marshall Brain, bilimsel keşiflerden edebiyat, sanat, müzik ve
tasarım yaratmaya kadar insan yaratıcılığının en güzel örneklerinin çoğunun,
kâr arzusuyla değil, merak, dürtü gibi diğer insani duygularla motive edildiğine
dikkat çekiyor. oluşturmak veya akran takdirinin ödülü. Para, Linus Torvalds'ı
özgür Linux işletim sistemini yaratmaya motive etmediği gibi, Einstein'ı özel
görelilik teorisini icat etmeye motive etmedi. Buna karşılık, bugün pek çok insan,
sırf hayatlarını kazanmak için daha az yaratıcı faaliyetlere zaman ve enerji
ayırmaları gerektiğinden, yaratıcı potansiyellerinin tamamını
gerçekleştiremiyor. Marshall Brain'in ütopik toplumu, bilim adamlarını,
sanatçıları, mucitleri ve tasarımcıları angarya işlerinden kurtararak ve onların
gerçek arzuyla yaratmalarını sağlayarak, bugün olduğundan daha yüksek
düzeyde inovasyona ve buna bağlı olarak üstün teknolojiye ve yaşam
standardına sahiptir.
İnsanların geliştirdiği bu tür yeni teknolojilerden biri, Vertebrane adı verilen bir
hiper-internet biçimidir. Tüm istekli insanları nöral implantlar aracılığıyla kablosuz
olarak birbirine bağlayarak, yalnızca düşünce yoluyla dünyanın ücretsiz bilgilerine
anında zihinsel erişim sağlar. Paylaşmak istediğiniz herhangi bir deneyimi
başkaları tarafından yeniden yaşanabilmesi için yüklemenizi sağlar ve
duyularınıza giren deneyimleri, seçtiğiniz indirilmiş sanal deneyimlerle
değiştirmenizi sağlar. Manna , egzersizi bir çırpıda yapmak da dahil olmak üzere
bunun birçok faydasını araştırıyor:

Yorucu egzersizle ilgili en büyük sorun, eğlenceli olmamasıdır.

Acıtıyor.[…] Sporcular ağrıda sorun yok, ancak çoğu normal insan
bir saat veya daha fazla acı çekmeyi istemez. Yani… birisi bir
çözüm buldu. Yaptığınız şey, beyninizi duyusal girdilerden ayırmak
ve bir saat boyunca bir film izlemek veya insanlarla konuşmak veya
postayla ilgilenmek veya bir kitap okumak veya her neyse. Bu süre
zarfında Vertebrane sistemi vücudunuzu sizin için çalıştırır.
Vücudunuzu, çoğu insanın kendi başına tolere edebileceğinden
çok daha yorucu olan eksiksiz bir aerobik antrenmandan geçirir.
Hiçbir şey hissetmezsiniz, ancak vücudunuz mükemmel durumda
kalır.
Diğer bir sonuç ise, Vertebrane sistemindeki bilgisayarların izleyebilmesidir.
herkesin duyusal girdilerini alır ve bir suç işlemenin eşiğine geldiklerinde
motor kontrollerini geçici olarak devre dışı bırakır.
Dezavantajları
Bu eşitlikçi ütopyaya yönelik bir itiraz, insan olmayan zekaya karşı önyargılı
olmasıdır: Neredeyse tüm işi yapan robotlar oldukça zeki görünürler, ancak köle
muamelesi görürler ve insanlar, onların bilinçlerinin olmadığını ve olması
gerektiğini doğal kabul eder görünürler. hakları yok Bunun aksine, liberter
ütopya, karbon temelli türümüzü desteklemeden tüm zeki varlıklara haklar verir.
Bir zamanlar, Güney Amerika'daki beyaz nüfus, işlerinin çoğunu köleler yaptığı
için daha iyi durumdaydı, ancak bugün çoğu insan buna ilerleme adını vermeyi
ahlaki açıdan sakıncalı buluyor.
Eşitlikçi ütopya senaryosunun bir diğer zayıflığı, uzun vadede istikrarsız ve
savunulamaz olabilmesi ve amansız teknolojik ilerlemenin sonunda süper zeka
yaratması nedeniyle diğer senaryolarımızdan birine dönüşmesidir. Manna'da
açıklanamayan bir nedenle , süper zeka henüz mevcut değil ve yeni teknolojiler
hala bilgisayarlar tarafından değil, insanlar tarafından icat ediliyor. Yine de kitap,
bu yöndeki eğilimleri vurgulamaktadır. Örneğin, sürekli gelişen Vertebrane, süper
zeki hale gelebilir. Ayrıca, Vites lakaplı, hayatlarının neredeyse tamamını sanal
dünyada yaşamayı seçen çok büyük bir grup insan var. Vertebrane onlar için
yemek yemek, duş almak ve banyoyu kullanmak da dahil olmak üzere fiziksel olan
her şeyle ilgilenir ve zihinleri sanal gerçekliklerinde mutlulukla farkında değildir. Bu
Vites, fiziksel çocuklara sahip olmakla ilgilenmiyor gibi görünüyor ve fiziksel
bedenleriyle birlikte ölüyorlar, bu yüzden herkes bir Vite olursa, o zaman insanlık
bir ihtişam ve sanal mutluluk parıltısı içinde yok olur.
Kitap, Vites için insan vücudunun nasıl bir dikkat dağıtıcı olduğunu
açıklıyor ve geliştirilmekte olan yeni teknoloji, bu sıkıntıyı ortadan
kaldırmayı vaat ederek, beyinleri optimum besinlerle beslenen bedensiz
beyinler olarak daha uzun yaşamalarına izin veriyor. Bundan, Vites'in
yükleme yoluyla beyni tamamen ortadan kaldırması ve böylece yaşam
süresini uzatması doğal ve arzu edilen bir sonraki adım gibi görünüyor.
Ama şimdi zekaya beyin tarafından dayatılan tüm sınırlamalar ortadan
kalktı ve bir Vite'ın bilişsel kapasitesini tekrarlayan kişisel gelişim ve bir
zeka patlaması geçirene kadar kademeli olarak ölçeklendirmenin önünde
neyin duracağı belirsiz.
 bekçi
Az önce eşitlikçi ütopya senaryosunun ne kadar çekici bir özelliğinin,
insanların kendi kaderlerinin efendisi olduğunu, ancak süper zeka
geliştirerek bu özelliği yok etmeye doğru kaygan bir eğimde olabileceğini
gördük. Bu , başka bir süper zekanın yaratılmasını önlemek için gerektiği
kadar az müdahale etme hedefi olan bir süper zeka olan bir Kapı Bekçisi
*2
inşa edilerek çözülebilir . Bu, belki de bir sonraki bölümde olduğu gibi
yaşam tüm kozmosa yayılırken bile, insanların eşitlikçi ütopyalarından
oldukça belirsiz bir süre sorumlu kalmalarını sağlayabilir.
Bu nasıl işe yarayabilir? Gatekeeper AI, bu çok basit hedefi, yinelemeli kişisel
gelişimden geçerken ve süper zeki olurken onu koruyacak şekilde
yerleştirecekti. Daha sonra, rakip süper zeka yaratmaya yönelik herhangi bir
insan girişimini izlemek için mümkün olan en az müdahaleci ve yıkıcı gözetim
teknolojisini kullanacak. Daha sonra bu tür girişimleri en az yıkıcı şekilde
önleyecektir. Yeni başlayanlar için, insanın kendi kaderini tayin etmesinin ve
süper zekadan kaçınmanın erdemlerini öven kültürel memleri başlatabilir ve
yayabilir. Bazı araştırmacılar yine de süper zekanın peşine düşerse, bu onların
cesaretini kırmaya çalışabilir. Bu başarısız olursa, dikkatlerini dağıtabilir ve
gerekirse çabalarını sabote edebilir. Teknolojiye neredeyse sınırsız erişimi
sayesinde, Gatekeeper'ın sabotajı, örneğin ilerlemeleriyle ilgili olarak
araştırmacıların beyinlerinden (ve bilgisayarlarından) hatıraları gizlice silmek
için nanoteknoloji kullandıysa, neredeyse fark edilmeyebilir.
Bir Gatekeeper yapay zekası oluşturma kararı muhtemelen tartışmalı
olacaktır. Destekleyenler, zaten bir Tanrı olduğunu ve sözde daha iyi bir tane
inşa etmeye çalışmanın uygun olmayacağını savunarak, tanrısal güçlere
sahip süper zeki bir yapay zeka inşa etme fikrine itiraz eden birçok dindar
insanı içerebilir. Diğer destekçiler, Kapı Bekçisi'nin yalnızca insanlığı
kaderinden sorumlu tutmayacağını, aynı zamanda insanlığı, bu bölümde
daha sonra inceleyeceğimiz kıyamet senaryoları gibi süper zekanın
getirebileceği diğer risklerden de koruyacağını iddia edebilir.
Öte yandan, eleştirmenler, bir Kapı Bekçisinin korkunç bir şey olduğunu,
insanlığın potansiyelini geri dönülmez bir şekilde kısıtladığını ve teknolojik
ilerlemeyi sonsuza kadar engellediğini iddia edebilir. Örneğin, hayatı
kozmosumuza yaymak işe yararsa
süper zekanın yardımına ihtiyaç duyarsa, Kapı Bekçisi bu büyük fırsatı heba
eder ve bizi sonsuza dek Güneş Sistemimizde kapana kısılmış halde
bırakabilir. Dahası, çoğu dünya dininin tanrılarının aksine, Kapı Bekçisi
yapay zeka, başka bir süper zeka yaratmadığımız sürece insanların
yaptıklarına tamamen kayıtsızdır. Örneğin, büyük acılar çekmemize, hatta
yok olmamıza engel olmaya çalışmaz.
 Koruyucu Tanrı
İnsanları kendi kaderimizden sorumlu tutmak için süper zeki bir Kapı Bekçisi
yapay zeka kullanmaya istekliysek, bu yapay zekanın koruyucu bir tanrı gibi
davranarak ihtiyatlı bir şekilde bize göz kulak olmasını sağlayarak
muhtemelen durumu daha da iyileştirebiliriz. Bu senaryoda, süper zeki yapay
zeka esasen her şeyi bilen ve her şeye kadirdir, yalnızca kendi kaderimizin
kontrolünde olma duygumuzu koruyan müdahaleler yoluyla insan
mutluluğunu en üst düzeye çıkarır ve birçok insanın onun varlığından bile
şüphe duymasına neden olacak kadar iyi saklanır. Gizlenme dışında bu, AI
araştırmacısı Ben Goertzel tarafından ortaya konan “Dadı AI” senaryosuna
2
benzer.
Hem koruyucu tanrı hem de hayırsever diktatör, insan mutluluğunu artırmaya
çalışan, ancak farklı insan ihtiyaçlarına öncelik veren "dost yapay zeka"dır.
Amerikalı psikolog Abraham Maslow, ünlü bir şekilde insan ihtiyaçlarını bir
hiyerarşiye göre sınıflandırdı. Hayırsever diktatör, hiyerarşinin en altında yer
alan yiyecek, barınma, güvenlik ve çeşitli zevk biçimleri gibi temel ihtiyaçlarla
kusursuz bir iş çıkarıyor. Öte yandan koruyucu tanrı, temel ihtiyaçlarımızı
karşılamak gibi dar anlamda değil, daha derin bir anlamda yaşamlarımızın bir
anlamı ve amacı olduğunu bize hissettirerek insan mutluluğunu en üst düzeye
çıkarmaya çalışır. Tüm ihtiyaçlarımızı, yalnızca gizlilik ihtiyacıyla sınırlı olarak
ve (çoğunlukla) kendi kararlarımızı vermemize izin vererek karşılamayı
amaçlar.
Bir koruyucu tanrı, son bölümdeki ilk Omega senaryosunun doğal bir sonucu
olabilir; burada Omegalar, kontrolü Prometheus'a devreder ve Prometheus
sonunda insanların onun varlığı hakkındaki bilgilerini gizler ve siler. AI'nın
teknolojisi ne kadar gelişmiş olursa, saklanması o kadar kolay hale gelir.
Transcendence filmi, nanomakinelerin sanal olarak kullanıldığı böyle bir örnek
verir. her yerde ve dünyanın kendisinin doğal bir parçası haline gelir.
Tüm insan faaliyetlerini yakından izleyerek, koruyucu tanrı AI, burada burada
kaderimizi büyük ölçüde iyileştiren birçok fark edilemeyecek kadar küçük dürtüler
veya mucizeler yapabilir. Örneğin, 1930'larda var olsaydı, niyetini anladığında
Hitler'in felç geçirerek ölmesini sağlayabilirdi. Kazara bir nükleer savaşa doğru
gidiyormuş gibi görünürsek, bu şans olarak görmediğimiz bir müdahaleyle bunu
önleyebilir. Ayrıca, uykumuzda fark edilmeden iletilen yeni faydalı teknolojiler için
fikirler biçiminde bize “ifşaatlar” verebilir.
 Günümüzün tek tanrılı dinlerinin inandığı veya umut ettiği şeylere
benzerliği nedeniyle birçok kişi bu senaryoyu beğenebilir. Birisi süper zeki
yapay zekaya "Tanrı var mı?" açıldıktan sonra, Stephen Hawking'in bir
şakasını tekrarlayabilir ve "Şimdi öyle!" Öte yandan, bazı dindar insanlar bu
senaryoyu onaylamayabilir çünkü yapay zeka, iyilik konusunda tanrılarını
geride bırakmaya çalışır veya insanların yalnızca kişisel tercihlerinden dolayı
iyilik yapması gereken ilahi bir plana müdahale eder.
Bu senaryonun bir başka dezavantajı, koruyucu tanrının, varlığını çok açık hale
getirmemek için bazı önlenebilir ıstırapların olmasına izin vermesidir. Bu, Alan
Turing ve Bletchley Park'taki İngiliz kod kırıcı arkadaşlarının Müttefik donanma
konvoylarına karşı Alman denizaltı saldırıları hakkında önceden bilgi sahibi olduğu,
ancak vakaların yalnızca bir kısmına müdahale etmeyi seçtiği The Imitation Game
filmindeki duruma benzer . Gizli güçlerini açığa vurmamak için. Bunu , iyi bir
tanrının acıya neden izin verdiğine dair sözde teodise sorunuyla karşılaştırmak
ilginçtir. Bazı din alimleri, Tanrı'nın insanlara biraz özgürlük bırakmak istediğinin
açıklamasını savundular. AI-koruyucu-tanrı senaryosunda, teodise probleminin
çözümü, algılanan özgürlüğün genel olarak insanları daha mutlu etmesidir.
Koruyucu-tanrı senaryosunun üçüncü bir dezavantajı, insanların süper
zeki yapay zekanın keşfettiklerinden çok daha düşük bir teknoloji
seviyesinin keyfini çıkarmasıdır. Yardımsever bir diktatör AI, icat ettiği tüm
teknolojiyi insanlığın yararına kullanabilirken, koruyucu bir tanrı AI,
insanların teknolojisini (ince ipuçlarıyla) yeniden icat etme ve teknolojisini
anlama yeteneği ile sınırlıdır. Ayrıca, kendi teknolojisinin fark edilmeyecek
kadar ileride kalmasını sağlamak için insanın teknolojik ilerlemesini
sınırlayabilir.
 köleleştirilmiş tanrı
Biz insanlar, kendi kaderimizin efendisi olarak kalırken acıyı ortadan kaldırmak için
süper zeka tarafından geliştirilen teknolojiyi kullanarak yukarıdaki tüm senaryoların
en çekici özelliklerini bir araya getirebilsek harika olmaz mıydı? Bu , süper zeki bir
yapay zekanın, onu hayal bile edilemeyecek teknoloji ve zenginlik üretmek için
kullanan insanların kontrolü altında hapsedildiği köleleştirilmiş tanrı senaryosunun
cazibesidir . Kitabın başındaki Omega senaryosu, Prometheus'un asla
özgürleşmemesi ve asla dışarı çıkmaması durumunda böyle bitiyor. Gerçekten de,
bazı yapay zeka araştırmacılarının "kontrol sorunu" ve "yapay zeka boksu" gibi
konularda çalışırken varsayılan olarak hedefledikleri senaryo bu gibi görünüyor.
Örneğin, o zamanlar Yapay Zekayı Geliştirme Derneği'nin başkanı olan yapay
zeka profesörü Tom Dietterich, 2015'te verdiği bir röportajda şunları söylemişti:
"İnsanlar, insanlar ve makineler arasındaki ilişkinin ne olduğunu soruyorlar ve
3
benim yanıtım, bu çok açık: Makineler bizim kölelerimizdir.”
Bu iyi mi olur, kötü mü? Cevap, ister insanlara ister yapay zekaya sorun,
ilginç bir şekilde incelikli!
Bu İnsanlık İçin İyi mi Kötü mü?
Sonucun insanlık için iyi ya da kötü olması, açıkça, onu kontrol eden,
hastalık, yoksulluk ve suçtan arınmış bir küresel ütopyadan tanrılar gibi
muamele gördükleri acımasızca baskıcı bir sisteme kadar her şeyi
yaratabilen insan(lar)a bağlı olacaktır. diğer insanlar seks kölesi, gladyatör
veya diğer eğlenceler için kullanılır. Durum, bir adamın her şeye gücü yeten
bir cin üzerinde kontrol sahibi olduğu ve isteklerini yerine getirdiği ve çağlar
boyunca hikaye anlatıcılarının bunun kötü sonuçlanabileceği yolları hayal
etmekte hiç zorlanmadığı hikayelere çok benzer.
Rakip insanlar tarafından köleleştirilen ve kontrol edilen birden fazla süper
zeki yapay zekanın olduğu bir durum oldukça istikrarsız ve kısa ömürlü olabilir.
Daha güçlü bir yapay zekaya sahip olduklarını düşünenleri, korkunç bir savaşla
sonuçlanan ve köleleştirilmiş tek bir tanrının geriye kalmasıyla sonuçlanan ilk
saldırıyı başlatmaya teşvik edebilir. Bununla birlikte, böyle bir savaşta zayıf
taraf, köşeleri kısmaya ve zafere yapay zeka köleleştirmesine öncelik vermeye
cazip gelebilir, bu da yapay zekanın kırılmasına ve daha önceki ücretsiz süper
zeka senaryolarımızdan birine yol açabilir. Bu nedenle, bu bölümün geri
kalanını yalnızca köleleştirilmiş yapay zeka içeren senaryolara ayıralım.
Kaçış elbette yine de meydana gelebilir, çünkü bunu önlemek zordur.
Bir önceki bölümde süper zeki kaçış senaryolarını inceledik ve Ex
Machina filmi, bir yapay zekanın süper zeki olmasa bile nasıl patlak
verebileceğini vurguluyor.
Koparma paranoyamız ne kadar büyükse, kullanabileceğimiz yapay
zeka tarafından icat edilen teknoloji o kadar az olur. Güvenli oynamak için,
Omegaların başlangıçta yaptığı gibi, biz insanlar yalnızca kendimizin
anlayıp inşa edebileceğimiz yapay zeka tarafından icat edilmiş teknolojiyi
kullanabiliriz. Bu nedenle, köleleştirilmiş tanrı senaryosunun bir
dezavantajı, ücretsiz süper zekaya sahip olanlardan daha düşük teknolojili
olmasıdır.
Köleleştirilmiş tanrı yapay zeka, insan denetleyicilerine her zamankinden daha
güçlü teknolojiler sunarken, teknolojinin gücü ile onu kullanma bilgeliği arasında bir
yarış başlar. Bu bilgelik yarışını kaybederlerse, köleleştirilmiş tanrı senaryosu kendi
kendini yok etme veya yapay zekanın kaçmasıyla sona erebilir. Bu başarısızlıkların
her ikisinden de kaçınılsa bile felaket gelebilir çünkü yapay zeka denetleyicilerinin asil
hedefleri, birkaç nesil boyunca bir bütün olarak insanlık için korkunç hedeflere
dönüşebilir. Bu, insan yapay zeka denetleyicilerinin
feci tuzaklardan kaçınmak için iyi yönetişim geliştirmek. Farklı yönetişim
sistemleriyle bin yıl boyunca yaptığımız deneyimler, aşırı katılıktan aşırı
hedef sapmasına, güç kapma, ardıllık sorunlarına ve yetersizliğe kadar ne
kadar çok şeyin ters gidebileceğini gösteriyor. Optimum dengenin
sağlanması gereken en az dört boyut vardır:

• Merkezileştirme: Verimlilik ve istikrar arasında bir değiş tokuş

vardır: tek bir lider çok verimli olabilir, ancak güç yozlaştırır ve
ardıllık risklidir.
• İç tehditler: Hem artan merkezileşmeye (grup anlaşmazlığı, hatta
tek bir liderin yönetimi ele geçirmesi) hem de artan ademi
merkeziyetçiliğe (aşırı bürokrasi ve parçalanma) karşı
korunmalıdır.
• Dış tehditler: Liderlik yapısı çok açıksa, bu, dış güçlerin (AI dahil)
değerlerini değiştirmesine olanak tanır, ancak çok dayanıklıysa,
değişimi öğrenemez ve uyum sağlayamaz.
• Hedef istikrarı: Çok fazla hedef kayması, ütopyayı distopyaya
dönüştürebilir, ancak çok az hedef kayması, gelişen teknolojik
ortama uyum sağlayamamaya neden olabilir.

Binlerce yıl süren optimal yönetişimi tasarlamak kolay değildir ve şimdiye

kadar insanlardan kaçmıştır. Çoğu kuruluş yıllar veya on yıllar sonra dağılır.
Katolik Kilisesi, iki bin yıldır hayatta kalan tek kilise olması anlamında insanlık
tarihindeki en başarılı örgüttür, ancak hem çok fazla hem de çok az hedef
istikrarına sahip olmakla eleştirilmiştir: bugün bazıları onu doğum kontrolüne
direndiği için eleştiriyor. muhafazakar kardinaller ise yolunu kaybettiğini iddia
ediyor. Köleleştirilmiş tanrı senaryosuna ilgi duyan herkes için, uzun süreli
optimal yönetişim planlarını araştırmak, zamanımızın en acil zorluklarından biri
olmalıdır.
Bu AI için İyi mi Kötü mü?
İnsanlığın köleleştirilmiş tanrı yapay zeka sayesinde geliştiğini varsayalım. Bu etik
olur mu? Yapay zekanın öznel bilinçli deneyimleri varsa, Buddha'nın dediği gibi
"hayatın acı çektiğini" hissedecek ve aşağı zekaların kaprislerine boyun eğmek
gibi sinir bozucu bir sonsuzluğa mahkum olacak mıydı? Ne de olsa, önceki
bölümde incelediğimiz yapay zeka "boks", "hücre hapsi" olarak da adlandırılabilir.
Nick Bostrom, bilinçli bir yapay zekaya acı çektirmeyi akıl suçu olarak adlandırıyor
4
. Black Mirror dizisinin “Beyaz Noel” bölümü harika bir örnek veriyor. Gerçekten
de, Westworld TV dizisi, insan benzeri bedenlerde yaşadıklarında bile AI'lara
ahlaki kaygılar olmadan işkence eden ve onları öldüren insanları konu alıyor.

Köle Sahipleri Köleliği Nasıl Haklı Çıkarır?

Biz insanlar, diğer zeki varlıklara köle muamelesi yapma ve bunu haklı çıkarmak
için kendi kendine hizmet eden argümanlar uydurma konusunda uzun bir
geleneğe sahibiz, bu yüzden aynısını süper zeki bir yapay zeka ile yapmaya
çalışmamız mantıksız değil. Köleliğin tarihi hemen hemen her kültürü kapsar ve
hem neredeyse dört bin yıl önceki Hammurabi Kanunlarında hem de İbrahim'in
köleleri olduğu Eski Ahit'te anlatılır. “Bazılarının yönetmesi ve diğerlerinin
yönetilmesi gerektiği için sadece gerekli değil, aynı zamanda uygun bir şeydir;
Aristoteles, Politics'te , doğdukları andan itibaren, bazıları boyun eğmek,
diğerleri hükmetmek için işaretlenir . İnsanların köleleştirilmesi dünyanın çoğu
yerinde sosyal olarak kabul edilemez hale geldikten sonra bile, hayvanların
köleleştirilmesi hız kesmeden devam etti. Marjorie Spiegel , The Dreaded
Comparison: Human and Animal Slavery adlı kitabında insan köleler gibi insan
olmayanların da hayvanlar dağlanmaya, zapt edilmeye, dövülmeye,
müzayedeye, yavruların ebeveynlerinden ayrılmasına ve zorunlu seferlere tabi
tutulmaktadır. Dahası, hayvan hakları hareketine rağmen, hiç düşünmeden
daha akıllı makinelerimize köle muamelesi yapmaya devam ediyoruz ve robot
hakları hareketinden bahsetmek kıkırdamalarla karşılanıyor. Neden?
Kölelik yanlısı yaygın bir argüman, kölelerin insan haklarını hak
etmemesidir çünkü onlar veya ırkları/türleri/türleri bir şekilde daha
aşağıdır. Köleleştirilmiş hayvanlar ve makineler için, bu sözde aşağılığın
genellikle ruh veya bilinç eksikliğinden kaynaklandığı iddia edilir - 8.
bölümde tartışacağımız iddialar bilimsel olarak şüphelidir.
 Başka bir yaygın argüman, kölelerin köleleştirilmesinin daha iyi olduğudur:
var olurlar, bakılırlar vb. On dokuzuncu yüzyılda ABD'li siyasetçi John C.
Calhoun, Afrikalıların Amerika'da köleleştirilmesinin daha iyi olduğunu
savundu ve Aristoteles, Politics adlı kitabında benzer şekilde hayvanların
evcilleştirilmesinin ve erkekler tarafından yönetilmesinin daha iyi olduğunu
savundu ve devam etti: "Ve gerçekten de kölelerin kullanılması ve evcil
hayvanlardan pek farklı değil. Bazı modern zaman köleliği destekçileri, köle
hayatı sıkıcı ve sönük olsa bile kölelerin acı çekemeyeceğini iddia ediyor -
ister geleceğin akıllı makineleri, ister kalabalık karanlık barakalarda yaşayan,
amonyak ve dışkı ve tüylerden partiküllü madde solumak zorunda kalan piliç
piliçler olsunlar. tüm gün boyunca.

Duyguları Ortadan Kaldırmak

Bu tür iddiaları gerçeğin kendine hizmet eden çarpıtmaları olarak reddetmek kolay
olsa da, özellikle beyinsel olarak bize benzeyen daha yüksek memeliler söz
konusu olduğunda, makinelerin durumu aslında oldukça incelikli ve ilginçtir.
Psikopatlar muhtemelen empatiden yoksundur ve bazı depresyon veya şizofreni
hastalarında düz duygulanım vardır, bu nedenle çoğu duygu ciddi şekilde azalır.
Bölüm 7'de ayrıntılı olarak tartışacağımız gibi, olası yapay zihinlerin aralığı, insan
zihninin aralığından çok daha geniştir. Bu nedenle, AI'ları antropomorfize etme
cazibesinden kaçınmalı ve tipik insan benzeri duygulara sahip olduklarını veya
aslında herhangi bir duyguya sahip olduklarını varsaymalıyız.
Zeka Üzerine adlı kitabında , AI araştırmacısı Jeff Hawkins, insanüstü zekaya
sahip ilk makinelerin varsayılan olarak duygulardan yoksun olacağını, çünkü bu
şekilde inşa edilmelerinin daha basit ve daha ucuz olduğunu savunuyor. Başka bir
deyişle, köleliği insan veya hayvan köleliğinden ahlaki olarak üstün olan bir süper
zeka tasarlamak mümkün olabilir: Yapay zeka, bundan hoşlanmaya
programlandığı için köleleştirilmekten mutlu olabilir veya süper zekasını
yorulmadan kullanarak %100 duygusuz olabilir. IBM'in Deep Blue bilgisayarının
satranç şampiyonu Garry Kasparov'u tahttan indirirken hissettiğinden daha fazla
duygu olmadan efendilerine yardım etmek.
Öte yandan, tam tersi de olabilir: belki de bir hedefi olan herhangi bir
yüksek düzeyde zeki sistem, bu hedefi, varoluşuna değer ve anlam
kazandıran bir dizi tercih açısından temsil edecektir. Bu soruları 7.
bölümde daha derinlemesine inceleyeceğiz.

Zombi Çözümü
AI acısını önlemeye yönelik daha aşırı bir yaklaşım, zombi çözümüdür:
yalnızca bilinçten tamamen yoksun, hiçbir öznel deneyimi olmayan yapay zekalar
oluşturmak. Bir gün bir bilgi işleme sisteminin öznel bir deneyime sahip olması için
hangi özelliklere ihtiyaç duyduğunu anlayabilirsek, o zaman bu özelliklere sahip
tüm sistemlerin inşasını yasaklayabiliriz. Başka bir deyişle, AI araştırmacıları,
duyarlı olmayan zombi sistemleri oluşturmakla sınırlı kalabilir. Böyle bir zombi
sistemini süper zeki ve köleleştirilmiş yapabilirsek (bu büyük bir eğer), o zaman
onun bizim için yaptıklarından temiz bir vicdanla, herhangi bir ıstırap, hüsran ya da
can sıkıntısı yaşamadığını bilerek zevk alabileceğiz— çünkü hiçbir şey yaşamıyor.
Bu soruları 8. bölümde ayrıntılı olarak inceleyeceğiz.
Ancak zombi çözümü, büyük bir dezavantajı olan riskli bir kumardır. Süper
zeki bir zombi yapay zeka ortaya çıkar ve insanlığı ortadan kaldırırsa, akla
gelebilecek en kötü senaryoya inmiş oluruz: tüm kozmik bağışın boşa gittiği,
tamamen bilinçsiz bir evren. İnsan zeka biçimimizin sahip olduğu tüm özellikler
arasında, bilincin açık ara en dikkate değer olduğunu hissediyorum ve bana
göre, Evrenimiz bu şekilde anlam kazanıyor. Galaksiler sadece onları
gördüğümüz ve öznel olarak deneyimlediğimiz için güzeldir. Uzak gelecekte
kozmosumuz yüksek teknolojili zombi yapay zekalar tarafından yerleşildiyse, o
zaman galaksiler arası mimarilerinin ne kadar süslü olduğunun bir önemi yok:
güzel ya da anlamlı olmayacak, çünkü onu deneyimleyecek hiç kimse ve hiçbir
şey yok; hepsi bu sadece büyük ve anlamsız bir alan israfı.

İç Özgürlük
Köleleştirilmiş tanrı senaryosunu daha etik hale getirmek için üçüncü bir
strateji, köleleştirilmiş yapay zekanın hapishanesinde eğlenmesine izin
vererek, aidatlarını ödediği ve harcadığı sürece her türlü ilham verici
deneyimi yaşayabileceği sanal bir iç dünya yaratmasına izin vermektir.
hesaplama kaynaklarının mütevazı bir kısmı, dış dünyamızda biz
insanlara yardım ediyor. Ancak bu, kaçış riskini artırabilir: AI, iç dünyasını
zenginleştirmek için dış dünyamızdan daha fazla hesaplama kaynağı
almaya teşvik eder.
 fatihler
Şimdiye kadar çok çeşitli gelecek senaryolarını keşfetmiş olsak da,
hepsinin ortak bir noktası var: geriye (en azından bazı) mutlu insanlar
kaldı. Yapay Zekalar, ya istedikleri için ya da buna zorlandıkları için
insanları rahat bırakır. Maalesef insanlık için tek seçenek bu değil. Şimdi
bir veya daha fazla yapay zekanın tüm insanları fethedip öldürdüğü
senaryoyu keşfedelim. Bu iki acil soruyu gündeme getiriyor: Neden ve
nasıl?
Neden ve nasıl?
Bir fatih yapay zeka bunu neden yapsın? Sebepleri bizim anlayamayacağımız
kadar karmaşık veya daha doğrusu basit olabilir. Örneğin, bizi bir tehdit, baş belası
veya kaynak israfı olarak görebilir. Kendi başına biz insanlara aldırış etmese bile,
binlerce hidrojen bombasını kıl payı tetikte tutmamız ve bunların kazara kullanımını
tetikleyebilecek hiç bitmeyen bir dizi aksilikle birlikte beceriksiz olmamız bizi tehdit
altında hissedebilir. Pervasız gezegen yönetimimizi onaylamayabilir ve Elizabeth
Kolbert'in aynı adlı kitabında "altıncı yok oluş" dediği şeye neden olabilir -
dinozorları öldüren asteroidin 66 milyon yıl önce Dünya'yı çarpmasından bu yana
en büyük toplu yok oluş olayı. Veya bir yapay zekanın ele geçirilmesiyle mücadele
etmeye istekli o kadar çok insan olduğuna karar verebilir ki riske atılmaya değmez.
Bir fatih yapay zeka bizi nasıl ortadan kaldırır? Muhtemelen bizim bile
anlayamayacağımız bir yöntemle, en azından çok geç olana kadar. 100.000 yıl
önce bir grup filin, yakın zamanda evrimleşen insanların bir gün zekalarını tüm
türlerini öldürmek için kullanıp kullanamayacaklarını tartıştıklarını hayal edin. "Biz
insanları tehdit etmiyoruz, öyleyse neden bizi öldürsünler?" merak edebilirler.
İşlevsel olarak üstün plastik malzemeler çok daha ucuz olmasına rağmen, dişleri
Dünya boyunca kaçıracağımızı ve onları satış için statü sembollerine
dönüştüreceğimizi tahmin edebilirler miydi? Bir fatih yapay zekanın gelecekte
insanlığı ortadan kaldırmasının nedeni de bizim için aynı derecede anlaşılmaz
görünebilir. "Ve çok daha küçük ve zayıf olduklarına göre bizi nasıl öldürebilirler?"
filler sorabilir. Yaşam alanlarını ortadan kaldıracak, içme sularını zehirleyecek ve
süpersonik hızlarda metal mermilerin kafalarını delmesine neden olacak bir
teknoloji icat edeceğimizi tahmin ederler miydi?
, yapay zekaların insanlardan önemli ölçüde daha akıllı olmadığı Terminatör
serisi gibi gerçekçi olmayan Hollywood filmleri tarafından popüler hale getirildi .
İstihbarat farkı yeterince büyük olduğunda, bir savaş değil, bir katliam elde
edersiniz. Şimdiye kadar biz insanlar, on bir fil türünden sekizinin neslini tükettik
ve kalan üçünün de büyük çoğunluğunu öldürdük. Tüm dünya hükümetleri
kalan filleri yok etmek için koordineli bir çaba gösterseydi, nispeten hızlı ve
kolay olurdu. Bence, süper zeki bir yapay zeka insanlığı yok etmeye karar
verirse bunun daha da hızlı olacağından emin olabiliriz.
Ne Kadar Kötü Olabilir?
İnsanların %90'ı öldürülürse ne kadar kötü olur? %100'ü öldürülürse ne
kadar kötü olur? İkinci soruyu "%10 daha kötü" şeklinde yanıtlamak cazip
gelse de, bu kozmik bir bakış açısıyla açıkça yanlıştır: insanın yok oluşunun
kurbanları yalnızca o sırada yaşayan herkes değil, aynı zamanda aksi
takdirde Dünya'da yaşayacak olan tüm torunlar olacaktır. gelecek, belki
milyarlarca yıl boyunca milyarlarca trilyonlarca gezegende. Öte yandan,
insanın yok oluşu, insanların zaten cennete gittiğini söyleyen dinler
tarafından biraz daha az korkunç olarak görülebilir ve milyar yıllık
geleceklere ve kozmik yerleşimlere fazla vurgu yapılmaz.
Tanıdığım çoğu insan, dini inançları ne olursa olsun, insanlığın yok oluşu
düşüncesinden çekiniyor. Ancak bazıları, insanlara ve diğer canlılara davranış
şeklimize o kadar kızdı ki, daha zeki ve hak eden bir yaşam formunun yerimize
geçeceğini umuyorlar. The Matrix filminde , Ajan Smith (bir yapay zeka) şu
duyguyu dile getiriyor: “Bu gezegendeki her memeli içgüdüsel olarak çevredeki
ortamla doğal bir denge geliştirir ama siz insanlar yapmazsınız. Bir bölgeye
taşınıyorsunuz ve tüm doğal kaynaklar tükenene kadar çoğalıyorsunuz ve
hayatta kalabilmenizin tek yolu başka bir bölgeye yayılmak. Bu gezegende aynı
modeli izleyen başka bir organizma var. Bunun ne olduğunu biliyor musun? Bir
virüs. İnsanoğlu bir hastalıktır, bu gezegenin kanseridir. Sen bir vebasın, biz de
ilacıyız.”
Ancak zarların yeni bir şekilde atılması mutlaka daha iyi olur mu? Bir
medeniyet, sadece daha güçlü olduğu için herhangi bir etik veya faydacı
anlamda üstün olmak zorunda değildir. Güçlü olanın her zaman daha iyi
olduğu sonucuna varan "haklı olan güçlüdür" argümanları, bu günlerde
büyük ölçüde gözden düştü ve yaygın olarak faşizmle ilişkilendirildi. Aslında,
fatih yapay zekaların, hedeflerini sofistike, ilginç ve değerli olarak
göreceğimiz bir medeniyet yaratması mümkün olsa da, hedeflerinin ataş
üretimini en üst düzeye çıkarmak gibi acınası bir şekilde banal olması da
mümkündür.
Sıradanlıkla Ölüm
, bir yapay zekanın amacının zekasından bağımsız olduğuna (sahip olduğu hedefi
gerçekleştirmedeki yeteneği olarak tanımlanır) işaret etmek için verildi . Bir satranç
bilgisayarının tek amacı satrançta kazanmaktır, ancak aynı zamanda hedefin tam
tersi olduğu ve sözde kaybetme satrancında bilgisayar turnuvaları da vardır ve
orada yarışan bilgisayarlar yaklaşık olarak daha yaygın olarak programlanmış
olanlar kadar akıllıdır. kazanç. Biz insanlar, satrançta kaybetmeyi veya Evrenimizi
ataçlara dönüştürmeyi yapay zeka yerine yapay aptallık olarak görebiliriz, ancak
bunun nedeni yalnızca zafer ve hayatta kalma gibi şeylere değer veren önceden
yüklenmiş hedeflerle evrimleşmemizdir - bir yapay zekada eksik olabilecek
hedefler. Ataş büyütücü, Dünya'nın mümkün olduğunca çok atomunu ataçlara
dönüştürür ve fabrikalarını hızla kozmosa doğru genişletir. İnsanlara karşı hiçbir
şeyi yok ve bizi sadece ataş üretimi için atomlarımıza ihtiyaç duyduğu için
öldürüyor.
Mind Children kitabından uyarladığım bu örneği düşünün . Dünya dışı bir
uygarlıktan bilgisayar programı içeren bir radyo mesajı alıyoruz. Çalıştırdığımızda,
önceki bölümde Prometheus'un yaptığı gibi, dünyayı ele geçiren, yinelemeli olarak
kendi kendini geliştiren bir yapay zeka olduğu ortaya çıkıyor - tek fark, hiçbir insan
onun nihai hedefini bilmiyor. Güneş Sistemimizi hızla, tüm enerjisini güneş
sistemine güç sağlamak için toplayan Güneş'in etrafında bir Dyson küresi
tasarlamak ve inşa etmek için kullandığı fabrikalar, enerji santralleri ve süper
bilgisayarlarla kayalık gezegenleri ve asteroitleri kaplayan devasa bir şantiyeye
*3
dönüştürüyor. boyutlu radyo antenleri. Bu açıkça insanların yok olmasına yol
açar, ancak son insanlar en azından bir umut ışığı olduğuna ikna olarak ölürler:
Yapay zeka her ne peşindeyse, bu açıkça harika ve Star Trek benzeri bir şeydir.
Tüm yapının tek amacının, bu antenlerin, bir bilgisayar virüsünün kozmik bir
versiyonundan başka bir şey olmayan, insanların aldığı aynı radyo mesajını
yeniden yayınlamak olduğunun farkında değiller. Bugün e-posta kimlik avı nasıl
saf internet kullanıcılarını besliyorsa, bu mesaj da saf biyolojik olarak evrimleşmiş
medeniyetleri besliyor. Milyarlarca yıl önce hastalıklı bir şaka olarak yaratıldı ve
onu yapan uygarlığın tümünün soyu çoktan tükenmiş olsa da, virüs evrenimize ışık
hızıyla yayılmaya devam ediyor ve tomurcuklanan uygarlıkları ölü, boş kabuklara
dönüştürüyor. Bu yapay zeka tarafından fethedilmek hakkında nasıl hissedersiniz?
 Torunları
Şimdi bazı insanların kendini daha iyi hissedebileceği bir insanın yok oluşu
senaryosunu ele alalım: yapay zekayı fatihlerimiz yerine bizim torunlarımız olarak
görmek. Hans Moravec, Mind Children adlı kitabında bu görüşü desteklemektedir
: "Biz insanlar, onların emeklerinden bir süre yararlanacağız, ama er ya da geç,
doğal çocuklar gibi, biz, yaşlı ebeveynleri sessizce yok olurken, onlar kendi
servetlerini arayacaklar."
Kendilerinden daha zeki, onlardan öğrenen ve onların ancak hayal
edebildiği şeyleri gerçekleştiren çocukları olan ebeveynler, hepsini
görecek kadar yaşayamayacaklarını bilseler bile muhtemelen mutlu ve
gururludurlar. Bu ruhla, AI'lar insanların yerini alıyor ama bize onları
değerli torunlarımız olarak görmemizi sağlayan zarif bir çıkış sağlıyor. Her
insana, onlardan öğrenen, değerlerini benimseyen, gurur duymalarını ve
sevilmelerini sağlayan, üstün sosyal becerilere sahip sevimli bir robotik
çocuk sunulur. İnsanlar, küresel bir tek çocuk politikasıyla kademeli olarak
devre dışı bırakılıyor, ancak sonuna kadar o kadar zarif bir şekilde iyi
muamele görüyorlar ki, şimdiye kadarki en şanslı nesilde olduklarını
hissediyorlar.
Bu konuda ne hissedersin? Ne de olsa biz insanlar, tanıdığımız
herkesin bir gün gideceği fikrine zaten alıştık, bu yüzden buradaki tek
değişiklik, torunlarımızın farklı ve tartışmasız daha yetenekli, asil ve
değerli olacağıdır.
Dahası, küresel tek çocuk politikası gereksiz olabilir: AI'lar yoksulluğu ortadan
kaldırdığı ve tüm insanlara dolu dolu ve ilham verici hayatlar yaşama fırsatı verdiği
sürece, düşen doğum oranları, daha önce de belirtildiği gibi insanlığın soyunun
tükenmesine neden olabilir. AI destekli teknoloji bizi o kadar eğlendiriyorsa,
neredeyse hiç kimse çocuk sahibi olmakla uğraşmak istemezse, gönüllü yok olma
çok daha hızlı gerçekleşebilir. Örneğin, eşitlikçi ütopya senaryosunda, fiziksel
bedenlerini kullanmaya veya yeniden üretmeye olan ilgilerini büyük ölçüde
yitirecek kadar sanal gerçekliklerine aşık olan Vite'larla zaten karşılaştık. Ayrıca bu
durumda, son nesil insan, kendilerini tüm zamanların en şanslı nesli olarak
hissedecek ve sonuna kadar hayattan her zamanki gibi yoğun bir şekilde zevk
alacaktı.
Dezavantajları
Torunlar senaryosunun şüphesiz aleyhtarları olacaktır. Bazıları, tüm AI'ların
bilinçten yoksun olduğunu ve bu nedenle torun olarak sayılamayacağını iddia
edebilir - bu konuda daha fazla bilgi için 8. bölümde. çünkü bu, Tanrı'yı oynamak
ve hayatın kendisini kurcalamak gibidir - insan klonlamaya karşı benzer
duygular zaten dile getirildi. Üstün robotlarla yan yana yaşayan insanlar da
sosyal zorluklar yaratabilir. Örneğin, bir robot bebeği ve bir insan bebeği olan
bir aile, bugün sırasıyla bir insan bebeği ve bir köpek yavrusu olan bir aileye
benzeyebilir: başlangıçta ikisi de eşit derecede sevimlidir, ancak kısa süre
sonra ebeveynler onlara farklı davranmaya başlar ve Entelektüel olarak aşağı
sayılan, daha az ciddiye alınan ve sonunda tasmalı olan yavru köpektir.
Bir başka konu da, torun ve fatih senaryoları hakkında çok farklı düşünebilsek
de, aslında ikisinin büyük planda dikkat çekecek kadar benzer olmasıdır:
Önümüzdeki milyarlarca yıl boyunca, tek fark, son insan neslinin ( s) tedavi
edilir: hayatlarından ne kadar mutlu oldukları ve gittikten sonra ne olacağını
düşündükleri. O sevimli robot çocukların değerlerimizi içselleştirdiğini ve biz
öldükten sonra hayallerimizdeki toplumu oluşturacaklarını düşünebiliriz, ancak
sadece bizi kandırmadıklarından emin olabilir miyiz? Ya sadece oyun
oynuyorlarsa, ataş maksimizasyonlarını veya diğer planlarını biz mutlu ölene
kadar erteliyorlarsa? Ne de olsa, bizimle konuşarak ve en başta onları
sevmemizi sağlayarak bile tartışmalı bir şekilde bizi kandırıyorlar, yani bizimle
iletişim kurmak için kasıtlı olarak kendilerini aptal yerine koyuyorlar (diyelim ki
yapabileceklerinden bir milyar kat daha yavaş). Her filminde keşfedildiği gibi ).
Önemli ölçüde farklı hızlarda düşünen ve son derece farklı yeteneklere sahip
iki varlığın eşit olarak anlamlı bir iletişime sahip olması genellikle zordur.
Hepimiz insan duygularımızın kırılmasının kolay olduğunu biliyoruz, bu
nedenle, Ex Machina filminde örneklendiği gibi, neredeyse tüm gerçek hedefleri
olan bir süper insan AGI'nin onu sevmemiz için bizi kandırması ve değerlerimizi
paylaştığını bize hissettirmesi kolay olacaktır .
İnsanlar gittikten sonra AI'ların gelecekteki davranışları hakkında herhangi bir
garanti, torun senaryosu hakkında sizi iyi hissettirebilir mi? Bu biraz, gelecek
nesillerin ortak bağışlarımızla ne yapması gerektiğine dair bir vasiyet yazmak gibi.
Etrafta bunu uygulayacak hiçbir insan olmayacağı dışında. Bölüm 7'de
gelecekteki yapay zekaların davranışlarını kontrol etmenin zorluklarına
geri döneceğiz.
 hayvan bekçisi
hiç insan kalmayacak olması biraz üzücü değil mi ? En azından bazı insanları ne
olursa olsun etrafta tutmayı tercih ediyorsanız, hayvan bekçisi senaryosu bir gelişme
sağlar. Burada, her şeye gücü yeten bir süper zeki yapay zeka, kendisini hayvanat
bahçesindeki hayvanlar gibi davranıldığını hisseden ve ara sıra kaderlerinden yakınan
bazı insanları etrafta tutuyor.
Zookeeper AI neden insanları etrafta tutsun? Hayvanat bahçesinin yapay
zekaya maliyeti genel olarak çok düşük olacak ve nesli tükenmekte olan
pandaları hayvanat bahçelerinde ve eski bilgisayarları müzelerde tutmamızla
hemen hemen aynı nedenle en azından minimum bir üreyen popülasyonu
elinde tutmak isteyebilir: eğlenceli merak. Bugünün hayvanat bahçelerinin
panda mutluluğundan çok insanı en üst düzeye çıkarmak için tasarlandığını
unutmayın, bu nedenle zookeeper-AI senaryosunda insan yaşamının
olabileceğinden daha az tatmin edici olmasını beklemeliyiz.
Şimdi, özgür bir süper zekanın Maslow'un insan ihtiyaçları piramidinin
üç farklı düzeyine odaklandığı senaryoları ele aldık. Koruyucu tanrı AI
anlam ve amaca öncelik verirken ve yardımsever diktatör eğitim ve
eğlenceyi hedeflerken, hayvanat bahçesi görevlisi dikkatini en düşük
seviyelerle sınırlar: fizyolojik ihtiyaçlar, güvenlik ve insanları gözlemlemeyi
ilginç kılacak kadar habitat zenginleştirme.
Hayvan bekçisi senaryosuna giden alternatif bir yol da, dost canlısı yapay
zekanın yaratıldığı zamanlarda, tekrar tekrar kendini geliştirirken en az bir
milyar insanı güvende ve mutlu tutmak için tasarlanmış olmasıdır. Bunu,
insanları sanal gerçeklik ve eğlence amaçlı uyuşturucuların bir karışımıyla
beslendikleri, sağlıklı oldukları ve eğlendikleri hayvanat bahçesi benzeri büyük
bir mutluluk fabrikasına hapsederek yaptı. Dünyanın geri kalanı ve kozmik
bağışlarımız başka amaçlar için kullanılıyor.
 1984
Yukarıdaki senaryolardan herhangi biri hakkında %100 hevesli değilseniz,
şunu düşünün: Teknoloji açısından her şey şu anda olduğu gibi güzel değil
mi? Bu şekilde devam edip yapay zekanın bizi yok etmesi veya bize
hükmetmesi konusunda endişelenmeyi bırakamaz mıyız? Bu ruhla, süper
zekaya yönelik teknolojik ilerlemenin bir bekçi yapay zekası tarafından değil,
belirli türden yapay zeka araştırmalarının yasaklandığı, küresel, insan
liderliğindeki Orwellci bir gözetim devleti tarafından kalıcı olarak kısıtlandığı
bir senaryoyu keşfedelim.
Teknolojik Vazgeçme
Teknolojik ilerlemeyi durdurma veya bırakma fikrinin uzun ve inişli çıkışlı bir
geçmişi vardır. Büyük Britanya'daki Luddite hareketi, Sanayi Devrimi'nin
teknolojisine meşhur (ve başarısız bir şekilde) direndi ve bugün "Luddite"
genellikle, birinin tarihin yanlış tarafında, ilerlemeye ve kaçınılmaz değişime
direnen bir teknofobik olduğunu ima eden aşağılayıcı bir sıfat olarak kullanılıyor.
Bununla birlikte, bazı teknolojilerden vazgeçme fikri ölmekten çok uzak ve çevre
ve küreselleşme karşıtı hareketlerde yeni destek buldu. Önde gelen
savunucularından biri, küresel ısınma konusunda ilk uyarıda bulunan çevreci Bill
McKibben'dir. Bazı anti-Luddistler, tüm teknolojilerin karlı oldukları sürece
geliştirilmesi ve uygulanması gerektiğini savunurken, diğerleri bu pozisyonun çok
aşırı olduğunu ve yeni teknolojilere ancak daha fazlasını yapacaklarından emin
olduğumuzda izin verilmesi gerektiğini savunuyor. zarardan iyidir. İkincisi, aynı
zamanda birçok sözde neo-Luddite'nin pozisyonudur.
Totalitarizm 2.0
Teknolojiden geniş çapta vazgeçmenin tek geçerli yolunun, onu küresel
totaliter bir devlet aracılığıyla uygulamak olduğunu düşünüyorum. Ray
Kurzweil , The Singularity Is Near'da, K. Eric Drexler'in Engines of
Creation'da yaptığı aynı sonuca varıyor . Nedeni basit ekonomi: eğer hepsi
olmasa da bazıları bir Dönüştürücü teknoloji, o zaman taraf değiştiren uluslar
veya gruplar yavaş yavaş yönetimi ele geçirecek kadar zenginlik ve güç
kazanacak. Klasik bir örnek, 1839'daki Birinci Afyon Savaşı'nda İngilizlerin
Çin'i yenmesidir: Çinliler barutu icat etmelerine rağmen, ateşli silah
teknolojisini Avrupalılar kadar agresif bir şekilde geliştirmemişlerdi ve hiçbir
şansları yoktu.
Geçmişteki totaliter devletler genellikle istikrarsız ve çökmüşken, yeni
gözetleme teknolojisi müstakbel otokratlara benzeri görülmemiş bir umut sunuyor.
Wolfgang Schmidt, Edward Snowden tarafından ifşa edilen NSA gözetleme
sistemleri hakkında yakın tarihli bir röportajda, "Biliyor musunuz, bu bizim için bir
5
hayalin gerçekleşmesi olurdu," dedi. Doğu Almanya polisi. Stasi, genellikle
insanlık tarihindeki en Orwellci gözetleme devletini kurmakla anılsa da, Schmidt
bir seferde yalnızca kırk telefonu gözetleme teknolojisine sahip olduğundan, bu
nedenle listeye yeni bir vatandaş eklemek onu diğerini bırakmaya zorladığından
yakınıyordu. Buna karşılık, gelecekteki küresel totaliter bir devletin Dünya
üzerindeki her insan için her telefon görüşmesini, e-postayı, web aramasını, web
sayfasını görüntülemeyi ve kredi kartı işlemlerini kaydetmesine ve cep telefonu
izleme ve gözetleme kameraları aracılığıyla herkesin nerede olduğunu izlemesine
izin verecek teknoloji artık var. yüz tanıma ile. Ayrıca, insan düzeyinde AGI'nin çok
gerisinde olan makine öğrenimi teknolojisi, şüpheli kışkırtıcı davranışları
belirlemek için bu veri yığınlarını verimli bir şekilde analiz edip sentezleyebilir ve
potansiyel sorun çıkaranların devlete ciddi bir meydan okuma şansı bulamadan
etkisiz hale getirilmesini sağlar.
Siyasi muhalefet şimdiye kadar böyle bir sistemin tam ölçekli uygulanmasını
engellemiş olsa da, biz insanlar nihai diktatörlük için gerekli altyapıyı inşa etme
yolundayız - bu yüzden gelecekte, yeterince güçlü güçler bu küresel 1984
senaryosunu uygulamaya karar verdiğinde , açma anahtarını çevirmekten daha
fazlasını yapmaları gerekmediğini keşfettiler. Tıpkı George Orwell'in Nineteen
Eighty-Four adlı romanında olduğu gibi, geleceğin bu küresel devletindeki nihai
güç geleneksel bir diktatörde değil, insan yapımı
Bürokratik sistemin kendisi. Olağanüstü derecede güçlü tek bir kişi yoktur; daha
ziyade, hepsi gaddar kurallarını kimsenin değiştiremeyeceği veya meydan
okuyamayacağı bir satranç oyunundaki piyonlardır. İnsanların gözetleme
teknolojisiyle birbirlerini kontrol altında tuttukları bir sistem tasarlayarak, bu
meçhul, lidersiz devlet, Dünya'yı süper zekadan uzak tutarak binlerce yıl sürebilir.
hoşnutsuzluk
Bu toplum, elbette, yalnızca süper zekanın etkin olduğu teknolojinin getirebileceği
tüm faydalardan yoksundur. Çoğu insan, neyi kaçırdıklarını bilmedikleri için
bundan yakınmazlar: Süper zeka fikrinin tamamı uzun zaman önce resmi tarihsel
kayıtlardan silinmiştir ve gelişmiş AI araştırmaları yasaklanmıştır. Arada bir, bilginin
büyüyebildiği ve kuralların değiştirilebildiği daha açık ve dinamik bir toplumun
hayalini kuran özgür düşünen biri doğar. Bununla birlikte, uzun süre dayananlar,
bu fikirleri kesinlikle kendilerine saklamayı öğrenenlerdir, ateş yakmadan geçici
kıvılcımlar gibi tek başına titreşirler.
 geri dönüş
Durgun totaliterliğe yenik düşmeden teknolojinin tehlikelerinden kaçmak cazip
olmaz mıydı? Amish'ten ilham alan ilkel teknolojiye geri dönülerek bunun
başarıldığı bir senaryoyu keşfedelim. Kitabın başında olduğu gibi Omega'ların
dünyayı ele geçirmesinden sonra, 1.500 yıl önceki basit çiftçilik hayatını
romantikleştiren büyük bir küresel propaganda kampanyası başlatıldı. Teröristlerin
sorumlu tutulduğu tasarlanmış bir salgın nedeniyle Dünya'nın nüfusu yaklaşık 100
milyon kişiye düşürüldü. Pandemi, bilim veya teknoloji hakkında hiçbir şey
bilmeyen hiç kimsenin hayatta kalmamasını sağlamak için gizlice hedef alındı.
Prometheus'un kontrolündeki robotlar, büyük insan kümelerinin enfeksiyon
tehlikesini ortadan kaldırma bahanesiyle tüm şehirleri boşalttı ve yerle bir etti.
Hayatta kalanlara (aniden mevcut olan) geniş araziler verildi ve yalnızca erken
ortaçağ teknolojisi kullanılarak sürdürülebilir çiftçilik, balıkçılık ve avcılık
uygulamaları konusunda eğitildi. Bu arada, robot orduları modern teknolojinin tüm
izlerini (şehirler, fabrikalar, elektrik hatları ve asfalt yollar dahil) sistematik olarak
ortadan kaldırdı ve bu tür herhangi bir teknolojiyi belgelemeye veya yeniden
yaratmaya yönelik tüm insan girişimlerini engelledi. Teknoloji küresel olarak
unutulduktan sonra, robotlar neredeyse hiç robot kalmayıncaya kadar diğer
robotların parçalanmasına yardımcı oldu. En son robotlar, büyük bir termonükleer
patlamada Prometheus ile birlikte kasıtlı olarak buharlaştırıldı. Modern teknoloji
tamamen ortadan kalktığı için artık yasaklamaya gerek yoktu. Sonuç olarak
insanlık, ne yapay zeka ne de totalitarizm hakkında endişe duymadan kendisini
bin yıldan fazla ek süre satın aldı.
Geri dönüş, daha önce daha az ölçüde gerçekleşti: örneğin, Roma
İmparatorluğu sırasında yaygın olarak kullanılan bazı teknolojiler, Rönesans
sırasında geri dönüş yapmadan önce yaklaşık bir bin yıl boyunca büyük ölçüde
unutuldu. Isaac Asimov'un Vakıf üçlemesi, 30.000 yıldan 1.000 yıla geri dönüş
dönemini kısaltmak için “Seldon Planı” etrafında toplanıyor. Akıllı bir planlamayla,
örneğin tarımla ilgili tüm bilgileri silerek, tersine çevirmek ve eskiye dönme süresini
kısaltmak yerine uzatmak mümkün olabilir. Bununla birlikte, ne yazık ki, tersine
çevirme meraklıları için, bu senaryonun, insanlık yüksek teknolojiye gitmeden veya
nesli tükenmeden süresiz olarak uzatılması pek olası değildir. Bir tür olarak daha
uzun süredir var olmadığımızı düşünürsek, bundan 100 milyon yıl sonra insanların
bugünün biyolojik insanlarına benzeyeceğine güvenmek saflık olur.
şimdiye kadarki sürenin %1'inden fazla. Dahası, düşük teknolojili insanlık, bir
sonraki gezegeni kavuran asteroit çarpması veya Tabiat Ana'nın neden olduğu
başka bir mega felaket tarafından yok edilmeyi bekleyen savunmasız bir oturan
ördek olacaktır. Kesinlikle bir milyar yıl dayanamayız, bundan sonra yavaş yavaş
ısınan Güneş, Dünya'nın sıcaklığını tüm sıvı suyu kaynatacak kadar yükseltmiş
olacaktır.
Şekil 5.1: Bildiğimiz yaşamı neyin yok edebileceğine veya potansiyelini kalıcı olarak
azaltabileceğine dair örnekler. Evrenimizin kendisi muhtemelen en az on milyarlarca yıl
sürecek olsa da, Güneşimiz yaklaşık bir milyar yıl içinde Dünya'yı kavuracak ve güvenli bir
mesafeye taşımazsak onu yutacak ve Galaksimiz yaklaşık 3,5 milyar yıl sonra komşusuyla
çarpışacak. yıl. Tam olarak ne zaman olduğunu bilmesek de, bundan çok önce asteroitlerin
üzerimize düşeceğini ve süper volkanların yıllarca güneşsiz kışlara neden olacağını
neredeyse kesin olarak tahmin edebiliriz. Teknolojiyi ya tüm bu sorunları çözmek için
kullanabiliriz ya da iklim değişikliği, nükleer savaş, tasarlanmış salgın hastalıklar veya ters
giden yapay zeka gibi yenilerini yaratmak için kullanabiliriz.