Proč snižovat existenční rizika

Původně vyšlo jako The case for reducing existential risks na 80 000 Hours · Autor: Benjamin Todd · Původně publikováno v říjnu 2017, naposledy aktualizováno v červnu 2022.

V roce 1939 napsal Einstein Rooseveltovi:

„Ve velkém množství uranu může být možné spustit jadernou řetězovou reakci… a je myslitelné – ačkoli mnohem méně jisté – že by tak bylo možné sestrojit nesmírně účinné bomby nového typu.“

O pouhých pár let později tyto bomby skutečně vznikly. Za méně než desetiletí jich bylo vyrobeno tolik, že hrstka aktérů mohla poprvé v dějinách zničit civilizaci.

Lidstvo vstoupilo do nové éry, kdy nečelíme pouze existenčním rizikům, vycházejícím z našeho přirozeného prostředí, ale také možnosti, že se zahubíme sami.

Co by v tomto novém věku mělo být pro naši civilizaci největší prioritou? Zdokonalovat technologie? Pomáhat chudým? Změnit politický systém?

Navrhujeme něco, o čem se nemluví zas tak často: nejvíc bychom měli usilovat o přežití.

Dokud bude civilizace existovat, budeme mít šanci vyřešit všechny ostatní problémy a dosáhnout mnohem lepší budoucnosti. Když ale vymřeme, bude to konec.

Proč se o této prioritě tolik nemluví? Jedním z důvodů je, že mnoho lidí změnu okolností stále nevnímá, a tak naši budoucnost za ohroženou nepovažuje.

Sociolog Spencer Greenberg udělal průzkum mezi Američany týkající se odhadu pravděpodobnosti, že lidstvo do padesáti let vymře. Zjistil, že podle mnohých je tato pravděpodobnost velmi nízká –⁠⁠⁠⁠⁠⁠ více než 30 % tázaných ji odhadovalo na méně než 1 : 10 milionům.

Také jsme toto riziko považovali za velmi nízké, ale po jeho prozkoumání jsme názor změnili. Jak uvidíme, podle vědkyň a vědců, kteří se tímto tématem zabývají, je tato hrozba více než 1000násobně vyšší a nejspíš vzrůstá.

Tyto obavy vedly ke vzniku nového hnutí, které usiluje o ochranu civilizace. Připojili se k němu Stephen Hawking, Max Tegmark a nové ústavy založené badateli a badatelkami na Cambridgeské univerzitě, MIT, Oxfordu a jinde.

Dále v tomto článku popíšeme největší rizika pro civilizaci včetně některých, která mohou být ještě závažnější než jaderná válka nebo změna klimatu. Potom se vás pokusíme přesvědčit, že snižovat tato rizika může být to nejdůležitější, čemu byste se mohli v životě věnovat. Pokud byste této problematice chtěli zasvětit své profesní směřování, můžeme vám také individuálně poradit.

Jaká je pravděpodobnost, že vás zabije asteroid? Přehled přírodních existenčních rizik

Pravděpodobnost 1 : 10 milionům, že v příštích 50 letech vyhyneme –⁠⁠⁠⁠⁠⁠ což je předpoklad mnoha lidí –⁠⁠⁠⁠⁠⁠ je nutně podhodnocená. Existenční rizika přirozeného původu lze poměrně přesně odhadnout z dějin a jsou mnohem vyšší.

Ke zničení civilizace by mohlo dojít, pokud by Zemi zasáhl asteroid o kilometrovém průměru. Astronomové pravděpodobnost takovéto srážky odhadují podle historických záznamů a sledování objektů ve vesmíru na přibližně 1 : 5000 na století. To je vyšší šance, než má běžný člověk, že zažije leteckou nehodu (asi 1 : 5 milionům na let), a již 1000násobně větší riziko než odhad 1 : 10 milionům udávaný některými lidmi.

Existují názory, že kilometrový objekt by sice způsobil katastrofu, ale ta by nebyla dostatečná na to, abychom vymřeli, takže uvedený odhad rizika je vysoký. Na druhou stranu ale existují i další přírodní hrozby, jako třeba supervulkány.

Přesto jsou přírodní rizika celkově malá. Podle chystaného článku Tobyho Orda nám úhrn všech přírodních rizik zvyšuje pravděpodobnost vyhynutí nejspíš o méně než 1 : 300 na století.

Jak ale brzy uvidíme, přírodní rizika bohužel blednou vedle těch způsobených lidmi. Právě proto je hrozba vyhynutí obzvlášť naléhavá.

Dějiny pokroku vedoucího k nejnebezpečnější éře v historii lidstva

Když se podíváte na dějiny, zjistíte zejména, že po tisíciletí byli skoro všichni chudí a pak se to v 18. století změnilo.

Způsobila to průmyslová revoluce – nejspíš ta nejdůležitější událost vůbec.

Neroste jen bohatství. Na následujícím grafu je vidět, že v dlouhodobém měřítku rychle stoupá věk dožití, spotřeba elektřiny a rozšiřuje se demokracie. Procento lidí žijících v chudobě naopak významně klesá.

Graf vytvořil Luke Muehlhauser v roce 2017.

Značně vzrůstá také gramotnost a vzdělanost:

Zdroj obrázku.

Zdá se také, že spolu s bohatstvím roste i spokojenost.

Steven Pinker v knize The Better Angels of Our Nature (česky Lepší andělé naší přirozenosti: Proč ubývá násilí, Academia 2026) uvádí, že klesá násilí. (V nedávném podcastu s Bearem Braumoellerem – zveřejněném až po tomto článku – se nicméně zabýváme několika důvody, proč to tak možná není.)

Narůstá svoboda jednotlivců a klesá rasismus, sexismus a homofobie.

Mnozí si myslí, že se světem je to čím dál horší, a je pravda, že moderní civilizace má na svědomí hrozné věci, jako třeba velkochovy. Jak ale ukazují data, mnohé významné ukazatele pokroku se zásadně zlepšily.

Přesněji řečeno, ať se v minulosti podle vás dělo cokoli, zdokonalování technologií a politické organizace a růst svobody vytváří při pohledu do budoucnosti pro naše potomky potenciál vyřešit současné problémy a mít se výrazně lépe. Je možné se vymanit z chudoby, předejít klimatické změně, zmírnit utrpení a tak dále.

Na druhém grafu si ale také všimněte fialové čáry: schopnost vést válku. Je založená na odhadech celosvětové vojenské síly podle historika Iana Morrise – a také výrazně roste.

Problém je, že technologický rozvoj má ohromný přínos, ale vede také k obrovským rizikům.

Kdykoli objevíme novou technologii, většinou to přinese velké výhody. Existuje ale také možnost, že vytvoříme technologii s větší ničivou silou, než dokážeme rozumně využívat.

A tak přestože současná generace prožívá nejblahobytnější období lidských dějin, žije možná zároveň v tom nejnebezpečnějším.

První ničivou technologií tohoto typu byly jaderné zbraně.

Jaderné zbraně: dějiny úniků o vlásek

Dnes nás všechny napadne jaderný program Severní Korey, ale současné události jsou jen jednou kapitolou v dlouhém příběhu, kdy mnohokrát chybělo málo.

Jen během karibské krize jsme byli krok od jaderné války hned několikrát. Jednou se Američané rozhodli, že pokud jim protivník sestřelí průzkumný letoun, zaútočí na Kubu rovnou, bez dalšího zasedání válečné rady. Následujícího dne byl jeden letoun sestřelen. J. F. Kennedy radu přesto svolal a ta se rozhodla nezaútočit.

Invaze by možná spustila jadernou válku – později se ukázalo, že Castro se přikláněl k jaderné odvetě, i kdyby „vedla k naprostému zničení Kuby.“ Někteří kubánští velitelé raket také měli samostatnou pravomoc v případě invaze zaútočit na americké vojsko taktickými jadernými zbraněmi.

Při jiném incidentu se ruská ponorka snažila na Kubu propašovat materiál, ale byla odhalena americkým námořním svazem. Lodě začaly shazovat slepé hlubinné pumy, aby ji donutily k vynoření. Ruský kapitán si myslel, že jde o nálože skutečné, a protože mu nefungovalo rádiové spojení, usoudil, že třetí světová válka už začala. Nařídil zaútočit na americká plavidla jaderným torpédem.

Naštěstí k tomu potřeboval schválení dalších vysokých důstojníků. Jeden z nich, Vasilij Archipov, nesouhlasil, a válku tak odvrátil.

Díky, Vasiliji Archipove.

Kennedy později odhadoval, že při uvážení všech těchto událostí byla pravděpodobnost jaderné války celkově „někde mezi 1 : 3 a 1 : 1“.

Jak je patrné ze seznamu na této pěkné stránce na Wikipedii, v Rusku to bylo nahnuté ještě mnohokrát, a to i po skončení studené války. A to jsou jen ty známé případy.

Dnes mají odborníci obavy nejen ze Severní Korey, ale také z napětí mezi Indií a Pákistánem, přičemž jaderné zbraně mají obě země.

Hlavní problém spočívá v tom, že několik zemí udržuje velký jaderný arzenál, který lze použít v řádu minut. Falešný poplach nebo nehoda může tudíž rychle vyeskalovat v otevřený konflikt, zvlášť když jsou mezinárodní vztahy napjaté.

Způsobila by taková válka kolaps civilizace? Původně se mělo za to, že jaderný výbuch by mohl mít takovou teplotu, že by se vznítila atmosféra a Země by se stala neobyvatelnou. Podle odhadu vědců to bylo natolik nepravděpodobné, že testování zbraní považovali za „bezpečné“, a dnes víme, že k tomu dojít nemůže.

V 80. letech panovaly obavy, že popel z hořících budov by přivodil dlouhodobou zimu, která by na desítky let na Zemi znemožnila pěstování plodin. Podle moderních klimatických modelů je pravděpodobnost nukleární zimy tak tuhé, že by zahubila všechny, velmi nízká. Vzhledem k nejistotě v modelování to ale nelze tvrdit s jistotou.

I „mírná“ nukleární zima by ale mohla způsobit hladomor. Proto a z dalších důvodů by jaderná válka byla velmi destabilizující a není jisté, že by se po ní civilizace dala do pořádku.

Jak pravděpodobné je, že by taková válka civilizaci mohla navždy ukončit? Velmi těžko se to odhaduje, ale nelze říct, že by pravděpodobnost takové války byla v následujícím století méně než 0,3 %. To by znamenalo, že riziko představované jadernými zbraněmi je větší než všechna přírodní rizika dohromady. (O jaderných rizicích více zde.)

Proto byla 50. léta pro lidstvo začátkem nové éry. Poprvé v dějinách začalo být možné, aby hrstka vlivných lidí zpustošila celý svět. Největší hrozbou pro naše přežití jsme dnes my sami – proto žijeme v nejnebezpečnější době lidské historie.

Jaderné zbraně přitom nejsou jediným prostředkem, jak bychom mohli kolaps civilizace způsobit.

Jak velké riziko představuje změna klimatu?

Americký prezident Obama ve své Zprávě o stavu Unie v roce 2015 prohlásil, že „změna klimatu je největší hrozbou pro budoucí generace.”

Klimatická změna rozhodně představuje pro civilizaci zásadní riziko.

Nejpravděpodobnějším výsledkem je oteplení o 2 až 4 stupně, což by bylo špatné, ale náš druh by to mohl přežít.

Podle některých odhadů ale existuje 10% pravděpodobnost oteplení přes 6 °C, a možná i 1% pravděpodobnost oteplení o 9 °C.

Zdá se tedy, že rozsáhlá klimatická katastrofa způsobená CO2 je podobně pravděpodobná jako jaderná válka.

Jak ale popisujeme ve článku věnovaném klimatické změně, zdá se nepravděpodobné, že oteplení i o 13 °C by přímo způsobilo vymření lidstva. Badatelé zabývající se těmito problémy mají tudíž za to, že jaderná válka by nás přímo vyhubila pravděpodobněji, protože by mohla způsobit nukleární zimu – proto se domníváme, že jaderné zbraně představují ještě větší hrozbu než klimatická změna.

Přesto je ale změna klimatu zásadní problém a její destabilizující důsledky by mohly zhoršit další hrozby (včetně rizika jaderného konfliktu). To by mělo náš odhad tohoto rizika ještě zvýšit.

Které nové technologie můžou být stejně nebezpečné jako jaderné zbraně?

Vynález jaderných zbraní dal jen o pár desetiletí později, v 60. letech, vzniknout protijadernému hnutí a proti klimatické změně začali brzy bojovat environmentalisté.

Méně pozornosti se ale věnuje tomu, že nové technologie přinesou další hrozby. Proto potřebujeme hnutí, které se soustředí na ochranu civilizace obecně.

Předvídat budoucnost technologií není snadné, ale protože civilizaci máme jen jednu, je třeba dělat, co můžeme. Mezi kandidáty na příští technologii stejně nebezpečnou jako jaderné zbraně patří třeba tyto:

Uměle vytvořené pandemie

Mezi lety 1918 a 1919 zemřela více než 3 % světové populace na španělskou chřipku. Kdyby taková pandemie přišla dnes, kvůli rychlé dopravě po celém světě by se možná potlačovala ještě hůř.

Větší obavy ale budí, že brzy může být možné geneticky vyvinout virus nakažlivý jako španělská chřipka, ale ještě více smrtící, který by se zároveň mohl roky nepozorovaně šířit.

Šlo by o zbraň stejně ničivou jako ty jaderné, ale jejímu použití by se hůře předcházelo. K výrobě jaderných zbraní jsou zapotřebí velké továrny a obtížně dostupné suroviny, takže není tak složité je mít pod kontrolou. Umělé viry by ale mohlo vytvořit v laboratoři pár lidí s doktorátem z biologie. Deníku Guardian se v roce 2006 podařilo nechat si poslat segmenty vymýceného viru pravých neštovic poštou. O využití takových zbraní s nerozlišujícími účinky projevily zájem některé teroristické skupiny. (Více o rizicích pandemie se dočtete zde.)

Kdo si objednal neštovice? Zdroj: The Guardian

Umělá inteligence

Další novou technologií s potenciálem získat obrovskou moc je umělá inteligence.

Jediným důvodem, proč svět neřídí šimpanzi, nýbrž lidé, je inteligence. Naše velké účinné mozky nám umožňují značnou vládu nad světem, přestože jsme fyzicky mnohem slabší než šimpanzi.

Co by se tudíž stalo, kdybychom jednoho dne vytvořili něco mnohem inteligentnějšího, než jsme my sami?

V roce 2017 proběhl na vrcholných konferencích průzkum mezi badateli a badatelkami, kterým vyšly recenzované vědecké články o umělé inteligenci. Byli dotázáni, kdy podle nich vyvineme počítače nadané inteligencí lidské úrovně – tedy stroje schopné vykonávat veškeré pracovní činnosti lépe než lidé.

Podle mediánového odhadu existuje 50% pravděpodobnost, že AI lidské úrovně vyvineme za 45 let, a 75% pravděpodobnost, že to bude do konce století.

Tyto pravděpodobnosti se odhadují těžko a vědci a vědkyně udávali velmi odlišné hodnoty podle toho, jak přesně otázka zněla. Zdá se nicméně, že existuje přinejmenším rozumná pravděpodobnost, že dojde k vynálezu nějakého typu transformativní strojové inteligence v příštím století. Větší nejistota navíc značí, že může být vynalezena spíš dříve, než se očekává, než později.

Jaká rizika může tento vývoj přinést? Obavy z hrozeb představovaných mocnými počítačovými systémy vyjádřili už raní průkopníci informatiky jako Alan Turing a Marvin Minsky a tyto hrozby stále existují. Řeč není o tom, že by počítače „propadly zlu.“ Obavy vzbuzuje spíše to, že by jedna skupina mohla mocný systém AI využít k ovládnutí světa nebo by došlo k nějakému jinému zneužití AI. Kdyby Sovětský svaz vyvinul jaderné zbraně o deset let dřív než USA, mohl by získat vládu nad celým světem. Mocná počítačová technologie by mohla představovat podobná rizika.

Další problém je, že spuštění takového systému by mohlo mít nečekané důsledky, protože předvídat chování něčeho chytřejšího, než jsme my, by bylo obtížné. Dostatečně mocný systém by také mohlo být těžké držet pod kontrolou, a tudíž ho po uvedení do chodu upravit. Těmto otázkám se věnuje oxfordský profesor Nick Bostrom ve své knize Superinteligence a také průkopník AI Stuart Russell.

Většina odborníků a odbornic je toho názoru, že dokonalejší AI přinese kladnou změnu, ale shodují se, že to má rizika. Ve výše uvedeném průzkumu respondenti odhadovali 10% pravděpodobnost, že dopad vývoje AI lidské úrovně bude „špatný“ a 5% pravděpodobnost, že bude „extrémně špatný“, např. vyhynutí lidstva. Přitom bychom měli nejspíš předpokládat, že u této skupiny bude docházet k pozitivnímu zkreslení, protože se AI živí.

Z kombinace těchto odhadů vyplývá, že pokud je pravděpodobnost vzniku vysokoúrovňové strojové inteligence v příštích sto letech 75 %, představuje pravděpodobnost velkého neštěstí způsobeného AI 5 % ze 75 %, tudíž přibližně 4 %. (Více o umělé inteligenci zde.)

Další rizika budoucích technologií

Někteří vyjadřují obavy i z dalších nových technologií, například některých forem geoinženýrství a nanotechnologií. Zdá se ale, že ty nejsou tak na dosah jako technologie popsané výše, a tak je lidé nepovažují za tak nebezpečné. Delší seznam existenčních rizik najdete zde.

Znepokojivější jsou ale nejspíš rizika, na která jsme ještě nepomysleli. Kdybyste se na největší hrozby pro civilizaci zeptali v roce 1900, jaderné zbraně, genetické inženýrství nebo umělá inteligence by nejspíš nikomu na mysl nepřišly, protože ještě nebyly vynalezeny. Co se týče následujícího století, jsme možná v téže situaci. Budoucí „neznámé neznámé“ mohou představovat větší hrozbu než rizika, o kterých víme dnes.

Kdykoli vynalezneme novou technologii, je to trochu jako sázet v ruletě proti jedinému číslu. Většinou vyhrajeme a technologie je celkově přínosná. Vždy ale existuje malá pravděpodobnost, že nám poskytne víc ničivé síly, než dovedeme zvládnout, a přijdeme o všechno.

Každá nově vyvinutá technologie přináší nejen nebývalý potenciál, ale také nebezpečí.

Jaké je úhrnné riziko vyhynutí lidstva se vším všudy?

Podle odhadu mnohých odborníků a odbornic, kteří se těmito otázkami zabývají, je pravděpodobnost vymření lidstva v následujícím století mezi 1 a 20 %.

V podcastu hovoříme s Willem McAskillem o tom, proč je podle něj riziko v tomto století 1 %.

Toby Ord v knize Nad propastí: Existenční riziko a budoucnost lidstva udává odhad, že celkové existenční riziko v tomto století je 1 : 6 (tedy 17 %) – jako při hodu kostkou. (Je ale třeba vzít v úvahu, že existenční katastrofa podle Ordovy definice není totéž, co vyhynutí lidstva – spadá sem i například celosvětová katastrofa, ze které by se náš druh už nikdy úplně nevzpamatoval, ačkoli by někteří lidé přežili.) Poslechněte si náš rozhovor s Tobym.

V knize uvádí následující tabulku s (velmi hrubými) odhady existenčních rizik počínaje těmi, která považuje za nejzávažnější.

Druh existenční katastrofy	Pravděpodobnost během příštích sto let
Dopad asteroidu či komety	~ 1 : 1 000 000
Supervulkanická erupce	~ 1 : 10 000
Hvězdná exploze	~ 1 : 1 000 000 000
Úhrnné přírodní riziko	~ 1 : 10 000
Jaderná válka	~ 1 : 1 000
Změna klimatu	~ 1 : 1 000
Jiné ničení životního prostředí	~ 1 : 1 000
„Přirozeně“ vzniklá pandemie	~ 1 : 10 000
Uměle vytvořená pandemie	~ 1 : 30
AI nesladěná s lidskými hodnotami	~ 1 : 10
Nepředvídaná antropogenní rizika	~ 1 : 30
Jiná antropogenní rizika	~ 1 : 50
Úhrnné antropogenní riziko	~ 1 : 6
Úhrnné existenční riziko	~ 1 : 6

Tyto hodnoty jsou asi milionkrát vyšší, než si lidé obvykle myslí.

Jak bychom to měli chápat? Badatelky a badatelé zabývající se touto oblastí se těmto tématům věnují zřejmě jen proto, že je považují za velmi důležité. Proto není překvapivé, že jejich odhady (v důsledku výběrového zkreslení jsou vysoké). Ačkoli s těmito čísly lze polemizovat, řadu názorů (včetně těch, které zastávají MacAskill a Ord) považujeme za realistické.

Proč může pomoc při ochraně budoucnosti být to nejdůležitější, co byste v životě mohli dělat

Nakolik bychom měli snižování těchto rizik upřednostňovat před jinými oblastmi, jako je např. světová chudoba, vymýcení rakoviny nebo změna politiky?

Cílem výzkumu naší organizace 80,000 Hours je pomoct lidem při hledání profesní dráhy s kladným dopadem na společnost. Přitom se snažíme identifikovat nejpalčivější problémy na světě, kterými se lze zabývat. Hodnotíme je pomocí našeho postupu pro srovnávání problémů z následujících hledisek:

Rozsah – kolika lidí se problém týká
Opomíjenost – kolik lidí se problému už věnuje
Řešitelnost – jak snadné je dosáhnout pokroku

Když tento postup použijete, podle nás vám vyjde, že ochrana budoucnosti je největší světovou prioritou. Takže pokud chcete, aby vaše profesní směřování mělo značný pozitivní dopad, toto je hlavní oblast, na kterou se zaměřit.

V příštích několika oddílech toto téma posoudíme z hlediska rozsahu, opomíjenosti a řešitelnosti. Budeme přitom vycházet z článku Nicka Bostroma Existential Risk Prevention as a Global Priority (Prevence existenčních rizik jakožto světová priorita), nepublikované práce Tobyho Orda a z vlastního výzkumu.

Začněme rozsahem problému. Uvedli jsme, že pravděpodobnost našeho vyhynutí v následujícím století je víc než 3 %. Jak velký je to problém?

Jedním z údajů, které můžeme zkoumat, je, kolik lidí by při takovém neštěstí zemřelo. V polovině století bude na Zemi asi 10 miliard obyvatel, takže při 3% pravděpodobnosti, že všichni zahynou, je střední počet obětí asi 300 milionů. To je pravděpodobně více než očekávaný počet úmrtí během následujících sta let na nemoci spojené s chudobou, jako je malárie.

Mnohá rizika, která jsme popsali, by také nemusela způsobit zánik civilizace, ale „střední“ katastrofu, což je asi pravděpodobnější. Z dříve zmíněného průzkumu vychází 10% pravděpodobnost katastrofy v následujícím století, která by si vyžádala více než 1 miliardu obětí. To by znamenalo nejméně dalších 100 milionů následných úmrtí a dalšího utrpení přeživších.

Takže i kdybychom vzali v úvahu jen dopad na současnou generaci, mezi nejzávažnější problémy, kterým lidstvo čelí, tato rizika katastrofy patří.

Rozsah problému je tímto ale značně podhodnocen, protože kdyby zanikla civilizace, přijdeme také o celou budoucnost.

Většina lidí chce zanechat vnoučatům lepší svět a je toho názoru, že bychom měli mít na paměti i budoucí generace obecně. V budoucnu může skvěle žít mnohem víc lidí, než je naživu dnes, a měli bychom brát ohled i na jejich zájmy. Je možné, že lidská civilizace přetrvá miliony let, takže když vezmeme v úvahu dopad rizik na budoucí generace, v sázce je milionkrát víc – v dobrém i ve zlém. Jak napsal Carl Sagan v časopise Foreign Affairs o ceně za jadernou válku:

„Jaderná válka ohrožuje všechny naše potomky po celou existenci lidstva. I když počet obyvatel zůstane stejný, při průměrné délce života asi 100 let a dosažení doby obvyklé pro biologickou evoluci úspěšného druhu (zhruba 10 milionů let) přijde ještě asi 500 bilionů lidí. Podle tohoto kritéria je pro případ vyhynutí v sázce milionkrát víc než pro případ skromnější jaderné války, která by měla mít „jen“ stovky milionů obětí. Pro možnou ztrátu existuje mnoho dalších měřítek – včetně kultury a vědy, evoluční historie planety a významu životů všech našich předků, kteří přispěli k budoucnosti svých potomků. Vymření by znamenalo zkázu celého lidského konání.“

Jsme rádi, že Římané lidstvo vyhynout nenechali, protože to znamená, že může existovat celá moderní civilizace. Podle našeho názoru dlužíme tuto odpovědnost těm, kteří přijdou po nás – za předpokladu, že (jak věříme) budou žít naplňující život. Bylo by bezohledné a nespravedlivé ohrozit jejich existenci jen proto, aby se nám nakrátko dařilo lépe.

Nejde jen o to, že budoucnost se může týkat více lidí. Jak Sagan také zdůraznil, ať si vážíte čehokoli, nejspíš toho v budoucnu bude mnohem víc. Budoucí civilizace by mohla vytvořit svět bez nutnosti války a dosáhnout nevídaných duševních a uměleckých počinů. Mohli bychom vytvořit mnohem spravedlivější a ctnostnější společnost. A neexistuje žádný zásadní důvod, proč by lidé nemohli dosáhnout jiných planet, kterých je v naší galaxii asi 100 miliard. Pokud však způsobíme zánik civilizace, k ničemu z toho nikdy nebude moci dojít.

Nejsme si jistí, že tato skvělá budoucnost skutečně nastane – ale možnost to zjistit je další důvod, proč civilizaci zachovávat. Nepředat pochodeň další generaci je možná to nejhorší, čeho bychom se mohli kdy dopustit.

Asi největším problémem, kterému dnes svět čelí, se tudíž zdá být právě toto několikaprocentní riziko kolapsu civilizace. A je zarážející, jak moc tuto hrozbu zanedbáváme.

Proč tato rizika patří mezi nejopomíjenější světové problémy

Zde je přehled, kolik prostředků ročně plyne do některých důležitých oblastí:

Oblast	Roční cílené výdaje z veškerých zdrojů (velmi přibližně)
Věda a vývoj celosvětově	1,5 bilionu $
Luxusní zboží	1,3 bilionu $
Sociální zabezpečení v USA	900 miliard $
Změna klimatu	> 300 miliard $
Pro chudé na celém světě	> 250 miliard $
Jaderná bezpečnost	1–10 miliard $
Prevence extrémní pandemie	1 miliarda $
Výzkum bezpečnosti AI	10 milionů $

Jak vidíte, vynakládáme velké množství zdrojů na vědu a výzkum, abychom vyvinuli ještě mocnější technologii. Hodně také utratíme při (možná pomýlené) snaze zlepšit si život nakupováním luxusního zboží.

Mnohem méně jde na zmírňování rizika katastrofy způsobené změnou klimatu. Jen USA na sociální zabezpečení vydává několikanásobně více prostředků, než kolik do zmírňování dopadů změny klimatu investuje celý svět.

Přesto na ni ve srovnání s jinými hrozbami, které jsme popisovali, plynou ohromné prostředky. Náš hrubý odhad je, že na prevenci extrémní světové pandemie se vynakládá 300krát méně, ačkoli míra rizika se zdá přibližně podobná.

Nejopomíjenější je výzkum s cílem vyhnout se nehodám způsobeným AI. Plyne na něj nejspíš ještě 100násobně méně prostředků, přibližně jen 10 milionů $ ročně.

Podobný obrázek se naskytne při porovnání nikoli vynaložených financí, ale počtu lidí, kteří se rizikům věnují. Získat údaje o penězích je ale snazší.

V případě vědecké pozornosti vidíme podobné zanedbávání (ačkoli některá jednotlivá rizika se těší významné pozornosti, například změna klimatu):

Zdroj: Nick Bostrom

A domníváme se, že při uvážení politické pozornosti budou výsledky podobné jako u financování. Její drtivá většina připadá na konkrétní oblasti, které krátkodobě pomohou současné generaci, protože to přináší hlasy. Rizika katastrofy se berou v úvahu mnohem méně. Nejvíce pozornosti mezi nimi se pak dostává změně klimatu, zatímco nejvíce opomíjené jsou oblasti jako pandemie a AI.

Zanedbávání z hlediska zdrojů, výzkumu i politické pozornosti je při uvážení ekonomických zásad, na kterých jsou tyto věci založené, zcela očekávatelné. Z toho důvodu také tato oblast skýtá příležitosti lidem, kteří chtějí zlepšit svět.

Za uvedená rizika předně nemá odpovědnost žádný konkrétní stát. Představte si, že by Spojené státy významně zainvestovaly do prevence změny klimatu. Těžili by z toho všichni na světě, v USA ovšem žije jen 5 % světové populace, takže tamní občané by měli z přínosu těchto vynaložených prostředků jen 5 %. To znamená, že USA do této oblasti investují zoufale málo na to, jak prospěšná pro svět je. A totéž platí pro všechny ostatní země.

Řešením by byla spolupráce všech – kdyby každý stát ke zmírnění změny klimatu proporčně přispěl, všechny státy by se vyhnuly nejhorším důsledkům změny, a tím by z toho těžily.

Z pohledu každého jednotlivého státu je ovšem bohužel lepší, když své emise sníží všechny ostatní státy, zatímco jeho vlastní hospodářství zůstane bez omezení. Každý stát má tudíž motivaci klimatické dohody porušovat, a proto je pokrok tak mizivý (jde o případ vězňova dilematu).

A i tohle je ve skutečnosti výrazné zlehčení problému. Největší prospěch ze snižování hrozeb katastrofy připadne budoucím generacím. A ty nemají své zájmy jak hájit – ekonomicky ani politicky.

Kdyby se mohly účastnit našich voleb, z drtivé většiny by hlasovaly pro bezpečnější strategie. Podobně tak kdyby mohly posílat zpět v čase peníze, byly by ochotné věnovat nám za snížení rizik ohromné částky. (Snižování zásadních rizik vytváří technicky vzato mezigenerační celosvětové veřejné dobro, takže jde nejspíš o nejzanedbávanější způsob konání dobra.)

Náš současný systém v ochraně budoucích generací selhává. Známe lidi, kteří mluvili s nejvyššími vládními činiteli a činitelkami Velké Británie. Mnozí tito politici by rizika rádi řešili, avšak zaměřovat se na ně je kvůli tlaku mediálního a volebního cyklu podle nich náročné. Většina států nemá orgán, do jehož pravomoci by mírnění těchto rizik přirozeně spadalo.

Tato situace je skličující, ale zároveň představuje příležitost. Těm, kteří chtějí svět opravdu zlepšit, tento nedostatek pozornosti skýtá spoustu možností, jak pomoci, aby to mělo velký dopad.

Další články v příručce: