Eksistenciāls risks ir tik liela katastrofa, ka tā vai nu iznīcina visu cilvēci, vai neatgriezeniski kropļo mūs. Tās var būt dabas katastrofas vai cilvēku izraisītas tīšas vai nejaušas katastrofas. Eksistenciāls risks var būt pastāvējis jau ilgu laiku vai tikai dažas desmitgades, vai varbūt tas slēpjas mūsu nākotnē. Eksistenciālā riska piemēri ir lieli asteroīdu triecieni, kodolkarš un negodīgs mākslīgais intelekts.
Eksistenciālā riska jēdzienu tās pašreizējā formā pirmo reizi formulēja Oksfordas filozofs doktors Niks Bostroms. Lai izskaidrotu eksistenciālos riskus, viņš izmanto riska diagrammu, kas ir līdzīga šādai:
Riska apjomsGlobālsEl Ninjo mežu ieaudzēšanas eksistenciāls risksVietējais negaissekonomikas lejupslīdeviesuļvētraPersoniskaispapīra griezumi sastiepta potīte, jūs esat nošauts Riska intensitāte Nenozīmīgs PārvaldāmsTermināls
Eksistenciālie riski ir globāli un termināli vai, iespējams, gandrīz termināli. Eksistenciāla riska piemērs ir ārkārtīgi lipīgs vīruss ar 99.9% letalitātes līmeni, no kura neviens nav imūna.
Bostroms norāda, ka mūsu prāti un institūcijas ir slikti sagatavotas, lai domātu par eksistenciālo risku, jo mēs nekad tādu neesam piedzīvojuši – ja būtu, mēs nebūtu šeit, lai par tiem domātu. Tāpat kā bērnam, kurš nezina, ka plīts ir karsta, līdz tai pieskaras, mums ir maz pieredzes ar katastrofām šajā līmenī. Viduslaiku Eiropas buboņu mēris un Pirmā pasaules kara Spānijas gripa piedāvā mums nogaršot, kāda būtu eksistenciāla katastrofa. Abas slimības dažu stundu laikā nomira desmitiem miljonu veselu cilvēku.
Savā kanoniskajā dokumentā par šo tēmu Bostroms uzskaita apmēram duci eksistenciālu risku un iedala tos kategorijās, pamatojoties uz to smagumu un atgūstamību. Šeit ir uzskaitīti daži no ticamākajiem:
ģenētiski modificētie vīrusi
nanotehnoloģiskās bruņošanās sacensības
katastrofāls kodolkarš
nekontrolējama pašreplicējoša robotika
superinteliģents AI, kas ir vienaldzīgs pret cilvēkiem
fizikas katastrofa daļiņu paātrinātājā
supervulkāna sprādziens bloķē sauli
Eksistenciālā riska ārkārtējā smaguma un neatgriezeniskuma dēļ ir vērts pārdomāt un īstenot iespējamos pretpasākumus. Pat ja iespēja, ka noteikti eksistenciāli draudi kļūs par realitāti, ir maza, ar to saistītās milzīgās likmes prasa nopietnu izvairīšanās programmu. Cilvēka radītiem draudiem pretpasākumi ietver sarežģītas novērošanas un brīdināšanas sistēmas un noteiktu tehnoloģiju regulēšanu, lai nodrošinātu, ka tās netiek izmantotas masu iznīcināšanai. Valstis, kuras tiek turētas aizdomās par masu iznīcināšanas ieroču glabāšanu, dažkārt iebrūk citas valstis, kuras ir noraizējušās par ilgtermiņa sekām, kā to spilgti parāda Irākas karš.