1c.global catastrophic risks

8/19/2019 1c.global Catastrophic Risks

1/32

Global Catastrophic Risks

• 1 • IntroducciónNick Bostrom y Milán M. Cirkovi' ' c1.1 ¿Por qué?El término "riesgo catastrófico global" carece de una definiciónnítida. La usamos para referirse, sin apretar, un riesgo que podría

tener el potencial de causar serios daños al bienestar humano aescala mundial. En esta definición, un inmensamente variadacolección de acontecimientos podrían constituir catástrofesmundiales: los candidatos potenciales van desde erupcionesvolcánicas a una pandemia de infecciones, accidentes nucleares entodo el mundo a las tiranías, fuera de control de los experimentoscientíficos a los cambios climáticos y peligros cósmicos al colapsoeconómico. Con esto en mente, uno podría preguntarse, ¿de qué sirveun libro sobre riesgos catastróficos globales? Los riesgos bajoexamen parecen tener poco en común, lo hace "global riesgocatastrófico' incluso tiene sentido como un tema? O es el libro queusted tiene en sus manos como mal concebidos y dispersa un proyectocomo un volumen sobre "la jardinería, álgebra matricial, y la

historia de Bizancio'?Estamos seguros de que un tratamiento exhaustivo del riesgocatastrófico global será, al menos, algo más útil y coherente que elmencionado título imaginario. También creemos que el estudio de estetema es muy importante.Aunque los riesgos son de varios tipos, son atados juntos por muchosvínculos y similitudes. Por ejemplo, para muchos tipos de eventosdestructivos, gran parte de los daños resultados de efectos desegundo orden en el orden social; así los riesgos de contraertrastornos sociales y no son ajenos a los riesgos de acontecimientoscomo el terrorismo nuclear o las enfermedades pandémicas. O paratomar otro ejemplo, aparentemente dispares eventos como grandesimpactos de asteroides, erupciones volcánicas y super-la guerranuclear sería la expulsión de todas las cantidades masivas de hollíny aerosoles en la atmósfera, con efectos significativos sobre elclima mundial. La existencia de tales vínculos causales es uno delos motivos por los que se puede ser sensato estudiar múltiplesriesgos juntos.Otro aspecto común es que muchos, conceptuales, metodológicos ytemas culturales afloran en toda la gama de riesgos de catástrofemundial. Si nuestro interés reside en esas cuestiones, a menudo esesclarecedor para estudiar cómo juegan en diferentes contextos. Porel contrario, algunas ideas generales - por ejemplo, en los sesgosde riesgo humano cognición- pueden aplicarse a muchos riesgosdiferentes y utilizan para mejorar nuestras evaluaciones a través de

la junta.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 1 - #1

2 riesgos catastróficos globalesmás allá de estas características teóricas comunes, también hayrazones pragmáticas para abordar los riesgos catastróficos globalescomo un único campo. La atención es escasa.

http://www.global-catastrophic-risks.com/book.htmlhttp://www.global-catastrophic-risks.com/book.html


2/32

La mitigación es costoso. Para decidir cómo asignar recursos yesfuerzo, debemos hacer juicios comparativos. Si tratamos a losriesgos individualmente, y nunca como parte de un perfil de amenazageneral, podemos ser excesivamente concentrados en uno o dospeligros que suceder haber capturado la imaginación pública oexperto del día, descuidando otros riesgos que son más intensos omás sensibles a la mitigación. Alternativamente, podemos dejar dever que algunas políticas de precaución, aunque eficaz en reducir elriesgo particular nos estamos centrando en, al mismo tiempo, crearnuevos peligros y provocar un incremento en el nivel general deriesgo. Una visión más amplia que nos permite tener una perspectivay por tanto pueden ayudarnos a establecer prioridades más sabia.El objetivo inmediato de este libro es ofrecer una introducción a lagama de riesgos catastróficos globales que enfrenta la humanidadahora o esperar en el futuro, adecuado para la educación de loslectores interdisciplinaria. Hay varias circunscripciones para elconocimiento presentado. Académicos especializados en uno de estosámbitos de riesgo se beneficiarán de aprendizaje acerca de los otrosriesgos. Los profesionales de seguros, finanzas y negocios - aunquehabitualmente preocupado con más limitada y retos inminentes - sebeneficiarán de una perspectiva más amplia.Los analistas de políticas, activistas y laicos interesados enpromover políticas responsables igualmente beneficiada con elaprendizaje sobre el estado del arte en estudios de riesgo global.Por último, cualquiera que esté preocupado o simplemente curiososacerca de lo que puede ir mal en el mundo moderno puede encontrarmuchos de los capítulos siguientes intrigante. Esperamos que estevolumen servirá como una útil introducción a todos estos públicos.Cada uno de los capítulos termina con algunas sugerencias para laliteratura para quienes deseen profundizar en un conjunto particularde problemas.Este volumen también tiene un objetivo más amplio: para estimularuna mayor investigación, concienciación y debate público informado

acerca de grandes riesgos y estrategias de mitigación. La existenciade una comunidad interdisciplinaria de expertos y laicos informadasacerca de los riesgos de catástrofes mundiales, según creemos,mejorar las probabilidades de que se encontrarán soluciones buenas yaplicadas a los grandes retos del siglo XXI.1.2 La taxonomía y la organizaciónobservemos más de cerca lo que haría y no haría, cuentan como unriesgo catastrófico global. Recordar que el daño debe ser serio, yla escala global.Dado esto, una catástrofe que provocó 10.000 muertes o 10 milmillones de dólares en daños económicos (por ejemplo, un terremotode gran intensidad) no calificaría como una catástrofe mundial. Unacatástrofe que causó 10 millones de muertes o10 billones de dólares

de pérdidas económicas (por ejemplo, una pandemia de gripe) contaríacomo una catástrofe mundial, incluso si alguna región del mundoescapó ileso. Como paraCIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 2 - #2

Introducción 3


3/32

desastres caer entre estos puntos, la definición es vaga. Laestipulación ofaprecisecut-offdoesnotappearneedfulatthisstage.Catástrofes mundiales han ocurrido muchas veces en la historia,incluso si nos cuentan sólo los desastres causan más de 10 millonesde muertes. Una lista parcial de los ejemplos podrían incluir unaShi rebelión (756-763), la rebelión Taiping (1851-1864), y de lahambruna del Gran Salto Adelante de China, la Muerte Negra enEuropa, la pandemia de gripe española, las dos guerras mundiales, elgenocidio Nazi, las hambrunas en la India británica, eltotalitarismo estalinista, la aniquilación de la población indígenaa través de la viruela y otras enfermedades después de la llegada delos colonizadores europeos, probablemente las conquistas mongol,quizás Congo Belga - innumerables otros podrían añadirse a la listaen función de cómo diversos contratiempos y condiciones crónicas sonindividuado y clasificados.Aproximadamente podemos caracterizar la severidad de un riesgo portres variables: su alcance (cómo muchas personas -y otros seresmoralmente relevantes - se verían afectados), su intensidad (de lomal que estos se verían afectados), y su probabilidad (laprobabilidad de que se produzca el desastre, según nuestro mejorcriterio, dada la evidencia disponible actualmente). Utilizando laprimera de estas dos variables, podemos construir un diagramacualitativa de los diferentes tipos de riesgo (Fig. 1.1). (Laprobabilidad de dimensión podría ser mostrado a lo largo de un eje zfueron este diagrama tridimensional.) El alcance de un riesgo puedeser personal (que afectan sólo a una persona), local, global (queafecta a una gran parte de la población humana), o trans-generacional (afectan alalcance(Cosmic?)Pérdida de una pérdida drástica lososs DDrastic s trans- HHuman umuman n de especies de oof f eextinction generacional escarabajoxtxtinctionon bibbiodiversity iododiversity riesgos existenciales

SSpanish global de gripe aviar u papaninish fh el calentamientoglobal por AAging? Ieg geingng? Ande ndemic pappandemic 0.001 °Criesgos catastróficos globalescongestión local de recesión de un genocidio en un país extrapérdida de vehículo automóvil es robado un cabello personales decoche fatal accidenteintensidadtolerable imperceptible Terminal (infernal?)Fig. 1.1 categorías cualitativas del riesgo. Los riesgoscatastróficos mundiales están en la parte superior derecha deldiagrama. Riesgos existenciales forman un subconjunto de estosespecialmente graves.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 3 - #3

4 riesgos catastróficos globalesno sólo a la actual población mundial sino también de todas lasgeneraciones que puede llegar a existir en el futuro). La intensidadde un riesgo puede ser clasificado como imperceptibles (apenasperceptible), tolerable (causando importantes daños pero nodestruyendo la calidad de vida completamente), o del terminal


4/32

(causando la muerte o permanentemente y reduciendo drásticamente lacalidad de vida). En esta taxonomía, global de los riesgoscatastróficos ocupan las cuatro clases de riesgos de gravedad altaen la esquina superior derecha de lafigura:aglobalcatastrophicriskisofeitherglobalortrans-generationalscope y de ya sea soportable o terminal de intensidad.En principio, como se sugiere en la figura, los ejes puedenampliarse para abarcar conceptualmente los posibles riesgos que sonaún más extremas. En particular, trans-generacional de los riesgospuede contener una subclase de riesgos tan destructivas, que surealización no sólo afectan o anticiparse a futuras generacioneshumanas, sino que también destruyen el potencial de nuestro cono deluz futuro del universo para producir inteligentes o auto-conscientede seres (etiquetados "cósmica"). Por otro lado, según muchasteorías del valor, puede haber Estados que están aún peor que la no-existencia o la muerte (por ejemplo, permanente y las formasextremas de la esclavitud o el control de la mente), por lo que, enprincipio, podría ser posible extender el eje x a la derecha (verFig. 2). 1.1 etiquetados "infernal").Un subconjunto de los riesgos catastróficos globales es riesgosexistenciales. Un existentialrisk es uno que amenaza con provocar laextinción de la Tierra-originarios vida inteligente o reducir sucalidad de vida (en comparación a lo que de otro modo no hubierasido posible) permanentemente y drásticamente.1Existentialrisksshareanumber de características que marcarlos comomerecedores de specialconsideration. Por ejemplo, puesto que no esposible recuperarse de los riesgos existenciales, no podemospermitir que incluso un desastre existencial a suceder; no habráoportunidad de aprender de la experiencia. Nuestro enfoque de lagestión de tales riesgos deben ser proactivos. Unexistentialcatastrophe cuánto peor sería que un no-existentialglobalcatastrophe depende muy sensiblemente encontroversialissues en teoría de valor, en particular, cuánto peso

para dar vida a las personas de posibles futuras.2 Además, evaluarexistentialrisks distintivo plantea problemas metodológicos quetienen que ver con la observación de los efectos de selección y lanecesidad de evitar el sesgo antrópico. Uno de los motivos para laelaboración de este libro es estimular el estudio de los más gravesriesgos existenciales. En lugar de limitar nuestro enfoque aexistentialrisk, sin embargo, pensamos que es mejor para sentar unabase más amplia de pensamiento sistemático sobre grandes riesgos engeneral.1 (Bostrom,2002, p.381).2 Para muchas teorías éticas consecuencialistas agregativo,incluyendo pero no limitado al utilitarismo total, puede demostrarseque el requerimiento para maximizar el valor esperado! Puede ser

simplificado - para allpracticalpurposes - al requerimiento paraminimizar el riesgo existencial! (Bostrom, 2003, p.439).(Nota, sin embargo, que agregativo consequentialism está amenazadapor el problema de la Parálisis [infinitarian Bostrom, 2007,p.730]).CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 4 - #4


5/32

Introducción 5preguntamos a nuestros colaboradores, para evaluar los riesgos decatástrofes mundiales no sólo como se hace actualmente, sino tambiéncomo podrían desarrollar a lo largo del tiempo. La dimensióntemporal es esencial para la plena comprensión de la naturaleza delos desafíos a los que nos enfrentamos. Piense acerca de cómoabordar los riesgos de terrorismo nuclear y la guerra nuclear, porejemplo, debemos considerar no sólo la probabilidad de que algo vayamal en el próximo año, sino también acerca de cómo los riesgos va acambiar en el futuro y los factores -como la magnitud de laproliferación de la tecnología pertinente y material fisible -quetendrá influencia en esto. El cambio climático de las emisiones degases de efecto invernadero no plantea ningún riesgo catastróficoglobalmente importantes ahora o en el futuro inmediato (en la escalatemporal de severaldecades); la preocupación es qué efectos podríatener emisiones estas acumulando a lo largo de muchos decenios oincluso siglos.También puede ser importante para anticipar los riesgos hipotéticosque surgirá si y cuando ciertos posibles desarrollos tecnológicostienen lugar. Los capítulos sobre la nanotecnología y lainteligencia artificial son ejemplos de esos análisis de riesgospotenciales.En algunos casos, puede ser importante para el estudio de escenariosque casi seguramente físicamente imposible. El riesgo hipotético decolisionador de partículas experimentos es un caso en cuestión. Esmuy probable que estos experimentos no tienen potencial, sea cualsea, por causar desastres globales. El objetivo es, probablemente,el riesgo cero, como se cree por la mayoría de los expertos. Pero,¿cómo podemos estar seguros de que no hay riesgo objetivo? Si noestamos seguros de que no hay ningún riesgo objetivo, entonces hayun riesgo al menos en un sentido subjetivo. Tales riesgos pueden sersubjetivos dignos de consideración seria, y los incluimos en nuestradefinición global de los riesgos catastróficos.

La distinción entre objetivo y subjetivo (epistémico) el riesgo es amenudo difícil de justificar. La posibilidad de que un asteroidecolisione con la tierra se ve como un claro ejemplo del riesgoobjetivo. Pero supongamos que en realidad no es importante elasteroide en curso de colisión con nuestro planeta, dentro de undeterminado intervalo de tiempo lo suficientemente grande. Entoncespodríamos decir que no hay riesgo objetivo de un asteroide-causedcatastrophewithinthatintervaloftime.Por supuesto,wewillnotsaben que esto es así hasta que nos hemos trazado las trayectoriasde todos los asteroides potencialmente amenazadoras y son capaces decalcular todas las perturbaciones, a menudo caótico, de estastrayectorias. En el ínterin, debemos reconocer el riesgo deasteroides aunque el riesgo podría ser meramente subjetiva,

simplemente reflejando nuestro actual estado de ignorancia. Unacueva vacía puede ser igualmente subjetivamente peligroso si ustedno está seguro acerca de si un león reside en ella; y puede serracional para que evite la cueva si razonablemente el juez que eldaño esperado de entrada supera el beneficio esperado.En el caso del asteroide amenaza, tenemos acceso a una gran cantidadde datos que nos pueden ayudar a cuantificar el riesgo. Podemosestimar la probabilidad de unCIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 5 - #5


6/32

6 Global de los riesgos catastróficosefectos catastróficos de las estadísticas de los últimos impactos(por ejemplo, datos de cráteres) y a partir de observaciones demuestreo de la población de asteroides no amenazante.Este riesgo, por lo tanto, se presta a un riguroso estudiocientífico, y las estimaciones de la probabilidad que obtenemos sonbastante fuertemente limitadas por evidencias.3para muchos otros riesgos, carecemos de la información necesariapara la inferencia estadística rigurosa. Podemos también falta biencorroborado modelos científicos sobre el que basar las estimacionesde probabilidad. Por ejemplo, no existe ningún modo científicoriguroso de asignar una probabilidad al riesgo de un grave atentadoterrorista empleando un agente de guerra biológica que ocurre dentrode la próxima década. Tampoco podemos establecer claramente que losriesgos de un régimen totalitario global derivados antes del fin desiglo son de cierta magnitud exacta. Es inevitable que el análisisde estos riesgos se basará en gran medida en los argumentos deplausibilidad, analogías, y un juicio subjetivo.Aunque más rigurosos métodos son preferibles cuando estándisponibles y aplicables, sería inoportuna cientificismo paralimitar la atención a aquellos riesgos que son susceptibles deenfoques duros.4 Dicha estrategia llevaría a muchos riesgos siendoignorado, incluidos muchos de los principales riesgos que enfrentala humanidad. También crearía una falsa dicotomía entre dos tipos deriesgos: el 'científica' y 'speculative' - donde, en realidad,existe un continuum de tratabilidad analítica.Por lo tanto, hemos optado por lanzar nuestras net ampliamente.Aunque nuestro tema de selección muestra algunos riesgos de sesgohacia las pequeñas que han sido objeto de mayor estudio científico,tenemos una serie de capítulos que abordan potencialmente más

grandes, pero los riesgos especulativos. El recuento de páginasasignadas a un riesgo, por supuesto, no debería interpretarse comouna medida de cuán seriamente creemos que el riesgo debe serconsiderado. En algunos casos, hemos considerado conveniente tenerun capítulo dedicado a un riesgo que resulta ser bastante pequeña,porque el aprendizaje que un determinado riesgo es pequeño puede serútil, y los procedimientos utilizados para llegar a la conclusiónpodría servir como una plantilla para la futura investigación deriesgo. Huelga decir que la composición exacta de un volumen comoéste también está influenciado por muchas contingencias3 a veces se puede definir algo parecido al objetivophysicalprobabilities ('posibilidades') para sistemas determinista,como se hace, por ejemplo, en mecánica estadística clásica,

asumiendo que el sistema es ergódica bajo un curso adecuado de vetasde madera de su estado espacial. Pero ergodicity no es necesariopara no ser fuertes limitaciones científicas sobre las asignacionesde probabilidad subjetiva a eventos inciertos en sistemasdeterministas. Por ejemplo, si tenemos buenas estadísticas que seremontan a mucho tiempo mostrando que impactos ocurren en promediouna vez por mil años, sin tendencias aparentes o periodicidad,entonces tenemos razón científica - ausente de información másespecífica - para asignar una probabilidad de ≈0,1% a un impacto queocurren dentro del próximo año, si creemos que la dinámica delsistema subyacente es indeterminista, o caótico, o algo más.


7/32

4 Por supuesto, al asignar el esfuerzo en investigación es legítimotener en cuenta no sólo cómo un problema es importante sino tambiénla probabilidad de que pueda encontrarse una solución, a través dela investigación. El borracho que busca sus llaves perdidas donde laluz es mejor no necesariamente es irracional; y un científico quelogra algo relativamente poco importantes pueden lograr mucho másque uno que falle en algo importante.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 6 - #6

Introducción 7más allá del control y de los editores que necesariamente debe dejarmás de lo que incluye.5hemos dividido el libro en cuatro partes:Parte I: Parte II Antecedentes: Los riesgos de naturaleza PARTE III:Los riesgos de consecuencias no intencionales PARTE IV: Los riesgosde actos hostiles,esta división en tres categorías de riesgo es sólo por conveniencia,y la asignación de riesgo a una de estas categorías es a menudobastante arbitraria. Tomar terremotos que pudieran parecerparadigmatically un 'riesgo' de la naturaleza.Ciertamente, un terremoto es un evento natural. Podría sucederincluso si no estábamos alrededor. Los terremotos son regidos porlas fuerzas de la tectónica de placas más que seres humanos queactualmente no tienen ningún control. No obstante, el riesgoplanteado por un terremoto es, en gran medida, una cuestión deconstrucción humana.Cuando levantamos nuestros edificios y cómo podemos elegir construirellos influyen fuertemente en lo que sucede cuando un terremoto deuna magnitud determinada se produce. Si todos vivimos en tiendas de

campaña o en edificios a prueba de terremotos, o si hemos colocadonuestras ciudades lejos de líneas de falla y las costas del mar, losterremotos haría poco daño. Mirándolo de cerca, así que el riesgosísmico es muy parecida a un joint venture entre la naturaleza y elhombre. O tome un paradigmatically antropogénicas como el peligro delas armas nucleares. De nuevo pronto descubrimos que el riesgo no estan desconectado de fuerzas incontrolables de la naturaleza comopodría parecer a primera vista que éste sea el caso. Si una bombanuclear se apaga, cuánto daño causa será significativamenteinfluenciada por el clima. El viento, la temperatura y laprecipitación afectará al patrón de Fallout y la probabilidad de queuna tormenta de fuego va a salir: factores que hacen una grandiferencia en el número de muertes generadas por la explosión.

Además, dependiendo de cómo se define el riesgo, es posible que conel tiempo también la transición de una categoría a otra. Porejemplo, el riesgo de morir de inanición podría haber sido un riesgoprincipalmente de la naturaleza, cuando la principalcausalfactorsweredraftsorfluctuationsinlocalpreypopulation;yetinthemundo contemporáneo, las hambrunas tienden a ser las consecuenciasde los fallos del mercado, las guerras, y de ahí el riesgosocialbreakdowns, ahora es por lo menos tan uno de consecuenciasimprevistas o de actos hostiles.1.3 Parte I: Antecedentes


8/32

El objetivo de esta parte del libro es proporcionar generalcontext yorientación metodológica para pensar de manera sistemática ycríticamente acerca de los riesgos de catástrofes mundiales.5 Por ejemplo, el riesgo de guerra convencional en gran escala sóloestá cubierta de paso, pero seguramente merece su propio capítulo enuna mayor asignación de página perfectamente equilibrados.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 7 - #7

8 riesgos catastróficos globalescomenzamos al final, por así decirlo, con el Capítulo 2 por FredAdams discutiendo el destino a largo plazo de nuestro planeta,nuestra galaxia y el universo en general.En unos 3,5 millones de años, la creciente luminosidad del Sol sehará esencialmente han esterilizado la biosfera terrestre, pero elfin de los complejos de la vida en la Tierra está programado paravenir antes, quizás 0.9-1.5 mil millones de años a partir de ahora.Este es el destino predeterminado para la vida en nuestro planeta.Uno puede tener la esperanza de que si la humanidad y lacivilización tecnológica compleja sobrevive, será mucho antes, hanaprendido a colonizar el espacio.Si algún evento catastrófico fue destruir al Homo sapiens y otrosorganismos superiores sobre la tierra mañana, parece haber unaventana de oportunidad, de aproximadamente 1.000 millones de añospara otra especie inteligente para evolucionar y asumir donde nosdejó. Para la comparación, tardó aproximadamente 1,2 mil millones deaños desde el nacimiento de la reproducción sexual y los organismosmulticelulares simples para la biosfera para evolucionar en suestado actual, y sólo unos pocos millones de años para nuestraespecie a evolucionar desde sus antepasados antropoides. Por

supuesto, no hay ninguna garantía de que una repetición de laevolución debería producir algo como un ser humano o un sucesorauto-consciente de la especie.Si la vida inteligente se propaga en el espacio mediante elaprovechamiento de los poderes de la tecnología, su vida útil podríaser muy larga. Sin embargo, eventualmente, el universo va vientoabajo. La última parada de estrellas brillando 100 billones de añosdesde ahora. Más tarde, la materia se desintegre en susconstituyentes básicos. Por 10100 años a partir de ahora, inclusolos más grandes agujeros negros se han evaporado. Nuestra actualcomprensión de lo que sucederá en esta escala de tiempo y más alláde ella, es bastante limitada. La mejor estimación actual - pero enverdad no es más que eso: es que no solo tecnológicamente difícil

pero físicamente imposible para el procesamiento de informacióninteligente para continuar más allá de algún tiempo finito en elfuturo.Si es así, la extinción no es una cuestión de si, sino cuándo.Después de este vistazo al futuro extremadamente remotas, esinstructivo para la vuelta y echar un breve vistazo a un pasadolejano. Algunos de los anteriores eventos cataclísmicos han dejadohuellas en el registro geológico. Han habido unos 15 extincionesmasivas en los últimos 500 millones de años, y en 5 de ellos se haeliminado más de la mitad de todas las especies que habitan laTierra entonces. Es de destacar el Pérmico Triásico - evento de


9/32

extinción, que se llevó a cabo algunos251.4 millones de años atrás.Esta 'madre de todas las extinciones masivas' eliminado más del 90%de todas las especies y muchas familias filogenética entera. Setardó más de 5 millones de años para recuperar la biodiversidad.Los impactos de asteroides y cometas, así como enormes erupcionesvolcánicas, han estado implicados en muchas de las extincionesmasivas del pasado. Otras causas, tales como las variaciones en laintensidad de la iluminación solar, pueden en algunos casos hanexacerbado el estrés. Parece que todas las extinciones masivas hansido mediada por efectos atmosféricos tales como cambios en lacomposición atmosférica o la temperatura. Es posible, sin embargo,que debemos nuestra existencia a extinciones masivas. En particular,el cometa que golpeó la Tierra hace 65 millones de años, queCIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 8 - #8

Introducción 9se cree que ha sido responsable de la desaparición de losdinosaurios, podría haber sido una condición sine qua non para elsubsiguiente aumento de Homo sapiens desactivando el nicho ecológicoque podrían ser ocupados por los grandes mamíferos, incluidosnuestros antepasados.Al menos el 99,9% de todas las especies que alguna vez han caminado,rastreando, volado, nadado o, de lo contrario, respetado en laTierra se han extinguido. No todos estos fueron eliminados en laextinción masiva de eventos cataclísmicos. Muchas sucumbieron enmenos espectacular doomsdays como de la competencia con otrasespecies por el mismo nicho ecológico. El capítulo 3 se examinan losmecanismos de cambio evolutivo. No hace mucho tiempo, nuestra propiaespecie coexistió con al menos otra especie de homínidos, los

Neandertales. Se cree que los linajes de H. sapiens y H.neanderthalensis divergieron hace unos 800.000 años. LosNeandertales fabricado y utilizado herramientas como handaxscompuesto. No llegaron a la extinción en Europa hasta 33.000 a24.000 años atrás, muy probablemente como consecuencia directa de lacompetencia con el Homo sapiens. Recientemente, los restos de lo quepodría haber sido otra especie de homínido, homo floresiensis -apodado 'El Hobbit' por su corta estatura, fueron descubiertos enuna isla de Indonesia.H. floresiensis se cree que han sobrevivido hasta tan recientementecomo hace 12.000 años, aunque persiste la incertidumbre acerca de lainterpretación de los hallazgos. Una importante lección de estecapítulo es que la extinción de la especie inteligente ya ha

sucedido en la tierra, sugiriendo que sería ingenuo pensar que quizáno vuelva a suceder.Desde una perspectiva naturalista, no hay nada anormal encataclismos mundiales incluyendo las extinciones de especies, aunquelas escalas de tiempo características son normalmente grandes porlas normas humanas. James Hughes en el capítulo 4 deja claro, sinembargo, la idea de un cataclismo codas a menudo provoca un peculiarconjunto de tendencias cognitivas para entrar en juego, lo que élllama "el milenario, utópico, o paquete psychocultural apocalíptica,una característica dinámica de creencias y comportamientosescatológica". El impulso es pancultural milenario.


10/32

Hughes se muestra cómo se puede encontrar en muchas formas y conmuchos tropos comunes desde Europa a la India a China, a través delos últimos miles de años."Podemos aspirar a un análisis puramente racional, tecnocrática",Hughes escribe, "equilibrio serenamente las probabilidades defuturos sin la enfermedad, el hambre, el trabajo o la muerte, poruna parte, contra las probabilidades de mundos destruidos por laguerra, plagas o asteroides, pero pocos será inmune a sesgosmilenario, positiva o negativa, o fatalista" mesiánico. Aunque estostropos escatológica puede servir legítimas necesidades sociales yayudar a movilizar la acción requerida, pueden convertirsefácilmente endysfunctionalandcontributetosocialdisengagement.Hughesarguesthatwenecesidad históricamente informados y vigilantes, auto-interrogatorio para ayudarnos a mantener nuestro enfoque en losesfuerzos constructivos para abordar desafíos reales.Incluso para un honesto, la búsqueda de la verdad, y bienintencionadas del investigador es difícil pensar y actuarracionalmente en lo que se refiere a los riesgos catastróficos yglobal riesgos existenciales. Estos son temas en los que pareceespecialmenteCIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 9 - #9

10 riesgos de catástrofe globaldifícil mantenerse sensato. En el capítulo 5, Eliezer Yudkowskyobserva como sigue:cantidades sustancialmente mayores, tales como 500 millones demuertes, y sobre todo cualitativamente diferentes escenarios como laextinción de la especie humana entera, parecen desencadenar un modo

diferente de pensar - entrar en un magisterio "separados". Laspersonas que nunca podría soñar de lastimar a un niño escuche de unpeligro existencial, y decir, "Bien, tal vez la especie humana nomerece realmente para sobrevivir".Afortunadamente, si estamos dispuestos a lidiar con nuestrosprejuicios, no nos dejan totalmente a nuestros propios dispositivos.Durante las últimas décadas, psicólogos y economistas handesarrollado una extensa literatura empírica sobre muchos de lossesgos de la heurística y comunes que se pueden encontrar en lacognición humana. Encuestas Yudkowsky esta literatura y aplica susresultados inquietantes frecuentemente al dominio de los grandesriesgos que es el asunto de este libro. Su estudio revisa lossiguientes efectos: disponibilidad; retrospectiva sesgo; cisnes

negros; la conjunción de la falacia; sesgo de confirmación; elanclaje, ajuste y contaminación; la heurística afectan; negligencia;alcance de calibración y el exceso de confianza; y la apatía delespectador. Incumbe a cualquier contribuyente sofisticada en elámbito global de los riesgos catastróficos y existentialrisks - yasea científico o asesor de políticas - estar familiarizado con cadauno de estos efectos y que todos debemos prestar atención a cómo sepodrían distorsionar nuestros juicios.Otro tipo de razonamiento trampa para evitarse es el sesgoantrópico. Sesgo antrópico difiere de los sesgos generalcognitiverevisados por Yudkowsky; es de carácter más teórico y se aplica de


11/32

forma más restringida únicamente a determinados tipos de inferencia.Sesgo antrópico surge cuando pasamos por alto los efectos deselección de observación pertinente. Una selección de observaciónefecto ocurre cuando nuestras pruebas ha sido "filtrado" por lacondición previa de que exista un observador posicionadoadecuadamente para tener la evidencia, de tal manera que nuestrasobservaciones son unrepresentatively muestreados en el dominio dedestino. No tomar en cuenta los efectos de observación correctamentepuede provocar errores graves en nuestra evaluación probabilísticade algunas de las hipótesis pertinentes. Milán Cirkovi' ' c, en elCapítulo 6, examina algunas de las aplicaciones de la teoría deselección de observación que llevan mundial sobre los riesgoscatastróficos y particularmente el riesgo existencial. Algunas deestas aplicaciones son bastante sencillos aunque no siempre sonobvios. Por ejemplo, la inferencia tentador que ciertas clases dedesastres existenciales deben ser altamente improbable porque nuncahan ocurrido en la historia de nuestra especie, o incluso en lahistoria de la vida en la tierra, debe ser resistida. Estamosobligados a encontrarnos en uno de esos lugares y pertenecientes auna de esas especies inteligentes que todavía no han sidodestruidos, si planeta o especies-destruyendo los desastres soncomunes o raras: para la posibilidad - que nuestro planeta ha sidodestruido o nuestra especie extinguida - es algo que para nosotrosno observables, por definición. Otras aplicaciones del razonamientoantrópico -como el Carter-Leslie Doomsday argumento - son devalidez, especialmenteCIRKOVIC disputa: "chap01" - 2008/4/5 - 12:57 - página 10 - #10

Introducción 11

en sus formas generalizadas, pero, sin embargo, vale la pena saberacerca de. En algunas aplicaciones, como el argumento de lasimulación, sorprendente limitaciones se reveló en qué podemosasumir de manera coherente sobre el futuro de la humanidad y nuestrolugar en el mundo.Thereareprofessionalcommunitiesthatdealwithriskassessmentonadailybase. Los dos siguientes capítulos se presentan perspectivas de ladisciplina de la ingeniería de sistemas y a la industria de losseguros, respectivamente.En el Capítulo7, Ya'acov Haimes esboza algunas estrategias flexiblespara organizar nuestro pensamiento acerca de las variables de riesgoen sistemas complejos proyectos de ingeniería.Qué conocimientos se necesitan para tomar buenas decisiones sobre

gestión de riesgos?Responder a esta pregunta, dice, 'mandates Haimes buscando la"verdad" sobre la compleja naturaleza de incognoscible sistemasemergentes; exige intelectualmente libres de prejuiciosmodelizadores y pensadores que están facultados para experimentarcon una multitud de enfoques de modelización y simulación, y acolaborar para soluciones adecuadas". Haimes sostiene que laorganización de los análisis en torno a la medida del valor esperadode riesgo puede ser demasiado restrictivos. Los que toman lasdecisiones a menudo prefieren una descomposición más fina de riesgoque les permite examinar por separado la probabilidad de resultados


12/32

en diferentes rangos de gravedad, mediante lo que denomina "elHaimes particionada multi-objetivo método de riesgo'.Capítulo8, por Peter Taylor, explora las conexiones entre laindustria de los seguros y riesgos catastróficos globales. Lascompañías de seguros ayudar a individuos y organizaciones a mitigarlas consecuencias financieras del riesgo, esencialmente permitiendoque los riesgos para ser comercializadas y compartido. Peter Taylorafirma que la medida en que los riesgos catastróficos globales puedeser seguro privado está severamente limitada por motivos que tienenque ver con su alcance y en su tipo.Aunque las compañías de seguros y reaseguros han prestadorelativamente poca atención a los riesgos catastróficos mundiales,han acumulado mucha experiencia con pequeños riesgos. Algunos de losconceptos y métodos utilizados pueden ser aplicados a los riesgos encualquier escala. Taylor subraya la importancia del concepto deincertidumbre. Un modelo estocástico particular de fenómenos enalgún dominio (como los terremotos) puede entaila distribución deprobabilidad definida sobre los posibles resultados. Sin embargo,además de los descritos por el modelo chanciness, debemos reconocerotras dos fuentes de incertidumbre. Generalmente hay incertidumbreen los valores de los parámetros que nos alimentamos en el modelo.Además de eso, existe incertidumbre acerca de si el modelo queusamos hace, de hecho, describen correctamente los fenómenos en eldominio de destino.Estas incertidumbres de nivel superior son a menudo imposibles deanalizar de una manera estadísticamente rigurosos. Los analistas queluchan en favor de la objetividad y de quienes se espera que evitenhacer "ONU-científico' supuestos que no pueden justificar el rostrouna tentación de ignorar estas incertidumbres subjetivas. Pero talescientificismo puede conducir a desastrosos errores de juicio. Taylorafirma que la distorsión es a menudo mayor al final de curvas deprobabilidad de superación, conduce a una subestimación del riesgode eventos extremos.

CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 11 - #11

12 mundial de riesgos catastróficosTaylor también informa sobre dos estudios recientes de la encuestade percepción del riesgo. Uno de ellos, realizado por Swiss Re en2005, directivos de multinacionales, preguntó sobre qué riesgos parasus negocios' financials eran de mayor interés para ellos. Riesgocomputer-related fue calificada como la más alta prioridad delriesgo, seguido por el comercio exterior, el gobierno corporativo,

operacional/instalación, y riesgo de responsabilidad.Los desastres naturales llegó en séptimo lugar y el terrorismo en eldécimo lugar. Seappearsthat,asfarasfinancialthreatstoindividualcorporationsareconcerned, global de los riesgos catastróficos tome el backseat a másdirecta y estrictamente centrada business peligros. Un ejerciciosimilar, pero con un alcance mayor, es llevada a cabo anualmente porel Foro Económico Mundial. Su2007 Global Informe de riesgosclasificados por la probabilidad y severidad de los riesgos basadosen opiniones solicitadas a los líderes empresariales, economistas yacadémicos. Los riesgos fueron evaluados con un plazo de 10 años.


13/32

Dos riesgos dieron una clasificación de gravedad de 'más de 1billones de dólares EE.UU.", es decir, el colapso de los precios delos activos (10-20%) y las medidas de austeridad de la globalización(1-5%). Cuando la gravedad se mide en número de muertes, en lugar depérdidas económicas, los tres principales riesgos eran pandemiasmundiales, el desarrollo de la enfermedad, y la interestatal ycivilwar. (Desafortunadamente, severalof los riesgos en este estudioestaban mal definidos, haciendo difícil interpretar las opiniones -uno moralhere informó de que, si uno desea asignar probabilidades alos riesgos o clasificarlas según su gravedad o probabilidad, unprimer paso esencial es presentar definiciones claras de los riesgosque deben ser evaluados.6) La parte del fondo del libro termina conuna discusión por Richard Posner sobre algunos desafíos para lapolítica pública en el Capítulo 9. Posner señala quegovernmentalactiontoreduceglobalcatastrophicriskisoftenimpededbythebreve decisión horizontes de políticos con sus términos limitados deoficina y las muchas demandas que compiten por su atención. Además,la mitigación de los riesgos catastróficos globales a menudo escostosa y puede crear un problema de parasitismo.Más pequeños y más pobres pueden arrastrar sus talones en laesperanza de tomar un viaje gratis en los países más grandes yricos. El más hábil de los países, a su vez, pueden retener a causade la renuencia a recompensar a los free riders.Posner también busca en varios casos específicos, incluidos lostsunamis, impactos de asteroides, el bioterrorismo, experimentos delacelerador, y el calentamiento global, y se examinan algunas de lasimplicaciones para las políticas públicas planteadas por estosriesgos.Aunque un riguroso análisis coste-beneficio no siempre es posible,sin embargo, es importante tratar de cuantificar las probabilidadesde daños potenciales y los costos de diferentes posiblescontramedidas, a fin de determinar prioridades y optimalstrategiesde mitigación. Posner sugiere que cuando

6 Por ejemplo, el riesgo de "enfermedad crónica en el mundodesarrollado" se define como "la obesidad, la diabetes y lasenfermedades cardiovasculares generalizado; aumento de los costes dela atención sanitaria; las infecciones bacterianas resistentes aelevarse, provocando acciones colectivas y la evitación de loshospitales". Por la mayor parte de las normas, la obesidad, ladiabetes y las enfermedades cardiovasculares son ya muy extendido. Ypor cuánto lo costos sanitarios tienen que aumentar para satisfacerel criterio? Puede que sea imposible juzgar si esta definición secumple incluso después del hecho y con el beneficio de laretrospectiva.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 12 - #12

Introducción 13una probabilidad exacta de algún riesgo no puede determinarse, aveces puede ser informativo considerar - como un áspero heurístico -la "probabilidad implícita" sugerido por los gastos actuales en losesfuerzos de mitigación frente a la magnitud de los perjuicios quese produciría si un desastre se materializó. Por ejemplo, sigastamos un millón de dólares por año para mitigar un riesgo que


14/32

crearía 1 mil millones de dólares de daños, podemos estimar que laspolíticas actuales se supone implícitamente que el riesgo anual dela catástrofe es del orden de 1/1000. Si esto implicara probabilidadparece demasiado pequeño, puede ser un signo de que no estamosgastando lo suficiente en la mitigación.7 Posner sostiene que elmundo es, de hecho, bajo-inversión en mitigación de varios riesgosde catástrofe mundial.1.4 Parte II: Los riesgos de la naturalezalas erupciones volcánicas en los últimos tiempos históricos hantenido efectos medibles en el clima mundial, causando unenfriamiento global por unas pocas décimas de grado, el efecto duraquizá un año. Pero como Michael Rampino explica en el capítulo 10,estas erupciones palidecen en comparación con el mayor registradoerupciones. Aproximadamente 75.000 años atrás, un volcán hizoerupción en Toba, Indonesia, expulsando grandes volúmenes de cenizafina y aerosoles en la atmósfera, con efectos comparables a losescenarios de invierno nuclear. Las temperaturas de la tierradisminuyó globalmente5-15◦C, y el enfriamiento de la superficieoceánica≈2-6◦Cmighthaveextendedoverseveralyears.La persistencia deimportantes hollín en la atmósfera durante 1-3 años podría haberllevado a un enfriamiento del clima dura décadas (porque deretroacciones climáticas tales como el aumento de la cubierta denieve y hielo marino causando más de la radiación del sol que serefleja de vuelta al espacio). La población humana parece haber idoa través de un cuello de botella en este momento, según algunasestimaciones, cayendo tan bajo como≈500 hembras reproductoras en una

población mundial de aproximadamente 4000 personas.En la teoría de la catástrofe de Toba, la disminución de lapoblación causada por la super-erupción y la especie humana estabatambaleándose al borde de la extinción.Este es quizás el peor desastre que ha asolado a la especie humana,al menos si la gravedad se mide por cuán cerca al terminal fue elresultado.

Más de 20 sitios de super-erupción durante los últimos 2 millones deaños han sido identificados. Esto sugiere que, en promedio, unsuper-erupción ocurre por lo menos una vez cada 50.000 años. Sinembargo, puede muy bien haber sido adicionales super-volcánicas queaún no han sido identificados en el registro geológico.7 Esta heurística es sólo pretende ser una primera puñalada en elproblema. Evidentemente no es generalmente válida.Por ejemplo, si un millón de dólares es suficiente para tomar todaslas precauciones posibles, no hay razón para gastar más en el riesgoincluso si pensamos que su probabilidad es mucho mayor1/1000.Un análisis más cuidadoso examinaría el rendimiento marginal de lainversión en la reducción del riesgo.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 13 - #13

14 Global de los riesgos catastróficosel daño global de super-vulcanismo provendrían principalmente de susefectos climáticos. El invierno volcánico que seguiría tal erupciónprovocaría una caída en la productividad agrícola, lo cual podríaconducir a una hambruna masiva y las consiguientes convulsionessociales. Rampino del análisis de los impactos de la super-


15/32

vulcanismo es también pertinente a los riesgos de una guerra nucleary del asteroide o impactos de meteoros. Cada uno de estos implicaríay aerosoles de hollín que se inyecta en la atmósfera, elenfriamiento del clima de la tierra.Aunque no tenemos manera de prevenir un super-erupción, hayprecauciones que podríamos adoptar para mitigar sus efectos. En laactualidad, una reserva mundial equivalente a 2 meses de suministrode grano que existe. En un super-catástrofe volcánica, temporadas decrecimiento podrían verse reducidos durante varios años. Un mayorarsenal de cereales y otros alimentos, aunque caro de mantener,proporcionaría un búfer para una variedad de escenarios decatástrofe que impliquen reducciones temporales de la productividadagrícola mundial.El peligro de los cometas y meteoritos es quizás el mejor entendidode todos los riesgos de catástrofe mundial (lo cual no es negar quepersisten incertidumbres significativas). Capítulo 11, por WilliamNapier, explica parte de la ciencia detrás de los peligros deimpacto: donde provienen de cometas y asteroides, ¿con quéfrecuencia impactos ocurren, y cuáles serán los efectos de unimpacto sería. Para producir una civilización-interrumpir evento, unimpactador tendría un diámetro de al menos 1 ó 2 km. A 10 kmimpactador sería, al parecer, tienen una buena posibilidad de causarla extinción de la especie humana. Pero incluso sub-kilómetroimpactors podría producir daños, alcanzando el nivel de catástrofemundial, dependiendo de su composición, la velocidad, el ángulo y elsitio de impacto.Napier calcula que "el peligro de impacto per cápita se sitúa en elnivel asociados a los peligros del aire traveland similares'. Sinembargo, la financiación para la mitigación es reducida encomparación con la financiación de la seguridad aérea. El principalesfuerzo en curso para abordar el peligro de impacto es el proyectoSpaceguard, que recibe cerca de 4 millones de dólares anuales de laNASA además en especie y contribuciones voluntarias de los demás.

Spaceguard apunta a encontrar el 90% de los asteroides cercanos a latierra mayores de 1 km para el final de 2008. Los asteroidesconstituyen la mayor parte de la amenaza de los objetos cercanos ala Tierra (y son más fáciles de detectar que los cometas), de maneraque cuando el proyecto esté terminado, la probabilidad subjetiva deun gran impacto se han reducido considerablemente, a menos que, porsupuesto, se descubre que algún asteroide tiene una cita con nuestroplaneta en el futuro cercano, en cuyo caso la probabilidadaumentaría.Algunos se ha hecho un estudio preliminar de cómo un impactadorpotencial podría ser desviado. Habida cuenta con suficienteantelación, parece que la tecnología espacial necesaria para desviarun asteroide podría ser desarrollado. El costo de producción de una

efectiva defensa de asteroides sería mucho mayor que el costo debuscar potentialimpactors. Sin embargo, si una civilización-destruyendo la bola de demolición resultaron ser balancearse haciala Tierra, prácticamente ningún gasto estaría justificada paraevitar antes de que se desencadenara.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 14 - #14


16/32

Introducción 15asteroides y cometas no son las únicas amenazas catastróficasglobales potenciales desde el espacio. Otros riesgos incluyencósmico del cambio climático mundial de las fluctuaciones de laactividad solar, y son muy grandes los flujos de radiación y rayoscósmicos procedentes de explosiones de supernovas o explosiones derayos gamma. Estos riesgos son examinados en el capítulo 12 porArnon Dar. Las conclusiones sobre estos riesgos son favorables: elriesgo parece ser muy pequeño. Ninguna respuesta en particularparece indicado en el momento actual más allá de la continuación dela investigación básica.81.5 La Parte III: Los riesgos de consecuencias no intencionalesya hemos encontrado el cambio climático - en forma de un repentinoenfriamiento global - como una modalidad destructiva de la super-erupción y grandes impactos (así como de las posibles consecuenciasde una guerra nuclear de gran escala, que se analizarán másadelante).Sin embargo, es el riesgo de gradualglobalwarming provocada por lasemisiones de gases de efecto invernadero que más ha cautivado laimaginación del público fuertemente en los últimos años. El cambioclimático antropogénico se ha convertido en el cartel de lasamenazas mundiales. El calentamiento global commandeers una fraccióndesproporcionada de la atención prestada a los riesgos mundiales.El dióxido de carbono y otros gases de efecto invernadero seacumulan en la atmósfera, donde se espera que cause un calentamientodel clima de la tierra y un incremento concomitante en los nivelesde agua de mar. El más reciente informe de las Naciones Unidas'IntergovernmentalPanelon el Cambio Climático (IPCC), que representala evaluación más autorizada de la opinión científica actual, losintentos de estimar el aumento de la temperatura media mundial quese esperaba para finales de este siglo, bajo el supuesto de queningún esfuerzo enmitigationaremade.Thefinalestimateisfraughtwithuncertaintybecauseof

incertidumbre sobre qué la tasa predeterminada de las emisiones degases de efecto invernadero será a lo largo del siglo, laincertidumbre sobre la sensibilidad climática parámetro, y laincertidumbre acerca de otros factores. El IPCC, por tanto, expresasu valoración en términos de seis diferentes escenarios climáticosbasados en diferentes modelos e hipótesis diferentes. El 'bajo'modelo predice un calentamiento global media de +1,8◦C (rango de

incertidumbre 1.1-2.9◦C); el 'alto' modelpredicts calentamiento de+4.0◦C(2,4-6,4◦C). Calcula la subida del nivel del mar pronosticadospor los dos escenarios más extremos de los seis considerado es de18-38 cm, y 59 cm26, respectivamente.Capítulo 13, por David Bastidor y Myles Allen, resume algunos de loselementos básicos de la ciencia detrás de la modelización del clima,

con particular atención a la baja probabilidad de escenarios de altoimpacto que son más relevantes para el enfoque de este libro. Es,posiblemente, esta gama de escenarios extremos que da la mayor8 un examen amplio de riesgos espaciales también consideraríaescenarios que impliquen contacto con especies extraterrestresinteligentes o contaminación de los hipotéticos microorganismosextraterrestre; sin embargo, estos riesgos están fuera del alcancedel capítulo12.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 15 - #15


17/32

16 Global riesgos catastróficosmotivo de preocupación. Aunque su probabilidad parece muy baja, unaconsiderable incertidumbre aún permea nuestra comprensión dediversas posibilidades de retroalimentación que puede serdesencadenada por el esperado el forzamiento del clima (recordandoPeter Taylor's Point, mencionados anteriormente, acerca de laimportancia de tomar el parámetro y la incertidumbre del modelo encuenta). David Frame y Myles Allen también discutir las políticas demitigación, resaltando las dificultades de establecer metas demitigación apropiadas dadas las incertidumbres acerca de qué nivelesde emisiones acumulativas constituiría "interferencias antropógenaspeligrosas en el sistema climático".Edwin Kilbourne revisa algunas pandemias históricamente importanteen el capítulo 14, incluyendo las características distintivas de susasociados los patógenos, y analiza los factores que determinarán elalcance y las consecuencias de los brotes futuros.Enfermedades infecciosas ha cobrado una enorme cuota de sufrimientoy muerte en la especie humana a lo largo de la historia, y siguehaciéndolo hoy. Las muertes por enfermedades infecciosas representanen la actualidad aproximadamente el 25% de las muertes en todo elmundo. Esto equivale a unos 15 millones de muertes por año.Alrededor del 75% de estas muertes ocurren en el Sudeste Asiático yÁfrica subsahariana. Las cinco principales causas de muerte porenfermedades infecciosas son la infección respiratoria superior (3,9millones de defunciones), el VIH/SIDA (2,9 millones), lasenfermedades diarreicas (1,8 millones), la tuberculosis (1,7millones) y la malaria (1,3 millones).La pandemia es indiscutiblemente uno de los mayores riesgos decatástrofe global que enfrenta el mundo de hoy, pero no siemprereciben su debido reconocimiento.

Por ejemplo, en la mayoría de la gente la representación mental delmundo, la pandemia de gripe de 1918-1919 es casi completamenteeclipsados por el concomitante de la I Guerra Mundial. Sin embargo,aunque la primera guerra mundial se calcula que ha causadodirectamente a unos 10 millones de militares y 9 millones de civilesmuertos, la gripe española se cree que ha matado al menos a 20 a 50millones de personas. La tasa relativamente baja de "factor delectura' asociada con esta pandemia podría deberse en parte al hechode que sólo aproximadamente el 2% y 3% de aquellos que enfermaronmurieron de la enfermedad. (El recuento total de muertos es enormedebido a que un gran porcentaje de la población mundial estáinfectada.) además a la lucha contra las principales enfermedadesinfecciosas plagando el mundo actualmente, es de vital importancia

permanecer alerta ante las nuevas enfermedades emergentes conpotencial pandémico, como el SARS, la gripe aviar, y la tuberculosisfarmacorresistente. Según la Organización Mundial de la salud y sured de laboratorios colaboradores y los gobiernos locales handemostrado repetidas veces, decisivo en la acción temprana puede aveces nip una pandemia emergente en la yema, posiblemente salvar lasvidas de millones de personas.Hemos elegido para etiquetar las pandemias un "riesgo deconsecuencias imprevistas", aunque la mayoría de las enfermedadesinfecciosas (eximir el potencial de las armas biológicasgenéticamente manipulados) en cierto sentido surgen de la


18/32

naturaleza. Nuestra justificación es que la evolución, así como lapropagación de patógenos es altamente dependiente de la civilizaciónhumana. La difusión mundial de los gérmenes fue posible sólo despuésde que todas lasCIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 16 - #16

Introducción 17los continentes estaban conectados por las rutas de viaje. Porahora, la globalización entheformoftravelandtradehasreachedsuchanextentthatahighlycontagiousenfermedad podría propagarse a prácticamente todas las partes delmundo en cuestión de días o semanas. Kilbourne también llama laatención sobre otro aspecto de la globalización como un factor queincrementa el riesgo de pandemia: la homogeneización de los pueblos,prácticas y culturas. Más la población humana llega a parecerse a unúnicohomogeneousniche,thegreaterthepotentialforasinglepathogentosaturaterápidamente. Kilbourne menciona el síndrome de "una manzanapodrida", resultante de themassproductionoffoodandbehavioralfads:Si un objeto contaminado, manzana, huevo o más recientemente dehojas de espinaca lleva un mil millones de bacterias - no un cálculorazonable - y lo introduce en un pool de tarta de constituyentes seempaqueta y se envía luego a millones de clientes en todo el país,una desconcertante epidemia pueden derivarse.Por el contrario, culturales, así como diversidad genética reduce laprobabilidad de que cualquier patrón único será aprobadouniversalmente antes de que sea descubierto serpeligroso,adangerousnewchemicalor whetherthepatternbevirusRNAmaterial, o una ideología asfixiante.

A diferencia de las pandemias, la inteligencia artificial (AI) no esun global en curso o inminente riesgo catastrófico. Tampoco es comouncontroversially un serio motivo de preocupación. Sin embargo,desde una perspectiva a largo plazo, el desarrolloofgeneralartificialintelligenceexceedingthatofthehumanbraincanbeseencomo uno de los principales retos para el futuro de la humanidad(discutible, incluso como el reto principal). Al mismo tiempo, eléxito de la implementación de la amigable superintelligence podríaevitar muchos de los riesgos que enfrenta la humanidad. El títulodel capítulo 15, "La inteligencia artificial como un factor positivoy negativo en el riesgo global", refleja este potencial ambivalente.Como Eliezer Yudkowsky notas, la perspectiva de superintelligentmáquinas es un tema difícil de analizar y discutir. Por tanto,

oportunamente, el autor dedica unsubstantialpartofhischaptertoclearingcommonmisconceptionsandbarriersa la comprensión. Una vez hecho eso, él procede a dar un argumentopara dar seria consideración a la posibilidad de que el radicalsuperintelligence podría estallar muy de repente - una situación quea veces se denomina la "hipótesis ingularity'. Afirmaciones sobre lapendiente de la transición debe ser distinguida de las reclamacionesacerca de la oportunidad de su aparición. Se podría pensar, porejemplo, que no pasará mucho tiempo antes de que los ordenadores soncapaces de igualar la capacidad de razonamiento general de un serhumano promedio, pero que una vez que esto ocurre, sólo tomará un


19/32

tiempo corto para equipos para alcanzar niveles sobrehumanosradicalmente.Yudkowsky propone que concebimos un superintelligence enormementepoderoso como un proceso de optimización: "un sistema que chocacontra blancos pequeños en grandes espacios de búsqueda coherentepara producir efectos en el mundo real". La superintelligence serácapaz de manipular el mundo (incluyendo a los seres humanos) demanera tal de lograr sus objetivos, independientemente de losobjetivos podrían ser.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 17 - #17

18 Global riesgos catastróficospara evitar el desastre, sería necesario garantizar que elsuperintelligence está dotado de un sistema de objetivo "amigables":es decir, uno que alinea los objetivos del sistema con auténticosvalores humanos.Dada esta configuración, Yudkowsky identifica dos maneras diferentesen que podríamos dejar de construir amabilidad en nuestra AI:fracaso filosófico y fallos técnicos.La advertencia contra el fracaso filosófico es básicamente quedebemos tener cuidado con lo que deseamos porque podríamosconseguirlo. Podríamos designar un destino para la AI que a primeravista parece un buen resultado, pero que en realidad es radicalmenteequivocada o moralmente despreciable. La advertencia contra el fallotécnico es que podríamos dejar de obtener lo que deseamos, a causade una mala aplicación de la goalsystem o consecuencias no deseadasde la forma en que la representación de destino especificada.Yudkowsky considera estas dos posibles modos de fallo como muy graveexistentialrisks y concluye que es indispensable averiguar cómo

construir amabilidad en un superintelligence antes de averiguar cómoconstruir un superintelligence.Capítulo16 analiza la posibilidad de que los experimentos que losfísicos llevan a cabo en los aceleradores de partículas podríanplantear un riesgo existencial. Las preocupaciones acerca de talesriesgos, se le solicita al director de la Brookhaven colisionador deiones pesados relativistas tocommissionanofficialreportin 2000.Desde entonces han resurgido las preocupaciones contheconstructionofmorepowerfulacceleratorssuchasCERN'sLargeHadronCollider. El siguiente informe de Brookhaven, Frank Wilczekcatástrofe distingue tres escenarios:1. Formación de pequeños agujeros negros que podría comenzar aaumentado la materia circundante, finalmente apoderarse de todo el

planeta.2. Formación de cargadas negativamente strangelets estables quepueden catalizar la conversión de toda la materia ordinaria ennuestro planeta en materia extraña.3. Inicio de una transición de fase del estado de vacío, que sepropagan hacia afuera en todas direcciones a cerca de la velocidadde la luz y destruir no sólo a nuestro planeta, pero toda la parteaccesible del universo.Wilczek argumenta que estos escenarios son sumamente improbable endiversos theoreticalgrounds. Además, hay un número más


20/32

generalargument que estos escenarios son sumamente improbable quedepende menos de la teoría arcana.Los rayos cósmicos a menudo tienen energías mucho mayores que lasque se logre en cualquiera de los aceleradores planificadas. Talesrayos han estado bombardeando la atmósfera de la tierra y la luna (yotros objetos astronómicos) por miles de millones de años sin unsolo efecto catastrófico habiendo sido observados. Suponiendo quelas colisiones en los aceleradores de partículas no difieren enningún caso desconocido de los que ocurren en la naturaleza, podemosestar muy confiados en la seguridad de nuestros aceleradores.Por todos los cálculos, es altamente improbable que el acelerador departículas.Thequestionis experimentswillcauseanexistentialdisastercómo improbable?Y qué constituiría un "aceptable" la probabilidad de un desastreexistencial?CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 18 - #18

Introducción 19en la evaluación de la probabilidad, debemos considerar no sólo cómoel resultado parece improbable dadas nuestras mejores modelosactuales, sino también la posibilidad de que nuestros mejoresmodelos y cálculos podrían ser imperfecto en algunas aún norealizadas de manera.Al hacerlo, debemos estar en guardia contra el sesgo desobreconfianza (comparar el capítulo 5 sobre prejuicios). Sinosotros mismos no son técnicamente experto, también debemos teneren cuenta la posibilidad de que los expertos en cuyas sentenciascontamos podría ser consciente o inconscientemente sesgada.9 Porejemplo, los físicos que poseen la experiencia necesaria para

evaluar los riesgos de los experimentos de física de partículas sonparte de un professionalcommunity que tiene un interés directo enlos experimentos de ir hacia adelante. Un profano podría preocuparque los incentivos que enfrentan los expertos podría llevarlos aerrar por el lado de una minimización de los riesgos.10 Comoalternativa, algunos expertos podría ser tentado por la atención delos medios de comunicación podrían conseguir tocando los riesgos. Lacuestión de cuánto y en qué circunstancias a confiar en lasestimaciones de riesgos por expertos es importante, y surgegeneralmente bastante con respecto a muchos de los riesgos cubiertosen este libro.Capítulo 17 (por Robin Hanson) de la parte III sobre los riesgos deconsecuencias no intencionales se centra en colapso social como una

devastación multiplicador de otras catástrofes. Hanson escribe comosigue:Themainreasontobecarefulwhenyouwalkupaflightofstairsisnotthatyoumight slip y tienen que desandar un paso, sino que la primera podríaprovocar un deslizamiento de deslizamiento de segundo, y asísucesivamente hasta caer docenas de pasos y romper el cuello.Asimismo, estamos preocupados por el tipo de catástrofes exploradosen este libro no sólo a causa de sus terribles efectos directos,sino también porque puede inducir a un colapso aún más dañino denuestra economicandsocialsystems.


21/32

Este argumento no se aplica a algunos de los riesgos descritos hastaahora, tales como aquellas de aceleradores de partículas o losriesgos de superintelligence como previsto por Yudkowsky. En esoscasos, podemos ser totalmente seguro o completamente seguro, conpoca probabilidad de resultados intermedios. Pero para muchos otrostipos de riesgo, tales como huracanes, tornados, terremotos,inundaciones, incendios forestales, ataques terroristas, plagas yguerras -una amplia gama de resultados son posibles, y lapotentialfor socialdisruption o incluso socialcollapse constituyeuna gran parte del riesgo total. Hanson señala que muchos de estosriesgos parecen seguir una distribución de ley de potencia. Según elexponente característico de esa distribución de la ley de potencia,la mayoría de los daños esperados de un determinado9 incluso si nosotros mismos somos expertos, aún debemos estaralerta a sesgos inconscientes que pueden influir en nuestro juicio(por ejemplo, los sesgos antrópico, véase el capítulo 6).10 Si expertos pronostican que el público no será totalmente confíansus seguridades, que podría verse obligado a intentar el sonido mástranquilizador que si hubieran creído que el público podría aceptarsus reivindicaciones a valor nominal. El público, a su vez, podríaresponder al descontar los veredictos de "expertos" aún más,llevando a los expertos a ser aún más cautelosos de alimentandoreacciones alarmistas.Al final, los expertos podrían ser reacios a reconocer cualquierriesgo por temor de desencadenar unhystericalpublicoverreaction.Effectiveriskcommunicationisatrickybusiness,andthetrustthat requiere puede ser difícil de ganar y fácil deperder.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 19 - #19

20 Global los riesgos catastróficos eltipo de riesgo puede consistir en pequeñas perturbaciones frecuenteso raras de grandes catástrofes. Los accidentes de automóvil, porejemplo, disponen de un gran exponente, reflejando el hecho de quela mayoría de muertes por accidentes de tránsito ocurren en losnumerosos pequeños accidentes que implican uno o dos vehículos. Lasguerras y las plagas, por el contrario, parecen tener pequeñosexponentes, lo que significa que la mayoría de los daños previstosocurre en muy raras pero muy grandes conflictos y pandemias.Después de dar un thumbnailsketch de la teoría del crecimientoeconómico, Hanson considera un extremo opuesto del crecimientoeconómico: la reducción repentina de la productividad generados por

la escalada de destrucción de socialcapitaland coordinación. Porejemplo, 'un juez que normalmente no debería considerar laposibilidad de aceptar un soborno podrá hacerlo cuando su vida estáen juego, lo que permite a otros esperan salirse con robos másfácilmente, lo que lleva aún otros para evitar hacer inversiones quepuedan ser robados, y así sucesivamente. Además, las personas puedenser reacios a confiar en las cuentas bancarias o incluso el papelmoneda, impidiendo el funcionamiento de esas instituciones." Laproductividad de la economía mundial depende tanto de la escala y endiferentes formas de capital que debe ser coordinada con delicadeza.Debemos estar preocupados que una pequeña perturbación (o


22/32

combinación de disturbios) a alguna parte vulnerable de este sistemapodría provocar un profundo desmoronamiento de las instituciones yde las expectativas en que la economía mundial depende.Hanson también ofrece una sugerencia de cómo podríamos convertiralgunos risksintonon existencial-existentialrisks.Heproposesthatweconsidertheconstruction de uno omás continuamente habitada refugios - encuentra, quizás, en unaexcavación, profundos y bien surtida con suministros - que podríaconservar un pequeño grupo de gente, pero suficiente para repoblarun mundo post-apocalíptico. Obviamente, sería preferible paraimpedir catástrofes de una gravedad que haría que la supervivenciade la humanidad depende de tales moderno-día "arcas de Noé"; sinembargo, valdría la pena explorar si alguna variación de esteproposalmightbeacost-effectivewayofsomewhatdecreasingtheprobabilityofhumanextinctionfromarangeofpotentialcauses.111.6 La Parte IV: Riesgos de actos hostilesel espectro del Armagedón nuclear, que lo obsesionó la imaginacióndel público durante la guerra fría, al parecer ha entrado en semi-jubilación. El número de armas nucleares en el mundo se ha reducidoa la mitad, de una guerra fría de alta de 65.000 en 1986 a unos26.000 en 2007, con aproximadamente11 algo análogamente, podríamos prevenir mucho la pérdida permanentede la biodiversidad moviendo más agresivamente para preservarmaterial genético de especies amenazadas en los biobancos. Elgobierno noruego ha inaugurado recientemente un banco de semillas enuna isla remota en el archipiélago Ártico de Svalbard. La bóveda,que está excavado en una montaña y protegida por paredes de hormigónreforzado con acero de un metro de espesor, le permitirá conservarel germoplasma de plantas silvestres y agrícolas importantes.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 20 - #20

Introducción 21 el96% de estas armas en manos de los Estados Unidos y Rusia. Lasrelaciones entre estos dos países no son tan malas como alguna vezlo fueron. Nuevos sustos como los problemas ambientales y elterrorismo competir eficazmente para la atención de los medios decomunicación. Vientos cambiantes en el horror de la moda aparte, sinembargo, y como capítulo18 deja claro, la guerra nuclear siguesiendo una amenaza muy grave.Hay varias posibilidades. Uno de ellos es que las relaciones entrelos Estados Unidos y Rusia podría volver a empeorar hasta el puntode que una crisis podría desencadenar una guerra nuclear. El futuro

de las carreras de armamentos podría conducir a arsenales aúnmayores que los del pasado. La oferta mundial de plutonio haaumentado constantemente a cerca de 2000 toneladas, alrededor de 10veces tanto como sigue estancado en las ojivas - y más podría serproducida. Algunos estudios sugieren que en una guerra en la queparticiparon la mayoría de las armas de los arsenalesestadounidenses y rusos actuales,35-77% de la población de EE.UU(105-230 millones de personas) y el 20% y el 40% de la poblaciónrusa (28-56 millones de personas) serían asesinados. Los efectosdiferidos e indirectos, tales como el colapso económico y un posible


23/32

invierno nuclear - podría hacer que el número final de víctimasmucho mayor.Otra posibilidad es que podría estallar una guerra nuclear entre laspotencias nucleares distintos de los antiguos rivales de la guerrafría, un riesgo que crece a medida que más naciones unirse al clubnuclear, especialmente naciones sumidas en conflictos regionalesvolátiles, como India y Pakistán, Corea del Norte e Israel, quizápara ser unido por Irán u otros. Una preocupación es que los paísesmás conseguir la bomba, más difícil podría ser para prevenir unamayor proliferación. La tecnología y el know-how se volverían másampliamente difundido, reduciendo las barreras técnicas al comercio,y las naciones que eligieron inicialmente a renunciar a las armasnucleares podrían sentirse obligados a reconsiderar su decisión y aseguir su ejemplo si ven que sus vecinos comience en el senderonuclear.Una tercera posibilidad es que la guerra nuclear global podría seriniciado por error.Según Joseph Cirincione, esto casi ocurrió en enero de 1995,funcionarios militares rusos confundió un cohete MeteorológicoNoruego para un submarino de EE.UU.- misiles balísticos lanzados.Boris Yelstin se convirtió en el primer presidente ruso que nuncatienen la "maleta nuclear" abierto delante de él. Había unos pocosminutos para decidir si se debe pulsar el botón que lanzaría unaandanada de misiles nucleares. Afortunadamente, él concluyó que susradares estaban en error. La maleta fue cerrado.Varios otros incidentes han sido reportados en el mundo que,supuestamente, estaba al borde de un holocausto nuclear. En algúnpunto durante la crisis de los misiles cubanos, por ejemplo, alparecer el Presidente Kennedy calcula la probabilidad de una guerranuclear entre los Estados Unidos y la Unión Soviética para ser"alguna parte entre uno de los tres e incluso".Para reducir los riesgos, Cirincione sostiene, debemos trabajar pararesolver los conflictos regionales, apoyar y reforzar el Tratado de

No Proliferación Nuclear --andmovetowardstheabolitionofthemostsuccessfulsecuritypactsinhistory uno de las armasnucleares.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 21 - #21

22 riesgos de catástrofe mundialWilliam Potter y Gary Ackerman ofrece una mirada detallada de losriesgos de terrorismo nuclear en el Capítulo 19. Este tipo deterrorismo puede adoptar diversas formas:

•Dispersalofradioactivematerialbyconventionalexplosives('Dirtybomb')• el sabotaje de instalaciones nucleares • Adquisición de material

fisionable que conducen a la fabricación y la detonación de unabomba nuclear de crudo ('improvisado artefacto nuclear')• Adquisición y la detonación de un arma nuclear intacto • El uso de

algunos medios para engañar a un Estado nuclear en lanzar un ataquenuclear.Potter y Ackerman, centrarse en "alta" como consecuencia delterrorismo nuclear, que se interpretan como aquellas que implicanlas tres últimas alternativas a partir de la lista anterior.


24/32

Los autores analizan la oferta y la demanda del terrorismo nuclear,las consecuencias de un ataque terrorista nuclear, la forma futurade la amenaza, y concluye con recomendaciones de política.Hasta la fecha, ningún actor no estatal se cree haber adquirido laposesión de un arma de fisión:no hay pruebas fidedignas de que ya sea al Qaeda o Aum Shinrikyofueran capaces de explotar sus altas motivaciones,substantialfinancialresources, demostró la capacidad organizativa,extendida red de seguidores y de relativa seguridad en un amistosoni tolerante país anfitrión para desplazarse muy lejos en el caminohacia la adquisición de una capacidad de armas nucleares.Lo mejor que se puede decir de la limitada información disponible enfuentes públicas, entre los obstáculos que resultaron ser las másdifíciles de superar para ellos era el acceso a la materialneededfisionable ...A pesar de este historial, sin embargo, muchos expertos siguenpreocupados.Graham Allison, autor de uno de los más ampliamente citadas obrassobre el tema, ofrece una apuesta permanente de51 A49oddsthat'barringradicalnewanti proliferación pasos" habrá un ataquenuclear terrorista dentro de los próximos 10 años. Otros expertosparecen poner las probabilidades mucho menores, pero al parecer nohan tomado Allison ofrecen.Existe un amplio reconocimiento de la importancia de la prevencióndel terrorismo nuclear y, en particular, la necesidad de evitar queel material fisible caiga en las manos equivocadas. En 2002, laAsociación Mundial del G-8 estableció una meta de 20 millones dedólares a ser cometidas a lo largo de un período de 10 años con elpropósito de impedir que los terroristas adquieran armas dedestrucción masiva y materiales. Qué Potter y Ackerman, consideranque la mayoría carece, sin embargo, es el alto nivel sostenido deliderazgo necesario para transformar la retórica en una aplicacióneficaz.

En el capítulo 20, Christopher Chyba y Ali Nouri examinar cuestionesrelacionadas con la biotecnología y la bioseguridad. Si bien encierto modo paralelo a los riesgos nucleares, biológicas, así comola tecnología nuclear puede utilizarse para construir armas dedestrucción masiva - también hay importantes divergencias. Unadiferencia es que las armas biológicas pueden ser desarrollados enpequeñas instalaciones fáciles de ocultar yCIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 22 - #22

Introducción 23.Anotherdifferenceis requirenounusualrawmaterialsfortheirmanufactureque un agente biológico infecciosos pueden propagarse mucho más alládel sitio de su versión original, posiblemente en todo el mundo.Amenazas de bioseguridad se dividen en varias categorías, incluyendolas enfermedades de origen natural, el tráfico ilícito de estadoprogramas de armas biológicas, los actores no estatales y bio-hackers, y accidentes de laboratorio u otros liberación accidentalde agentes patógenos. Vale la pena teniendo en cuenta que el númerode personas que han muerto en los últimos años de las amenazas en laprimera de estas categorías (las enfermedades de origen natural) es


25/32

de seis o siete órdenes de magnitud mayor que el número de víctimasmortales de las otras tres categorías combinadas. Sin embargo, labiotecnología no contiene amenazas cervecera que apuntarían aexpandir drásticamente en los próximos años a medida que avanzan lasposibilidades y proliferar. Considere el siguiente ejemplo de losacontecimientos recientes:• Un grupo de investigadores australianos, buscando formas de

controlar la población de conejo del país, agregó el gen de lainterleuquina-4 para un virus mousepox, esperando así a representarlos animales esterilizados.Inesperadamente, el virus inhibe el sistema inmunitario y todos losanimales murieron, incluyendo a las personas que anteriormentehabían sido vacunados.La labor de seguimiento por otro grupo preparó una versión del virusque fue 100% lethalin ratones vacunados a pesar delantiviralmedication dado a los animales.• El virus de la poliomielitis ha sido sintetizada a partir

fácilmente adquirido suministros químicos. Cuando esto se realizapor primera vez, se requiere un prolongado proyecto de investigaciónde vanguardia. Desde entonces, el tiempo necesario para sintetizarun genoma vírico comparable en tamaño a la del virus de lapoliomielitis se ha reducido a semanas. El virus que causó lapandemia de gripe española, que previamente se había extinguido, hasido también resynthesized y ahora existe en los laboratorios en losEstados Unidos y en Canadá.• La tecnología para modificar las propiedades de los virus y otros

microorganismos está avanzando a un ritmo rápido. El métododesarrollado recientemente de la interferencia de ARN proporciona alos investigadores un medio fácil de desactivar genes seleccionadosen los seres humanos y otros organismos. 'biología sintética' seestableció como campo nuevo, cuyo objetivo es permitir la creaciónde pequeños dispositivos biológicos y, en definitiva, nuevos tiposde microbios.

La lectura de esta lista, teniendo en cuenta que los genomascompletos de cientos de bacterias, hongos, virus, incluyendo elvirus Ébola, Marburg, la viruela y el virus de la influenza españolade 1918 - han sido secuenciados y depositados en una base de datosen línea del público, no es difícil relacionar en la imaginación deuno alarmantes posibilidades. Las barreras tecnológicas para laproducción de super bugs están siendo constantemente bajados inclusocomo el know-how biotecnológicos y equipos cada vez más difusa.CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 23 - #23

24 Global de los riesgos catastróficosel doble uso de los equipos necesarios y la experiencia, y el hechode que las instalaciones pudieran ser pequeña y fácil de ocultar,plantean retos difíciles para que los reguladores. Para cualquierrégimen normativo para trabajar, también habría que lograr undifícil equilibrio entre la prevención de los abusos y lahabilitación de la investigación necesaria para desarrollartratamientos y diagnósticos (o para obtener otros beneficioseconómicos medicalor). Nouri discutir severalstrategies Chyba y parala promoción de la bioseguridad, incluyendo la revisión automatizada


26/32

de las secuencias de genes presentados para sintetizar ADN eninstalaciones centralizadas. Es probable que la bioseguridadcrecerán en importancia y que un enfoque multidisciplinario queserán necesarios para abordar los peligros de diseñador patógenos.Chris Phoenix y Mike Treder (capítulo 21) discutir la nanotecnologíacomo una fuente global de los riesgos catastróficos. Se distingueentre "tecnologías de nanoescala", muchas de las cuales existen hoyen día y muchos más están en desarrollo, y "fabricación molecular",que sigue siendo un hipotético futuro technology (frecuentementeasociada con la persona que concibió en detalle, K. Eric Drexler).Las tecnologías de nanoescala, argumentan, no parecen presentarninguna nueva global de los riesgos catastróficos, aunque esastecnologías podrían, en algunos casos, complementar o ayudar amitigar algunos de los otros riesgos considerados en este volumen.Por consiguiente Treder Phoenix y dedicar la mayor parte de sucapítulo a considerar las posibilidades y amenazas de fabricaciónmolecular. Como con superintelligence el riesgo actual, esprácticamente nulo, puesto que la tecnología en cuestión aún noexiste; sin embargo, el riesgo en el futuro podrían ser muy graves.La nanotecnología molecular ampliaría considerablemente el controlsobre la estructura de la materia. Los sistemas de la máquinamolecular permitiría la fabricación rápida y barata de macroscópicosy microscópicos objetos construidos con precisión atómica.Esos sistemas de producción contendría millones de microscópicas lasherramientas de montaje. Trabajando en paralelo, estos seríaconstruir objetos añadiendo moléculas a una pieza a través dereacciones químicas controladas posicionalmente. La variedad deestructuras que podrían ser construidos con esa tecnología queexcede ampliamente accesible a los ensambladores molecularesbiológicas (como los ribosomas) que existen en la naturaleza. Entrelas cosas que un nanofactory podría construir: otro nanofactory. Unamuestra de posibles aplicaciones:• • microscopicnanobotsformedicaluse inmensamente ordenadores más

rápidos • muy ligero y resistente diamondoid materiales • nuevosprocesos para eliminar contaminantes del medio ambiente • plantas

manufactureras de escritorio que automáticamente se puede produciruna amplia gama de estructuras precisas atómicamente de blueprintsdescargables• colectores solares baratas • mejorado mucho la tecnología espacial CIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 24 - #24

Introducción 25

• producida en masa de muchos tipos de sensores • las armas, tantoeconómicamente producidos en masa y la mejora de las armasconvencionales, y nuevos tipos de armas que no pueden construirsesin la nanotecnología molecular.Una tecnología de este potente y versátil podría ser utilizado porun número indefinido de propósitos, tanto benignos como malignos.Phoenix y Treder revisar un número global de los riesgoscatastróficos que podrían surgir con esa avanzada tecnología defabricación, incluida la guerra, trastornos sociales y económicos,formas destructivas de la gobernanza global, radical, de mejora dela inteligencia, la degradación ambiental, y 'ecophagy' (pequeños


27/32

nanobots replicar de manera incontrolable en el entorno natural,consume o destruyendo la biosfera terrestre). En conclusión, ofrecenla siguiente evaluación bastante alarmante:En ausencia de algún tipo de prevención o de protección de lafuerza, la potencia de los productos de la fabricación molecularpodría permitir que un gran número de actores de distintos tipos,incluyendo a individuos, grupos, empresas y naciones - para obtenercapacidad suficiente para destruir a todos los seres humanosdesprotegidos. La probabilidad de que al menos un poderoso agenteser demente no es pequeño. La posibilidad de que armas devastadorasserá construido y lanzado accidentalmente demasiado sensibles(posiblemente a través de sistemas automatizados) también esconsiderable.Por último, la posibilidad de un conflicto entre dos potenciascapaces de desencadenar un escenario de destrucción mutua asegurada]escalada hasta que uno se siente obligado a ejercer una opcióndoomsday también es distinto de cero. Esto indica que, a menos quelas defensas adecuadas pueden prepararse contra las armas destinadasa ser en última instancia destructivo -un punto que necesita unaurgente investigación - el número de actores tratando de poseer esasarmas deben ser minimizadas.El último capítulo del libro del Senador por Bryan Caplan, aborda eltotalitarismo como un riesgo catastrófico global. Los gobiernostotalitarios de la Alemania Nazi, la Rusia soviética y la Chinamaoísta fueron responsables de decenas de millones de muertos en elsiglo pasado. Frente a un riesgo al igual que la de los impactos deasteroides, el totalitarismo como un riesgo global es más difícil deestudiar en forma imparcial, y un cross-consenso ideológico sobrecómo este riesgo es mejor ser mitigado es probable que sea másdifícil de alcanzar. Sin embargo, los riesgos de la opresiva formasde gobierno, incluidos los regímenes totalitarios, no debe serignorada. La opresión ha sido uno de los principales banesrecurrentes del desarrollo humano a lo largo de la historia, que en

gran medida sigue siendo así hoy, y es uno de los que la humanidadsigue siendo vulnerable.Como señala Caplan, además de ser una tragedia en sí misma, eltotalitarismo también puede amplificar otros riesgos. La gente enlos regímenes totalitarios son a menudo tienen miedo de publicarmalas noticias, y a los dirigentes de esos regímenes es a menudoaislados de las críticas y las opiniones disidentes. Esto puedehacer que tales regímenes más probabilidades de pasar por alto lospeligros en ciernes y a cometer graves errores políticos (inclusocomo evaluados desde el punto de vista de los intereses de losgobernantes). Sin embargo, comoCIRKOVIC: "chap01" - 2008/4/5 - 12:57 - página 25 - #25

26 Global riesgos catastróficosCaplan observa además, para algunos tipos de riesgo, los regímenestotalitarios podría realmente poseen una ventaja frente a los másabiertos y sociedades diversas. Para objetivos que pueden alcanzarsemediante la fuerza bruta y una movilización masiva de recursos,métodos totalitarios a menudo han demostrado ser eficaces.


28/32

Caplan analiza dos factores que afirma han limitado históricamente ala durabilidad de los regímenes totalitarios. El primero de ellos esel problema de la sucesión.Un líder fuerte podría mantener un férreo control sobre el podertanto como vive, sino la facción del partido que él representa amenudo se tropieza a la hora de nombrar un sucesor que preservara elstatu quo, permitiendo un armario reformador - una oveja en Wolf'sClothing - para obtener la posición de liderazgo después de lamuerte de un tirano. El otro factor es la existencia de la no-lospaíses totalitarios en el resto del mundo.Estos proporcionan una vívida ilustración a las personas que vivenbajo el totalitarismo que las cosas podrían ser mucho mejores de loque son, alimentando la insatisfacción y malestar.Tocounterthis,leadersmightcurtailcontactswiththeexternalworld,creando un "reino ermitaño" como la Albania comunista o la actual Coreadel Norte.Sin embargo, alguna información está obligado a la fuga. Además, siel aislamiento es demasiado completa, durante un período de tiempo,es probable que el país se quedan atrás económicamente ymilitarmente, haciendo vulnerable a la invasión o cambio de régimenimpuesto externamente.Es posible que la vulnerabilidad que presentan estos dos talones deAquiles del totalitarismo podría reducirse en futuros desarrollos.Los avances tecnológicos podrían ayudar a resolver el problema de lasucesión. Las tomografías cerebrales podría un día ser utilizadospara filtrar el closet escépticos dentro del partido. Otras formasde novedosas tecnologías de vigilancia podría facilitar también elcontrol de la población.Nuevos medicamentos psiquiátricos podrían ser desarrollados quepodrían aumentar la docilidad sin reducir notablemente laproductividad. Extensión de la vida la medicina podría prolongar lavida del líder para que el problema de la sucesión viene con menosfrecuencia. En cuanto a la existencia de los forasteros no

totalitaria, Caplan preocupaciones acerca de la posible aparición deun gobierno mundial. Tal gobierno, incluso si ha comenzado fuerademocrático, podría, en algún momento degenerar en totalitarismo; yun régimen totalitario en todo el mundo podría entonces tienen ungran poder de permanencia dada su falta de competidores externos yalien ejemplares de los beneficios de la libertad pol

1c.global catastrophic risks

Documents