1a.residuos astronomica-retraso en el desarrollo tecnológico

8/19/2019 1a.residuos Astronomica-Retraso en El Desarrollo Tecnológico

1/9

Residuos astronómica: El costo de oportunidad del retraso deldesarrollo tecnológico

Nick Bostrom Oxford University

Abstract. Con una tecnología muy avanzada, una gran población depersonas que viven vidas felices podrían ser sostenidos en la regiónaccesible del universo. Por cada añoque el desarrollo de estas tecnologías y la colonización deluniverso se retrasa,por lo tanto, existe un costo de oportunidad correspondiente: unbuen potencial, vidas que vale la pena vivir, no estásiendo realizada. Dado algunas hipótesis plausibles, este coste esmuy grande. Sin embargo,la lección para el estándar utilitarians no es que debemos maximizarel ritmo del desarrollo tecnológico, sino que deberíamos paramaximizar su seguridad, es decir, laprobabilidad de que finalmente se presentará la colonización. Este

objetivo tiene tan alta utilidad queutilitarians estándar debería centrar todos sus esfuerzos en ella.Utilitarians de una "persona-que afectan a raya" debe aceptar una versión modificada de estaconclusión. Algunasopiniones éticas mixtos, que combinan consideraciones utilitariascon otros criterios, también estarácomprometida a una misma línea inferior.

I. LA TASA DE PÉRDIDA POTENCIAL DE VIDASmientras escribo estas palabras, suns son iluminadoras y calefacciónhabitaciones vacías, la energía no utilizada se

vuelcan hacia abajo los agujeros negros, y nuestro gran dotación denegentropy común es

1

está degradado de manera irreversible en la entropía en una escalacósmica. Estos son recursos que una civilización avanzada podríahaber utilizado para crear estructuras de valor, tales como seresque viven vidas valiosas.

La tasa de esta pérdida resultan alucinantes. Un documento recienteespecula, utilizando flojasconsideraciones teóricas sobre la base de la tasa de aumento de laentropía, que la pérdida de46 vidas humanas potenciales en nuestra propia galactic superclusteres al menos de ~10 por siglo de1 demorado la colonización. Esta estimación supone que todos losperdidos entropía podrían haber sidoutilizados para fines productivos, aunque no se conoce actualmentelos mecanismos tecnológicos son


2/9

siquiera remotamente capaz de hacer eso. Desde la estimación estádestinado a ser un límite inferior, estasuposición es unconservative radicalmente indeseable.Sin embargo, podemos obtener un límite inferior más hechar porcontandoel número o las estrellas en nuestro galáctico supercluster ymultiplicando este número por la cantidad de potencia informáticaque los recursos de cada estrella podría ser utilizada para generareluso de tecnologías de cuya viabilidad un caso fuerte ya se harealizado.Entonces podemos dividir este total con el importe estimado de lapotencia informática necesaria para simularuna vida humana.13 Como una aproximación, digamos el supercluster de Virgo contiene10 estrellas.Una estimación de la potencia de computación extraíbles de unaestrella y con un asociado2 estructura computacional del tamaño de un planeta, el uso de lananotecnología molecular avanzada 42 , es 103 operaciones por segundo. Una estimación típica de la potencia deprocesamiento del cerebro humano es de17 aproximadamente 10 4 operaciones por segundo o menos. Mucho másno parece ser necesaria parasimular las partes pertinentes del ambiente en suficiente detallecomo para permitir la simulación de5 mentes a tener experiencias indistinguibles de típico experienciashumanas actuales.

2

38 Habida cuenta de esas estimaciones, se deduce que el potencial deaproximadamente 10 vidas humanas sepierden cada siglo que la colonización de nuestro local superclusterse retrasa; o de modo equivalente,aproximadamente 1029 vidas humanas potenciales por segundo.Aunque esta estimación es conservadora en el sentido de quepresupone sólomecanismos computacionales cuya aplicación ha sido al menosdescritos en la literatura, es útildisponer de una estimación más conservadora incluso que no supongaun no-biológicos

de la instanciación de 10 personas potenciales. Supongamos que unos10 seres humanos biológica podría ser23 sostenida alrededor de una media estrella. Entonces elsupercluster de Virgo podría contener 1013 seres humanos biológicos. Esto corresponde a una pérdida depotencial de más de 10 posiblesvidas humanas por segundo de atraso de la colonización.Lo que importa para los fines presentes no se las cifras exactas,pero el hecho de que sonenormes. Incluso con el cálculo más conservador, suponiendo una


3/9

aplicación biológica de todas las personas, el potencial para más dediez billones de seres humanos potencialesperdidos es de 6 por cada segundo de un aplazamiento de lacolonización de nuestro supercluster.

II. El costo de oportunidad de la retrasaron la colonizacióndesde una perspectiva utilitarista, esta enorme pérdida de vidashumanas potenciales constituye unaconsecuencia enorme pérdida de valor potencial. Me refiero a que lasvidas humanas que podrían haberse creado habría sido meritorias.Dado que comúnmente se suponeque incluso vidas humanas actuales son normalmente vale la pena,esta es unahipótesis débil. Cualquier civilización lo suficientemente avanzadapara colonizar el supercluster localposiblemente también tendría la capacidad de establecer al menos elmínimamente las condiciones favorablesnecesarias para vidas futuras para ser digna de ser vivida.

3

El efecto sobre el valor total, entonces, parece ser mayor para lasacciones que aceleranel desarrollo tecnológico que para prácticamente cualquier otraacción posible. La promoción de latecnología (o sus factores favorables, tales como la productividadeconómica) incluso por esa pequeñacantidad que conduce a la colonización del supercluster local justoun segundo antes de

29 de otro modo habría ocurrido asciende a lograr más de 10 vidashumanas(o 1013 vidas humanas si utilizamos las más conservadoras límiteinferior) que deotro modo no habrían existido. Algunas otras causas filantrópicaspuede aspirar a mach ese nivel derentabilidad utilitarista.Utilitarians no son los únicos que deben oponerse firmemente aldesecho astronómico.Hay muchas opiniones acerca de qué valor tiene que estaría deacuerdo con la evaluación que la actual tasa de desperdicioconstituye una enorme pérdida de valor potencial. Por ejemplo,podemos adoptar una concepción más gruesa de bienestar humano que

supone comúnmente porutilitarians (ya sea de un hedonista, experientialist, o deseo-satisfactionist doblada), como una concepción que busca valortambién en florecimiento humano, relaciones significativas,carácter noble, la expresión individual, la apreciación estética, yasí sucesivamente. Siempre que la función de evaluación esagregativo (no cuenta para el bienestar de una persona menos sóloporque hay muchas otras personas en existencia que también disfrutande una vida feliz) y no está reducido a un punto determinado en eltiempo (no tiempo de descuento), en la conclusión se espera.


4/9

Estas condiciones pueden ser más relajada. Incluso si la función debienestar social no estáperfectamente agregativo (quizás porque uno de los componentes de labuena es la diversidad, latasa marginal de la producción de las cuales podrían disminuir conel aumento de tamaño de la población), todavíapuede producir un resultado final similar con la única condición deque al menos algunos significativos

4

componente de la buena es suficientemente agregativo. Análogamente,cierto grado de tiempo-7 descontar los bienes podían satisfacerse sin cambiar laconclusión.

III. El objetivo principal de UTILITARIANS debería ser reducir elriesgo existenciala la luz del debate anterior, puede parecer como si un utilitariodebería centrar sus esfuerzosen acelerar el desarrollo tecnológico. Los beneficios de incluso unamuy leve el éxito en este empeño es tan enorme que empequeñece la decasi cualquier otra actividad. Parece que tenemosun argumento utilitarista de la mayor urgencia posible deldesarrollo tecnológico.Sin embargo, la verdadera lección es uno diferente. Si lo que nospreocupa es (algo así como) maximizar el número esperado de valiosasvidas que vamos acrear, a continuación, además del costo de oportunidad de la

retrasaron la colonización, tenemos que teneren cuenta el riesgo de fracaso para colonizar a todos. Podríamoscaer víctima de unpeligro existencial, uno donde un resultado adverso podría aniquilarla tierra originarios8 vida inteligente o permanentemente y drásticamente su potencial.Porque la vida de las galaxiasse mide en miles de millones de años, mientras que la escala detiempo de cualquier retraso que nos podríaafectar de manera realista prefiere medirse en años o décadas, laconsideración del riesgo triunfa sobre la consideración de loscostos de oportunidad. Por ejemplo, un solo punto porcentual dereducción de riesgos existenciales valdría (desde un utilitario de

la utilidad esperada punto devista) un retraso de más de 10 millones de años.Por lo tanto, si nuestras acciones tienen incluso el más leve efectosobre la probabilidad deuna eventual colonización, esto le compensan sus efectos sobrecuándo tiene lugar la colonización.

5


5/9

Para utilitarians estándar, la prioridad número uno, dos, tres ycuatro, por consiguiente, deberíanreducir el riesgo existencial. El imperativo utilitario "maximizarlautilidad agregada esperado!' puede ser simplificado a la máxima de"minimizar el riesgo existencial!'.

IV. Implicaciones para la persona agregativo de opiniones queafectan el argumento anterior presupone que nuestra preocupación esmaximizar la cantidad total debienestar. Supongamos que adoptamos una 'persona' que afecta a laversión del utilitarismo,según el cual nuestras obligaciones son principalmente hacia laspersonas actualmente existentes ya aquellas personas que 9 llegará a existir. Sobre esa persona queafectan la vista,extinción humana sería malo sólo porque hace de vidas anteriores oen curso peor, no porque constituye una pérdida potencial de vidasvaliosas. Lo que debería alguien que abarca estadoctrina? Él debe enfatizar la velocidad o seguridad, o algo más?Para responder a esta pregunta, debemos considerar algunas otrascuestiones. Supongamos que uno piensa quela probabilidad es insignificante que cualquier persona va asobrevivir el tiempo suficiente para llegar autilizar una porción significativa de los recursos astronómicosaccesibles, que, tal y como se describe en lasección de apertura del presente documento, están gradualmente voy aperder. Entonces la razón paraminimizar el riesgo existencial, es que la extinción repentina decorte sería un promedio de, digamos, 40 años10 años de cada uno de los actuales (o así) de seis mil millones de

vidas humanas. Aunque esto seríaciertamente un gran desastre, es en la misma gran ballpark comootrastragedias humanas actuales, como el mundo de la pobreza, el hambre ylas enfermedades. En este supuesto, entonces, una persona- queafectan a utilitaria respecto debe reducir el riesgo existencialcomo una muy importante pero no completamente la preocupacióndominante. En este caso, no habría ninguna respuesta fácil a lo queél debería hacer. Donde se debería centrar sus esfuerzos dependeráde los cálculos detallados

6

acerca de qué área de la actividad filantrópica que pasaría a estaren mejores condiciones de hacer unacontribución.Puede argumentarse, sin embargo, deberíamos asignar una probabilidadno desdeñable a algunas personas actual sobrevivir el tiemposuficiente como para cosechar los beneficios de una diásporacósmica. Una manera-


6/9

11 llamado 'singularity tecnológico' podría ocurrir en nuestra vidanatural , o podría haber ungran avance en la extensión de la vida, provocado, quizá, comoresultado de la máquina-fasenanotecnología que nos daría un control sin precedentes sobre losprocesos bioquímicos12 en nuestros cuerpos y nos permiten detener y revertir el procesode envejecimiento. Muchos de los principalestecnólogos y pensadores futuristas dan una probabilidad bastantealta a estos acontecimientos13 sucediendo dentro de las próximas décadas. Incluso si usted esescéptico acerca de sus predicciones, usted debe considerar el pobrehistorial de previsión tecnológica.En vista de la bien establecida la falta de fiabilidad de muchas deesas previsiones, pareceríainjustificado para estar tan seguro en la predicción de que losavances necesariosno ocurrirá en nuestro tiempo como para dar la hipótesis de unaprobabilidad de menos de,digamos, el 1%.Posibilidad de realizar una astronómicamente grande de buen %1 de lautilidad esperada de untodavía podría ser astronómico. Pero cuán bueno sería para algunosimportantes (subconjunto de) que viven actualmente las personasobtengan acceso a sumas astronómicas de recursos? La respuesta no esobvia. Por un lado, uno podría pensar que, en el mundo de hoy, lautilidad marginal para un individuo de recursos materiales disminuyemuy rápidamente queridos sus necesidades básicas hansido satisfechas. Bill Gates es el nivel de bienestar no parecesuperar radicalmente a quemuchos de una persona de mucho más modestos. Por otro lado, lastecnologías avanzadas dela clase que lo más probable sería desplegada por el momento

podríamos colonizar el local7

supercluster bien puede proporcionar nuevas formas de convertir losrecursos en bienestar. Enparticular, recursos materiales podrían utilizarse para ampliarnuestras capacidades mentales ya prolongar indefinidamente nuestra vida subjetiva. Y no es en

absoluto evidente que lautilidad marginal de healthspan extendida y el aumento de susfacultades mentales debe ser pronunciadadisminución por encima de cierto nivel. Si no existe tal disminuciónde la utilidad marginal, hemos llegado a laconclusión de que la utilidad esperada a los actuales 14 individuosde colonización denuestro exitoso supercluster es astronómicamente grande, y estaconclusión se aplica incluso si uno da unaprobabilidad bastante baja a ese resultado. Un largo disparo puedeser, pero para una utilidad esperada


7/9

maximizer, el beneficio de la vida de miles de millones de añosquizá subjetiva con grancapacidad ampliada fantásticamente bajo condiciones favorablespodría más que compensarla remota posibilidad de éxito.Ahora, si estos se formulan hipótesis, lo que sigue acerca de cómoafectan a la personadebería actuar utilitaria? Evidentemente, evitar calamidadesexistencial es importante, no sóloporque sería truncar la vida natural de los seis mil millones depersonas, pero también -ydados los supuestos esta es incluso mayor consideración, porquesería extinguir la oportunidad que tiene la gente corriente decosechar los enormes beneficios de laeventual colonización. Sin embargo, a diferencia de los utilitarios,total que afecta a la personahabría utilitarios para equilibrar este objetivo con otrodesiderátum igualmente importante, a saber, que de maximizar lasposibilidades de los actuales habitantes sobreviven a beneficiarsede lacolonización. Para la persona que afectan a utilitarios, no essuficiente que la humanidadsobreviva a colonizar; es esencial que existiera gente ser salvada.Esto debería conducir adestacar su velocidad de desarrollo tecnológico, desde la rápidallegadasería seguramente la tecnología avanzada necesaria para ayudar a lagente corriente estar vivo hasta los frutos de

8 la

colonización podría ser cosechada. Si el objetivo de velocidadconflictos con el objetivo de laseguridad mundial, el total debe optar siempre utilitarios paramaximizar la seguridad, pero la persona que afectanutilitaria tendría que equilibrar el riesgo de personas muriendo devejez con el riesgo desucumbir en una especie de catástrofe de destrucción. Opinioneséticas mixtos, que tambiénincorporan elementos no utilitario, podría o no ceder una de estaslíneas de fondo15 dependiendo de la naturaleza de lo que se agrega.

1 M. Cirkovic, 'previsión cosmológica y su significado práctico",Revista de la evolución ytecnología, XII (2002),http://www.jetpress.org/volume12/CosmologicalForecast.pdf.2 K. E. Drexler, nanosistemas: Mecanismos moleculares, fabricación yComputación, Nueva York, JohnWiley & Sons, Inc., 1992.3 R. J. Bradbury, 'Matrioshka cerebros', manuscrito de 2002,


8/9

N. 4http://www.aeiveos.com/~bradbury/MatrioshkaBrains/MatrioshkaBrains.html Bostrom, 'Cómo mucho antes Superintelligence?", RevistaInternacional de Estudios sobre el futuro II (1998);R. Kurzweil, la edad de las máquinas espirituales: Cuando losequipos que superan la inteligencia humana, Nueva York,Viking, de 1999. La estimación más baja está en H. Moravec, Robot:la mera máquina a mente trascendente, Oxford,1999.5 N. Bostrom, 'Está viviendo en una simulación?", filosóficos, liiitrimestrales (211). Véase tambiénhttp://www.simulation-argument.com.6 El supercluster de Virgo contiene sólo una pequeña parte de losrecursos colonizable en el universo, pero eslo suficientemente grande para hacer el punto. El más grande de laregión, consideramos, menor será la certeza de que podemos ser quepartes considerables de que no han sido colonizadas por unacivilización de origen no terrestres por el momento podríamosllegar allí.

9

7 Utilitarians comúnmente respecto de tiempo descontando comoinapropiado en la evaluación de los bienes morales (véase, porejemplo, R. B.Brandt, la moralidad, el utilitarismo, y humanos, Cambridge, 1992,págs. 23F). Sin embargo, no está claro quepueda utilitarians evitar comprometer en este principio y en vista

de la posibilidad de que nuestras acciones podrían tenerconsecuencias para un número infinito de personas (una posibilidadque hemos reservado para losfines de este documento).8 N. Bostrom, 'existencial humano: análisis de los riesgos ypeligros relacionados con escenarios de extinción", Revista de laevolución y la tecnología, IX (2002),http://www.jetpress.org/volume9/risks.html.9 Esta formulación de la posición no es necesariamente la mejorposible, pero es sencillo y servirá alos fines de este documento.10 o sea la población es probable que sea en el momento de doomsdayiba a ocurrir.

11 Véase, por ejemplo, V. Vinge, 'La próxima singularidadtecnológica", toda la tierra de examen, cuestión de invierno (1993).12 R. A. Freitas Jr., la nanomedicina, Vol 1, Georgetown, LandesBioscience, 1999.13 Por ejemplo, Moravec Kurzweil, y Vinge op. cit.; E. Drexler,motores de la creación, en Nueva York, Anchor Books,1986.14 Sobre la persona que afectan la vista, el factor determinante noes la ubicación temporal de una persona per se. Enprincipio, los efectos sobre el bienestar de un pasado o un futuropersona también podría ser un objetivo apropiado para la


9/9

preocupación moral. En la práctica, sin embargo, el efecto sobre elbienestar de las personas anteriores es probable que searelativamente pequeño o incluso nulo (dependiendo de que laconcepción de bienestar uno adopta), y el efecto de cualquier medidaque tengaun efecto significativo en el futuro) en no-todavía-personasexistentes es muy probable que talesacciones alternativas competidoras que llevaría a distintosconjuntos de personas posible llegando a la existencia, por ejemplo,como resultado de la fertilización de los huevos de diferentesespermatozoides diferentes, y por lo tanto no sería normalmenteningún futuro personascuyo nivel de bienestar se ve afectado por nuestras accionesactuales. Nuestras acciones futuras que podrían afectar a laspersonas que habrá, pero en vista de que afecta a la persona, talesresultados no proporcionan razones morales generales para la acción.Una excepción son los fetos y fertilizar los huevos, que aún no sonpersonas, sino que pueden convertirse en personas enel futuro, y cuyas vidas nuestras acciones actuales pueden influir.15 Estoy muy agradecido por los comentarios de John Broome, MilánCirkovic, Roger Crisp, Robin Hanson, y JamesLenman, y con el apoyo financiero de un premio de la AcademiaBritánica de posdoctorado.

10

1a.residuos astronomica-retraso en el desarrollo tecnológico

Documents