Nick Bostrom

Por qué las organizaciones colaboran con Nick Bostrom

• Es autor de *Superintelligence*, la obra a la que se atribuye haber llevado el riesgo existencial de la IA al centro del debate en los ámbitos de la política, la tecnología y las salas de juntas. El vocabulario que utilizan ahora los líderes para debatir sobre la IA de vanguardia tiene su origen en esta obra.
• Dirigió durante diecinueve años el Future of Humanity Institute de Oxford, un programa de investigación cuyos antiguos alumnos forman ahora parte de los equipos de seguridad de la IA en los principales laboratorios de vanguardia y unidades de políticas de Washington, Londres y Bruselas.
• Su «argumento de la simulación» y su trabajo sobre el razonamiento antrópico le han convertido en uno de los pocos filósofos cuyos artículos principales se leen en el ámbito de la investigación técnica sobre IA, y no solo en ámbitos adyacentes.
• Deep Utopia, su obra posterior de 2024, aborda la cuestión estratégica que la mayoría de los equipos directivos aún no han abordado: cuál es la razón de ser de una organización en un mundo en el que los sistemas de IA pueden realizar casi cualquier tarea cognitiva mejor que los humanos.
• Aborda la gobernanza de la IA como una cuestión sobre la configuración del futuro, no como un mero ejercicio de cumplimiento normativo, que es el enfoque que la mayoría de los altos directivos necesitan, pero que rara vez obtienen de las sesiones informativas técnicas o normativas.

Aspectos destacados de su biografía

• Director fundador del Future of Humanity Institute de Oxford, de 2005 a 2024.
• Fundador e investigador principal de la Iniciativa de Investigación en Macrostrategia.
• Autor de *Superintelligence: Paths, Dangers, Strategies* (Superinteligencia: caminos, peligros, estrategias), éxito de ventas del *New York Times*, Oxford University Press.
• Autor de *Deep Utopia: Life and Meaning in a Solved World* (Ideapress, 2024).
• Nombrado en dos ocasiones entre los 100 pensadores más influyentes del mundo por la revista *Foreign Policy*.
• Galardonado con el Premio Eugene R. Gannon; figura en la lista de «Pensadores del mundo» de la revista *Prospect* como el filósofo analítico mejor clasificado.

Biografía

«Superinteligencia: caminos, peligros, estrategias» se publicó en 2014 con una tesis para la que pocos lectores del gran público estaban preparados: que los sistemas avanzados de IA, siguiendo trayectorias de desarrollo plausibles, plantearían un problema de control de importancia civilizatoria. Una década después, el libro se encuentra en los escritorios de los responsables de laboratorios de vanguardia, de los responsables de políticas de IA y de los consejos de administración de empresas cuyos productos dependen ahora de la tecnología que en él se describía.

La obra surgió del Future of Humanity Institute (FHI), que Bostrom fundó en Oxford en 2005 y dirigió hasta su cierre en 2024. El FHI sentó las bases académicas de lo que hoy es un campo de estudio global, formando a investigadores que ahora forman parte de OpenAI, Anthropic, DeepMind y el Instituto de Seguridad de la IA del Reino Unido. Su artículo anterior sobre el argumento de la simulación, publicado en *The Philosophical Quarterly* en 2003, se convirtió en uno de los pocos trabajos filosóficos que los investigadores técnicos en IA y los físicos tomaron en serio.

Su libro de 2024, *Deep Utopia*, da un giro a la perspectiva. La cuestión ya no es si la humanidad sobrevivirá a la IA avanzada, sino qué harán las personas y las organizaciones en un mundo en el que las máquinas pueden realizar casi cualquier tarea cognitiva. Para los ejecutivos cuyos planes estratégicos parten de la premisa de que la mano de obra cognitiva humana es escasa, este es el siguiente problema en el que deben pensar, y muy pocas voces creíbles han comenzado a hacerlo.

Bostrom es ahora fundador e investigador principal de la Macrostrategy Research Initiative, donde continúa el trabajo a largo plazo sobre tecnología, gobernanza y el futuro de la humanidad que comenzó en Oxford. La revista Foreign Policy lo ha incluido en dos ocasiones entre sus «100 pensadores globales más influyentes»; la revista Prospect lo situó como el filósofo analítico mejor clasificado en su lista de «Pensadores del mundo».

Temas clave de sus ponencias

• IA de vanguardia y riesgo existencial
• Gobernanza y alineación de la IA en condiciones de incertidumbre
• Estrategia tecnológica a largo plazo
• El argumento de la simulación y los límites del conocimiento
• La economía tras la IA general (AGI) y el problema del significado
• Razonamiento antrópico y toma de decisiones en condiciones de profunda incertidumbre
• El futuro de la mejora humana

Ideal para

• Consejos de administración y equipos ejecutivos que definen la estrategia de IA y la postura ante los riesgos para la próxima década
• Jefes de Estado, organismos reguladores y unidades políticas que definen la gobernanza nacional de la IA
• Líderes en tecnologías de vanguardia y equipos de capital riesgo corporativo
• Público de inversores y gestores de activos que reflexionan sobre su exposición al cambio estructural impulsado por la IA

Resultados para el público

• Un vocabulario operativo para hablar sobre los riesgos, las capacidades y la alineación de la IA con la misma precisión que se utiliza en los laboratorios de vanguardia
• Una visión más clara de qué cuestiones de gobernanza de la IA son abordables en la actualidad y cuáles requieren una reflexión a largo plazo
• Una idea bien fundamentada de cómo planificar una economía postinstrumental en la que el trabajo cognitivo humano ya no sea el insumo escaso
• Reconocimiento de cómo el razonamiento antrópico y el pensamiento por escenarios se aplican a las decisiones corporativas en situaciones de profunda incertidumbre
• Familiaridad con los argumentos que determinan cómo los reguladores, los laboratorios de IA y las comunidades de seguridad nacional están definiendo actualmente la IA de vanguardia