Nick Bostrom

Pourquoi les organisations font-elles appel à Nick Bostrom ?

• Il est l’auteur de *Superintelligence*, l’ouvrage à qui l’on attribue le mérite d’avoir fait entrer le risque existentiel lié à l’IA dans le débat politique, technologique et au sein des conseils d’administration. Le vocabulaire que les dirigeants utilisent aujourd’hui pour débattre de l’IA de pointe trouve son origine dans cet ouvrage.
• Il a dirigé pendant dix-neuf ans le Future of Humanity Institute à Oxford, un programme de recherche dont les anciens étudiants composent aujourd’hui les équipes chargées de la sécurité de l’IA au sein des principaux laboratoires de pointe et des instances politiques à Washington, Londres et Bruxelles.
• Son « argument de simulation » et ses travaux sur le raisonnement anthropique ont fait de lui l’un des rares philosophes dont les articles fondamentaux sont lus au cœur même de la recherche technique sur l’IA, et non pas simplement en marge de celle-ci.
• Deep Utopia, son ouvrage de suivi publié en 2024, aborde la question stratégique que la plupart des équipes de direction n’ont pas encore abordée : quelle est la raison d’être d’une organisation dans un monde où les systèmes d’IA peuvent accomplir presque toutes les tâches cognitives mieux que les humains ?
• Il aborde la gouvernance de l’IA comme une question relative à la forme que prendra l’avenir, et non comme un simple exercice de conformité – c’est là le niveau de réflexion dont la plupart des hauts dirigeants ont besoin, mais qu’ils obtiennent rarement lors des réunions d’information techniques ou réglementaires.

Faits marquants de sa biographie

• Directeur fondateur du Future of Humanity Institute à Oxford, de 2005 à 2024.
• Fondateur et chercheur principal de la Macrostrategy Research Initiative.
• Auteur de *Superintelligence : Paths, Dangers, Strategies*, best-seller du *New York Times*, publié chez Oxford University Press.
• Auteur de *Deep Utopia : Life and Meaning in a Solved World*, Ideapress, 2024.
• Nommé à deux reprises dans le classement des 100 meilleurs penseurs mondiaux du magazine *Foreign Policy*.
• Lauréat du prix Eugene R. Gannon ; classé en tête des philosophes analytiques dans la liste des « World Thinkers » du magazine Prospect.

Biographie

Publié en 2014, *Superintelligence : Paths, Dangers, Strategies* avançait une thèse à laquelle peu de lecteurs grand public étaient préparés : selon des scénarios de développement plausibles, les systèmes d’IA avancés poseraient un problème de contrôle d’une importance civilisationnelle. Une décennie plus tard, cet ouvrage trône sur les bureaux des responsables de laboratoires de pointe, des décideurs politiques en matière d’IA et des conseils d’administration d’entreprises dont les produits dépendent désormais de la technologie qu’il décrivait.

Cet ouvrage est issu du Future of Humanity Institute (FHI), que Bostrom a fondé à Oxford en 2005 et dirigé jusqu’à sa fermeture en 2024. Le FHI a mis en place les premières infrastructures universitaires de ce qui est aujourd’hui un domaine d’étude mondial, en formant des chercheurs qui travaillent désormais chez OpenAI, Anthropic, DeepMind et au UK AI Safety Institute. Son article précédent sur l’argument de la simulation, publié dans *The Philosophical Quarterly* en 2003, est devenu l’un des rares travaux philosophiques à être pris au sérieux par les chercheurs en IA technique et les physiciens.

Son ouvrage de 2024, *Deep Utopia*, inverse la perspective. La question n’est plus de savoir si l’humanité survivra à une IA avancée, mais ce que feront les individus et les organisations dans un monde où les machines sont capables d’accomplir presque toutes les tâches cognitives. Pour les dirigeants dont les plans stratégiques reposent sur la rareté du travail cognitif humain comme ressource fondamentale, c’est le prochain problème à envisager, et très peu de voix crédibles se sont encore exprimées à ce sujet.

Bostrom est aujourd’hui fondateur et chercheur principal de la Macrostrategy Research Initiative, où il poursuit les travaux à long terme sur la technologie, la gouvernance et l’avenir de l’humanité qu’il avait commencés à Oxford. Foreign Policy l’a classé à deux reprises parmi ses « 100 penseurs mondiaux » ; Prospect l’a classé en tête des philosophes analytiques dans son classement des « penseurs mondiaux ».

Principaux thèmes d’intervention

• IA de pointe et risque existentiel
• Gouvernance et alignement de l’IA en situation d’incertitude
• Stratégie technologique à long terme
• L’argument de la simulation et les limites de la connaissance
• L'économie post-IA générale et le problème du sens
• Raisonnement anthropique et prise de décision en situation d’incertitude profonde
• L’avenir de l’amélioration humaine

Idéal pour

• Les conseils d’administration et les équipes de direction chargés de définir la stratégie en matière d’IA et la posture face aux risques pour la prochaine décennie
• Les chefs d’État, les régulateurs et les instances politiques chargés de définir la gouvernance nationale en matière d’IA
• Les responsables des technologies de pointe et les équipes de capital-risque d’entreprise
• Les investisseurs et les gestionnaires d’actifs qui réfléchissent à leur exposition aux changements structurels induits par l’IA

Bénéfices pour les participants

• Un vocabulaire opérationnel permettant d’aborder les risques, les capacités et l’alignement en matière d’IA avec la même précision que celle utilisée au sein des laboratoires de pointe
• Une vision plus claire des questions de gouvernance de l’IA qui peuvent être traitées dès aujourd’hui et de celles qui nécessitent une réflexion à long terme
• Une compréhension concrète de la manière de se préparer à une économie post-instrumentale où le travail cognitif humain ne constitue plus un facteur de production rare
• La prise de conscience de la manière dont le raisonnement anthropique et la réflexion par scénarios s’appliquent aux décisions d’entreprise dans un contexte de profonde incertitude
• Une bonne connaissance des arguments qui déterminent la manière dont les régulateurs, les laboratoires d’IA et les instances de sécurité nationale définissent actuellement l’IA de pointe