James Barrat

Pourquoi les organisations font appel à James Barrat

• Douze années de réflexion continue et documentée sur les risques liés à l’IA, depuis la publication de *Our Final Invention* en 2013, puis actualisée dans *The Intelligence Explosion* en 2025. Rares sont les intervenants pouvant se prévaloir d’une telle longévité dans la réflexion sur ce sujet précis.
• Un accès direct, par le biais d’entretiens, aux personnes qui développent l’IA de pointe, utilisées comme sources primaires plutôt que comme commentaires secondaires. Les conseils d’administration bénéficient ainsi d’un regard de l’intérieur des laboratoires, filtré par une personne extérieure à ceux-ci.
• Le savoir-faire d’un documentariste pour rendre accessible un contenu technique sans en altérer la substance. Ses films pour PBS NOVA et National Geographic s’adressaient à un public non spécialisé qui devait néanmoins en saisir l’essence.
• Une voix indépendante. Barrat ne vend ni modèle, ni méthodologie de conseil, ni suite de solutions d’un fournisseur. Son argumentation n’est entachée d’aucun alignement commercial avec un quelconque fournisseur d’IA.
• Désigné par le magazine *Time* en 2014 comme l’un des cinq penseurs majeurs sur les risques catastrophiques liés à l’IA, aux côtés de personnalités telles qu’Elon Musk et Stephen Hawking. Son analyse s’est imposée dans le débat politique général.

Faits marquants de sa biographie

• Auteur de *Our Final Invention: Artificial Intelligence and the End of the Human Era* (St. Martin's Press, 2013), désigné « livre technologique incontournable de 2013 » par le *Huffington Post*.
• Auteur de *The Intelligence Explosion: When AI Beats Humans at Everything* (St. Martin's Press, 2025), recommandé par Max Tegmark et Gary Marcus.
• Nommé par le magazine *Time* parmi les « 5 personnes très intelligentes qui pensent que l’intelligence artificielle pourrait provoquer l’apocalypse ».
• Réalisateur de documentaires primés pour National Geographic, PBS NOVA, la BBC, Discovery Channel et History Channel ; parmi ses réalisations figurent *The Gospel of Judas*, *Herod's Lost Tomb*, *Extreme Cave Diving*, *Spillover : Zika, Ebola and Beyond* et *Facing Suicide*.
• Commentateur régulier sur l’IA pour CNN, BBC World Service et le documentaire de 2018 *Do You Trust This Computer?*
• Licence en philosophie du Davidson College.

Biographie

Ce sont les personnes les plus proches des systèmes d’IA de pointe qui avouent le plus franchement ne pas les comprendre. Cet aveu, répété par des chercheurs chevronnés des principaux laboratoires, contraste de manière dérangeante avec le rythme auquel les conseils d’administration sont invités à s’engager sur des stratégies en matière d’IA, des plans de recrutement et des obligations d’information. James Barrat a passé plus d’une décennie à interroger ces chercheurs et à traduire leurs propos dans un langage accessible aux non-spécialistes.

Son ouvrage publié en 2013, *Our Final Invention*, a été l’un des premiers ouvrages grand public sérieux à soutenir que l’intelligence artificielle générale comportait des implications aussi bien catastrophiques que commerciales. Cet argument était autrefois considéré comme marginal. Il constitue désormais l’hypothèse de travail au cœur des débats politiques à Washington, Londres et Bruxelles. En 2014, le magazine *Time* l’a désigné comme l’un des cinq penseurs publics mettant sérieusement en garde contre les risques liés à l’IA. Elon Musk a publiquement recommandé cet ouvrage.

La suite, parue en 2025, intitulée *The Intelligence Explosion: Quand l’IA surpasse les humains en tout, s’appuie sur de nouveaux entretiens avec des ingénieurs et des éthiciens travaillant sur des systèmes capables de s’auto-améliorer de manière récursive. Max Tegmark et Gary Marcus l’ont approuvé. L’ouvrage expose les voies techniques menant à l’IAG ainsi que les lacunes en matière de gouvernance qui les accompagnent ; il s’adresse aux citoyens et aux décideurs politiques plutôt qu’aux laboratoires eux-mêmes.

Derrière son travail sur l’IA se cache une longue carrière de réalisateur de documentaires pour National Geographic, PBS NOVA, la BBC, Discovery Channel et History Channel, avec à son actif notamment *The Gospel of Judas*, *Herod’s Lost Tomb* et le reportage de PBS *Facing Suicide*. C’est ce savoir-faire qui lui permet d’aborder en une seule séance avec un conseil d’administration les questions de surcapacité, de risque d’alignement et d’exposition réglementaire, sans perdre l’attention de son auditoire.

Principaux thèmes d’intervention

• Risques et gouvernance liés à l’intelligence artificielle
• La voie vers l’intelligence artificielle générale
• Politiques et réglementation en matière d’IA
• Éthique de l'IA et responsabilité des entreprises
• Le problème des capacités et de l’alignement dans les modèles de pointe
• L'IA et l'avenir du travail humain

Idéal pour

• Les conseils d’administration et comités de direction chargés de définir ou d’approuver la stratégie d’IA de l’entreprise
• Les directeurs des risques, directeurs juridiques et responsables des politiques chargés de la supervision de l’IA
• Les acteurs des pouvoirs publics, des instances réglementaires et du secteur public chargés d’élaborer les politiques en matière d’IA
• Les investisseurs et les gestionnaires d’actifs fortement exposés à l’IA

Résultats attendus pour les publics cibles

• Un modèle mental opérationnel permettant de comprendre le fonctionnement des systèmes d’IA de pointe actuels et d’anticiper d’où proviendront probablement les prochaines avancées technologiques.
• Une vision plus précise des risques spécifiques en matière de gouvernance, de droit et de réputation que l’IA fait peser sur l’organisation.
• Un accès direct à ce que les personnes qui développent ces systèmes disent réellement en privé au sujet des risques.
• Une lecture plus claire de l’orientation réglementaire aux États-Unis, au Royaume-Uni et dans l’Union européenne.
• La confiance nécessaire pour poser des questions plus pointues aux équipes internes chargées de l’IA et aux fournisseurs externes.