James Barrat
Styrelserna ombeds att godkänna AI-strategier som de inte kan utvärdera. Utvecklarna av banbrytande system säger öppet att de inte fullt ut förstår vad deras modeller kan åstadkomma, men ändå förväntas företagsledningen att införa, styra och redovisa dem. Bristen ligger inte i den tekniska kompetensen. Det handlar om en fungerande teori om vart tekniken är på väg och vad det innebär för kapital, personalstyrka och ansvarsskyldighet.
James Barrat är författare till böckerna *Our Final Invention* och *The Intelligence Explosion*, och hjälper ledande befattningshavare att se på artificiell intelligens som ett strategiskt och styrningsmässigt problem, inte som en programvaruuppgradering.
Full Profile
Varför organisationer samarbetar med James Barrat
- Tolv år av ihållande, dokumenterad debatt om AI-risker, med början i Our Final Invention från 2013 och uppdaterad i The Intelligence Explosion från 2025. Få talare kan uppvisa en lika lång intellektuell meritlista inom samma ämne.
- Direkt tillgång till intervjuer med de personer som utvecklar banbrytande AI, vilket används som primärt källmaterial snarare än sekundära kommentarer. Styrelser får en inblick inifrån laboratorierna, filtrerad genom någon utanför dem.
- En dokumentärfilmskapares skicklighet i att göra tekniskt material begripligt utan att förvanska det. Hans filmer för PBS NOVA och National Geographic riktade sig till en icke-specialiserad publik som ändå behövde förstå innehållet.
- En oberoende röst. Barrat säljer inte en modell, en konsultmetodik eller en leverantörsportfölj. Argumentationen är fri från kommersiella kopplingar till någon AI-leverantör.
- Utsedd av Time 2014 till en av fem seriösa tänkare inom katastrofrisker kopplade till AI, tillsammans med personer som Elon Musk och Stephen Hawking. Hans synsätt har med tiden blivit en del av den allmänna politiska debatten.
Höjdpunkter i biografin
- Författare till *Our Final Invention: Artificial Intelligence and the End of the Human Era* (St. Martin’s Press, 2013), utsedd till en av Huffington Posts ”Definitive Tech Books” för 2013.
- Författare till *The Intelligence Explosion: When AI Beats Humans at Everything* (St. Martin’s Press, 2025), rekommenderad av Max Tegmark och Gary Marcus.
- Utsedd av tidskriften Time till en av ”5 mycket smarta människor som tror att artificiell intelligens kan leda till apokalypsen”.
- Prisbelönt dokumentärfilmare för National Geographic, PBS NOVA, BBC, Discovery Channel och History Channel; bland hans verk finns *The Gospel of Judas*, *Herod's Lost Tomb*, *Extreme Cave Diving*, *Spillover: Zika, Ebola and Beyond* och *Facing Suicide*.
- Framstående kommentator inom AI för CNN, BBC World Service och dokumentärfilmen från 2018 *Do You Trust This Computer?*
- Kandidatexamen i filosofi från Davidson College.
Biografi
De som befinner sig närmast de banbrytande AI-systemen är de som är mest uppriktiga om att de inte förstår dem. Detta erkännande, som upprepas av seniora forskare vid de ledande laboratorierna, står i obehaglig kontrast till den takt med vilken styrelser uppmanas att förbinda sig till AI-strategier, anställningsplaner och informationsgivning. James Barrat har ägnat över ett decennium åt att intervjua dessa forskare och översätta vad de säger till ett språk som icke-specialister kan agera utifrån.
Hans bok ”Our Final Invention” från 2013 var ett av de första seriösa verk i mainstream-sammanhang som hävdade att artificiell allmän intelligens medförde såväl katastrofala som kommersiella konsekvenser. Argumentet betraktades en gång som marginellt. Nu är det den gällande utgångspunkten i politiska debatter i Washington, London och Bryssel. Tidskriften *Time* utnämnde honom 2014 till en av fem offentliga tänkare som allvarligt varnade för riskerna med AI. Elon Musk rekommenderade boken offentligt.
Uppföljaren från 2025, *The Intelligence Explosion: When AI Beats Humans at Everything, bygger på nya intervjuer med ingenjörer och etiker som arbetar med rekursivt självförbättrande system. Max Tegmark och Gary Marcus har gett boken sitt stöd. Boken redogör för de tekniska vägarna till AGI och de styrningsluckor som följer med dem, skriven för medborgare och beslutsfattare snarare än för laboratorierna själva.
Bakom arbetet med AI ligger en lång karriär som dokumentärfilmare för National Geographic, PBS NOVA, BBC, Discovery Channel och History Channel, med produktioner som bland annat The Gospel of Judas, Herod’s Lost Tomb och PBS-dokumentären Facing Suicide. Det är just den erfarenheten som gör att han på ett enda möte kan guida en styrelse genom begrepp som kapacitetsöverskott, anpassningsrisk och regleringsrisker, utan att förlora lyssnarnas uppmärksamhet.
Viktiga föreläsningsämnen
- Risker och styrning inom artificiell intelligens
- Vägen mot allmän artificiell intelligens
- AI-politik och reglering
- AI-etik och företagsansvar
- Kapacitets- och anpassningsproblemet i banbrytande modeller
- AI och framtiden för mänskligt arbete
Perfekt för
- Styrelser och ledningsgrupper som uppdrar eller godkänner företagets AI-strategi
- Riskchefer, chefsjurister och policyansvariga med ansvar för AI-tillsyn
- Målgrupper inom regering, tillsynsmyndigheter och den offentliga sektorn som utformar AI-politik
- Investerare och kapitalförvaltare med betydande exponering mot AI
Resultat för målgruppen
- En fungerande mental modell av hur dagens banbrytande AI-system fungerar och var de nästa stora kapacitetsförbättringarna sannolikt kommer att ske.
- En tydligare bild av de specifika risker inom styrning, juridik och anseende som AI medför för organisationen.
- Direkt inblick i vad de som utvecklar dessa system faktiskt säger i privata sammanhang om risker.
- En tydligare bild av den regulatoriska utvecklingen i USA, Storbritannien och EU.
- Självförtroende att ställa tuffare frågor till interna AI-team och externa leverantörer.