James Barrat
Bestyrelserne bliver bedt om at godkende AI-strategier, som de ikke er i stand til at vurdere. Udviklerne af banebrydende systemer indrømmer åbent, at de ikke fuldt ud forstår, hvad deres modeller er i stand til, og alligevel forventes ledelsen at implementere, styre og redegøre for brugen af dem. Manglen ligger ikke i den tekniske viden. Det handler om en brugbar teori om, hvor teknologien er på vej hen, og hvad det betyder for kapital, medarbejderantal og ansvar.
James Barrat er forfatter til bøgerne *Our Final Invention* og *The Intelligence Explosion* og hjælper topledere med at tænke klart om kunstig intelligens som et strategisk og styringsmæssigt problem – ikke blot som en softwareopgradering.
Full Profile
Hvorfor organisationer samarbejder med James Barrat
- Tolv års vedvarende, dokumenteret diskussion om risici ved kunstig intelligens, der begyndte med bogen Our Final Invention i 2013 og blev opdateret i The Intelligence Explosion i 2025. Kun få foredragsholdere kan fremvise en så lang intellektuel track record inden for det samme emne.
- Direkte adgang til interviews med de mennesker, der udvikler banebrydende AI, hvilket bruges som primært kildemateriale frem for sekundære kommentarer. Bestyrelser får et indblik fra laboratorierne, filtreret gennem en person uden for disse.
- En dokumentaristisk evne til at gøre teknisk materiale forståeligt uden at forvanske det. Hans film for PBS NOVA og National Geographic var skabt til et ikke-specialiseret publikum, der alligevel havde brug for at forstå indholdet.
- En uafhængig stemme. Barrat sælger ikke en model, en konsulentmetodik eller en leverandørpakke. Argumentationen er ubelastet af kommercielle bånd til nogen AI-udbyder.
- Udnævnt af Time i 2014 som en af fem seriøse tænkere inden for katastrofale AI-risici, sammen med personligheder som Elon Musk og Stephen Hawking. Denne ramme er nu blevet en del af den almindelige politiske debat.
Højdepunkter i biografien
- Forfatter til *Our Final Invention: Artificial Intelligence and the End of the Human Era* (St. Martin’s Press, 2013), der blev kåret som en af Huffington Posts »Definitive Tech Books« i 2013.
- Forfatter til *The Intelligence Explosion: When AI Beats Humans at Everything* (St. Martin's Press, 2025), anbefalet af Max Tegmark og Gary Marcus.
- Udnævnt af Time Magazine som en af de »5 meget kloge mennesker, der mener, at kunstig intelligens kan medføre apokalypsen«.
- Prisvindende dokumentarfilmskaber for National Geographic, PBS NOVA, BBC, Discovery Channel og History Channel; blandt hans værker er *The Gospel of Judas*, *Herod's Lost Tomb*, *Extreme Cave Diving*, *Spillover: Zika, Ebola and Beyond* og *Facing Suicide*.
- Fremtrædende kommentator inden for kunstig intelligens for CNN, BBC World Service og dokumentarfilmen fra 2018 *Do You Trust This Computer?*
- Bachelor i filosofi fra Davidson College.
Biografi
De mennesker, der er tættest på banebrydende AI-systemer, er de mest ærlige om, at de ikke forstår dem. Denne indrømmelse, som gentages af ledende forskere ved de førende laboratorier, står i skarp kontrast til det tempo, hvormed bestyrelser bliver bedt om at forpligte sig til AI-strategier, ansættelsesplaner og offentliggørelser. James Barrat har brugt over et årti på at interviewe disse forskere og omsætte deres udtalelser til et sprog, som ikke-specialister kan handle ud fra.
Hans bog fra 2013, *Our Final Invention*, var blandt de første seriøse værker i den brede offentlighed, der argumenterede for, at kunstig generel intelligens havde både katastrofale og kommercielle implikationer. Argumentet blev engang betragtet som marginalt. Nu er det den gældende antagelse i politiske debatter i Washington, London og Bruxelles. Time udnævnte ham i 2014 som en af fem offentlige tænkere, der alvorligt advarede om AI-risici. Elon Musk anbefalede bogen offentligt.
Opfølgeren fra 2025, *The Intelligence Explosion: When AI Beats Humans at Everything, bygger på nye interviews med ingeniører og etikere, der arbejder med rekursivt selvforbedrende systemer. Max Tegmark og Gary Marcus har anbefalet den. Bogen skitserer de tekniske veje til AGI og de styringsmæssige huller, der følger med dem, og er skrevet til borgere og politiske beslutningstagere snarere end til laboratorierne selv.
Bag AI-arbejdet ligger en lang karriere som dokumentarfilmskaber for National Geographic, PBS NOVA, BBC, Discovery Channel og History Channel, med produktioner som The Gospel of Judas, Herod's Lost Tomb og PBS-filmen Facing Suicide. Det er netop dette håndværk, der gør det muligt for ham på én gang at gennemgå emner som kapacitetsoverskud, aligneringsrisiko og reguleringsmæssige udfordringer for en bestyrelse, uden at miste publikums opmærksomhed.
Vigtigste foredragstemaer
- Risici og styring i forbindelse med kunstig intelligens
- Vejen til generel kunstig intelligens
- AI-politik og regulering
- AI-etik og virksomheders ansvar
- Kapacitets- og afstemningsproblemet i banebrydende modeller
- AI og fremtiden for menneskeligt arbejde
Ideel til
- Bestyrelser og ledelsesudvalg, der udarbejder eller godkender virksomhedens AI-strategi
- Risikochefer, juridiske chefer og politikansvarlige med ansvar for tilsyn med AI
- Offentlige myndigheder, tilsynsmyndigheder og aktører i den offentlige sektor, der udformer AI-politik
- Investorer og aktivforvaltere med betydelig eksponering over for AI
Resultater for målgruppen
- En brugbar mental model af, hvordan nutidens banebrydende AI-systemer fungerer, og hvor de næste kapacitetsspring sandsynligvis vil komme fra.
- Et skarpere indblik i de specifikke risici inden for governance, jura og omdømme, som AI medfører for organisationen.
- Direkte indsigt i, hvad de personer, der udvikler disse systemer, rent faktisk siger privat om risiko.
- En klarere forståelse af den regulatoriske retning i USA, Storbritannien og EU.
- Selvtillid til at stille sværere spørgsmål til interne AI-teams og eksterne leverandører.