Nick Bostrom

Varför organisationer samarbetar med Nick Bostrom

• Han är författare till boken Superintelligence, som anses ha bidragit till att AI:s existentiella risker har blivit en del av den allmänna politiska debatten, teknikdiskussionerna och styrelsediskussionerna. Det vokabulär som ledare nu använder för att debattera banbrytande AI har sitt ursprung i detta verk.
• Han ledde Future of Humanity Institute vid Oxford i nitton år, ett forskningsprogram vars alumner nu ingår i AI-säkerhetsteam vid de stora banbrytande laboratorierna och politiska enheterna i Washington, London och Bryssel.
• Hans simuleringsargument och arbete kring antropiskt resonemang har gjort honom till en av de få filosoferna vars primära artiklar läses inom den tekniska AI-forskningen, inte bara i anslutning till den.
• Deep Utopia, hans uppföljare från 2024, tar upp den strategiska fråga som de flesta ledningsgrupper ännu inte har börjat fundera på: vad en organisation är till för i en värld där AI-system kan utföra nästan vilken kognitiv uppgift som helst bättre än människor.
• Han betraktar AI-styrning som en fråga om framtidens utformning, inte som en efterlevnadsövning – vilket är det perspektiv som de flesta högsta ledare behöver men sällan får från tekniska eller regleringsmässiga genomgångar.

Biografiska höjdpunkter

• Grundare och direktör för Future of Humanity Institute vid Oxford, 2005–2024.
• Grundare och huvudforskare vid Macrostrategy Research Initiative.
• Författare till Superintelligence: Paths, Dangers, Strategies, en New York Times-bästsäljare, Oxford University Press.
• Författare till *Deep Utopia: Life and Meaning in a Solved World*, Ideapress, 2024.
• Har två gånger utsetts till en av Foreign Policy:s 100 främsta globala tänkare.
• Mottagare av Eugene R. Gannon-priset; rankad på tidskriften Prospects lista över världens tänkare som den högst placerade analytiska filosofen.

Biografi

”Superintelligence: Paths, Dangers, Strategies” kom ut 2014 med en tes som få vanliga läsare var beredda på: att avancerade AI-system, vid rimliga utvecklingsbanor, skulle utgöra ett kontrollproblem av civilisatorisk betydelse. Ett decennium senare finns boken på skrivborden hos ledningen för banbrytande laboratorier, tjänstemän med ansvar för AI-politik och styrelserna för företag vars produkter nu är beroende av den teknik som beskrivs i boken.

Verket har sitt ursprung i Future of Humanity Institute (FHI), som Bostrom grundade vid Oxford 2005 och ledde fram till dess nedläggning 2024. FHI byggde upp den tidiga akademiska infrastrukturen för det som idag är ett globalt forskningsfält och utbildade forskare som nu arbetar vid OpenAI, Anthropic, DeepMind och UK AI Safety Institute. Hans tidigare artikel om simuleringsargumentet, publicerad i The Philosophical Quarterly 2003, blev ett av de få filosofiska verken som togs på allvar av tekniska AI-forskare och fysiker.

Hans bok från 2024, Deep Utopia, vänder på perspektivet. Frågan är inte längre om mänskligheten överlever avancerad AI, utan vad människor och organisationer gör i en värld där maskiner kan utföra nästan vilken kognitiv uppgift som helst. För företagsledare vars strategiska planer utgår från att knapp mänsklig kognitiv arbetsinsats är deras grundläggande insatsfaktor är detta nästa problem att fundera över, och mycket få trovärdiga röster har börjat göra det.

Bostrom är nu grundare och huvudforskare vid Macrostrategy Research Initiative, där han fortsätter det långsiktiga arbetet med teknik, styrning och mänsklighetens framtid som inleddes vid Oxford. Foreign Policy har två gånger utsett honom till en av världens 100 främsta tänkare; Prospect rankade honom som den högst placerade analytiska filosofen på sin lista över världens tänkare.

Viktiga föreläsningsämnen

• Pionjär-AI och existentiella risker
• AI-styrning och anpassning i en osäker värld
• Långsiktig teknikstrategi
• Simuleringsargumentet och kunskapens gränser
• Ekonomi efter AGI och meningsproblemet
• Antropiskt resonemang och beslutsfattande under djup osäkerhet
• Framtiden för mänsklig förbättring

Perfekt för

• Styrelser och ledningsgrupper som fastställer AI-strategi och riskhantering för det kommande decenniet
• Statschefer, tillsynsmyndigheter och politiska enheter som utformar nationell AI-styrning
• Ledare inom banbrytande teknik och företags venture-team
• Investerare och tillgångsfördelare som överväger exponering mot AI-driven strukturell förändring

Resultat för målgruppen

• Ett fungerande vokabulär för att diskutera AI-risker, kapacitet och anpassning med samma precision som används i spjutspetslaboratorier
• En tydligare bild av vilka frågor kring AI-styrning som är hanterbara redan nu och vilka som kräver långsiktigt tänkande
• En välgrundad förståelse för hur man planerar för en post-instrumentell ekonomi där mänskligt kognitivt arbete inte längre är den knappa resursen
• Insikt i hur antropiskt resonemang och scenariotänkande kan tillämpas på företagsbeslut i situationer med djup osäkerhet
• Förtrogenhet med de argument som formar hur tillsynsmyndigheter, AI-laboratorier och nationella säkerhetsaktörer idag definierar banbrytande AI