Nick Bostrom
Bestyrelserne bliver bedt om at træffe afgørende beslutninger om AI-systemer, som de ikke fuldt ud forstår, inden for tidsfrister, der fastsættes af konkurrenter, tilsynsmyndigheder og selve teknologien. Det ordforråd, der bruges i disse samtaler – tilpasning, kapacitet, eksistentiel risiko, styring under usikkerhed – blev i vid udstrækning udviklet af en lille gruppe tænkere, før det kommercielle kapløb om AI begyndte. Uden dette ordforråd ender ledere enten med at afvise risikoen eller give efter for den.
Nick Bostrom er filosofen fra Oxford, hvis arbejde har skabt den moderne intellektuelle ramme for risici ved kunstig intelligens, styring og langsigtet teknologistrategi, og som dermed hjælper ledere med at tænke klart, når de skal træffe beslutninger, hvis konsekvenser vil vare længere end deres egen levetid.
Full Profile
Hvorfor organisationer samarbejder med Nick Bostrom
- Han er forfatter til bogen *Superintelligence*, der anses for at have bragt den eksistentielle risiko ved kunstig intelligens ind i den almindelige politiske, teknologiske og ledelsesmæssige debat. Det ordforråd, som ledere nu bruger til at diskutere banebrydende kunstig intelligens, stammer fra dette værk.
- Han ledede Future of Humanity Institute ved Oxford i nitten år, et forskningsprogram, hvis tidligere studerende nu udgør personalet i AI-sikkerhedsteams ved de store banebrydende laboratorier og politiske enheder i Washington, London og Bruxelles.
- Hans simuleringsargument og arbejde med antropisk ræsonnement har gjort ham til en af de få filosoffer, hvis primære artikler læses inden for den tekniske AI-forskning, ikke blot i tilknytning til den.
- Deep Utopia, hans opfølger fra 2024, tager fat på det strategiske spørgsmål, som de fleste ledelsesteam endnu ikke har taget fat på: hvad en organisation er til for i en verden, hvor AI-systemer kan udføre næsten enhver kognitiv opgave bedre end mennesker.
- Han betragter AI-styring som et spørgsmål om fremtidens udformning, ikke som en compliance-øvelse – hvilket er det perspektiv, de fleste topledere har brug for, men sjældent får fra tekniske eller lovgivningsmæssige briefinger.
Højdepunkter i biografien
- Stiftende direktør for Future of Humanity Institute ved Oxford, 2005 til 2024.
- Grundlægger og ledende forsker ved Macrostrategy Research Initiative.
- Forfatter til *Superintelligence: Paths, Dangers, Strategies*, New York Times-bestseller, Oxford University Press.
- Forfatter til *Deep Utopia: Life and Meaning in a Solved World*, Ideapress, 2024.
- To gange udnævnt til en af Foreign Policy's Top 100 Global Thinkers.
- Modtager af Eugene R. Gannon-prisen; rangeret på magasinet Prospects liste over verdens tænkere som den højest placerede analytiske filosof.
Biografi
"Superintelligence: Paths, Dangers, Strategies" udkom i 2014 med en tese, som få almindelige læsere var forberedte på: at avancerede AI-systemer, hvis udviklingen forløber på en plausibel måde, vil udgøre et kontrolproblem af civilisatorisk betydning. Et årti senere ligger bogen på skrivebordene hos ledere af banebrydende laboratorier, politikere med ansvar for AI-politik og bestyrelserne i virksomheder, hvis produkter nu er afhængige af den teknologi, den beskrev.
Værket udsprang af Future of Humanity Institute (FHI), som Bostrom grundlagde i Oxford i 2005 og ledede indtil dets lukning i 2024. FHI opbyggede den tidlige akademiske infrastruktur for det, der i dag er et globalt forskningsfelt, og uddannede forskere, der nu arbejder hos OpenAI, Anthropic, DeepMind og det britiske AI Safety Institute. Hans tidligere artikel om simuleringsargumentet, der blev offentliggjort i *The Philosophical Quarterly* i 2003, blev et af de få filosofiske værker, der blev taget alvorligt af tekniske AI-forskere og fysikere.
Hans bog fra 2024, *Deep Utopia*, vender perspektivet på hovedet. Spørgsmålet er ikke længere, om menneskeheden overlever avanceret AI, men hvad mennesker og organisationer gør i en verden, hvor maskiner kan udføre næsten enhver kognitiv opgave. For ledere, hvis strategiske planer bygger på, at menneskelig kognitiv arbejdskraft er en knap ressource, er dette det næste problem, de skal forholde sig til, og meget få troværdige stemmer har endnu taget fat på emnet.
Bostrom er nu grundlægger og hovedforsker ved Macrostrategy Research Initiative, hvor han fortsætter det langsigtede arbejde med teknologi, styring og menneskehedens fremtid, som han påbegyndte i Oxford. Foreign Policy har to gange udnævnt ham til en af verdens 100 førende tænkere; Prospect placerede ham som den højest rangerede analytiske filosof på sin liste over verdens tænkere.
Vigtigste foredragstemaer
- Banebrydende AI og eksistentielle risici
- AI-styring og tilpasning under usikkerhed
- Langtidsstrategier for teknologi
- Simuleringsargumentet og videns grænser
- Økonomi efter AGI og meningsproblemet
- Antropisk ræsonnement og beslutningstagning under dyb usikkerhed
- Fremtiden for menneskelig forbedring
Ideel til
- Bestyrelser og ledelsesteam, der fastlægger AI-strategi og risikopolitik for det kommende årti
- Statschefer, tilsynsmyndigheder og politiske enheder, der udformer den nationale AI-styring
- Ledere inden for banebrydende teknologi og corporate venture-teams
- Investorer og aktiverfordelere, der overvejer eksponering over for AI-drevet strukturel forandring
Resultater for målgruppen
- Et praktisk ordforråd til at tale om AI-risici, kapacitet og tilpasning med samme præcision, som anvendes i banebrydende forskningslaboratorier
- Et klarere overblik over, hvilke spørgsmål vedrørende AI-styring der kan løses nu, og hvilke der kræver langsigtet tænkning
- En konkret fornemmelse af, hvordan man planlægger for en post-instrumentel økonomi, hvor menneskelig kognitiv arbejdskraft ikke længere er den knappe ressource
- Erkendelse af, hvordan antropisk ræsonnement og scenarietænkning finder anvendelse på virksomhedsbeslutninger under stor usikkerhed
- Kendskab til de argumenter, der præger den måde, hvorpå tilsynsmyndigheder, AI-laboratorier og nationale sikkerhedsmiljøer i dag definerer banebrydende AI