Nick Bostrom

Perché le organizzazioni collaborano con Nick Bostrom

• È autore di *Superintelligence*, l’opera a cui si attribuisce il merito di aver portato il rischio esistenziale legato all’IA al centro del dibattito politico, tecnologico e nelle sale dei consigli di amministrazione. Il vocabolario che i leader utilizzano oggi per discutere dell’IA all’avanguardia risale proprio a questo lavoro.
• Ha guidato per diciannove anni il Future of Humanity Institute di Oxford, un programma di ricerca i cui ex allievi fanno ora parte dei team dedicati alla sicurezza dell’IA nei principali laboratori all’avanguardia e nelle unità politiche di Washington, Londra e Bruxelles.
• La sua “argomentazione della simulazione” e il suo lavoro sul ragionamento antropico lo hanno reso uno dei pochi filosofi i cui articoli principali vengono letti all’interno della ricerca tecnica sull’IA, e non solo in ambiti ad essa correlati.
• Deep Utopia, il suo seguito del 2024, affronta la questione strategica su cui la maggior parte dei team dirigenziali non ha ancora iniziato a lavorare: a cosa serve un’organizzazione in un mondo in cui i sistemi di IA possono svolgere quasi qualsiasi compito cognitivo meglio degli esseri umani.
• Egli considera la governance dell’IA come una questione riguardante la forma del futuro, non come un semplice esercizio di conformità: questa è la prospettiva di cui la maggior parte dei leader di alto livello ha bisogno, ma che raramente ottiene dai briefing tecnici o normativi.

Punti salienti della biografia

• Direttore fondatore del Future of Humanity Institute di Oxford, dal 2005 al 2024.
• Fondatore e ricercatore principale della Macrostrategy Research Initiative.
• Autore di *Superintelligence: Paths, Dangers, Strategies*, bestseller del *New York Times*, Oxford University Press.
• Autore di *Deep Utopia: Life and Meaning in a Solved World*, Ideapress, 2024.
• Due volte inserito nella classifica dei 100 pensatori globali di Foreign Policy.
• Vincitore del Premio Eugene R. Gannon; classificato nella lista dei “World Thinkers” della rivista Prospect come il filosofo analitico con il posizionamento più alto.

Biografia

"Superintelligence: Paths, Dangers, Strategies" è uscito nel 2014 con una tesi per la quale pochi lettori del grande pubblico erano pronti: quella secondo cui i sistemi avanzati di intelligenza artificiale, seguendo percorsi di sviluppo plausibili, avrebbero presentato un problema di controllo di importanza civile. A distanza di un decennio, il libro è presente sulle scrivanie dei responsabili dei laboratori all’avanguardia, dei funzionari incaricati delle politiche sull’IA e nei consigli di amministrazione delle aziende i cui prodotti dipendono ormai dalla tecnologia in esso descritta.

L’opera è frutto del Future of Humanity Institute (FHI), fondato da Bostrom a Oxford nel 2005 e da lui guidato fino alla sua chiusura nel 2024. Il FHI ha gettato le basi accademiche di quello che oggi è un settore globale, formando ricercatori che ora lavorano presso OpenAI, Anthropic, DeepMind e l’AI Safety Institute del Regno Unito. Il suo precedente articolo sull’argomento della simulazione, pubblicato su *The Philosophical Quarterly* nel 2003, è diventato una delle poche opere filosofiche ad essere presa sul serio dai ricercatori tecnici nel campo dell’IA e dai fisici.

Il suo libro del 2024, *Deep Utopia*, ribalta la prospettiva. La domanda non è più se l’umanità sopravviverà all’IA avanzata, ma cosa faranno le persone e le organizzazioni in un mondo in cui le macchine sono in grado di svolgere quasi qualsiasi compito cognitivo. Per i dirigenti i cui piani strategici si basano sull’ipotesi di una scarsità di lavoro cognitivo umano come input fondamentale, questo è il prossimo problema su cui riflettere, e pochissime voci autorevoli hanno iniziato a farlo.

Bostrom è ora fondatore e ricercatore principale della Macrostrategy Research Initiative, dove prosegue il lavoro a lungo termine su tecnologia, governance e futuro dell’umanità iniziato a Oxford. Foreign Policy lo ha inserito per due volte nella sua classifica dei 100 migliori pensatori globali; Prospect lo ha classificato come il filosofo analitico con il posizionamento più alto nella sua lista dei pensatori mondiali.

Argomenti principali delle conferenze

• IA all’avanguardia e rischio esistenziale
• Governance e allineamento dell’IA in condizioni di incertezza
• Strategia tecnologica a lungo termine
• L’argomento della simulazione e i limiti della conoscenza
• L'economia post-AGI e il problema del significato
• Ragionamento antropico e processo decisionale in condizioni di profonda incertezza
• Il futuro del potenziamento umano

Ideale per

• Consigli di amministrazione e team esecutivi che definiscono la strategia in materia di IA e la posizione di rischio per il prossimo decennio
• Capo di Stato, autorità di regolamentazione e unità politiche che definiscono la governance nazionale in materia di IA
• I team di leadership tecnologica all’avanguardia e di corporate venture
• Investitori e gestori di asset che valutano l’esposizione ai cambiamenti strutturali guidati dall’IA

Risultati per il pubblico

• Un vocabolario operativo per discutere di rischi, potenzialità e allineamento nell’ambito dell’IA con la stessa precisione utilizzata nei laboratori all’avanguardia
• Una visione più chiara di quali questioni relative alla governance dell’IA siano attualmente affrontabili e quali richiedano una visione a lungo termine
• Una comprensione concreta di come pianificare un’economia post-strumentale in cui il lavoro cognitivo umano non è più il fattore di produzione scarso
• Riconoscimento di come il ragionamento antropico e la riflessione per scenari si applichino alle decisioni aziendali in condizioni di profonda incertezza
• Familiarità con le argomentazioni che stanno plasmando il modo in cui le autorità di regolamentazione, i laboratori di IA e le comunità di sicurezza nazionale stanno attualmente inquadrando l’IA all’avanguardia