Nick Bostrom

Warum Unternehmen mit Nick Bostrom zusammenarbeiten

• Er ist Autor von „Superintelligence“, dem Werk, dem zugeschrieben wird, das Thema der existenziellen Risiken durch KI in die Mainstream-Diskussion in Politik, Technologie und Führungsetagen gebracht zu haben. Das Vokabular, das Führungskräfte heute bei der Debatte über bahnbrechende KI verwenden, geht auf dieses Werk zurück.
• Er leitete neunzehn Jahre lang das Future of Humanity Institute in Oxford, ein Forschungsprogramm, dessen Absolventen heute in KI-Sicherheitsteams der großen Spitzenforschungslabore und politischen Gremien in Washington, London und Brüssel tätig sind.
• Sein Simulationsargument und seine Arbeiten zum anthropischen Denken haben ihn zu einem der wenigen Philosophen gemacht, deren Kernarbeiten innerhalb der technischen KI-Forschung gelesen werden und nicht nur am Rande davon.
• „Deep Utopia“, sein 2024 erscheinendes Folgewerk, befasst sich mit der strategischen Frage, mit der sich die meisten Führungsteams noch nicht auseinandergesetzt haben: Wozu dient eine Organisation in einer Welt, in der KI-Systeme fast jede kognitive Aufgabe besser bewältigen können als Menschen?
• Er betrachtet KI-Governance als eine Frage nach der Gestaltung der Zukunft und nicht als reine Compliance-Maßnahme – eine Perspektive, die die meisten Führungskräfte benötigen, die sie jedoch in technischen oder regulatorischen Briefings nur selten vermittelt bekommen.

Wichtige Stationen seiner Laufbahn

• Gründungsdirektor des Future of Humanity Institute in Oxford, 2005 bis 2024.
• Gründer und leitender Forscher der „Macrostrategy Research Initiative“.
• Autor von „Superintelligence: Paths, Dangers, Strategies“, New York Times-Bestseller, Oxford University Press.
• Autor von „Deep Utopia: Leben und Sinn in einer gelösten Welt“, Ideapress, 2024.
• Zweimal in die Liste der „Top 100 Global Thinkers“ des Magazins „Foreign Policy“ aufgenommen.
• Träger des Eugene-R.-Gannon-Preises; auf der „World Thinkers“-Liste des Magazins „Prospect“ als bestplatzierter analytischer Philosoph geführt.

Biografie

„Superintelligence: Paths, Dangers, Strategies“ erschien 2014 mit einer These, auf die nur wenige Mainstream-Leser vorbereitet waren: dass fortgeschrittene KI-Systeme bei plausiblen Entwicklungsverläufen ein Kontrollproblem von zivilisatorischer Tragweite darstellen würden. Ein Jahrzehnt später liegt das Buch auf den Schreibtischen von Leitern innovativer Forschungslabore, politischen Entscheidungsträgern im Bereich KI und den Vorständen von Unternehmen, deren Produkte mittlerweile von der darin beschriebenen Technologie abhängen.

Das Werk entstand am Future of Humanity Institute (FHI), das Bostrom 2005 in Oxford gründete und bis zu dessen Schließung im Jahr 2024 leitete. Das FHI schuf die frühe akademische Infrastruktur für ein heute globales Forschungsgebiet und bildete Forscher aus, die heute bei OpenAI, Anthropic, DeepMind und dem britischen AI Safety Institute tätig sind. Seine frühere Abhandlung über das Simulationsargument, die 2003 in „The Philosophical Quarterly“ veröffentlicht wurde, wurde zu einer der wenigen philosophischen Arbeiten, die von technischen KI-Forschern und Physikern ernst genommen wurden.

Sein 2024 erschienenes Buch „Deep Utopia“ kehrt den Blickwinkel um. Die Frage lautet nicht mehr, ob die Menschheit eine fortgeschrittene KI überlebt, sondern was Menschen und Organisationen in einer Welt tun, in der Maschinen nahezu jede kognitive Aufgabe ausführen können. Für Führungskräfte, deren strategische Pläne von knappen kognitiven Ressourcen des Menschen als grundlegendem Input ausgehen, ist dies das nächste Problem, über das sie nachdenken müssen – und bisher haben sich nur sehr wenige glaubwürdige Stimmen zu Wort gemeldet.

Bostrom ist heute Gründer und leitender Forscher der „Macrostrategy Research Initiative“ und setzt damit die in Oxford begonnene langfristige Arbeit zu Technologie, Governance und der Zukunft der Menschheit fort. „Foreign Policy“ hat ihn zweimal in die Liste der „Top 100 Global Thinkers“ aufgenommen; „Prospect“ stufte ihn als den am höchsten platzierten analytischen Philosophen auf seiner „World Thinkers“-Liste ein.

Wichtige Vortragsthemen

• Pionierarbeit im Bereich KI und existenzielle Risiken
• KI-Governance und -Ausrichtung unter Unsicherheit
• Langfristige Technologiestrategie
• Das Simulationsargument und die Grenzen des Wissens
• Wirtschaft nach der allgemeinen künstlichen Intelligenz (AGI) und das Problem der Bedeutung
• Anthropisches Denken und Entscheidungsfindung unter tiefer Unsicherheit
• Die Zukunft der menschlichen Leistungssteigerung

Ideal für

• Vorstände und Führungsteams, die die KI-Strategie und das Risikoprofil für das nächste Jahrzehnt festlegen
• Staatschefs, Regulierungsbehörden und politische Gremien, die die nationale KI-Governance gestalten
• Führungskräfte im Bereich Zukunftstechnologien und Corporate-Venture-Teams
• Investoren und Vermögensverwalter, die über ein Engagement im Bereich des KI-getriebenen Strukturwandels nachdenken

Lernziele für die Teilnehmer

• Ein Fachvokabular, um über KI-Risiken, -Fähigkeiten und -Ausrichtung mit derselben Präzision zu sprechen, wie sie in Spitzenforschungslabors verwendet wird
• Ein klareres Bild davon, welche Fragen der KI-Governance derzeit lösbar sind und welche langfristiges Denken erfordern
• Ein fundiertes Verständnis dafür, wie man sich auf eine post-instrumentelle Wirtschaft vorbereitet, in der menschliche kognitive Arbeit nicht mehr der knappe Faktor ist
• Erkenntnis darüber, wie anthropisches Denken und Szenariodenken bei Unternehmensentscheidungen unter hoher Unsicherheit angewendet werden können
• Vertrautheit mit den Argumenten, die derzeit die Sichtweise von Regulierungsbehörden, KI-Forschungslabors und nationalen Sicherheitsbehörden auf Pionier-KI prägen