James Barrat

Warum Unternehmen mit James Barrat zusammenarbeiten

• Zwölf Jahre anhaltender, dokumentierter Auseinandersetzung mit den Risiken der KI, beginnend mit „Our Final Invention“ im Jahr 2013 und aktualisiert in „The Intelligence Explosion“ im Jahr 2025. Nur wenige Referenten können auf eine derart langjährige intellektuelle Erfolgsbilanz zu genau diesem Thema verweisen.
• Direkter Zugang zu Interviews mit den Menschen, die an der Spitze der KI-Forschung stehen – diese dienen als Primärquellen und nicht als sekundäre Kommentare. Vorstände erhalten einen Einblick aus dem Inneren der Labore, gefiltert durch die Perspektive eines Außenstehenden.
• Das handwerkliche Geschick eines Dokumentarfilmers, technisches Material verständlich zu machen, ohne es zu verwässern. Seine Filme für PBS NOVA und National Geographic richteten sich an ein Laienpublikum, das dennoch den Inhalt verstehen musste.
• Eine unabhängige Stimme. Barrat verkauft weder ein Modell noch eine Beratungsmethodik oder ein Anbieterportfolio. Seine Argumentation ist frei von kommerziellen Bindungen an irgendeinen KI-Anbieter.
• Wurde 2014 vom Time Magazine als einer von fünf ernstzunehmenden Denkern zum Thema katastrophale KI-Risiken genannt, neben Persönlichkeiten wie Elon Musk und Stephen Hawking. Diese Sichtweise hat sich mittlerweile in der politischen Mainstream-Debatte etabliert.

Wichtige Stationen seiner Biografie

• Autor von „Our Final Invention: Artificial Intelligence and the End of the Human Era“ (St. Martin’s Press, 2013), das von der „Huffington Post“ als eines der „Definitive Tech Books“ des Jahres 2013 ausgezeichnet wurde.
• Autor von „The Intelligence Explosion: When AI Beats Humans at Everything“ (St. Martin’s Press, 2025), empfohlen von Max Tegmark und Gary Marcus.
• Vom Time Magazine als einer der „5 sehr klugen Menschen, die glauben, dass künstliche Intelligenz die Apokalypse herbeiführen könnte“ bezeichnet.
• Preisgekrönter Dokumentarfilmer für National Geographic, PBS NOVA, BBC, Discovery Channel und History Channel; zu seinen Werken zählen „The Gospel of Judas“, „Herod’s Lost Tomb“, „Extreme Cave Diving“, „Spillover: Zika, Ebola and Beyond“ und „Facing Suicide“.
• Regelmäßiger Kommentator zum Thema KI bei CNN, dem BBC World Service und in dem Dokumentarfilm „Do You Trust This Computer?“ aus dem Jahr 2018.
• B.A. in Philosophie, Davidson College.

Biografie

Gerade diejenigen, die am nächsten an den bahnbrechenden KI-Systemen dran sind, geben am offensten zu, dass sie diese nicht verstehen. Dieses Eingeständnis, das von leitenden Forschern in den führenden Labors immer wieder geäußert wird, steht in einem unangenehmen Widerspruch zu dem Tempo, mit dem Vorstände aufgefordert werden, sich zu KI-Strategien, Einstellungsplänen und Offenlegungen zu verpflichten. James Barrat hat über ein Jahrzehnt damit verbracht, diese Forscher zu interviewen und ihre Aussagen in eine Sprache zu übersetzen, auf deren Grundlage auch Laien handeln können.

Sein 2013 erschienenes Buch „Our Final Invention“ gehörte zu den ersten ernstzunehmenden Mainstream-Werken, die argumentierten, dass allgemeine künstliche Intelligenz sowohl katastrophale als auch kommerzielle Auswirkungen habe. Diese These galt einst als Randtheorie. Heute ist sie die Arbeitshypothese in politischen Debatten in Washington, London und Brüssel. Das Magazin „Time“ nannte ihn 2014 als einen von fünf öffentlichen Denkern, die ernsthaft vor KI-Risiken warnen. Elon Musk empfahl das Buch öffentlich.

Die 2025 erschienene Fortsetzung „The Intelligence Explosion: Wenn KI den Menschen in allem übertrifft“, stützt sich auf aktuelle Interviews mit Ingenieuren und Ethikern, die an rekursiv selbstverbessernden Systemen arbeiten. Max Tegmark und Gary Marcus haben das Buch empfohlen. Es legt die technischen Wege zur AGI und die damit einhergehenden Regulierungslücken dar und richtet sich eher an Bürger und politische Entscheidungsträger als an die Forschungslabore selbst.

Hinter seiner Arbeit im Bereich der KI steht eine lange Karriere als Dokumentarfilmer für National Geographic, PBS NOVA, BBC, Discovery Channel und History Channel, zu deren Werken unter anderem „The Gospel of Judas“, „Herod’s Lost Tomb“ und die PBS-Dokumentation „Facing Suicide“ gehören. Dank dieser Erfahrung ist er in der Lage, einem Gremium in einer einzigen Sitzung Themen wie Leistungsüberhang, Ausrichtungsrisiko und regulatorische Risiken zu erläutern, ohne dabei die Aufmerksamkeit der Zuhörer zu verlieren.

Wichtige Vortragsthemen

• Risiken und Governance im Bereich der künstlichen Intelligenz
• Der Weg zur allgemeinen künstlichen Intelligenz
• KI-Politik und -Regulierung
• KI-Ethik und unternehmerische Verantwortung
• Das Problem der Leistungsfähigkeit und Ausrichtung bei Pioniermodellen
• KI und die Zukunft der menschlichen Arbeit

Ideal für

• Vorstände und Geschäftsleitungen, die eine KI-Strategie für das Unternehmen in Auftrag geben oder genehmigen
• Risikobeauftragte, Leiter der Rechtsabteilung und Verantwortliche für Richtlinien mit Aufsichtspflicht im Bereich KI
• Vertreter von Regierung, Aufsichtsbehörden und dem öffentlichen Sektor, die die KI-Politik gestalten
• Investoren und Vermögensverwalter mit konzentriertem KI-Engagement

Ergebnisse für die Zielgruppen

• Ein funktionsfähiges mentales Modell darüber, wie sich die heutigen wegweisenden KI-Systeme verhalten und woher die nächsten Leistungssprünge voraussichtlich kommen werden.
• Ein klareres Bild der spezifischen Governance-, Rechts- und Reputationsrisiken, die KI für das Unternehmen mit sich bringt.
• Direkter Einblick in das, was die Entwickler dieser Systeme hinter verschlossenen Türen tatsächlich über Risiken sagen.
• Ein klareres Verständnis der regulatorischen Entwicklungstendenzen in den USA, Großbritannien und der EU.
• Das Selbstvertrauen, den internen KI-Teams und externen Anbietern kritischere Fragen zu stellen.