Sandra Wachter

Warum Unternehmen mit Sandra Wachter zusammenarbeiten

• Ihr Rahmenwerk für kontrafaktische Erklärungen – gemeinsam an der Universität Oxford entwickelt und von Google, IBM, Microsoft, Accenture und Vodafone in der Praxis eingesetzt – bietet Unternehmen eine rechtlich haltbare Methode, um algorithmische Entscheidungen den betroffenen Personen zu erklären, nicht nur internen Prüfungsteams.
• Ihr Bias-Test „Conditional Demographic Disparity“ (CDD) hat gezeigt, dass 13 von 20 weit verbreiteten Tools zur Bias-Erkennung die EU-Standards zur Nichtdiskriminierung nicht erfüllen. Amazon und IBM haben CDD in ihren Cloud-Diensten implementiert; 2024 wurde es eingesetzt, um systemische Vorurteile im niederländischen Bildungssystem aufzudecken, was zu einer Entschuldigung des Ministeriums und einer formellen Reform führte.
• Sie arbeitet genau an der Schnittstelle zwischen rechtlichen Standards und technischen Kennzahlen – das bedeutet, dass sie Risiko- und Compliance-Teams nicht nur sagen kann, was die Rechenschaftspflicht erfordert, sondern auch, wie gemessen werden kann, ob Systeme diese tatsächlich erfüllen.
• Als Mitglied der Arbeitsgruppe des Europäischen Parlaments zu KI-Haftung und der Task Force der Weltbank zu Zugang zur Justiz und Technologie verfolgt sie in Echtzeit, wie regulatorische Rahmenbedingungen ausgearbeitet werden, und verschafft Organisationen so Einblick in Anforderungen, bevor diese verbindlich werden.
• Ihre Forschung hat die institutionelle Praxis beim NHS und der MHRA verändert, die derzeit die Zulassungsstandards für Medizinprodukte überarbeiten und dabei ihre Erkenntnisse über die unbeabsichtigten Folgen gängiger Maßnahmen zur Gruppenfairness nutzen – ein konkreter Präzedenzfall dafür, wie ihre Arbeit von der Veröffentlichung in die Politik einfließt.

Biografische Höhepunkte

• Professorin für Technologie und Regulierung, Oxford Internet Institute, Universität Oxford; Humboldt-Professorin für Technologie und Regulierung, Hasso-Plattner-Institut
• Leitet das Forschungsprogramm „Governance of Emerging Technologies“ (GET) in Oxford
• Mitentwicklerin von „Counterfactual Explanations“ (mittlerweile von Google, IBM, Microsoft, Accenture und Vodafone eingesetzt) und des „Conditional Demographic Disparity“ (CDD)-Bias-Tests (implementiert von Amazon und IBM; angewendet bei der niederländischen Bildungsreform 2024)
• Veröffentlichungen in Science Robotics, Nature Electronics und Nature Reviews Physics; über 20.000 Zitate (Google Scholar)
• Forschungspreis der Alexander-von-Humboldt-Stiftung (2025, 3,5 Mio. €); O2RB Excellence in Impact Award (2018, 2021); Computer Weekly Women in UK Tech Award (2021); Privacy Law Scholar Award (2019); CognitionX AI Ethics Award (2017, 2023)
• Politische Funktionen: Arbeitsgruppe des Europäischen Parlaments zu Haftung im Bereich KI; Task Force der Weltbank zu Zugang zur Justiz und Technologie; WEF Global Futures Council zu Werten, Ethik und Innovation; UNESCO; UK Police Ethics Guidance Group
• Zuvor Gastprofessorin an der Harvard Law School; Forschungsstipendiatin am Alan Turing Institute
• Medienberichte in der Financial Times, Wired, New York Times, BBC, Guardian, Harvard Business Review, Reuters, Time Magazine und MIT Technology Review

Biografie

Sandra Wachter ist Professorin für Technologie und Regulierung am Oxford Internet Institute der Universität Oxford und Humboldt-Professorin am Hasso-Plattner-Institut. Sie leitet das Forschungsprogramm „Governance of Emerging Technologies“ in Oxford – eine Arbeit, die nicht im Bereich ethischer Bestrebungen angesiedelt ist, sondern im schwierigeren Terrain rechtlicher Standards und technischer Verifizierung.

Die aus ihrer Forschung hervorgegangenen Instrumente werden in großem Umfang eingesetzt. Das von ihr mitentwickelte „Counterfactual Explanations“-Framework wird von Google, IBM, Microsoft, Accenture und Vodafone produktiv genutzt. Ihr Bias-Test „Conditional Demographic Disparity“ (CDD) – entwickelt, nachdem sie nachgewiesen hatte, dass 13 von 20 gängigen Bias-Tools gegen das EU-Diskriminierungsverbot verstoßen – wurde von Amazon und IBM in ihren Cloud-Diensten übernommen. Im Jahr 2024 wurde CDD genutzt, um systemische Verzerrungen im niederländischen Bildungssystem aufzudecken; der niederländische Bildungsminister entschuldigte sich und leitete formelle Reformen ein. Der NHS und die MHRA haben ihre Zulassungsverfahren für Medizinprodukte unter Verwendung ihrer Erkenntnisse über die Folgen weit verbreiteter Maßnahmen zur Gruppenfairness überarbeitet.

Ihre Veröffentlichungen erscheinen in Science Robotics, Nature Electronics und Nature Reviews Physics, und sie wurde über 20.000 Mal zitiert. Zu ihren Auszeichnungen zählen der Forschungspreis der Alexander-von-Humboldt-Stiftung (2025, 3,5 Mio. €), der O2RB Excellence in Impact Award (2018, 2021), der Privacy Law Scholar Award (2019) und der CognitionX AI Ethics Award (2017, 2023). Sie ist Mitglied der Arbeitsgruppe des Europäischen Parlaments zu KI-Haftung, der Task Force der Weltbank für Zugang zur Justiz und Technologie, des WEF Global Futures Council für Werte, Ethik und Innovation sowie der britischen Police Ethics Guidance Group und war zuvor Gastprofessorin an der Harvard Law School.

Für Vorstände und Risikoverantwortliche liegt ihr unmittelbarster Mehrwert in der Diagnose: Die Kluft zwischen dem, was Organisationen über die Erfolge ihrer KI-Governance sagen, und dem, was regulatorische und technische Belege stützen, ist größer, als die meisten annehmen. Sie hat ein Jahrzehnt damit verbracht, Instrumente zu entwickeln, um diese Kluft präzise zu messen.

Wichtige Vortragsthemen

• KI-Governance und Regulierung
• Algorithmische Rechenschaftspflicht und Erklärbarkeit
• Algorithmische Voreingenommenheit und Antidiskriminierungsrecht
• Generative KI und rechtliche Haftung
• Das EU-KI-Gesetz und die Einhaltung gesetzlicher Vorschriften
• Profiling, inferentielle Analytik und Datenschutz
• Plattformregulierung und Internet-Governance

Ideal für

• Vorstände und Führungsteams, die Verpflichtungen zur Einführung und Steuerung von KI eingehen
• Chief Data Officers und Technologie-Führungsteams, die Rahmenwerke zur Rechenschaftspflicht entwerfen
• Leiter der Rechts-, Compliance- und Risikobereiche, die für Entscheidungen zum KI-Einsatz verantwortlich sind
• Zielgruppen aus dem öffentlichen Sektor und der Regulierungsbehörde, die KI-Richtlinien und -Standards gestalten

Ergebnisse für die Zielgruppe

• Eine klare Einschätzung, inwiefern aktuelle KI-Governance-Praktiken hinter den Rechtsstandards der EU und des Vereinigten Königreichs zurückbleiben – und warum gängige Annahmen zu Bias-Tests unzureichend sind
• Praktische Grundlagen für rechtlich vertretbare Instrumente zur Erklärbarkeit und Bias-Messung, einschließlich bereits von großen Technologieunternehmen übernommener Rahmenwerke
• Fundierte Einblicke in die Auswirkungen des EU-KI-Gesetzes und neuer Haftungsrahmen für KI auf die Anforderungen an den Einsatz
• Verständnis dafür, wie generative KI spezifische neue Haftungsrisiken im Zusammenhang mit Halluzinationen, Fehlinformationen und der sich abzeichnenden rechtlichen Frage der Wahrhaftigkeit von KI schafft
• Die Fähigkeit, zwischen erklärten Verpflichtungen zur Rechenschaftspflicht und einer Governance zu unterscheiden, die einer externen Überprüfung standhält