Sandra Wachter

Varför organisationer samarbetar med Sandra Wachter

• Hennes ramverk för kontrafaktiska förklaringar – som utvecklats i samarbete med Oxford och tagits i bruk av Google, IBM, Microsoft, Accenture och Vodafone – ger organisationer en juridiskt hållbar metod för att förklara algoritmiska beslut för de individer som påverkas, inte bara för interna revisionsgrupper.
• Hennes test för betingad demografisk ojämlikhet (CDD) visade att 13 av 20 vanligt förekommande verktyg för att upptäcka partiskhet inte uppfyller EU:s standarder för icke-diskriminering. Amazon och IBM implementerade CDD i sina molntjänster; det användes 2024 för att avslöja systematisk partiskhet i det nederländska utbildningssystemet, vilket resulterade i en ursäkt från ministeriet och en formell reform.
• Hon arbetar i skärningspunkten mellan rättsliga standarder och tekniska mått – vilket innebär att hon kan berätta för risk- och efterlevnadsteam inte bara vad ansvarsskyldighet kräver, utan också hur man mäter om systemen faktiskt levererar det.
• Som medlem i Europaparlamentets arbetsgrupp för AI-ansvar och Världsbankens arbetsgrupp för tillgång till rättvisa och teknik följer hon i realtid hur regelverk utformas, vilket ger organisationer insyn i kraven innan de blir obligatoriska.
• Hennes forskning har förändrat den institutionella praxisen inom NHS och MHRA, som håller på att revidera licensieringsstandarderna för medicintekniska produkter med hjälp av hennes slutsatser om de oavsiktliga konsekvenserna av vanliga mått på grupprättvisa – ett konkret exempel på hur hennes arbete går från publikation till politik.

Biografiska höjdpunkter

• Professor i teknik och reglering, Oxford Internet Institute, University of Oxford; Humboldt-professor i teknik och reglering, Hasso Plattner Institute
• Leder forskningsprogrammet Governance of Emerging Technologies (GET) vid Oxford
• Medutvecklare av Counterfactual Explanations (nu använt av Google, IBM, Microsoft, Accenture och Vodafone) och bias-testet Conditional Demographic Disparity (CDD) (implementerat av Amazon och IBM; tillämpat i den nederländska utbildningsreformen, 2024)
• Publicerad i Science Robotics, Nature Electronics och Nature Reviews Physics; citerad över 20 000 gånger (Google Scholar)
• Alexander von Humboldt-stiftelsens forskningspris (2025, 3,5 miljoner euro); O2RB Excellence in Impact Award (2018, 2021); Computer Weekly Women in UK Tech Award (2021); Privacy Law Scholar Award (2019); CognitionX AI Ethics Award (2017, 2023)
• Politiska roller: Europaparlamentets arbetsgrupp för AI-ansvar; Världsbankens arbetsgrupp för tillgång till rättvisa och teknik; WEF Global Futures Council on Values, Ethics and Innovation; UNESCO; UK Police Ethics Guidance Group
• Tidigare gästprofessor, Harvard Law School; forskningsstipendiat, The Alan Turing Institute
• Medieuppträdanden i Financial Times, Wired, New York Times, BBC, Guardian, Harvard Business Review, Reuters, Time Magazine och MIT Technology Review

Biografi

Sandra Wachter är professor i teknik och reglering vid Oxford Internet Institute vid Oxfords universitet och Humboldt-professor vid Hasso Plattner Institute. Hon leder Oxfords forskningsprogram Governance of Emerging Technologies – ett arbete som inte rör etiska ambitioner utan det svårare området juridiska standarder och teknisk verifiering.

De verktyg som hennes forskning har resulterat i används i stor skala. Ramverket Counterfactual Explanations, som hon varit med och utvecklat, används i produktion av Google, IBM, Microsoft, Accenture och Vodafone. Hennes test för partiskhet, Conditional Demographic Disparity (CDD) – som skapades efter att hon visat att 13 av 20 vanliga verktyg för att upptäcka partiskhet inte uppfyller EU:s lagstiftning om icke-diskriminering – har antagits av Amazon och IBM i deras molntjänster. År 2024 användes CDD för att avslöja systematisk bias i det nederländska utbildningssystemet; den nederländska utbildningsministern bad om ursäkt och inledde en formell reform. NHS och MHRA har reviderat sina rutiner för godkännande av medicintekniska produkter med hjälp av hennes resultat om konsekvenserna av allmänt tillämpade åtgärder för grupprättvisa.

Hennes publikationer har publicerats i Science Robotics, Nature Electronics och Nature Reviews Physics, och hon har citerats över 20 000 gånger. Bland utmärkelserna märks Alexander von Humboldt-stiftelsens forskningspris (2025, 3,5 miljoner euro), O2RB Excellence in Impact Award (2018, 2021), Privacy Law Scholar Award (2019) och CognitionX AI Ethics Award (2017, 2023). Hon är medlem i Europaparlamentets arbetsgrupp för AI-ansvar, Världsbankens arbetsgrupp för tillgång till rättvisa och teknik, WEF:s Global Futures Council on Values, Ethics and Innovation samt UK Police Ethics Guidance Group, och var tidigare gästprofessor vid Harvard Law School.

För styrelser och riskledare är hennes mest omedelbara värde diagnostiskt: klyftan mellan vad organisationer säger att deras AI-styrning uppnår och vad de regulatoriska och tekniska bevisen stöder är större än de flesta antar. Hon har ägnat ett decennium åt att utveckla verktyg för att mäta denna klyfta exakt.

Viktiga föreläsningsämnen

• AI-styrning och reglering
• Algoritmisk ansvarsskyldighet och förklarbarhet
• Algoritmisk partiskhet och lagstiftning om icke-diskriminering
• Generativ AI och rättsligt ansvar
• EU:s AI-lag och efterlevnad av regelverk
• Profilering, inferentiell analys och dataskydd
• Plattformsreglering och internetstyrning

Perfekt för

• Styrelser och ledningsgrupper som fattar beslut om införande och styrning av AI
• Chief Data Officers och tekniska ledningsgrupper som utformar ramverk för ansvarsskyldighet
• Chefer inom juridik, regelefterlevnad och riskhantering som ansvarar för beslut om AI-implementering
• Målgrupper inom offentlig sektor och tillsynsmyndigheter som utformar AI-policyer och standarder

Resultat för målgruppen

• En klarsynt bedömning av i vilka avseenden nuvarande praxis för AI-styrning inte uppfyller EU:s och Storbritanniens rättsliga standarder – och varför vanliga antaganden om testning av partiskhet är otillräckliga
• Praktisk grund i juridiskt hållbara verktyg för förklarbarhet och mätning av partiskhet, inklusive ramverk som redan antagits av stora teknikföretag
• Välgrundad insikt i hur EU:s AI-lag och nya ramverk för AI-ansvar kommer att påverka kraven för implementering
• Förståelse för hur generativ AI skapar specifika nya ansvarsfrågor kring hallucinationer, felaktig information och den framväxande juridiska frågan om AI:s sanningsenlighet
• Förmågan att skilja mellan uttalade åtaganden om ansvarsskyldighet och styrning som tål extern granskning