Sandra Wachter

Hvorfor virksomheder samarbejder med Sandra Wachter

• Hendes rammeværk for kontrafaktiske forklaringer – udviklet i samarbejde med Oxford og taget i brug af Google, IBM, Microsoft, Accenture og Vodafone – giver organisationer en juridisk forsvarlig metode til at forklare algoritmiske beslutninger over for de personer, de berører, og ikke kun over for interne revisionsteams.
• Hendes CDD-bias-test (Conditional Demographic Disparity) viste, at 13 ud af 20 udbredte værktøjer til påvisning af bias ikke overholder EU's standarder for ikke-diskrimination. Amazon og IBM implementerede CDD i deres cloud-tjenester; det blev taget i brug i 2024 for at afsløre systemisk bias i det hollandske nationale uddannelsessystem, hvilket resulterede i en undskyldning fra ministeriet og en formel reform.
• Hun arbejder i det præcise krydsfelt mellem juridiske standarder og tekniske måleparametre – hvilket betyder, at hun kan fortælle risiko- og compliance-teams ikke kun, hvad ansvarlighed kræver, men også hvordan man måler, om systemerne rent faktisk leverer det.
• Som medlem af Europa-Parlamentets arbejdsgruppe om AI-ansvar og Verdensbankens taskforce om adgang til retfærdighed og teknologi følger hun med i, hvordan lovgivningsmæssige rammer udformes i realtid, hvilket giver organisationer indsigt i kravene, før de bliver obligatoriske.
• Hendes forskning har ændret den institutionelle praksis hos NHS og MHRA, som er i gang med at revidere standarderne for godkendelse af medicinsk udstyr ved hjælp af hendes resultater om de utilsigtede konsekvenser af almindelige foranstaltninger til sikring af retfærdighed i grupper – et konkret eksempel på, hvordan hendes arbejde bevæger sig fra publikation til politik.

Højdepunkter i biografien

• Professor i teknologi og regulering, Oxford Internet Institute, University of Oxford; Humboldt-professor i teknologi og regulering, Hasso Plattner Institute
• Leder af forskningsprogrammet Governance of Emerging Technologies (GET) ved Oxford
• Medudvikler af Counterfactual Explanations (nu anvendt af Google, IBM, Microsoft, Accenture og Vodafone) og Conditional Demographic Disparity (CDD)-bias-testen (implementeret af Amazon og IBM; anvendt i den nederlandske uddannelsesreform, 2024)
• Udgivet i Science Robotics, Nature Electronics og Nature Reviews Physics; citeret over 20.000 gange (Google Scholar)
• Alexander von Humboldt Foundation Research Award (2025, 3,5 mio. €); O2RB Excellence in Impact Award (2018, 2021); Computer Weekly Women in UK Tech Award (2021); Privacy Law Scholar Award (2019); CognitionX AI Ethics Award (2017, 2023)
• Politiske roller: Europa-Parlamentets arbejdsgruppe om AI-ansvar; Verdensbankens taskforce om adgang til retfærdighed og teknologi; WEF Global Futures Council on Values, Ethics and Innovation; UNESCO; UK Police Ethics Guidance Group
• Tidligere gæsteprofessor, Harvard Law School; forskningsstipendiat, The Alan Turing Institute
• Medieomtale i Financial Times, Wired, New York Times, BBC, Guardian, Harvard Business Review, Reuters, Time Magazine og MIT Technology Review

Biografi

Sandra Wachter er professor i teknologi og regulering ved Oxford Internet Institute ved Oxford University og Humboldt-professor ved Hasso Plattner Institute. Hun leder Oxfords forskningsprogram om styring af nye teknologier – et arbejde, der ikke befinder sig i det etiske aspirationsrum, men i det sværere terræn med juridiske standarder og teknisk verifikation.

De værktøjer, hendes forskning har frembragt, er i brug i stor skala. Den ramme for kontrafaktiske forklaringer, hun har været med til at udvikle, anvendes i produktionen hos Google, IBM, Microsoft, Accenture og Vodafone. Hendes bias-test Conditional Demographic Disparity (CDD) – udviklet efter at have påvist, at 13 ud af 20 almindeligt anvendte bias-værktøjer ikke overholder EU's lovgivning om ikke-diskrimination – blev indført af Amazon og IBM i deres cloud-tjenester. I 2024 blev CDD brugt til at afsløre systemisk bias i det hollandske nationale uddannelsessystem; den hollandske undervisningsminister undskyldte og iværksatte en formel reform. NHS og MHRA har revideret deres praksis for godkendelse af medicinsk udstyr ved hjælp af hendes fund om konsekvenserne af bredt anvendte foranstaltninger for gruppe-retfærdighed.
Hendes publikationer er udkommet i Science Robotics, Nature Electronics og Nature Reviews Physics, og hun er blevet citeret over 20.000 gange. Hendes priser omfatter Alexander von Humboldt Foundation Research Award (2025, 3,5 mio. euro), O2RB Excellence in Impact Award (2018, 2021), Privacy Law Scholar Award (2019) og CognitionX AI Ethics Award (2017, 2023). Hun er medlem af Europa-Parlamentets arbejdsgruppe om AI-ansvar, Verdensbankens taskforce om adgang til retfærdighed og teknologi, WEF Global Futures Council on Values, Ethics and Innovation samt UK Police Ethics Guidance Group, og hun har tidligere været gæsteprofessor ved Harvard Law School.

For bestyrelser og risikoledere er hendes umiddelbare værdi diagnostisk: kløften mellem det, organisationer siger, at deres AI-styring opnår, og det, som de lovgivningsmæssige og tekniske beviser understøtter, er større, end de fleste antager. Hun har brugt et årti på at udvikle værktøjer til præcist at måle denne kløft.

Vigtigste foredragstemaer

• AI-governance og regulering
• Algoritmisk ansvarlighed og forklarbarhed
• Algoritmisk bias og lovgivning om ikke-diskrimination
• Generativ AI og juridisk ansvar
• EU's AI-lov og overholdelse af lovgivningen
• Profilering, inferentiel analyse og databeskyttelse
• Platformregulering og internetforvaltning

Ideel for

• Bestyrelser og ledelsesteam, der indgår forpligtelser vedrørende implementering og styring af AI
• Chief Data Officers og teknologiledelsesteam, der udarbejder rammer for ansvarlighed
• Ledere inden for jura, compliance og risiko, der er ansvarlige for beslutninger om implementering af AI
• Offentlige og regulerende instanser, der udformer AI-politik og -standarder

Resultater for målgruppen

• En klar vurdering af, hvor de nuværende AI-styringspraksisser ikke lever op til EU's og Storbritanniens juridiske standarder – og hvorfor almindelige antagelser om bias-testning er utilstrækkelige
• Praktisk grundlag i juridisk forsvarbare værktøjer til forklarbarhed og måling af bias, herunder rammer, der allerede er vedtaget af store teknologivirksomheder
• Et velinformeret indblik i, hvordan EU's AI-lov og nye rammer for AI-ansvar vil påvirke kravene til implementering
• Forståelse af, hvordan generativ AI skaber specifikke nye ansvarsforhold omkring hallucinationer, misinformation og det nye juridiske spørgsmål om AI's troværdighed
• Evnen til at skelne mellem erklærede forpligtelser om ansvarlighed og styring, der kan modstå ekstern kontrol