Sandra Wachter

Pourquoi les entreprises font appel à Sandra Wachter

• Son cadre d’explications contrefactuelles – développé conjointement à Oxford et adopté en production par Google, IBM, Microsoft, Accenture et Vodafone – offre aux organisations une méthode juridiquement défendable pour expliquer les décisions algorithmiques aux personnes concernées, et pas seulement aux équipes d’audit interne.
• Son test de biais « Conditional Demographic Disparity » (CDD) a démontré que 13 des 20 outils de détection de biais les plus utilisés ne respectaient pas les normes européennes en matière de non-discrimination. Amazon et IBM ont intégré le CDD dans leurs services cloud ; il a été déployé en 2024 pour mettre en évidence des biais systémiques dans le système éducatif national néerlandais, ce qui a conduit à des excuses ministérielles et à une réforme officielle.
• Elle travaille à la croisée précise des normes juridiques et des indicateurs techniques, ce qui lui permet d'indiquer aux équipes chargées des risques et de la conformité non seulement ce qu'exige la responsabilité, mais aussi comment mesurer si les systèmes la garantissent réellement.
• En tant que membre du groupe de travail du Parlement européen sur la responsabilité en matière d'IA et du groupe de travail de la Banque mondiale sur l'accès à la justice et à la technologie, elle suit en temps réel l'élaboration des cadres réglementaires, offrant ainsi aux organisations une visibilité sur les exigences avant qu'elles ne deviennent obligatoires.
• Ses recherches ont modifié les pratiques institutionnelles au sein du NHS et de la MHRA, qui révisent actuellement les normes d'autorisation des dispositifs médicaux en s'appuyant sur ses conclusions concernant les conséquences imprévues des mesures courantes d'équité de groupe – un précédent concret illustrant comment son travail passe de la publication à la politique.

Faits marquants de sa biographie

• Professeure de technologie et de réglementation, Oxford Internet Institute, Université d'Oxford ; professeure Humboldt de technologie et de réglementation, Institut Hasso Plattner
• Dirige le programme de recherche « Governance of Emerging Technologies » (GET) à Oxford
• Co-développeur des « Counterfactual Explanations » (désormais déployées par Google, IBM, Microsoft, Accenture et Vodafone) et du test de biais « Conditional Demographic Disparity » (CDD) (mis en œuvre par Amazon et IBM ; appliqué dans la réforme de l'éducation aux Pays-Bas, 2024)
• A publié dans Science Robotics, Nature Electronics et Nature Reviews Physics ; citée plus de 20 000 fois (Google Scholar)
• Prix de recherche de la Fondation Alexander von Humboldt (2025, 3,5 millions d'euros) ; Prix O2RB Excellence in Impact (2018, 2021) ; Prix Computer Weekly Women in UK Tech (2021) ; Prix Privacy Law Scholar (2019) ; Prix CognitionX AI Ethics (2017, 2023)
• Rôles politiques : Groupe de travail du Parlement européen sur la responsabilité en matière d'IA ; Groupe de travail de la Banque mondiale sur l'accès à la justice et la technologie ; Conseil mondial sur l'avenir du Forum économique mondial (WEF) consacré aux valeurs, à l'éthique et à l'innovation ; UNESCO ; Groupe de conseil sur l'éthique de la police britannique
• Anciennement professeure invitée à la Harvard Law School ; chercheuse à l'Alan Turing Institute
• Présence dans les médias : Financial Times, Wired, New York Times, BBC, Guardian, Harvard Business Review, Reuters, Time Magazine et MIT Technology Review

Biographie

Sandra Wachter est professeure de technologie et de réglementation à l'Oxford Internet Institute de l'université d'Oxford et professeure Humboldt à l'Institut Hasso Plattner. Elle dirige le programme de recherche sur la gouvernance des technologies émergentes à Oxford, un travail qui ne relève pas du domaine des aspirations éthiques, mais de celui, plus complexe, des normes juridiques et de la vérification technique.

Les outils issus de ses recherches sont utilisés à grande échelle. Le cadre « Counterfactual Explanations » qu’elle a co-développé est déployé en production par Google, IBM, Microsoft, Accenture et Vodafone. Son test de biais « Conditional Demographic Disparity » (CDD) – mis au point après avoir démontré que 13 des 20 outils de détection de biais couramment utilisés enfreignaient la législation européenne en matière de non-discrimination – a été adopté par Amazon et IBM dans leurs services cloud. En 2024, le CDD a été utilisé pour mettre en évidence un biais systémique dans le système éducatif national néerlandais ; le ministre néerlandais de l'Éducation a présenté ses excuses et lancé une réforme officielle. Le NHS et la MHRA ont révisé leurs pratiques d'autorisation des dispositifs médicaux en s'appuyant sur ses conclusions concernant les conséquences des mesures d'équité collective largement appliquées.

Ses publications paraissent dans Science Robotics, Nature Electronics et Nature Reviews Physics, et elle a été citée plus de 20 000 fois. Elle a notamment reçu le prix de recherche de la Fondation Alexander von Humboldt (2025, 3,5 millions d'euros), le prix O2RB Excellence in Impact (2018, 2021), le prix Privacy Law Scholar (2019) et le prix CognitionX AI Ethics (2017, 2023). Elle siège au groupe de travail du Parlement européen sur la responsabilité en matière d'IA, au groupe de travail de la Banque mondiale sur l'accès à la justice et à la technologie, au Global Futures Council on Values, Ethics and Innovation du Forum économique mondial et au groupe de conseil en éthique de la police britannique. Elle a auparavant été professeure invitée à la Harvard Law School.

Pour les conseils d'administration et les responsables de la gestion des risques, sa valeur ajoutée la plus immédiate réside dans son diagnostic : l'écart entre ce que les organisations affirment que leur gouvernance de l'IA permet d'accomplir et ce que les preuves réglementaires et techniques démontrent est plus important que la plupart ne le supposent. Elle a passé une décennie à mettre au point les outils permettant de mesurer cet écart avec précision.

Principaux thèmes d'intervention

• Gouvernance et réglementation de l'IA
• Responsabilité et explicabilité algorithmiques
• Biais algorithmiques et législation anti-discrimination
• IA générative et responsabilité juridique
• La loi européenne sur l'IA et la conformité réglementaire
• Profilage, analyse inférentielle et protection des données
• Réglementation des plateformes et gouvernance de l'Internet

Idéal pour

• les conseils d'administration et les équipes de direction qui s'engagent en faveur de l'adoption et de la gouvernance de l'IA
• Les responsables des données et les équipes de direction technologique chargés de concevoir des cadres de responsabilité
• Les responsables juridiques, de la conformité et des risques chargés des décisions relatives au déploiement de l'IA
• Les acteurs du secteur public et des organismes de réglementation qui définissent les politiques et les normes en matière d'IA

Résultats attendus

• Une évaluation lucide des lacunes des pratiques actuelles de gouvernance de l'IA par rapport aux normes juridiques de l'UE et du Royaume-Uni – et des raisons pour lesquelles les hypothèses courantes concernant les tests de biais sont insuffisantes
• Une base pratique d'outils juridiquement défendables pour l'explicabilité et la mesure des biais, y compris les cadres déjà adoptés par les grandes entreprises technologiques
• Une vision éclairée de la manière dont la loi européenne sur l'IA et les nouveaux cadres de responsabilité en matière d'IA vont influencer les exigences de déploiement
• Une compréhension de la manière dont l'IA générative crée de nouvelles responsabilités spécifiques liées aux hallucinations, à la désinformation et à la question juridique émergente de la véracité de l'IA
• La capacité de distinguer les engagements déclarés en matière de responsabilité d'une gouvernance capable de résister à un examen externe