Sandra Wachter

Por qué las organizaciones colaboran con Sandra Wachter

• Su marco de «Explicaciones contrafactuales» —desarrollado conjuntamente en Oxford y adoptado en la práctica por Google, IBM, Microsoft, Accenture y Vodafone— ofrece a las organizaciones un método legalmente defendible para explicar las decisiones algorítmicas a las personas a las que afectan, y no solo a los equipos de auditoría interna.
• Su prueba de sesgo de disparidad demográfica condicional (CDD) demostró que 13 de las 20 herramientas de detección de sesgos más utilizadas incumplen las normas de no discriminación de la UE. Amazon e IBM implementaron la CDD en sus servicios en la nube; se aplicó en 2024 para poner de manifiesto el sesgo sistémico en el sistema educativo nacional neerlandés, lo que dio lugar a una disculpa ministerial y a una reforma formal.
• Trabaja en la intersección precisa entre las normas legales y las métricas técnicas, lo que significa que puede indicar a los equipos de riesgo y cumplimiento no solo lo que exige la rendición de cuentas, sino también cómo medir si los sistemas realmente la cumplen.
• Como miembro del Grupo de Trabajo del Parlamento Europeo sobre Responsabilidad en materia de IA y del Grupo de Trabajo del Banco Mundial sobre Acceso a la Justicia y Tecnología, realiza un seguimiento en tiempo real de cómo se redactan los marcos normativos, lo que permite a las organizaciones conocer los requisitos antes de que se conviertan en obligatorios.
• Su investigación ha cambiado la práctica institucional del NHS y la MHRA, que están revisando las normas de concesión de licencias de productos sanitarios utilizando sus conclusiones sobre las consecuencias no deseadas de las medidas comunes de equidad grupal —un precedente concreto de cómo su trabajo pasa de la publicación a la política—.

Aspectos destacados de su biografía

• Catedrática de Tecnología y Regulación, Oxford Internet Institute, Universidad de Oxford; Catedrática Humboldt de Tecnología y Regulación, Instituto Hasso Plattner
• Dirige el Programa de Investigación sobre Gobernanza de Tecnologías Emergentes (GET) en Oxford
• Codecreadora de las Explicaciones Contrafactuales (actualmente utilizadas por Google, IBM, Microsoft, Accenture y Vodafone) y de la prueba de sesgo de Disparidad Demográfica Condicional (CDD) (implementada por Amazon e IBM; aplicada en la reforma educativa de los Países Bajos, 2024)
• Ha publicado en Science Robotics, Nature Electronics y Nature Reviews Physics; citada más de 20 000 veces (Google Scholar)
• Premio de Investigación de la Fundación Alexander von Humboldt (2025, 3,5 millones de euros); Premio a la Excelencia en Impacto de O2RB (2018, 2021); Premio «Mujeres en la Tecnología del Reino Unido» de Computer Weekly (2021); Premio Académico de Derecho de la Privacidad (2019); Premio CognitionX a la Ética de la IA (2017, 2023)
• Cargos en materia de políticas: Grupo de Trabajo del Parlamento Europeo sobre Responsabilidad en IA; Grupo de Trabajo del Banco Mundial sobre Acceso a la Justicia y Tecnología; Consejo Global de Futuros del FEM sobre Valores, Ética e Innovación; UNESCO; Grupo de Orientación Ética de la Policía del Reino Unido
• Anteriormente, profesora visitante en la Facultad de Derecho de Harvard; investigadora en el Instituto Alan Turing
• Apariciones en medios como Financial Times, Wired, New York Times, BBC, The Guardian, Harvard Business Review, Reuters, Time Magazine y MIT Technology Review

Biografía

Sandra Wachter es profesora de Tecnología y Regulación en el Oxford Internet Institute de la Universidad de Oxford y profesora Humboldt en el Instituto Hasso Plattner. Dirige el Programa de Investigación sobre la Gobernanza de las Tecnologías Emergentes de Oxford, un trabajo que no se sitúa en el ámbito de las aspiraciones éticas, sino en el terreno más complejo de las normas jurídicas y la verificación técnica.

Las herramientas que ha generado su investigación se utilizan a gran escala. El marco de Explicaciones Contrafactuales que co-desarrolló es utilizado en producción por Google, IBM, Microsoft, Accenture y Vodafone. Su prueba de sesgo de Disparidad Demográfica Condicional (CDD) —creada tras demostrar que 13 de las 20 herramientas de detección de sesgos más utilizadas incumplen la legislación de la UE contra la discriminación— fue adoptada por Amazon e IBM en sus servicios en la nube. En 2024, la CDD se utilizó para poner de manifiesto un sesgo sistémico en el sistema educativo nacional neerlandés; el ministro de Educación neerlandés se disculpó e inició una reforma formal. El NHS y la MHRA han revisado sus prácticas de concesión de licencias de dispositivos médicos utilizando sus hallazgos sobre las consecuencias de las medidas de equidad grupal ampliamente aplicadas.

Sus publicaciones aparecen en Science Robotics, Nature Electronics y Nature Reviews Physics, y ha sido citada más de 20 000 veces. Entre los premios que ha recibido se encuentran el Premio de Investigación de la Fundación Alexander von Humboldt (2025, 3,5 millones de euros), el Premio O2RB a la Excelencia en Impacto (2018, 2021), el Premio Privacy Law Scholar (2019) y el Premio CognitionX a la Ética de la IA (2017, 2023). Forma parte del Grupo de Trabajo del Parlamento Europeo sobre Responsabilidad en IA, del Grupo de Trabajo del Banco Mundial sobre Acceso a la Justicia y Tecnología, del Consejo Global de Futuros del Foro Económico Mundial sobre Valores, Ética e Innovación, y del Grupo de Orientación Ética de la Policía del Reino Unido, y anteriormente fue profesora visitante en la Facultad de Derecho de Harvard.

Para los consejos de administración y los responsables de riesgos, su valor más inmediato es de carácter diagnóstico: la brecha entre lo que las organizaciones afirman que logra su gobernanza de la IA y lo que respaldan las pruebas normativas y técnicas es mayor de lo que la mayoría supone. Ha dedicado una década a desarrollar los instrumentos para medir esa brecha con precisión.

Temas clave de sus ponencias

• Gobernanza y regulación de la IA
• Responsabilidad y explicabilidad algorítmica
• Sesgo algorítmico y legislación contra la discriminación
• IA generativa y responsabilidad legal
• La Ley de IA de la UE y el cumplimiento normativo
• Perfilado, análisis inferencial y protección de datos
• Regulación de las plataformas y gobernanza de Internet

Ideal para

• Consejos de administración y equipos de alta dirección que asumen compromisos en materia de adopción y gobernanza de la IA
• Directores de datos y equipos de liderazgo tecnológico que diseñan marcos de rendición de cuentas
• Responsables de los departamentos jurídico, de cumplimiento normativo y de riesgos encargados de las decisiones sobre la implementación de la IA
• Público del sector público y regulador que define las políticas y normas de IA

Resultados para el público

• Una evaluación lúcida de en qué aspectos las prácticas actuales de gobernanza de la IA no cumplen con los estándares legales de la UE y el Reino Unido, y por qué las suposiciones comunes sobre las pruebas de sesgo son insuficientes
• Una base práctica en herramientas legalmente defendibles para la explicabilidad y la medición del sesgo, incluidos los marcos ya adoptados por las principales empresas tecnológicas
• Una visión prospectiva fundamentada sobre cómo la Ley de IA de la UE y los marcos emergentes de responsabilidad en materia de IA afectarán a los requisitos de implementación
• Comprensión de cómo la IA generativa crea nuevas responsabilidades específicas en torno a las alucinaciones, la desinformación y la cuestión jurídica emergente de la veracidad de la IA
• La capacidad de distinguir entre los compromisos de rendición de cuentas declarados y una gobernanza capaz de resistir el escrutinio externo