Sandra Wachter

Por que razão as organizações trabalham com Sandra Wachter

• O seu quadro de Explicações Contrafactuais — desenvolvido em conjunto na Universidade de Oxford e adotado em produção pela Google, IBM, Microsoft, Accenture e Vodafone — oferece às organizações um método juridicamente defensável para explicar decisões algorítmicas às pessoas afetadas, e não apenas às equipas de auditoria interna.
• O seu teste de viés de Disparidade Demográfica Condicional (CDD) demonstrou que 13 das 20 ferramentas de deteção de viés mais utilizadas não cumprem as normas de não discriminação da UE. A Amazon e a IBM implementaram o CDD nos seus serviços na nuvem; este foi utilizado em 2024 para expor um viés sistémico no sistema educativo nacional holandês, o que resultou num pedido de desculpas do ministro e numa reforma formal.
• Trabalha na intersecção exata entre normas jurídicas e métricas técnicas — o que significa que pode indicar às equipas de risco e conformidade não só o que a responsabilização exige, mas também como avaliar se os sistemas realmente a cumprem.
• Como membro do Grupo de Trabalho do Parlamento Europeu sobre Responsabilidade pela IA e da Força-Tarefa do Banco Mundial sobre Acesso à Justiça e Tecnologia, acompanha em tempo real a elaboração dos quadros regulamentares, proporcionando às organizações visibilidade sobre os requisitos antes de estes se tornarem obrigatórios.
• A sua investigação alterou as práticas institucionais do NHS e da MHRA, que estão a rever as normas de licenciamento de dispositivos médicos utilizando as suas conclusões sobre as consequências indesejadas de medidas comuns de equidade de grupo — um precedente concreto de como o seu trabalho passa da publicação à política.

Destaques da biografia

• Professora de Tecnologia e Regulamentação, Oxford Internet Institute, Universidade de Oxford; Professora Humboldt de Tecnologia e Regulamentação, Instituto Hasso Plattner
• Lidera o Programa de Investigação sobre a Governação das Tecnologias Emergentes (GET) em Oxford
• Co-desenvolvedora das Explicações Contrafactuais (agora implementadas pela Google, IBM, Microsoft, Accenture e Vodafone) e do teste de viés de Disparidade Demográfica Condicional (CDD) (implementado pela Amazon e IBM; aplicado na reforma da educação dos Países Baixos, 2024)
• Publicou na Science Robotics, Nature Electronics e Nature Reviews Physics; citada mais de 20 000 vezes (Google Scholar)
• Prémio de Investigação da Fundação Alexander von Humboldt (2025, 3,5 milhões de euros); Prémio O2RB de Excelência em Impacto (2018, 2021); Prémio Computer Weekly Women in UK Tech (2021); Prémio Privacy Law Scholar (2019); Prémio CognitionX de Ética em IA (2017, 2023)
• Funções políticas: Grupo de Trabalho do Parlamento Europeu sobre Responsabilidade em IA; Grupo de Trabalho do Banco Mundial sobre Acesso à Justiça e Tecnologia; Conselho Global do Futuro do Fórum Económico Mundial sobre Valores, Ética e Inovação; UNESCO; Grupo de Orientação Ética da Polícia do Reino Unido
• Anteriormente, Professora Visitante na Faculdade de Direito de Harvard; Investigadora no Instituto Alan Turing
• Perfis na imprensa: Financial Times, Wired, New York Times, BBC, Guardian, Harvard Business Review, Reuters, Time Magazine e MIT Technology Review

Biografia

Sandra Wachter é professora de Tecnologia e Regulamentação no Oxford Internet Institute da Universidade de Oxford e professora Humboldt no Instituto Hasso Plattner. Ela lidera o Programa de Investigação sobre a Governação das Tecnologias Emergentes de Oxford — um trabalho que não se insere no âmbito das aspirações éticas, mas sim no território mais complexo das normas jurídicas e da verificação técnica.

As ferramentas resultantes da sua investigação estão a ser utilizadas em grande escala. O quadro de Explicações Contrafactuais que co-desenvolveu é implementado em produção pela Google, IBM, Microsoft, Accenture e Vodafone. O seu teste de viés de Disparidade Demográfica Condicional (CDD) — criado após ter demonstrado que 13 das 20 ferramentas de viés mais utilizadas não cumprem a legislação da UE em matéria de não discriminação — foi adotado pela Amazon e pela IBM nos seus serviços na nuvem. Em 2024, o CDD foi utilizado para expor o viés sistémico no sistema educativo nacional holandês; o Ministro da Educação holandês pediu desculpa e iniciou uma reforma formal. O NHS e a MHRA revisaram as suas práticas de licenciamento de dispositivos médicos utilizando as suas conclusões sobre as consequências de medidas de equidade de grupo amplamente aplicadas.

As suas publicações aparecem na Science Robotics, Nature Electronics e Nature Reviews Physics, e já foi citada mais de 20 000 vezes. Os prémios incluem o Prémio de Investigação da Fundação Alexander von Humboldt (2025, 3,5 milhões de euros), o Prémio O2RB de Excelência em Impacto (2018, 2021), o Prémio de Investigadora em Direito da Privacidade (2019) e o Prémio CognitionX de Ética em IA (2017, 2023). Faz parte do Grupo de Trabalho do Parlamento Europeu sobre Responsabilidade em IA, da Força-Tarefa do Banco Mundial sobre Acesso à Justiça e Tecnologia, do Conselho Global do Futuro do Fórum Económico Mundial sobre Valores, Ética e Inovação e do Grupo de Orientação Ética da Polícia do Reino Unido, tendo sido anteriormente Professora Visitante na Faculdade de Direito de Harvard.

Para conselhos de administração e líderes de risco, o seu valor mais imediato é de natureza diagnóstica: a discrepância entre o que as organizações afirmam que a sua governação da IA alcança e o que as evidências regulatórias e técnicas comprovam é maior do que a maioria supõe. Ela passou uma década a desenvolver os instrumentos para medir essa discrepância com precisão.

Principais temas de palestras

• Governança e regulamentação da IA
• Responsabilidade e explicabilidade algorítmica
• Viés algorítmico e legislação antidiscriminação
• IA generativa e responsabilidade legal
• A Lei da IA da UE e a conformidade regulamentar
• Perfilagem, análise inferencial e proteção de dados
• Regulamentação das plataformas e governação da Internet

Ideal para

• Conselhos de administração e equipas de direção que assumem compromissos de adoção e governação da IA
• Diretores de dados e equipas de liderança tecnológica que concebem estruturas de responsabilização
• Líderes jurídicos, de conformidade e de risco responsáveis pelas decisões de implementação da IA
• Público do setor público e regulador que define políticas e normas de IA

Resultados para o público

• Uma avaliação lúcida das lacunas das atuais práticas de governança de IA em relação aos padrões legais da UE e do Reino Unido — e por que as suposições comuns sobre testes de viés são insuficientes
• Bases práticas em ferramentas juridicamente defensáveis para a explicabilidade e a medição de preconceitos, incluindo estruturas já adotadas pelas principais empresas de tecnologia
• Visão informada sobre como a Lei da IA da UE e os quadros emergentes de responsabilidade em matéria de IA irão afetar os requisitos de implementação
• Compreensão de como a IA generativa cria novas responsabilidades específicas em torno da alucinação, da desinformação e da questão jurídica emergente da veracidade da IA
• A capacidade de distinguir entre compromissos declarados de responsabilização e uma governação capaz de resistir ao escrutínio externo