Sandra Wachter

Perché le organizzazioni collaborano con Sandra Wachter

• Il suo modello di spiegazioni controfattuali (Counterfactual Explanations), sviluppato in collaborazione con l'Università di Oxford e adottato da Google, IBM, Microsoft, Accenture e Vodafone, offre alle organizzazioni un metodo giuridicamente sostenibile per spiegare le decisioni algoritmiche alle persone interessate, non solo ai team di audit interni.
• Il suo test di bias Conditional Demographic Disparity (CDD) ha dimostrato che 13 dei 20 strumenti di rilevamento del bias più diffusi non rispettano gli standard antidiscriminatori dell'UE. Amazon e IBM hanno implementato il CDD nei loro servizi cloud; nel 2024 è stato utilizzato per smascherare un bias sistemico nel sistema educativo nazionale olandese, portando a scuse ministeriali e a una riforma formale.
• Lavora proprio all'intersezione tra standard legali e metriche tecniche: ciò significa che può indicare ai team di rischio e conformità non solo cosa richiede la responsabilità, ma anche come misurare se i sistemi la garantiscono effettivamente.
• In qualità di membro del gruppo di lavoro del Parlamento europeo sulla responsabilità dell'IA e della task force della Banca mondiale sull'accesso alla giustizia e alla tecnologia, segue in tempo reale l'elaborazione dei quadri normativi, offrendo alle organizzazioni visibilità sui requisiti prima che diventino obbligatori.
• La sua ricerca ha cambiato la pratica istituzionale presso il NHS e l'MHRA, che stanno rivedendo gli standard di autorizzazione dei dispositivi medici utilizzando le sue scoperte sulle conseguenze indesiderate delle comuni misure di equità di gruppo: un precedente concreto di come il suo lavoro passi dalla pubblicazione alla politica.

Punti salienti della biografia

• Professore di Tecnologia e Regolamentazione, Oxford Internet Institute, Università di Oxford; Professore Humboldt di Tecnologia e Regolamentazione, Hasso Plattner Institute
• Dirige il programma di ricerca Governance of Emerging Technologies (GET) a Oxford
• Co-sviluppatrice di Counterfactual Explanations (ora implementato da Google, IBM, Microsoft, Accenture e Vodafone) e del test di bias Conditional Demographic Disparity (CDD) (implementato da Amazon e IBM; applicato nella riforma dell'istruzione dei Paesi Bassi, 2024)
• Pubblicazioni su Science Robotics, Nature Electronics e Nature Reviews Physics; citata oltre 20.000 volte (Google Scholar)
• Premio per la ricerca della Fondazione Alexander von Humboldt (2025, 3,5 milioni di euro); Premio O2RB Excellence in Impact (2018, 2021); Premio Computer Weekly Women in UK Tech (2021); Premio Privacy Law Scholar (2019); Premio CognitionX AI Ethics (2017, 2023)
• Ruoli politici: Gruppo di lavoro del Parlamento europeo sulla responsabilità nell'IA; Task force della Banca mondiale sull'accesso alla giustizia e alla tecnologia; Global Futures Council del WEF su valori, etica e innovazione; UNESCO; Gruppo di orientamento etico della polizia del Regno Unito
• In precedenza: Professore ospite, Harvard Law School; Ricercatrice, The Alan Turing Institute
• Profili mediatici su Financial Times, Wired, New York Times, BBC, Guardian, Harvard Business Review, Reuters, Time Magazine e MIT Technology Review

Biografia

Sandra Wachter è Professore di Tecnologia e Regolamentazione presso l'Oxford Internet Institute dell'Università di Oxford e Professore Humboldt presso l'Hasso Plattner Institute. Dirige il Programma di Ricerca sulla Governance delle Tecnologie Emergenti di Oxford, un lavoro che non si colloca nell'ambito delle aspirazioni etiche, ma nel territorio più complesso degli standard legali e della verifica tecnica.

Gli strumenti prodotti dalla sua ricerca sono utilizzati su larga scala. Il framework Counterfactual Explanations, che ha co-sviluppato, è implementato in produzione da Google, IBM, Microsoft, Accenture e Vodafone. Il suo test di bias Conditional Demographic Disparity (CDD) – creato dopo aver dimostrato che 13 dei 20 strumenti di rilevamento del bias comunemente utilizzati non rispettano la legge UE sulla non discriminazione – è stato adottato da Amazon e IBM nei loro servizi cloud. Nel 2024, il CDD è stato utilizzato per smascherare un bias sistemico nel sistema educativo nazionale olandese; il Ministro dell'Istruzione olandese ha presentato le sue scuse e avviato una riforma formale. Il Servizio Sanitario Nazionale (NHS) e l'Agenzia per i Medicinali e i Prodotti Sanitari (MHRA) hanno rivisto le loro pratiche di autorizzazione dei dispositivi medici utilizzando i suoi risultati sulle conseguenze delle misure di equità di gruppo ampiamente applicate.

Le sue pubblicazioni appaiono su Science Robotics, Nature Electronics e Nature Reviews Physics, ed è stata citata oltre 20.000 volte. Tra i premi ricevuti figurano il Premio per la ricerca della Fondazione Alexander von Humboldt (2025, 3,5 milioni di euro), l'O2RB Excellence in Impact Award (2018, 2021), il Privacy Law Scholar Award (2019) e il CognitionX AI Ethics Award (2017, 2023). Fa parte del Gruppo di lavoro del Parlamento europeo sulla responsabilità dell'IA, della Task Force della Banca Mondiale sull'accesso alla giustizia e alla tecnologia, del Global Futures Council del WEF su valori, etica e innovazione e del Police Ethics Guidance Group del Regno Unito, ed è stata in precedenza Visiting Professor alla Harvard Law School.

Per i consigli di amministrazione e i responsabili della gestione dei rischi, il suo valore più immediato è di natura diagnostica: il divario tra ciò che le organizzazioni dichiarano di ottenere con la loro governance dell'IA e ciò che le prove normative e tecniche dimostrano è più ampio di quanto la maggior parte delle persone supponga. Ha dedicato un decennio alla creazione di strumenti per misurare con precisione tale divario.

Argomenti principali delle conferenze

• Governance e regolamentazione dell'IA
• Responsabilità algoritmica e spiegabilità
• Pregiudizi algoritmici e leggi contro la discriminazione
• IA generativa e responsabilità legale
• La legge UE sull'IA e la conformità normativa
• Profilazione, analisi inferenziale e protezione dei dati
• Regolamentazione delle piattaforme e governance di Internet

Ideale per

• Consigli di amministrazione e team dirigenziali che assumono impegni in materia di adozione e governance dell'IA
• Chief Data Officer e team di leadership tecnologica che progettano quadri di responsabilità
• Responsabili legali, della conformità e della gestione dei rischi incaricati delle decisioni relative all'implementazione dell'IA
• Destinatari del settore pubblico e delle autorità di regolamentazione che definiscono le politiche e gli standard in materia di IA

Risultati per il pubblico

• Una valutazione lucida di dove le attuali pratiche di governance dell'IA non soddisfano gli standard legali dell'UE e del Regno Unito – e perché le ipotesi comuni sui test di bias sono insufficienti
• Una base pratica di strumenti giuridicamente difendibili per la spiegabilità e la misurazione dei pregiudizi, inclusi i quadri già adottati dalle principali aziende tecnologiche
• Una visione informata di come l'AI Act dell'UE e i quadri normativi emergenti in materia di responsabilità dell'IA influenzeranno i requisiti di implementazione
• Comprensione di come l'IA generativa crei nuove responsabilità specifiche relative alle allucinazioni, alla disinformazione e alla questione giuridica emergente della veridicità dell'IA
• La capacità di distinguere tra gli impegni dichiarati in materia di responsabilità e una governance in grado di resistere al controllo esterno