Yonah Welker
I consigli di amministrazione sono ora responsabili delle decisioni relative all’IA che in passato ricadevano due livelli più in basso nella gerarchia. La legge dell’UE sull’IA, il quadro normativo dell’OCSE e le raccomandazioni etiche dell’UNESCO regolano sempre più spesso lo stesso ambito decisionale, ma non sempre sono in accordo tra loro. I casi più complessi riguardano ora l’IA che opera nel mondo fisico e nei servizi pubblici. È proprio in questi ambiti che le regole sono meno definite e dove una risposta errata è più difficile da giustificare.
Yonah Welker è un esperto di tecnologia nel settore pubblico che opera all’interno dell’UE e di organismi internazionali incaricati di definire le norme in materia di intelligenza artificiale, aiutando le organizzazioni a sviluppare modelli di governance sostenibili per sistemi ad alto rischio, dall’accessibilità e dai gruppi protetti all’impiego dell’intelligenza artificiale in contesti fisici e pubblici.
Full Profile
Perché le organizzazioni collaborano con Yonah Welker
- Un filo diretto con gli organismi politici europei che definiscono le norme in materia di IA, grazie ai contributi dei gruppi di lavoro al Codice di condotta dell’UE sull’IA, alle attività della DG CNECT relative alle infrastrutture digitali e critiche e ai programmi dell’UE in materia di TIC e standardizzazione.
- Competenze pubblicate e citabili su come i sistemi di IA trattano la disabilità, la neurodiversità e altri gruppi specifici, con quadri di riferimento e un MOOC catalogato da OECD.AI: una specializzazione che pochi consulenti di governance possono eguagliare.
- Padronanza interistituzionale dei processi di governance dell’OCSE, dell’ONU, dell’UNESCO e dell’OMS, utile per le organizzazioni la cui strategia in materia di IA deve ora rispondere contemporaneamente a diversi quadri normativi che si sovrappongono.
- Padronanza pratica di come la governance si applica all’IA nelle implementazioni fisiche e pubbliche, compresa la robotica e i sistemi di assistenza, ambiti in cui gli obblighi di conformità previsti dalla legge UE sull’IA e dalle norme armonizzate emergenti sono ancora poco definiti.
- Un ponte tra la pratica e la politica piuttosto che un puro accademico, con ruoli pratici di valutatore e relatore nei programmi Horizon dell’UE ed EIT/EIC, che è la figura di cui la maggior parte dei consigli di amministrazione e dei responsabili della conformità ha ora bisogno.
Punti salienti del curriculum
- Esperto di IA inserito nella directory della comunità OECD.AI; docente ospite e valutatore affiliato al lavoro collaborativo del MIT, nonché collaboratore del blog Wonk di OECD.AI.
- Collaboratore al Codice di condotta dell’UE sull’IA (gruppi di lavoro 2 e 3), ai programmi della DG CNECT sulle infrastrutture digitali e critiche e ai lavori di standardizzazione delle TIC dell’UE.
- Ha fornito contributi all’OCSE (Processo G7 di Hiroshima sull’IA), all’ONU (ITU e IGF), all’UNESCO, al NIST (Quadro di gestione dei rischi) e ai processi del PCAST della Casa Bianca.
- Autore principale e coordinatore del prossimo Rapporto scientifico sull’IA dell’UNESCO/ONU, nonché coautore dell’AI Safety Repository del MIT.
- Valutatore, relatore e responsabile del controllo qualità per i programmi UE Horizon, StandICT, EIT Health, Deeptech e Creativity; membro del gruppo di esperti dell’EDPB sulla privacy nell’IA incorporata.
- Ex curatore del Global AI Summit e consulente di un’autorità nazionale in materia di dati e IA nella regione EMEA; relatore all’AI Action Summit (Parigi/Sorbona), a Sciences Po, all’Università Tecnica di Monaco, all’AI Safety Korea e al Delphi Economic Forum; membro della giuria e revisore per la MIT Global Competition, NeurIPS e le riviste IEEE.
Biografia
L’AI Act dell’UE, il quadro dell’OCSE, la raccomandazione etica dell’UNESCO e il Processo di Hiroshima del G7 regolano ora le stesse decisioni operative, ma non sono perfettamente allineati. Sono poche le persone che operano all’interno di diversi di questi processi contemporaneamente, anziché limitarvisi a osservarli dall’esterno.
Welker è uno di loro. Ha contribuito ai gruppi di lavoro sul Codice di condotta dell’UE sull’IA e alle attività della DG CNECT relative alle infrastrutture critiche. Fa parte del gruppo di esperti dell’EDPB che esamina la privacy nell’IA incorporata ed è autore principale e coordinatore del prossimo Rapporto scientifico sull’IA dell’UNESCO/ONU. Il suo contributo ha alimentato anche i processi del NIST e del PCAST della Casa Bianca, e ha fornito consulenza a un’autorità nazionale per i dati e l’IA nella regione EMEA parallelamente al suo lavoro presso la Commissione europea.
Il suo punto di vista distintivo è una prospettiva che pochi specialisti di governance condividono. Il suo lavoro si concentra su come i sistemi di IA trattano determinati gruppi: persone con disabilità, utenti neurodivergenti e altri soggetti per i quali un algoritmo può silenziosamente concedere o negare l’accesso. Questa questione si sta ora estendendo alla robotica, ai sistemi di assistenza e all’IA che opera negli spazi pubblici, dove i quadri normativi sono più carenti. Il MOOC sull’IA incentrato sulla disabilità, catalogato nell’archivio degli strumenti di OECD.AI, ne è un indicatore concreto.
Per i dirigenti di alto livello, il valore è di natura operativa. È in grado di illustrare cosa verrà effettivamente esaminato in un audit relativo alla legge UE sull’IA e come si presenta una dichiarazione di accessibilità difendibile in un sistema già implementato. Può inoltre mostrare come i livelli dell’OCSE, dell’ONU e dell’UE si colleghino a una decisione che un consulente legale o un comitato di rischio dovrà affrontare nel prossimo trimestre.
Argomenti chiave degli interventi
- Governance dell’IA e legge dell’UE sull’IA
- Responsabilità algoritmica e audit dell’IA
- Politica sull’IA incentrata sulla disabilità e sull’accessibilità
- Neurodiversità e progettazione inclusiva dell’IA
- IA sovrana e infrastrutture digitali critiche
- Sicurezza dell’IA e implementazione responsabile
- IA nel settore pubblico e sistemi rivolti ai cittadini
Ideale per
- Consulenti legali, responsabili della conformità e direttori tecnici che si preparano all’entrata in vigore della legge UE sull’IA
- Responsabili dell’IA, responsabili dell’IA responsabile e comitati di etica digitale
- Enti del settore pubblico e organismi intergovernativi che elaborano politiche in materia di IA
- Consigli di amministrazione che valutano l’esposizione ai rischi legati all’IA in termini di accessibilità, pregiudizi e fiducia del pubblico
Risultati per il pubblico
- Una visione più chiara di come la legge UE sull’IA, il quadro dell’OCSE e gli strumenti dell’ONU/UNESCO si integrino tra loro per la propria organizzazione
- Domande specifiche da porre ai fornitori, ai team interni e ai comitati di revisione in materia di responsabilità algoritmica
- Una definizione operativa di come si concretizzano, a livello operativo, gli obblighi in materia di IA incentrata sulla disabilità e sull’accessibilità
- Una maggiore consapevolezza di dove si concentrano i rischi reputazionali e normativi nelle attuali implementazioni di IA
- Una visione della direzione che prenderà la politica europea in materia di IA, ricavata dall’interno dei gruppi di lavoro che la stanno definendo
Discorsi
Una sessione di lavoro sul significato dell’IA incentrata sull’uomo nel momento in cui la disabilità, la neurodiversità e l’accessibilità passano dall’essere principi a diventare obblighi di conformità.
Punti chiave:
- In che modo le decisioni algoritmiche influenzano determinati gruppi e su quali aspetti dovrebbe concentrarsi l’attenzione durante gli audit
- Punti di riferimento pratici tratti dal catalogo degli strumenti dell’OCSE.AI e dal lavoro dell’UNESCO in materia di etica
- Come si presenta una progettazione inclusiva dell’IA nei contesti dei prodotti, degli appalti e dei servizi pubblici
Una panoramica di alto livello sui quadri normativi in materia di IA che si sovrappongono e che stanno attualmente influenzando le decisioni organizzative.
Punti chiave:
- Lo stato attuale della legge dell’UE sull’IA e dei relativi codici di condotta
- In che modo i risultati dell’OCSE, del Processo di Hiroshima del G7 e dell’IGF delle Nazioni Unite si traducono in questioni da affrontare a livello di consiglio di amministrazione
- Come si presenta nella pratica un approccio sostenibile alla governance dell’IA, al di là delle dichiarazioni politiche