Yonah Welker
Os conselhos de administração são agora responsáveis pelas decisões relativas à IA que antes se situavam dois níveis abaixo deles. A Lei da IA da UE, o quadro da OCDE e a recomendação ética da UNESCO regem cada vez mais essas mesmas decisões, e nem sempre estão de acordo. Os casos mais complexos envolvem agora a IA a atuar no mundo físico e nos serviços públicos. É aí que as regras estão menos definidas e onde uma resposta errada é mais difícil de defender.
Yonah Welker é um tecnólogo público que trabalha no seio da UE e de organismos internacionais responsáveis pela elaboração de normas em matéria de IA, ajudando as organizações a criar um quadro de governação sustentável para sistemas de alto risco, desde a acessibilidade e os grupos específicos até à IA em implementações físicas e públicas.
Full Profile
Por que razão as organizações colaboram com Yonah Welker
- Acesso direto aos mecanismos políticos europeus que definem as regras em matéria de IA, através de contribuições em grupos de trabalho para o Código de Conduta da UE em matéria de IA, do trabalho da DG CNECT no domínio das infraestruturas digitais e críticas, e dos programas da UE em matéria de TIC e normalização.
- Conhecimento especializado publicado e citável sobre a forma como os sistemas de IA tratam a deficiência, a neurodiversidade e outros grupos específicos, com quadros de referência e um MOOC catalogado pela OECD.AI — uma especialização que poucos consultores de governação conseguem igualar.
- Fluência interinstitucional nos processos de governação da OCDE, da ONU, da UNESCO e da OMS, útil para organizações cuja estratégia de IA tem agora de responder a vários quadros regulamentares sobrepostos em simultâneo.
- Domínio prático de como a governação se aplica à IA em implementações físicas e públicas, incluindo robótica e sistemas de assistência, onde as obrigações de conformidade ao abrigo da Lei da IA da UE e das normas harmonizadas emergentes estão menos definidas.
- Uma ponte entre a prática e a política, em vez de uma abordagem puramente académica, com funções práticas de avaliador e relator nos programas «Horizon» da UE e do EIT/EIC, que é a área que a maioria dos conselhos de administração e responsáveis pela conformidade necessitam agora de preencher.
Destaques da biografia
- Especialista em IA listado no diretório da comunidade OECD.AI; professor convidado e avaliador afiliado a trabalhos colaborativos do MIT e colaborador do blogue «Wonk» da OECD.AI.
- Colaborador do Código de Práticas da UE em matéria de IA (Grupos de Trabalho 2 e 3), dos programas de infraestruturas digitais e críticas da DG CNECT e do trabalho de normalização das TIC da UE.
- Colaborou com a OCDE (Processo do G7 de Hiroshima sobre IA), a ONU (UIT e IGF), a UNESCO, o NIST (Quadro de Gestão de Risco) e os processos do PCAST da Casa Branca.
- Autor principal e coordenador do próximo Relatório Científico sobre IA da UNESCO/ONU e coautor do Repositório de Segurança da IA do MIT.
- Avaliador, relator e responsável pelo controlo de qualidade nos programas Horizon da UE, StandICT e EIT Health, Deeptech e Creativity; membro do grupo de peritos do EDPB sobre privacidade na IA incorporada.
- Ex-curador da Cimeira Global de IA e consultor de uma autoridade nacional de dados e IA na região EMEA; orador na Cimeira de Ação em IA (Paris/Sorbonne), na Sciences Po, na Universidade Técnica de Munique, na AI Safety Korea e no Fórum Económico de Delphi; membro do júri e revisor por pares da Competição Global do MIT, da NeurIPS e de revistas do IEEE.
Biografia
A Lei da IA da UE, o quadro da OCDE, a recomendação ética da UNESCO e o Processo de Hiroshima do G7 regem agora as mesmas decisões operacionais, mas não se alinham perfeitamente. São poucas as pessoas que trabalham em simultâneo no seio de vários destes processos, em vez de os analisarem a partir do exterior.
Welker é uma dessas pessoas. Contribuiu para os grupos de trabalho do Código de Práticas da UE em matéria de IA e para o trabalho da DG CNECT sobre infraestruturas críticas. Faz parte do grupo de peritos do EDPB que analisa a privacidade na IA incorporada e é autor principal e coordenador do próximo Relatório da UNESCO/ONU sobre Ciência da IA. As suas contribuições também alimentaram os processos do NIST e do PCAST da Casa Branca, e prestou aconselhamento a uma autoridade nacional de dados e IA na região EMEA, a par do seu trabalho na Comissão Europeia.
A sua perspetiva distintiva é uma visão que poucos especialistas em governação partilham. O seu trabalho centra-se na forma como os sistemas de IA tratam grupos específicos: pessoas com deficiência, utilizadores neurodivergentes e outros casos em que um algoritmo pode, discretamente, conceder ou negar o acesso. Essa questão está agora a estender-se à robótica, aos sistemas de assistência e à IA que atua no espaço público, onde os quadros regulamentares são mais ténues. O MOOC sobre IA centrado na deficiência, catalogado no repositório de ferramentas da OECD.AI, é um indicador concreto disso.
Para os líderes de topo, o valor é operacional. Ele consegue definir o que uma auditoria ao Acto da IA da UE irá realmente examinar e como se apresenta uma alegação de acessibilidade defensável num sistema implementado. Consegue também mostrar como as camadas da OCDE, da ONU e da UE se relacionam com uma decisão que um conselheiro jurídico ou uma comissão de risco terá de tomar no próximo trimestre.
Principais temas de intervenção
- Governança da IA e a Lei da IA da UE
- Responsabilidade algorítmica e auditoria da IA
- Política de IA centrada na deficiência e na acessibilidade
- Neurodiversidade e conceção inclusiva da IA
- IA soberana e infraestruturas digitais críticas
- Segurança da IA e implementação responsável
- IA no setor público e sistemas orientados para os cidadãos
Ideal para
- Conselheiros jurídicos, diretores de conformidade e diretores de tecnologia (CTO) que se preparam para a aplicação da Lei da IA da UE
- Responsáveis pela IA, líderes de IA responsável e comissões de ética digital
- Entidades do setor público e organismos intergovernamentais que elaboram políticas de IA
- Conselhos de administração que analisam a exposição aos riscos da IA nas dimensões da acessibilidade, do preconceito e da confiança pública
Resultados para o público-alvo
- Uma visão mais clara de como a Lei da IA da UE, o quadro da OCDE e os instrumentos da ONU/UNESCO se interligam no contexto da sua organização
- Questões específicas a colocar aos fornecedores, equipas internas e comissões de auditoria sobre a responsabilização algorítmica
- Uma definição prática de como se traduzem, na prática, as obrigações em matéria de IA centradas na deficiência e na acessibilidade
- Uma perceção mais apurada sobre onde se concentram os riscos reputacionais e regulamentares nas atuais implementações de IA
- Uma visão sobre o rumo que a política europeia em matéria de IA irá tomar, com base na informação proveniente dos grupos de trabalho que a estão a definir
Talks
Uma sessão de trabalho sobre o que significa uma IA centrada no ser humano, agora que a deficiência, a neurodiversidade e a acessibilidade passam de princípios a obrigações de conformidade.
Pontos-chave:
- Como as decisões algorítmicas afetam determinados grupos e em que as auditorias se devem concentrar
- Referências práticas do catálogo de ferramentas da OECD.AI e do trabalho da UNESCO em matéria de ética
- Como se traduz o design inclusivo da IA nos contextos dos produtos, das aquisições e dos serviços públicos
Uma análise de alto nível dos quadros de governação da IA que se sobrepõem e que estão atualmente a moldar as decisões organizacionais.
Pontos-chave:
- O estado atual da Lei da IA da UE e dos códigos de conduta associados
- Como os resultados da OCDE, do Processo de Hiroshima do G7 e do IGF da ONU se traduzem em questões a nível do conselho de administração
- Como se traduz, na prática, uma postura defensável de governação da IA, para além das declarações políticas