Toju Duke

Por que razão as organizações trabalham com a Toju Duke

• Dez anos na Google, incluindo três anos a coordenar programas de IA Responsável em equipas de produto e investigação, centrados em modelos de grande escala. O quadro metodológico que ela ensina é o mesmo que ela própria implementou.
• Uma estrutura de IA Responsável, publicada e bem organizada, que abrange a equidade, a transparência, a segurança, a privacidade e a robustez ao longo de todo o ciclo de vida da aprendizagem automática, disponível para as equipas de liderança como ponto de referência comum.
• Credibilidade junto dos operadores nas questões que realmente se colocam: como implementamos a IA a um ritmo acelerado sem nos expormos a riscos regulamentares, de reputação ou relacionados com os direitos humanos.
• Independente de qualquer plataforma ou fornecedor de modelos. Sem nenhum produto para vender, os seus conselhos sobre governação e implementação respondem exclusivamente à organização que os adquire.

Destaques da biografia

• Autora de «Building Responsible AI Algorithms» (Apress, 2023), uma estrutura organizada para a equidade, transparência, segurança, privacidade e robustez ao longo de todo o ciclo de vida da aprendizagem automática.
• Coautora, com o Prof. Paolo Giudici, de «Responsible AI in Practice» (Apress/Springer Nature).
• Trabalhou durante dez anos na Google. Nos últimos três anos, desempenhou as funções de Gestora do Programa de IA Responsável, colaborando com equipas de produto e de investigação em modelos de grande escala.
• Fundadora e CEO da Diverse AI, uma organização de interesse comunitário que gere programas de educação e investigação para grupos sub-representados na IA, incluindo um projeto para criar um conjunto de dados que documente as culturas de comunidades sem acesso à Internet.
• Colaborador com vários meios de comunicação, incluindo o «Sunday Morning Live» da BBC One, a Sky News, a Al Jazeera, a CGTN America, o «El País», «La Vanguardia» e a «Sifted».

Biografia

A maioria das organizações dispõe hoje de uma política de IA. Muito poucas possuem os mecanismos operacionais para a concretizar. Toju Duke passou os últimos três anos de uma carreira de dez anos na Google a criar exatamente esses mecanismos, enquanto Gestora do Programa de IA Responsável, trabalhando com equipas de produto e de investigação em modelos de grande escala.

Esse trabalho resultou no livro «Building Responsible AI Algorithms», publicado pela Apress em 2023. O livro tira a IA Responsável dos documentos de princípios e insere-a no ciclo de vida da aprendizagem automática: como definir um problema, auditar dados, avaliar a equidade, documentar um modelo e decidir se deve ser lançado. Um segundo volume, «Responsible AI in Practice», escrito em coautoria com o Prof. Paolo Giudici, alarga o quadro à regulamentação, taxonomias de risco e avaliação.

Presta aconselhamento a conselhos de administração e equipas executivas sobre governação, preparação para a IA e implementação, e integra o comité do programa da Conferência AAAI/ACM sobre IA, Ética e Sociedade. Através da Diverse AI, a organização de interesse comunitário que fundou, dirige programas de educação e investigação para grupos sub-representados na área, incluindo um projeto para criar um conjunto de dados que documente as culturas das comunidades que a Internet deixou de fora. A governação e a inclusão são a mesma questão vista de dois lados do modelo.

Ela intervém e escreve para meios de comunicação de referência, incluindo o «Sunday Morning Live» da BBC One, a Sky News, a Al Jazeera, a CGTN America, o «El País», a «La Vanguardia» e a «Sifted». Para um conselho de administração que pondera como gerir um programa de IA que não compreende totalmente, ela traz a rara combinação de experiência prática no seio de uma equipa de modelos de vanguarda e um quadro publicado em torno do qual organizar o debate.

Principais temas de intervenção

• Estruturas e governação responsáveis em IA
• Ética e responsabilização na IA
• Risco e supervisão da IA generativa
• Regulamentação e políticas de IA
• Equidade, preconceito e inclusão nos sistemas de IA
• Diversidade no talento e na conceção da IA
• Implementação dos princípios da IA ao longo do ciclo de vida da aprendizagem automática

Ideal para

• Conselhos de administração e comissões executivas que encomendam ou supervisionam programas de IA
• Diretores de IA, diretores técnicos (CTO), diretores de sistemas de informação (CIO) e diretores de dados (CDO) que estão a desenvolver modelos operacionais de IA responsável
• Líderes das áreas de risco, auditoria, assuntos jurídicos e conformidade que traduzem a regulamentação da IA em controlos
• Líderes de Diversidade, Equidade e Inclusão (DEI) e de recursos humanos que trabalham na promoção da inclusão em organizações técnicas

Resultados para o público

• Um vocabulário prático para a IA responsável, baseado num quadro de referência publicado e não no marketing dos fornecedores.
• Uma visão de onde o risco da IA se situa efetivamente no ciclo de vida da aprendizagem automática, desde a definição do problema até à implementação.
• Um modelo de referência para traduzir os princípios da IA em processos de revisão, documentação e estruturas de responsabilização.
• Uma compreensão mais clara de como a regulamentação, a equidade e as considerações em matéria de direitos humanos se interligam para as organizações que implementam modelos em grande escala.