Toju Duke

Por qué las organizaciones colaboran con Toju Duke

• Diez años en Google, incluidos tres al frente de programas de IA responsable en equipos de producto e investigación sobre modelos a gran escala. El marco que imparte es el mismo que ella misma dirigió.
• Un marco de IA responsable, publicado y estructurado, que abarca la equidad, la transparencia, la seguridad, la privacidad y la solidez a lo largo de todo el ciclo de vida del aprendizaje automático, y que está a disposición de los equipos directivos como punto de referencia común.
• Credibilidad ante las preguntas que realmente se plantean en los foros: ¿cómo implementamos la IA a buen ritmo sin exponernos a riesgos normativos, de reputación o relacionados con los derechos humanos?
• Independiente de cualquier plataforma o proveedor de modelos. Al no tener ningún producto que vender, su asesoramiento sobre gobernanza e implementación responde únicamente ante la organización que lo contrata.

Aspectos destacados de su biografía

• Autora de *Building Responsible AI Algorithms* (Apress, 2023), un marco estructurado para la equidad, la transparencia, la seguridad, la privacidad y la solidez a lo largo del ciclo de vida del aprendizaje automático.
• Coautora, junto con el profesor Paolo Giudici, de *Responsible AI in Practice* (Apress/Springer Nature).
• Diez años en Google. Los últimos tres años como directora del programa de IA responsable, trabajando con equipos de producto e investigación en modelos a gran escala.
• Fundadora y directora ejecutiva de Diverse AI, una organización de interés comunitario que lleva a cabo programas de formación e investigación para grupos infrarrepresentados en el ámbito de la IA, incluido un proyecto para crear un conjunto de datos que documente las culturas de las comunidades sin acceso a Internet.
• Colaborador en medios de comunicación como BBC One Sunday Morning Live, Sky News, Al Jazeera, CGTN America, El País, La Vanguardia y Sifted.

Biografía

La mayoría de las organizaciones cuentan hoy en día con una política de IA. Muy pocas disponen de los mecanismos operativos para hacerla realidad. Toju Duke dedicó los últimos tres años de su carrera de diez años en Google a crear precisamente esos mecanismos, como responsable del programa de IA responsable, trabajando con equipos de producto e investigación en modelos a gran escala.

Ese trabajo se plasmó en el libro *Building Responsible AI Algorithms*, publicado por Apress en 2023. El libro traslada la IA responsable de los documentos de principios al ciclo de vida del aprendizaje automático: cómo definir un problema, auditar datos, evaluar la equidad, documentar un modelo y decidir si se lanza al mercado. Un segundo volumen, *Responsible AI in Practice*, escrito en colaboración con el profesor Paolo Giudici, amplía el marco a la regulación, las taxonomías de riesgo y la evaluación.

Asesora a consejos de administración y equipos ejecutivos sobre gobernanza, preparación para la IA e implementación, y forma parte del comité del programa de la Conferencia AAAI/ACM sobre IA, Ética y Sociedad. A través de Diverse AI, la organización de interés comunitario que fundó, dirige programas de formación e investigación para grupos infrarrepresentados en este campo, incluido un proyecto para crear un conjunto de datos que documente las culturas de las comunidades que Internet ha dejado al margen. La gobernanza y la inclusión son la misma cuestión vista desde dos lados del modelo.

Interviene y escribe para medios de prestigio, como BBC One Sunday Morning Live, Sky News, Al Jazeera, CGTN America, El País, La Vanguardia y Sifted. Para un consejo que está valorando cómo gestionar un programa de IA que no comprende del todo, aporta una combinación poco habitual: experiencia práctica dentro de un equipo que trabaja con modelos de vanguardia y un marco publicado en torno al cual organizar el debate.

Temas clave de sus intervenciones

• Marcos de IA responsable y gobernanza
• Ética y responsabilidad en la IA
• Riesgos y supervisión de la IA generativa
• Regulación y políticas de IA
• Equidad, sesgos e inclusión en los sistemas de IA
• Diversidad en el talento y el diseño de la IA
• Aplicación de los principios de la IA a lo largo del ciclo de vida del aprendizaje automático

Ideal para

• Consejos de administración y comités ejecutivos que encargan o gestionan programas de IA
• Directores de IA, directores técnicos (CTO), directores de sistemas de información (CIO) y directores de datos (CDO) que desarrollan modelos operativos de IA responsable
• Responsables de riesgos, auditoría, asuntos jurídicos y cumplimiento normativo que traducen la normativa sobre IA en controles
• Responsables de diversidad, equidad e inclusión (DEI) y de recursos humanos que trabajan en la inclusión en organizaciones técnicas

Resultados para los participantes

• Un vocabulario operativo para la IA responsable basado en un marco publicado, en lugar de en el marketing de los proveedores.
• Una visión de dónde se sitúa realmente el riesgo de la IA en el ciclo de vida del aprendizaje automático, desde la definición del problema hasta la implementación.
• Un modelo de referencia para plasmar los principios de la IA en procesos de revisión, documentación y estructuras de rendición de cuentas.
• Una visión más clara de cómo se entrecruzan la regulación, la equidad y las consideraciones en materia de derechos humanos para las organizaciones que implementan modelos a gran escala.