Ayanna Howard
As organizações estão a implementar a IA no recrutamento, nos cuidados de saúde e nas operações antes de compreenderem quais são os pressupostos incorporados nesses sistemas. O viés da IA não é um problema de dados – é um problema de conceção, e está diretamente relacionado com a homogeneidade das equipas que desenvolvem as ferramentas. O segundo risco é menos visível: estudos revelam que os seres humanos recorrem habitualmente a sistemas automatizados de formas que vão muito além da fiabilidade desses sistemas, inclusive em cenários de alto risco. Os conselhos de administração que aprovaram a adoção da IA muitas vezes não tiveram em conta nenhum destes problemas.
Ayanna Howard é roboticista e reitora da Faculdade de Engenharia da Universidade Estadual de Ohio, cuja investigação sobre o viés da IA e a confiança excessiva do ser humano — baseada em mais de 250 publicações revistas por pares e no livro *Sex, Race, and Robots* — proporciona às organizações uma base empírica para gerir a adoção da IA, e não apenas para a adotar.
Full Profile
Por que razão as organizações trabalham com Ayanna Howard
- O seu laboratório produziu os primeiros algoritmos, revistos por pares, que quantificam a forma como os erros dos robôs minam a confiança humana – incluindo em cenários de emergência em que as pessoas seguiram sistemas automatizados, afastando-se de saídas claramente sinalizadas. Essa descoberta reformula a questão da governação da IA, passando de «o nosso sistema é preciso?» para «as nossas pessoas estão a confiar nele de forma perigosa?»
- O seu livro *Sex, Race, and Robots* (2021) apresenta um argumento específico e falsificável: o preconceito da IA tem origem no designer, não nos dados. Esse argumento altera a forma como as equipas de liderança atribuem responsabilidades – e o que precisam de fazer antes da implementação, não depois.
- É membro do conselho de administração da Autodesk e da Motorola Solutions, ao mesmo tempo que dirige uma das maiores escolas de engenharia dos EUA. Compreende as decisões relacionadas com a IA, desde o laboratório até à sala de reuniões, e fala de ambas com igual autoridade.
- A Zyrobotics, empresa que fundou a partir da sua investigação na Georgia Tech, comercializou IA para crianças com dificuldades motoras e cognitivas — ela tem experiência direta com produtos, tendo traduzido a investigação em aplicações regulamentadas e do mundo real.
- Na qualidade de Palestrante ACM Athena para 2021–2022 e membro do IEEE, da AAAI, da AAAS e da Academia Nacional de Inventores, as suas credenciais têm peso tanto em discussões técnicas de due diligence como em debates a nível executivo.
Destaques da biografia
- Reitora da Faculdade de Engenharia da Universidade Estadual de Ohio — a primeira mulher a ocupar o cargo; gere um orçamento anual de 360 milhões de dólares, 12 departamentos e mais de 11 900 estudantes
- Investigadora Sénior em Robótica e Gestora Adjunta do Gabinete do Cientista-Chefe do Laboratório de Propulsão a Jato da NASA — contribuiu para os programas do rover de Marte e de robótica ártica
- Nomeada «ACM Athena Lecturer» para 2021–2022 pelas suas contribuições fundamentais para sistemas humano-robóticos acessíveis e IA
- Autora de «Sex, Race, and Robots: How to Be Human in the Age of AI» (Audible Studios/Brilliance Audio, 2021)
- Membro do IEEE, da AAAI, da AAAS e da Academia Nacional de Inventores; membro eleito da Academia Americana de Artes e Ciências
- Administradora independente nos conselhos de administração da Autodesk Inc. e da Motorola Solutions Inc.
- Fundadora da Zyrobotics – uma spin-off da Georgia Tech que desenvolve produtos educativos e terapêuticos baseados em IA para crianças com necessidades especiais
- Nomeada para a lista das «50 Mulheres Mais Influentes da Tecnologia» da Forbes e para a lista das «23 Engenheiras Mais Poderosas» da Business Insider; destacada nas revistas TIME e Vanity Fair, na CNN e na NPR
Biografia
Quando um sistema de IA toma uma decisão errada, a maioria das organizações atribui a culpa aos dados. A investigação de Ayanna Howard apresenta um argumento mais contundente: o preconceito na IA é uma falha de conceção e está diretamente relacionado com quem constrói o sistema. O seu audiolivro *Sex, Race, and Robots* (2021) levou esse argumento ao grande público. As suas mais de 250 publicações revistas por pares consolidaram essa tese no domínio científico.
O seu trabalho experimental acentua o que está em jogo. O Laboratório de Sistemas de Automação Humana de Howard produziu os primeiros algoritmos para quantificar como os erros dos robôs minam a confiança humana — incluindo em cenários de emergência, em que os participantes no estudo seguiram um guia automatizado afastando-se de saídas claramente sinalizadas. A implicação é direta: os seres humanos confiam excessivamente nos sistemas de IA de formas que têm impacto em decisões cruciais nas áreas da saúde, do recrutamento e da segurança.
A sua autoridade nestas questões abrange três domínios distintos. Passou doze anos no Laboratório de Propulsão a Jato da NASA — como Investigadora Sénior em Robótica e Gestora Adjunta no Gabinete do Cientista-Chefe — a desenvolver sistemas autónomos para Marte e para terrenos árticos. Posteriormente, liderou um dos laboratórios de robótica humana mais produtivos dos EUA na Georgia Tech. Atualmente, desempenha as funções de Reitora de Engenharia na Universidade Estadual de Ohio — a primeira mulher a ocupar este cargo —, supervisionando doze departamentos, um orçamento de 360 milhões de dólares e mais de 11 900 estudantes.
Howard integra também os conselhos de administração da Autodesk e da Motorola Solutions e fundou a Zyrobotics, que traduz a sua investigação em produtos educativos e terapêuticos baseados em IA para crianças com necessidades especiais. É membro do IEEE, da AAAI, da AAAS e da Academia Nacional de Inventores, e é a Palestrante ACM Athena para 2021–2022. Para conselhos de administração e equipas de liderança que colocam questões sérias sobre a governação da IA, ela oferece investigação revista por pares, escala institucional e responsabilidade comercial direta — tudo numa única pessoa.
Principais temas de palestras
- Preconceito na IA e conceção responsável de sistemas
- Confiança excessiva do ser humano em sistemas automatizados
- Interação homem-robô e confiança
- Robótica assistiva e na área da saúde
- Governança e ética da IA
- IA nas empresas: riscos e oportunidades
- Liderança em engenharia e diversidade da força de trabalho nas áreas STEM
Ideal para
- Conselhos de administração e líderes de topo com responsabilidades na governação da IA
- Diretores de Tecnologia e Diretores Digitais responsáveis pela implementação da IA
- Líderes de I&D e inovação em organizações dos setores da tecnologia, saúde e indústria transformadora
- Programas de desenvolvimento de liderança em engenharia e tecnologia
Resultados para o público-alvo
- Uma reformulação específica da responsabilização pela IA: o viés é uma responsabilidade de conceção, não um problema de dados – com implicações sobre quem, na organização, é responsável por isso
- Compreensão baseada em evidências de como os seres humanos confiam excessivamente nos sistemas automatizados e o que isso significa para as decisões de governação e implementação
- Critérios práticos para avaliar sistemas de IA antes de estes serem colocados em funções de grande impacto
- Uma compreensão mais clara de em que medida a diversidade da força de trabalho nas equipas técnicas altera os resultados da IA – e como defender essa posição internamente
- Uma posição mais segura e fundamentada em evidências para os conselhos de administração e equipas de liderança que enfrentam decisões sobre a adoção da IA
Talks
Analisa a forma como a IA e a robótica estão a transformar o emprego e a mobilidade social, e o que as organizações e os educadores devem fazer para formar uma força de trabalho técnica competente e inclusiva.
Pontos-chave:
- Como integrar eficazmente a aprendizagem das disciplinas STEM em todas as faixas etárias, desde a primeira infância até ao ensino superior
- Como fomentar um interesse e competências sustentáveis em áreas relacionadas com a IA junto de comunidades sub-representadas
- O que as organizações podem fazer para apoiar o fluxo de talentos técnicos que a economia da IA exige
Com base na sua palestra TED, que teve uma grande audiência, esta apresentação explora como a integração de princípios do comportamento humano e da neurociência torna os sistemas de IA mais seguros, mais eficazes e mais alinhados com as normas sociais.
Pontos-chave:
- Como a inteligência e o comportamento humanos podem orientar a conceção de sistemas robóticos e de IA
- Por que razão a integração de regras de interação é fundamental para uma interação homem-robô segura e eficaz
- As implicações de sistemas de IA mais semelhantes aos humanos para as empresas tecnológicas, as organizações e os consumidores
Explora o papel da robótica e da IA nos cuidados de saúde, nomeadamente no apoio a crianças com necessidades especiais e a doentes idosos, com base na própria investigação de Howard e no desenvolvimento de produtos comerciais.
Pontos-chave:
- Como os sistemas robóticos podem apoiar a fisioterapia e a reabilitação de crianças com limitações motoras
- O potencial dos robôs equipados com IA para monitorizar a saúde e prestar apoio emocional
- Considerações práticas para a integração de robôs assistivos em contextos de cuidados de saúde
Uma sessão facilitada que analisa tanto as vantagens operacionais como as consequências indesejadas da implementação da IA – ajudando os líderes a avaliar os riscos e a prepararem-se para uma implementação responsável.
Pontos-chave:
- Como as ferramentas de IA podem melhorar a análise de dados e a eficiência operacional
- Questões-chave que as organizações devem colocar antes de implementar sistemas de IA
- Como identificar e mitigar riscos, incluindo a privacidade, a utilização indevida de dados e resultados discriminatórios indesejados
Aborda a forma como os preconceitos humanos se incorporam nos sistemas de IA e como a confiança excessiva nas decisões automatizadas gera consequências éticas e sociais das quais as organizações muitas vezes não têm consciência.
Pontos-chave:
- Como o preconceito molda o desenvolvimento e os resultados dos algoritmos de IA
- Os riscos associados à dependência excessiva de sistemas automatizados em decisões de alto risco
- Estratégias para mitigar ou prevenir o preconceito nas tecnologias de IA de próxima geração