Ayanna Howard
Unternehmen setzen KI bei der Personalauswahl, im Gesundheitswesen und im operativen Geschäft ein, noch bevor sie verstehen, wessen Annahmen in diesen Systemen verankert sind. Voreingenommenheit bei KI ist kein Datenproblem – es ist ein Designproblem, das direkt auf die Homogenität der Teams zurückzuführen ist, die diese Tools entwickeln. Das zweite Risiko ist weniger offensichtlich: Untersuchungen zeigen, dass Menschen sich routinemäßig auf automatisierte Systeme verlassen, und zwar in einer Weise, die weit über die Zuverlässigkeit dieser Systeme hinausgeht – auch in Situationen mit hohem Risiko. Vorstände, die den Einsatz von KI genehmigt haben, haben oft keines dieser beiden Probleme berücksichtigt.
Ayanna Howard ist Robotikerin und Dekanin der Fakultät für Ingenieurwissenschaften an der Ohio State University. Ihre Forschungen zu Vorurteilen in der KI und übermäßigem Vertrauen in diese Technologie – gestützt auf mehr als 250 begutachtete Veröffentlichungen sowie das Buch „Sex, Race, and Robots“ – liefern Organisationen die wissenschaftliche Grundlage, um den Einsatz von KI zu steuern und nicht nur einfach einzuführen.
Full Profile
Warum Unternehmen mit Ayanna Howard zusammenarbeiten
- Ihr Labor entwickelte die ersten von Fachkollegen begutachteten Algorithmen, die quantifizieren, wie Fehler von Robotern das Vertrauen der Menschen untergraben – unter anderem in Notfallszenarien, in denen Menschen automatisierten Systemen folgten und sich dadurch von deutlich gekennzeichneten Ausgängen entfernten. Diese Erkenntnis rückt die Frage der KI-Governance in einen neuen Kontext: Nicht mehr „Ist unser System genau?“, sondern „Verlassen sich unsere Mitarbeiter in gefährlicher Weise darauf?“
- Ihr Buch „Sex, Race, and Robots“ (2021) vertritt eine konkrete, überprüfbare These: Vorurteile in der KI haben ihren Ursprung beim Entwickler, nicht in den Daten. Diese These verändert, wem Führungskräfte die Verantwortung zuweisen – und was sie vor der Einführung tun müssen, nicht erst danach.
- Sie ist Vorstandsmitglied bei Autodesk und Motorola Solutions und leitet gleichzeitig eine der größten Ingenieursschulen in den USA. Sie versteht KI-Entscheidungen vom Labor bis in den Sitzungssaal und spricht zu beiden Bereichen mit gleicher Autorität.
- Zyrobotics, das Unternehmen, das sie auf der Grundlage ihrer Forschung an der Georgia Tech gegründet hat, hat KI für Kinder mit motorischen und kognitiven Herausforderungen kommerzialisiert – sie verfügt über direkte Produkterfahrung darin, Forschung in regulierte, praxisnahe Anwendungen umzusetzen.
- Als ACM-Athena-Dozentin 2021–2022 und Fellow des IEEE, der AAAI, der AAAS sowie der National Academy of Inventors haben ihre Qualifikationen sowohl in technischen Due-Diligence-Gesprächen als auch auf Führungsebene großes Gewicht.
Wichtige Stationen ihrer Laufbahn
- Dekanin des College of Engineering an der Ohio State University – erste Frau in dieser Position; verwaltet ein Jahresbudget von 360 Mio. US-Dollar, 12 Fachbereiche und mehr als 11.900 Studierende
- Leitende Robotikforscherin und stellvertretende Leiterin im Büro des Chefwissenschaftlers am NASA Jet Propulsion Laboratory – wirkte an Marsrover- und Arktis-Robotikprogrammen mit
- Ernennung zur „ACM Athena Lecturer“ 2021–2022 für grundlegende Beiträge zu barrierefreien Mensch-Roboter-Systemen und KI
- Autorin von „Sex, Race, and Robots: How to Be Human in the Age of AI“ (Audible Studios/Brilliance Audio, 2021)
- Fellow des IEEE, der AAAI, der AAAS und der National Academy of Inventors; gewähltes Mitglied der American Academy of Arts and Sciences
- Unabhängiges Vorstandsmitglied bei Autodesk Inc. und Motorola Solutions Inc.
- Gründerin von Zyrobotics – einem Spin-off der Georgia Tech, das KI-gestützte Bildungs- und Therapieprodukte für Kinder mit besonderen Bedürfnissen entwickelt
- Aufgenommen in die Forbes-Liste der „Top 50 Women in Tech“ in den USA und in die „23 Most Powerful Women Engineers“ von Business Insider; vorgestellt in TIME, Vanity Fair, CNN und NPR
Biografie
Wenn ein KI-System eine fehlerhafte Entscheidung trifft, geben die meisten Organisationen den Daten die Schuld. Ayanna Howards Forschung vertritt eine härtere These: Voreingenommenheit in der KI ist ein Konstruktionsfehler, der direkt auf diejenigen zurückzuführen ist, die das System entwickeln. Ihr Hörbuch „Sex, Race, and Robots“ (2021) machte diese These einem breiten Publikum zugänglich. Ihre mehr als 250 begutachteten Veröffentlichungen haben dies in die wissenschaftliche Literatur eingebracht.
Ihre experimentelle Arbeit verdeutlicht die Tragweite des Problems. Howards „Human-Automation Systems Lab“ entwickelte die ersten Algorithmen, mit denen sich quantifizieren lässt, wie Fehler von Robotern das Vertrauen der Menschen untergraben – auch in Notfallszenarien, in denen Probanden einem automatisierten Wegweiser folgten und sich dadurch von deutlich gekennzeichneten Ausgängen entfernten. Die Schlussfolgerung ist eindeutig: Menschen vertrauen KI-Systemen in einer Weise zu sehr, die für weitreichende Entscheidungen im Gesundheitswesen, bei der Personalauswahl und im Sicherheitsbereich von Bedeutung ist.
Ihre Fachkompetenz in diesen Fragen erstreckt sich über drei unterschiedliche Bereiche. Sie war zwölf Jahre lang am Jet Propulsion Laboratory der NASA tätig – als leitende Robotikforscherin und stellvertretende Leiterin im Büro des Chefwissenschaftlers – und entwickelte dort autonome Systeme für den Mars und arktisches Gelände. Anschließend leitete sie eines der produktivsten Labore für Mensch-Roboter-Interaktion der USA an der Georgia Tech. Heute ist sie Dekanin der Fakultät für Ingenieurwissenschaften an der Ohio State University – als erste Dekanin in der Geschichte der Universität – und verantwortlich für zwölf Fachbereiche, ein Budget von 360 Millionen US-Dollar und mehr als 11.900 Studierende.
Howard ist außerdem Vorstandsmitglied bei Autodesk und Motorola Solutions und gründete Zyrobotics, ein Unternehmen, das ihre Forschungsergebnisse in KI-gestützte Bildungs- und Therapieprodukte für Kinder mit besonderen Bedürfnissen umsetzt. Sie ist Fellow des IEEE, der AAAI, der AAAS und der National Academy of Inventors sowie ACM-Athena-Dozentin für den Zeitraum 2021–2022. Für Vorstände und Führungsteams, die sich ernsthaft mit Fragen der KI-Governance auseinandersetzen, bietet sie begutachtete Forschungsergebnisse, institutionelle Reichweite und direkte wirtschaftliche Rechenschaftspflicht – alles in einer Person.
Wichtige Vortragsthemen
- KI-Voreingenommenheit und verantwortungsbewusstes Systemdesign
- Übermäßiges Vertrauen des Menschen in automatisierte Systeme
- Mensch-Roboter-Interaktion und Vertrauen
- Assistenz- und Gesundheitsrobotik
- KI-Governance und Ethik
- KI in der Wirtschaft: Risiken und Chancen
- Führungskompetenz im Ingenieurwesen und Vielfalt der Belegschaft in den MINT-Fächern
Ideal für
- Vorstände und Führungskräfte der obersten Ebene mit Verantwortung für KI-Governance
- Chief Technology Officers und Chief Digital Officers, die den Einsatz von KI beaufsichtigen
- Führungskräfte in den Bereichen Forschung, Entwicklung und Innovation in Technologie-, Gesundheits- und Fertigungsunternehmen
- Programme zur Führungskräfteentwicklung in den Bereichen Ingenieurwesen und Technologie
Lernziele für die Teilnehmer
- Eine konkrete Neudefinition der Verantwortlichkeit im Bereich KI: Voreingenommenheit ist eine Verantwortung des Designs, kein Datenproblem – mit Auswirkungen darauf, wer in der Organisation dafür verantwortlich ist
- Evidenzbasiertes Verständnis dafür, wie Menschen automatisierten Systemen übermäßiges Vertrauen schenken und was dies für Governance- und Einsatzentscheidungen bedeutet
- Praktische Kriterien zur Bewertung von KI-Systemen, bevor diese in verantwortungsvolle Rollen eingesetzt werden
- Ein klareres Verständnis dafür, inwiefern die Vielfalt der Belegschaft in technischen Teams die Ergebnisse der KI beeinflusst – und wie man dies intern begründen kann
- Eine selbstbewusstere, evidenzgestützte Position für Vorstände und Führungsteams, die vor Entscheidungen zur Einführung von KI stehen
Vorträge
Untersucht, wie KI und Robotik die Arbeitswelt und die soziale Mobilität verändern und was Organisationen und Pädagogen tun müssen, um qualifizierte, inklusive Fachkräfte im technischen Bereich auszubilden.
Wichtigste Erkenntnisse:
- Wie sich MINT-Bildung effektiv über alle Altersgruppen hinweg integrieren lässt, von der frühen Kindheit bis zur Hochschulbildung
- Wie man bei unterrepräsentierten Bevölkerungsgruppen nachhaltiges Interesse und Kompetenzen in KI-bezogenen Bereichen weckt
- Was Organisationen tun können, um den Nachschub an technischen Fachkräften zu sichern, den die KI-Wirtschaft benötigt
Ausgehend von ihrem vielgesehenen TED-Vortrag untersucht dieser Vortrag, wie die Einbindung von Prinzipien aus dem menschlichen Verhalten und den Neurowissenschaften KI-Systeme sicherer, effektiver und besser auf gesellschaftliche Normen abgestimmt macht.
Wichtigste Erkenntnisse:
- Wie menschliche Intelligenz und menschliches Verhalten die Gestaltung von Roboter- und KI-Systemen beeinflussen können
- Warum die Einbettung von Interaktionsregeln entscheidend für eine sichere und effektive Mensch-Roboter-Interaktion ist
- Die Auswirkungen von menschenähnlicheren KI-Systemen auf Technologieunternehmen, Wirtschaft und Verbraucher
Untersucht die Rolle von Robotik und KI im Gesundheitswesen, insbesondere bei der Unterstützung von Kindern mit besonderen Bedürfnissen und älteren Patienten, und stützt sich dabei auf Howards eigene Forschung und die Entwicklung kommerzieller Produkte.
Die wichtigsten Erkenntnisse:
- Wie Robotersysteme die Physiotherapie und Rehabilitation von Kindern mit motorischen Einschränkungen unterstützen können
- Das Potenzial von KI-gestützten Robotern zur Gesundheitsüberwachung und emotionalen Unterstützung
- Praktische Überlegungen zur Integration von Assistenzrobotern in Einrichtungen des Gesundheitswesens
Eine moderierte Sitzung, in der sowohl die betrieblichen Vorteile als auch die unbeabsichtigten Folgen des Einsatzes von KI beleuchtet werden – um Führungskräften dabei zu helfen, Risiken einzuschätzen und sich auf eine verantwortungsvolle Umsetzung vorzubereiten.
Wichtigste Erkenntnisse:
- Wie KI-Tools die Datenanalyse und die betriebliche Effizienz verbessern können
- Wichtige Fragen, die sich Unternehmen vor der Einführung von KI-Systemen stellen sollten
- Wie Risiken – darunter Datenschutz, Datenmissbrauch und unbeabsichtigte diskriminierende Auswirkungen – erkannt und gemindert werden können
Behandelt, wie menschliche Voreingenommenheit in KI-Systemen verankert wird und wie übermäßiges Vertrauen in automatisierte Entscheidungen ethische und gesellschaftliche Folgen nach sich zieht, deren sich Organisationen oft nicht bewusst sind.
Wichtigste Erkenntnisse:
- Wie Voreingenommenheit die Entwicklung und die Ergebnisse von KI-Algorithmen beeinflusst
- Die Risiken, die mit einer übermäßigen Abhängigkeit von automatisierten Systemen bei Entscheidungen mit hohen Risiken verbunden sind
- Strategien zur Minderung oder Vermeidung von Voreingenommenheit in KI-Technologien der nächsten Generation