Mara Balestrini
Les approches de l’IA et de la transformation numérique qui privilégient la technologie ont tendance à aboutir à des systèmes qui résolvent des problèmes techniques, et non des problèmes organisationnels ou civiques. Lorsque les personnes concernées par ces systèmes n’ont pas leur mot à dire sur leur conception ou leur gouvernance, la confiance s’érode et l’adoption échoue. C’est sur le décalage entre la rapidité de déploiement et l’état de préparation en matière de gouvernance que la plupart des stratégies numériques échouent.
Lorsque les stratégies en matière d’IA et de données devancent leur gouvernance, Mara Balestrini – chercheuse en interaction homme-machine, ancienne conseillère en matière de politique d’IA auprès du gouvernement espagnol et ancienne directrice technique du laboratoire d’innovation de la Banque interaméricaine de développement – aide les organisations à concevoir les cadres de gouvernance nécessaires pour les soutenir.
Full Profile
Pourquoi les organisations font appel à Mara Balestrini
- Ses cadres de gouvernance ne sont pas purement conceptuels : l’approche de Bristol et le City Commons Framework (publiés lors de la conférence ACM CHI 2017) ont été développés en collaboration avec de véritables institutions, au sein de systèmes urbains réels, et ont influencé les politiques en matière de données urbaines au-delà de leurs contextes d’origine. Les organisations bénéficient de modèles éprouvés, et non de simples livres blancs.
- Elle a travaillé au niveau de la politique nationale en matière d'IA, en tant que conseillère du cabinet du secrétaire d'État espagnol chargé de la numérisation et de l'IA. Cela lui confère une compréhension directe et non théorique de la manière dont les cadres réglementaires et de gouvernance sont élaborés – et de leurs lacunes habituelles.
- Son mandat à la tête de la transformation numérique et de l'IA responsable au sein de l'IDB Lab, notamment dans le cadre de l'initiative fAIr LAC+, lui a permis d'appliquer ces cadres au sein d'une institution multilatérale gérant des programmes technologiques à grande échelle dans 23 pays. Les défis auxquels elle s'attaque ne sont pas hypothétiques.
- Ses recherches se situent à la croisée de l'IHM, de l'IoT et de la gouvernance responsable de l'IA ; elles ont été citées plus de 1 500 fois et reconnues par l'ACM CHI, l'ACM CSCW et Ars Electronica. Ce socle académique fournit aux organisations le vocabulaire analytique nécessaire pour passer du déploiement de l'IA à la responsabilisation de l'IA.
- En tant que cofondatrice de SalusCoop, la première coopérative espagnole dédiée aux données de santé des citoyens, elle a démontré que les modèles de gouvernance des données qu'elle prône sont viables en tant qu'organisations opérationnelles, et non pas seulement en tant que positions politiques.
Faits marquants de sa biographie
- Doctorat en informatique, Intel Collaborative Research Institute on Sustainable Connected Cities (ICRI-Cities), University College London
- Ancienne directrice technique et responsable de la transformation numérique, IDB Lab (Laboratoire d'innovation de la Banque interaméricaine de développement) ; contributrice à fAIr LAC+, une initiative dédiée à l'adoption responsable de l'IA en Amérique latine et dans les Caraïbes
- Actuellement PDG de LNET, l'infrastructure mondiale de blockchain à but non lucratif et l'agence d'exécution de l'IDB Lab, opérant dans 23 pays
- Ancien conseiller du secrétaire d'État espagnol à la numérisation et à l'intelligence artificielle
- Ancien PDG et associé chez Ideas for Change ; créateur du City Commons Framework (ACM CHI 2017) et co-développeur de l'approche de Bristol avec le conseil municipal de Bristol
- Co-fondateur de SalusCoop, la première coopérative espagnole dédiée aux données de santé des citoyens
- Auteur de plus de 30 publications universitaires ; plus de 1 584 citations sur Google Scholar ; lauréat de prix décernés par l'ACM CHI, l'ACM CSCW et Ars Electronica
- Cité par la BBC, The Guardian, le Financial Times et El País ; conférencier TEDx (TEDxCordoba, 2018) ; chercheur associé au Centre ESADE EsadeGov pour la gouvernance publique
Biographie
L'argument central de Mara Balestrini est que les stratégies d'IA et de transformation numérique échouent non pas parce que la technologie est mauvaise, mais parce que la gouvernance est mise en place après coup, et non en amont. Des recherches financées par la Commission européenne au bureau national espagnol chargé de la politique en matière d'IA, en passant par la Banque interaméricaine de développement, elle a passé deux décennies à élaborer les cadres nécessaires pour inverser cette séquence.
Ses travaux de doctorat à l'Intel Collaborative Research Institute on Sustainable Connected Cities de l'UCL ont donné naissance au City Commons Framework, publié lors de l'ACM CHI 2017 — un modèle visant à intégrer la gouvernance citoyenne dans les systèmes basés sur les données dès la phase de conception. Elle a co-développé la Bristol Approach avec le conseil municipal de Bristol et KWMC, une méthodologie fondée sur les biens communs pour la détection participative qui recadre les investissements dans les villes intelligentes en fonction des priorités des citoyens plutôt que des capacités techniques. Elle a également coordonné Making Sense, un projet financé par le programme H2020 de la Commission européenne qui a transformé des capteurs environnementaux appartenant à la communauté en une plateforme d’action civique à grande échelle.
À partir de cette base de recherche, elle s’est orientée vers la politique nationale, occupant le poste de conseillère du cabinet du secrétaire d’État espagnol à la Numérisation et à l’IA – l’une des rares chercheuses en IHM à avoir occupé un poste à ce niveau du gouvernement. Elle a ensuite occupé le poste de directrice technique et responsable de la transformation numérique chez IDB Lab, où elle a contribué à fAIr LAC+, l'initiative de la Banque interaméricaine de développement visant à promouvoir l'adoption responsable de l'IA en Amérique latine et dans les Caraïbes. Elle est actuellement PDG de LNET, l'organisation mondiale à but non lucratif dédiée à l'infrastructure blockchain issue de LACChain, qui relie désormais les gouvernements, les organisations multilatérales et le secteur privé dans 23 pays.
Ses travaux de recherche, cités plus de 1 500 fois, couvrent l'IHM, l'IoT et la gouvernance responsable de l'IA. Ils ont été reconnus par l'ACM CHI, l'ACM CSCW et Ars Electronica, et relayés par la BBC, le Financial Times, The Guardian et El País.
Principaux thèmes de ses interventions
- Gouvernance responsable de l'IA et responsabilité institutionnelle
- Stratégie de transformation numérique pour les institutions publiques et civiques
- Technologies civiques et participation des citoyens à la conception technologique
- Villes intelligentes et gouvernance des données urbaines
- Droits relatifs aux données et modèles de données coopératifs
- Gouvernance des technologies émergentes (blockchain, Web3) pour les institutions
- Politique et réglementation en matière d'IA du point de vue des praticiens
Idéal pour
- Les directeurs numériques et les directeurs des données chargés de la gouvernance de l'IA, de la stratégie en matière de données et du déploiement responsable des technologies
- Les cadres du secteur public et les responsables gouvernementaux chargés de la politique en matière d'IA, de la transformation numérique ou des cadres réglementaires
- Les conseils d'administration et les équipes de direction qui évaluent la responsabilité institutionnelle dans le cadre de programmes d'IA ou de données à grande échelle
- Responsables de la transformation et directeurs de l'innovation au sein d'organisations multilatérales, de banques de développement ou d'institutions internationales
Résultats attendus
- Une distinction opérationnelle entre le déploiement de l'IA et la gouvernance de l'IA, et pourquoi confondre les deux entraîne des échecs prévisibles à grande échelle
- Une familiarité avec des cadres de gouvernance éprouvés et reconnus (Bristol Approach, City Commons Framework, fAIr LAC+) pouvant être adaptés au-delà des contextes urbains ou gouvernementaux
- Une compréhension plus claire des points de rupture les plus courants des stratégies actuelles en matière d'IA et de transformation numérique, et de ce à quoi ressemble concrètement la conception d'une gouvernance dès le départ
- Une vision éclairée de la manière dont les politiques nationales en matière d'IA sont élaborées, tirée d'une expérience directe de conseil auprès des gouvernements plutôt que d'une analyse secondaire
- Des repères pratiques pour concevoir des stratégies d'IA responsables qui rendent des comptes aux parties prenantes avant leur déploiement, et non après