Comprendre les biais de genre dans la construction de modèles d’intelligence artificielle dans le contexte africain

Pays : Ouganda 

Résumé du projet

Les technologies d’apprentissage automatique telles que les systèmes de reconnaissance automatique de la parole, les modèles de langage et les systèmes de traduction automatique sont développés pour fonctionner dans des environnements où le genre et d’autres formes de préjugés et de discrimination sont présents.

Ces préjugés sont présents dans les ensembles de données qui sont utilisés pour l’entraînement des modèles et les choix autour des modèles d’apprentissage automatique. Les modèles de ML développés finissent par renforcer les préjugés qui sont intégrés dans les données d’entraînement.

Cette recherche se concentrera sur une approche de recherche axée sur les données afin de réaliser une étude de portée sur une compréhension plus approfondie des préjugés sexistes et de l’inclusivité des outils d’intelligence artificielle sur le continent africain. Les résultats serviront à élaborer un cadre et des lignes directrices pour l’atténuation des préjugés sexistes dans les systèmes d’ASR grâce à l’équité dans la collecte des données et la création de modèles.

Enfin, ce travail développera un cadre de gouvernance des modèles pour aborder les aspects éthiques et de genre autour des données et des algorithmes à partir desquels les systèmes d’ASR sont construits.

Zone de mise en œuvre du projet : Ouganda

Porteur du projet : Dr. Joyce Nakatumba-Nabende

Joyce Nakatumba-Nabende est maître de conférences au département d’informatique. Elle dirige le laboratoire d’intelligence artificielle de Makerere, où elle a travaillé sur des projets de recherche visant à développer et à appliquer des méthodes et des outils d’intelligence artificielle et d’apprentissage automatique afin d’améliorer la qualité de vie, en particulier dans les pays en développement. Elle est membre du conseil d’administration de Data Science Africa et membre du comité consultatif sur l’éducation de l’ACM.

Les membres de l’équipe 

Andrew Katumba

Andrew KatumbaAndrew Katumba est maître de conférences au département d’ingénierie électrique et informatique de l’université de Makerere. Ses recherches actuelles se concentrent sur l’application de l’apprentissage automatique et des techniques de science des données dans des domaines pertinents pour le contexte africain. Parmi les exemples clés, on peut citer : 1) le développement d’une plateforme smartphone assistée par l’apprentissage automatique pour le diagnostic du cancer du col de l’utérus, 2) le développement d’un système portable d’échographie pulmonaire assisté par l’apprentissage automatique, 3) le développement d’une plateforme de diagnostic pour les maladies des plantes 4) la mise au point d’outils NLP assistés par l’apprentissage automatique pour les langues à faibles ressources.

Dr Peter Nabende

Peter Nabende est maître de conférences au département des systèmes d’information de la School of Computing and Informatics Technology de l’université de Makerere. Ses recherches portent sur le traitement du langage naturel, les applications de l’intelligence artificielle pour le monde en développement et l’exploration des données. Il a travaillé sur des projets de recherche visant à développer des ressources et des modèles pour des applications dans des contextes africains à faibles ressources. Il a également développé un court tutoriel sur l’élimination ou l’atténuation des biais dans les données d’entraînement de l’IA.

Eric Peter Wairagala

Eric Peter Wairagala est ingénieur logiciel de recherche au laboratoire de recherche sur l’IA et la science des données de l’université de Makerere. Très motivé et passionné, il prépare un master en informatique à l’université de Makerere, avec une spécialisation en IA et en science des données. Ses recherches portent sur les domaines de la vision artificielle, de l’apprentissage automatique et du traitement du langage naturel, avec un accent particulier sur l’IA responsable. Il collabore avec les communautés Masakhane, Data Science Africa et Deep Learning Indaba, qui visent à combler le fossé entre l’IA et l’apprentissage automatique en Afrique.

Tobius Saul Bateesa

Tobius Saul Bateesa est assistant de recherche et ingénieur logiciel au laboratoire d’intelligence artificielle et de science des données de Makerere. Au Makerere AIR Lab, il a travaillé sur des projets qui utilisent la science des données et l’intelligence artificielle pour résoudre les problèmes des pays en développement dans des domaines tels que l’agriculture, la santé, l’urbanisme, l’éthique et la préservation de la culture. Il poursuit actuellement son master en science des données à l’université d’East London, où il continue d’approfondir son expertise.

Carol Kantono

Caroline Kantono est assistante de recherche au laboratoire d’intelligence artificielle et de science des données de l’université de Makerere. Elle poursuit une carrière dans la science des données après avoir obtenu un Master en Business Intelligence et Analytics à l’Université des Sciences Appliquées de Neu-Ulm. Ses recherches portent sur le traitement du langage naturel (NLP) et l’intelligence artificielle, où elle a terminé son projet de recherche sur l’analyse des sentiments.

Description de l’institution

Le laboratoire d’intelligence artificielle de Makerere est un laboratoire de recherche de l’université de Makerere spécialisé dans l’application de l’intelligence artificielle et de la science des données aux problèmes du monde en développement. Le laboratoire d’intelligence artificielle a plus de dix ans d’expérience dans la recherche sur l’intelligence artificielle en mettant l’accent sur l’application aux problèmes locaux. Poussés par notre mission « Faire avancer la recherche en intelligence artificielle pour résoudre les défis du monde réel », et grâce à des partenariats solides avec les organisations nationales et les départements universitaires comme l’Institut des langues, nous avons des compétences dans (a) le développement d’outils pour la collecte et la curation d’ensembles de données pour les tâches de NLP en aval, (b) la construction de modèles informatiques pour les tâches de traitement du langage naturel en aval, (c) la construction de modèles informatiques pour le crowdsourcing d’images et la surveillance en temps réel, (b) l’application de la vision par ordinateur pour le diagnostic des ravageurs et des maladies des récoltes.

Lien de l’institution : https://air.ug/

Articles similaires
STEM ET EDUCATION : RECHERCHE DES GAPS LIÉS AU GENRE
STEM ET EDUCATION : RECHERCHE DES GAPS LIÉS AU GENRE

Not that long ago, people lived and functioned in tight communities. Every vendor knew their customers personally and could make...

les-violences-sexuelles-comme-instrument-politique-durant-les-elections-au-kenya
les-violences-sexuelles-comme-instrument-politique-durant-les-elections-au-kenya

This Machine Learning Glossary aims to briefly introduce the most important Machine Learning terms - both for the commercially and...