Description du projet
Terrain d’expérimentation pour évaluer et réparer les biais sur l’IA
L’intelligence artificielle (IA) est largement utilisée dans un grand nombre de secteurs en raison des avantages de l’automatisation et de l’optimisation. Toutefois, l’IA peut également être une source de biais et de discrimination qui doit être contrôlée, mesurée et évitée. En outre, les connaissances permettant la réparation et l’évaluation des biais dans les systèmes d’IA existants et la conception de nouveaux outils d’IA sans biais sont lacunaires. Le projet AEQUITAS, financé par l’UE, y remédiera en développant un environnement d’expérimentation contrôlé pour aider les producteurs d’IA à accroître la sensibilisation aux biais produits par les systèmes d’IA et à évaluer et (éventuellement) réparer les systèmes d’IA existants. Il fournira également des directives pour des systèmes d’IA de conception équitable et sensibilisera aux risques de l’IA s’ils ne sont pas traités et gérés de manière adéquate.
Objectif
AI-based decision support systems are increasingly deployed in industry, in the public and private sectors, and in policy-making. As our society is facing a dramatic increase in inequalities and intersectional discrimination, we need to prevent AI systems to amplify this phenomenon but rather mitigate it. To trust these systems, domain experts and stakeholders need to trust the decisions.
Fairness stands as one of the main principles of Trustworthy AI promoted at EU level. How these principles, in particular fairness, translate into technical, functional social, and lawful requirements in the AI system design is still an open question. Similarly we don’t know how to test if a system is compliant with these principles and repair it in case it is not.
AEQUITAS proposes the design of a controlled experimentation environment for developers and users to create controlled experiments for
- assessing the bias in AI systems, e.g. identifying potential causes of bias in data, algorithms, and interpretation of results,
- providing, when possible, effective methods and engineering guidelines to repair, remove, and mitigate bias,
- provide fairness-by-design guidelines, methodologies, and software engineering techniques to design new bias-free systems
The experimentation environment generates synthetic data sets with different features influencing fairness for a test in laboratories. Real use cases in health care, human resources and social disadvantaged group challenges further test the experimentation platform showcasing the effectiveness of the solution proposed. The experimentation playground will be integrated on the AI-on-demand platform to boost its uptake, but a stand-alone release will enable on-premise privacy-preserving test of AI-systems fairness.
AEQUITAS relies on a strong consortium featuring AI experts, domain experts in the use case sectors as well as social scientists and associations defending rights of minorities and discriminated groups.
Champ scientifique (EuroSciVoc)
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. La classification de ce projet a été validée par l’équipe qui en a la charge.
CORDIS classe les projets avec EuroSciVoc, une taxonomie multilingue des domaines scientifiques, grâce à un processus semi-automatique basé sur des techniques TLN. La classification de ce projet a été validée par l’équipe qui en a la charge.
Mots‑clés
Programme(s)
Régime de financement
HORIZON-RIA - HORIZON Research and Innovation ActionsCoordinateur
40126 Bologna
Italie
Voir sur la carte
Participants (18)
901 87 Umea
Voir sur la carte
T12 YN60 Cork
Voir sur la carte
20132 Milano
Voir sur la carte
Entité juridique autre qu’un sous-traitant qui est affiliée ou juridiquement liée à un participant. L’entité réalise des travaux dans les conditions prévues par la convention de subvention, fournit des biens ou des services pour l’action, mais n’a pas signé la convention de subvention. Le tiers respecte les règles applicables au participant qui lui est lié dans le cadre de la convention de subvention en ce qui concerne l’éligibilité des coûts et le contrôle des dépenses.
00144 ROMA
Voir sur la carte
Entité juridique autre qu’un sous-traitant qui est affiliée ou juridiquement liée à un participant. L’entité réalise des travaux dans les conditions prévues par la convention de subvention, fournit des biens ou des services pour l’action, mais n’a pas signé la convention de subvention. Le tiers respecte les règles applicables au participant qui lui est lié dans le cadre de la convention de subvention en ce qui concerne l’éligibilité des coûts et le contrôle des dépenses.
20132 Milano
Voir sur la carte
10146 TORINO
Voir sur la carte
40138 Bologna
Voir sur la carte
5656 AG Eindhoven
Voir sur la carte
3720 232 Oliveira De Azemeis
Voir sur la carte
L’entreprise s’est définie comme une PME (petite et moyenne entreprise) au moment de la signature de la convention de subvention.
1098 XH AMSTERDAM
Voir sur la carte
40121 Bologna
Voir sur la carte
40121 Bologna
Voir sur la carte
75020 Paris
Voir sur la carte
1000 BRUXELLES
Voir sur la carte
46022 Valencia
Voir sur la carte
Entité juridique autre qu’un sous-traitant qui est affiliée ou juridiquement liée à un participant. L’entité réalise des travaux dans les conditions prévues par la convention de subvention, fournit des biens ou des services pour l’action, mais n’a pas signé la convention de subvention. Le tiers respecte les règles applicables au participant qui lui est lié dans le cadre de la convention de subvention en ce qui concerne l’éligibilité des coûts et le contrôle des dépenses.
46022 Valencia
Voir sur la carte
38200 San Cristobal de La Laguna
Voir sur la carte
38008 Santa Cruz De Tenerife
Voir sur la carte