Opis projektu
Eksperymentalny plac zabaw do oceny i eliminowania stronniczości sztucznej inteligencji
Sztuczna inteligencja (SI) jest szeroko stosowana w wielu sektorach ze względu na korzyści związane z automatyzacją i optymalizacją. SI może być jednak również źródłem uprzedzeń i dyskryminacji, które trzeba kontrolować, mierzyć i których należy unikać. Ponadto brakuje wiedzy na temat korygowania i oceny stronniczości w istniejących systemach SI oraz projektowania nowych narzędzi SI wolnych od stronniczości. Finansowany przez UE projekt AEQUITAS zmieni ten stan rzeczy poprzez stworzenie kontrolowanego środowiska eksperymentalnego, które pomoże producentom SI zwiększyć świadomość stronniczości wytwarzanej przez systemy SI oraz ocenić i (ewentualnie) naprawić istniejące systemy SI. Dostarczy również wytycznych dla systemów SI zapewniających uczciwość już w fazie projektowania oraz zwiększy świadomość zagrożeń wynikających z SI, jeśli nie będą one odpowiednio obsługiwane i zarządzane.
Cel
AI-based decision support systems are increasingly deployed in industry, in the public and private sectors, and in policy-making. As our society is facing a dramatic increase in inequalities and intersectional discrimination, we need to prevent AI systems to amplify this phenomenon but rather mitigate it. To trust these systems, domain experts and stakeholders need to trust the decisions.
Fairness stands as one of the main principles of Trustworthy AI promoted at EU level. How these principles, in particular fairness, translate into technical, functional social, and lawful requirements in the AI system design is still an open question. Similarly we don’t know how to test if a system is compliant with these principles and repair it in case it is not.
AEQUITAS proposes the design of a controlled experimentation environment for developers and users to create controlled experiments for
- assessing the bias in AI systems, e.g. identifying potential causes of bias in data, algorithms, and interpretation of results,
- providing, when possible, effective methods and engineering guidelines to repair, remove, and mitigate bias,
- provide fairness-by-design guidelines, methodologies, and software engineering techniques to design new bias-free systems
The experimentation environment generates synthetic data sets with different features influencing fairness for a test in laboratories. Real use cases in health care, human resources and social disadvantaged group challenges further test the experimentation platform showcasing the effectiveness of the solution proposed. The experimentation playground will be integrated on the AI-on-demand platform to boost its uptake, but a stand-alone release will enable on-premise privacy-preserving test of AI-systems fairness.
AEQUITAS relies on a strong consortium featuring AI experts, domain experts in the use case sectors as well as social scientists and associations defending rights of minorities and discriminated groups.
Dziedzina nauki (EuroSciVoc)
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Klasyfikacja tego projektu została potwierdzona przez zespół projektowy.
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Klasyfikacja tego projektu została potwierdzona przez zespół projektowy.
Słowa kluczowe
Program(-y)
Zaproszenie do składania wniosków
Zobacz inne projekty w ramach tego zaproszeniaSystem finansowania
HORIZON-RIA - HORIZON Research and Innovation ActionsKoordynator
40126 Bologna
Włochy
Zobacz na mapie
Uczestnicy (18)
901 87 Umea
Zobacz na mapie
T12 YN60 Cork
Zobacz na mapie
20132 Milano
Zobacz na mapie
Podmiot prawny inny niż podwykonawca, stowarzyszony lub mający inne powiązania prawne z uczestnikiem. Podmiot realizuje prace na podstawie warunków umowy o grant, dostarcza towary lub świadczy usługi związane z działaniem, jednak nie podpisuje umowy o grant. Podmiot zewnętrzny przestrzega zasad i wymogów dotyczących danego uczestnika wynikających z umowy o grant, dotyczących kwalifikowalności kosztów oraz kontroli wydatków.
00144 ROMA
Zobacz na mapie
Podmiot prawny inny niż podwykonawca, stowarzyszony lub mający inne powiązania prawne z uczestnikiem. Podmiot realizuje prace na podstawie warunków umowy o grant, dostarcza towary lub świadczy usługi związane z działaniem, jednak nie podpisuje umowy o grant. Podmiot zewnętrzny przestrzega zasad i wymogów dotyczących danego uczestnika wynikających z umowy o grant, dotyczących kwalifikowalności kosztów oraz kontroli wydatków.
20132 Milano
Zobacz na mapie
10146 TORINO
Zobacz na mapie
40138 Bologna
Zobacz na mapie
5656 AG Eindhoven
Zobacz na mapie
3720 232 Oliveira De Azemeis
Zobacz na mapie
Organizacja określiła się jako MŚP (firma z sektora małych i średnich przedsiębiorstw) w czasie podpisania umowy o grant.
1098 XH AMSTERDAM
Zobacz na mapie
40121 Bologna
Zobacz na mapie
40121 Bologna
Zobacz na mapie
75020 Paris
Zobacz na mapie
1000 BRUXELLES
Zobacz na mapie
46022 Valencia
Zobacz na mapie
Podmiot prawny inny niż podwykonawca, stowarzyszony lub mający inne powiązania prawne z uczestnikiem. Podmiot realizuje prace na podstawie warunków umowy o grant, dostarcza towary lub świadczy usługi związane z działaniem, jednak nie podpisuje umowy o grant. Podmiot zewnętrzny przestrzega zasad i wymogów dotyczących danego uczestnika wynikających z umowy o grant, dotyczących kwalifikowalności kosztów oraz kontroli wydatków.
46022 Valencia
Zobacz na mapie
38200 San Cristobal de La Laguna
Zobacz na mapie
38008 Santa Cruz De Tenerife
Zobacz na mapie