Opis projektu
Nowy inteligentny system wesprze kontrolerów ruchu powietrznego
Postępująca automatyzacja wykorzystująca sztuczną inteligencję (SI) i uczenie maszynowe umożliwia lepsze osiągi, wyniki i wydajność w rozwiązywaniu problemów, a także większe bezpieczeństwo i kontrolę nad procesami. Jednak technologia zastępująca wkład człowieka może powodować pewne problemy w sytuacji, gdy nie wszystkie procesy są dla człowieka w pełni zrozumiałe. Celem finansowanego ze środków UE projektu MAHALO jest zaprojektowanie zautomatyzowanego systemu opartego na wytłumaczalnej SI, uczeniu maszynowym oraz głębokim uczeniu neuronalnym do celów rozwiązywania problemów na linii załoga samolotu–kontrolerzy ruchu powietrznego. Urządzenie zostanie przeszkolone przez operatora i będzie go informowało, czego się nauczyło, zwiększając tym samym możliwości, wydajność i bezpieczeństwo. Twórcy projektu MAHALO zbadają przede wszystkim znaczenie przejrzystości (w jakim stopniu SI potrafi wytłumaczyć, dlaczego podjęła konkretną decyzję) i zgodności (na ile decyzja podjęta przez SI pokrywa się z decyzją, jaką podjąłby kontroler). Przeprowadzą symulacje w czasie rzeczywistym dotyczące problemów w ruchu powietrznym, zaufania, akceptacji i zrozumienia kontrolera. Projekt MAHALO posłuży jako model dla przyszłych systemów SI.
Cel
MAHALO asks a simple but profound question: in the emerging age of Machine Learning (ML), should we be developing automation that matches human behavior (i.e. conformal), or automation that is understandable to the human (i.e. transparent)? Further, what tradeoffs exist, in terms of controller trust, acceptance, and performance? To answer these questions, MAHALO will:
• Develop an individually-tuned ML system comprised of layered deep learning and reinforcement models, trained on controller performance (context-specific solutions), strategies (eye tracking), and physiological data, which learns to solve ATC conflicts;
• Couple this to an enhanced en-route CD&R prototype display to present machine rationale with regards to ML output;
• Evaluate in realtime simulations the relative impact of ML conformance, transparency, and traffic complexity, on controller understanding, trust, acceptance, workload, and performance; and
• Define a framework to guide design of future AI systems, including guidance on the effects of conformance, transparency, complexity, and non-nominal conditions.
Building on the collective experience within the team, past research, and recent advances in the areas of ML and ecological interface design (EID), MAHALO will take a bold step forward: to create a system that learns from the individual operator, but also provides the operator insight into what the machine has learnt. Several models will be trained and evaluated to reflect a continuum from individually-matched to group-average. Most recent work in areas of automation transparency, Explainable AI (XAI) and ML interpretability will be explored to afford understanding of ML advisories. The user interface will present ML outputs, in terms of: current and future (what-if) traffic patterns; intended resolution maneuvers; and rule-based rationale. The project’s output will add knowledge and design principles on how AI and transparency can be used to improve ATM performance, capacity, and safety.
Dziedzina nauki
Not validated
Not validated
Słowa kluczowe
Program(-y)
System finansowania
RIA - Research and Innovation actionKoordynator
00185 Roma
Włochy
Organizacja określiła się jako MŚP (firma z sektora małych i średnich przedsiębiorstw) w czasie podpisania umowy o grant.