Jazda autonomiczna potrzebuje AI przyjaznej dla użytkownika
Technologie autonomicznej jazdy notują szybki postęp dzięki sztucznej inteligencji (AI), która może przetwarzać ogromne ilości danych, wspierając podejmowanie decyzji dotyczących bezpiecznej i wydajnej jazdy. Jednak zanim zautomatyzowane pojazdy zostaną wprowadzone do powszechnego użytku, należy rozwiać wszelkie obawy kierowców dotyczące tego, w jaki sposób i dlaczego systemy AI podejmują te decyzje. „Kiedy prowadzimy samochód, wiemy, dlaczego skręcamy w określonym kierunku, zmieniamy pas ruchu czy też naciskamy hamulec”, mówi Oihana Otaegui z hiszpańskiego ośrodka Vicomtech, koordynatorka projektu AIthena. „Ale kiedy siedzimy w autonomicznym samochodzie, możemy nie do końca rozumieć, co się dzieje. Sztuczna inteligencja działa tu jak kapelusz magika – wkłada się do niej informacje, a wyskakują decyzje”.
Odpowiedzialność wbudowana w projekt
Celem projektu AIthena było wyjaśnienie, na czym ta „magia” polega, umożliwiając użytkownikom zautomatyzowanych pojazdów, a także organom odpowiedzialnym za transport lub zarządzanie ruchem zrozumienie, dlaczego w czasie jazdy system podejmuje określone decyzje. Aby osiągnąć ten cel, zespół projektu opracował pionierskie podejście w celu stworzenia AI przyjaznej dla użytkownika z myślą o opartej na sieci, współpracującej i zautomatyzowanej mobilności (ang. connected, cooperative and automated mobility, CCAM). „Nasza metodologia powinna sprawić, że systemy sztucznej inteligencji będą zrozumiałe dla użytkowników końcowych i w pełni zgodne z europejskimi przepisami, takimi jak akt w sprawie danych i akt w sprawie AI”, dodaje Otaegui. Podejście przyjęte przez zespół projektu obejmuje cztery główne fazy rozwoju AI: gromadzenie danych, szkolenie, testowanie i wdrażanie. Najważniejszym elementem prac jest dokumentowanie kluczowych szczegółów, takich jak użytkowanie zgodnie z przeznaczeniem, względy etyczne i parametry wydajności. „Ponadto udało nam się udoskonalić metody ochrony danych wrażliwych przy jednoczesnym utrzymaniu poziomu wydajności AI”, kontynuuje Otaegui. „Metody te obejmowały szereg technik ochrony prywatności, między innymi szyfrowanie homomorficzne i uczenie federacyjne, umożliwiających szkolenie AI bez bezpośredniego ujawniania surowych danych”.
Droga ku ulepszonej sztucznej inteligencji
Metodologia stanie się podstawą do dalszego doskonalenia AI w zautomatyzowanych pojazdach, a jej skuteczność zostanie sprawdzona na czterech praktycznych przypadkach użycia w ostatnim roku trwania projektu. Pierwsze z tych studiów przypadków skupi się na tym, jak systemy AI postrzegają i obsługują surowe dane z czujników, takich jak kamery, systemy lidar i urządzenia ultradźwiękowe. W ramach drugiego studium przypadku badacze przyjrzą się bliżej, w jaki sposób informacje z różnych czujników można połączyć w celu zbudowania świadomości sytuacyjnej. Zespół projektu najbardziej interesuje zrozumienie, w jaki sposób AI interpretuje środowisko jazdy i uwzględnia różne czynniki, takie jak zachowanie innych użytkowników dróg. „Trzeci przypadek użycia będzie poświęcony badaniu procesów podejmowania decyzji w autonomicznych systemach jazdy, a szczególnie zrozumieniu przyczyn stojących za decyzjami sztucznej inteligencji”, zauważa Otaegui. „Wyjaśnienie, dlaczego podejmowane są określone decyzje dotyczące jazdy, ma na celu zwiększenie przejrzystości i zaufania do AI. Ten przypadek użycia skupia się na wytłumaczalności i zgodności z zasadami etyki”. Z kolei ostatni przypadek użycia obejmie analizę systemów zarządzania ruchem opartych na AI, koncentrując się na tym, jak zautomatyzowane pojazdy współdziałają w ramach szerszych sieci transportowych. Ma to na celu zrozumienie i zoptymalizowanie roli AI w zapewnianiu płynności ruchu, efektywnym wykorzystaniu zasobów i współpracujących systemach mobilności.
Zrównoważony rozwój sztucznej inteligencji
Wspomniane studia przypadków będą oceniane z wykorzystaniem rzeczywistych sytuacji drogowych, a także symulacji bardziej złożonych i potencjalnie niebezpiecznych scenariuszy. Zespół zamierza sprawdzić, w jaki sposób sztuczna inteligencja postrzega środowisko, rozumie i komunikuje sytuacje na drodze, podejmuje decyzje oraz jak działa w ramach szerszych systemów zarządzania ruchem. „Jeśli uda nam się wykazać, że nasza metodologia jest skutecznym sposobem na opracowanie godnej zaufania AI sprawdzającej się w zastosowaniach CCAM, może stać się podstawą dla przyszłych projektów”, wyjaśnia Otaegui. „Mamy nadzieję, że dzięki położeniu nacisku na wytłumaczalność, prywatność i odpowiedzialność projekt AIthena pomoże tworzyć technologie AI, które są przejrzyste, etyczne i zorientowane na człowieka. Ostatecznie podejście to przyczyni się do stworzenia godnej większego zaufania i zrównoważonej AI przeznaczonej dla autonomicznego transportu”.
Słowa kluczowe
AIthena, CCAM, oparta na sieci, współpracująca i zautomatyzowana mobilność, pojazd, AI, sztuczna inteligencja, mobilność, Lidar, transport, wytłumaczalność, godna zaufania, AI