Odpowiedzialne innowacje w erze sztucznej inteligencji
Trenowanie i walidacja modeli generatywnej sztucznej inteligencji (GenAI) staje się coraz bardziej skomplikowane, jak zatem firmy opracowujące lub obsługujące takie systemy mogą oceniać i ograniczać ryzyko? Projekt QuantPi, finansowany przez Europejską Radę Innowacji, przynosi rozwiązanie w postaci platformy AI Trust Platform, kompleksowego, niezależnego od modelu rozwiązania typu plug-and-play służącego do zarządzania ryzykiem związanym z GenAI.
Kompleksowe podejście
Platforma pomaga uporać się ze złożonością modeli GenAI, zmniejszając ryzyko w trzech krytycznych wymiarach, dotyczących kolejno dostosowania do potrzeb interesariuszy, zapewnienia skalowalnej zgodności z zasadami oraz najnowszych testów technicznych. Wspólnie pomagają one w poprawie nadzoru, określeniu ryzyka, ocenie dotkliwości i zapewnieniu szczegółowych wyników, na których można oprzeć skuteczne strategie łagodzące. Ważna jest przy tym przejrzystość dla wszystkich interesariuszy. „Nie da się ograniczać ryzyka, o którego istnieniu nie wiemy”, wyjaśnia Lukas Bieringer, szef działu ds. polityki i grantów w QuantPi, niemieckiej firmie programistycznej koordynującej projekt. „Atutem wyróżniającym naszą platformę jest jej zdolność do skutecznego angażowania wszystkich interesariuszy cyklu życia SI w ograniczanie ryzyka, co pozwala na świadome podejmowanie decyzji i wydajność procesów bez utrudniania transformacji sztucznej inteligencji”. Zespół QuantPi dostrzegł potrzebę kompleksowego podejścia stosunkowo wcześnie, gdy akceptacja rynkowa systemu SI była powolna ze względu na kwestie zaufania związane z tak zwaną „czarną skrzynką”, czyli działaniem SI, które trudno jest zrozumieć z zewnątrz. Właśnie dlatego, w przeciwieństwie do innych rozwiązań, platforma sprawnie integruje testy SI z solidnym zarządzaniem ryzykiem i potrzebami w zakresie zgodności. „Dzięki oferowaniu przejrzystego wglądu i usprawnieniu procesów umożliwiamy organizacjom wykorzystanie transformacji SI”, zauważa Bieringer. AI Trust Platform ma potencjał, by znacząco poprawić niezawodność i wiarygodność systemów GenAI w wielu dziedzinach. Jednym z przykładów są pojazdy autonomiczne, w których systemy SI muszą podejmować decyzje w ułamku sekundy na podstawie danych rejestrowanych przez czujniki. Inny to systemy GenAI wykorzystywane do diagnozowania chorób i planowania leczenia, gdzie kluczowe jest spełnienie wymagań prawnych oraz wiarygodność. Ostatnim, ale nie mniej ważnym przykładem są wirtualni asystenci i obsługa klienta, w przypadku których platforma QuantPi (First automated risk management platform to enable safety, fairness, explainability, and continuous monitoring of generative AI systems) może posłużyć do zadbania o to, aby systemy SI i ich zabezpieczenia skutecznie chroniły prywatne informacje przed wyciekiem, a odpowiedzi wirtualnych asystentów i chatbotów były odpowiednie, wiarygodne i wolne od uprzedzeń. Jeśli chcesz, żeby twój projekt został zaprezentowany jako „Projekt miesiąca” w kolejnym wydaniu magazynu, wyślij wiadomość na adres editorial@cordis.europa.eu i opowiedz nam o nim.
Słowa kluczowe
QuantPi, SI, generatywna SI, GenAI, ryzyko, zaufanie, zgodność, ograniczanie ryzyka, zarządzanie ryzykiem