Verantwortungsvolle Innovation im KI-gesteuerten Zeitalter
Training und Validierung von Modellen generativer künstlicher Intelligenz (GenAI) wird immer komplexer. Wie können Unternehmen, die Systeme dieser Art entwickeln oder betreiben, die Risiken bewerten und mindern? Das Team des vom Europäischen Innovationsrat finanzierten Projekts QuantPi geht das Problem mit seiner KI-Vertrauensplattform an, einer modellunabhängigen Plug-and-Play-Komplettlösung zum Risikomanagement bei generativer künstlicher Intelligenz.
Der ganzheitliche Ansatz
Die Plattform bewältigt die Komplexität von Modellen generativer künstlicher Intelligenz mithilfe der Reduzierung von Risiken in drei entscheidenden Dimensionen: Anpassung an die Interessengruppen, skalierbare Konformität und modernste technische Erprobung. Diese Dimensionen arbeiten zusammen, um die Aufsicht zu verbessern, Risiken zu ermitteln, den Schweregrad von Risiken zu bewerten und detaillierte Ergebnisse zu liefern, auf denen wirksame Risikominderungsstrategien aufbauen können. Wichtig ist die Transparenz für alle Interessengruppen. „Man kann nicht gegen Risiken vorgehen, die man nicht kennt“, erklärt Lukas Bieringer, Führungskraft im Bereich Strategien und Finanzhilfen bei QuantPi, dem deutschen, das Projekt koordinierenden Softwareunternehmen. „Die einzigartige Stärke unserer Plattform liegt in der Fähigkeit, alle am KI-Lebenszyklus beteiligten Interessengruppen effektiv in die Risikominderung einzubinden und auf diese Weise eine fundierte Entscheidungsfindung und Prozesseffizienz zu gewährleisten, ohne KI-Transformationen zu behindern.“ Das QuantPi-Team erkannte die Notwendigkeit eines umfassenden Ansatzes relativ früh, als die Marktakzeptanz eines KI-Systems aufgrund von Vertrauensproblemen im Zusammenhang mit der „Black Box“, der für Menschen schwer zu verstehenden internen Funktionsweise von KI, nur langsam zustandekam. Aus diesem Grund integriert seine Plattform im Gegensatz zu anderen Lösungen auf nahtlose Weise KI-Tests mit robustem Risikomanagement und Konformitätsanforderungen. „Durch die Bereitstellung transparenter Einblicke und die Straffung von Prozessen versetzen wir Einrichtungen in die Lage, KI-Transformationen sicher zu durchsteuern und aus ihnen Nutzen zu ziehen“, berichtet Bieringer. Die KI-Vertrauensplattform birgt das Potenzial, die Zuverlässigkeit und Vertrauenswürdigkeit von Systemen mit generativer künstlicher Intelligenz in einer Reihe von Bereichen erheblich zu verbessern. Ein Beispiel sind autonome Fahrzeuge, bei denen KI-Systeme auf der Grundlage von Sensordaten in Sekundenbruchteilen Entscheidungen treffen müssen. Ein weiteres Beispiel sind Systeme mit generativer künstlicher Intelligenz zur Krankheitsdiagnose und Behandlungsplanung, bei denen Konformität und Vertrauen oberste Priorität besitzen. Zu guter Letzt sind virtuelle Assistenzen und der Kundenservice zu nennen, bei denen die QuantPi-Plattform (erste automatisierte Risikomanagement-Plattform für Sicherheit, Fairness, Erklärbarkeit und kontinuierliche Überwachung generativer KI-Systeme) eingesetzt werden kann, um sicherzustellen, dass die KI-Systeme und ihre Leitplanken private Informationen vor dem Durchsickern schützen und dass die Antworten virtueller Assistenzen und Chatbots angemessen, robust und unvoreingenommen erfolgen. Wenn Sie Ihr Projekt in einer der nächsten Ausgaben als „Projekt des Monats“ sehen wollen, schreiben Sie uns einfach eine E-Mail an editorial@cordis.europa.eu und sagen Sie uns, warum wir Ihr Projekt vorstellen sollten.
Schlüsselbegriffe
QuantPi, KI, generative künstliche Intelligenz, GenAI, Risiko, Vertrauen, Konformität, Risikominderung, Risikomanagement