Liebe KI, kollaborative gemeinsame Aufmerksamkeit ist der Weg zum Erfolg
So, wie die allgemeine künstliche Intelligenz an Boden gewinnt, wächst auch unsere Angst davor, dass Maschinen ein menschenähnliches Bewusstsein erlangen. Eine zuverlässigere, energieeffizientere und ethisch vertretbare Alternative wäre die Entwicklung einer domänenspezifischen KI. In einer neuen Studie, die vom EU-finanzierten Projekt EMERGE unterstützt wird, wird dargelegt, dass diese Alternative nicht voraussetzt, dass Maschinen ein Bewusstsein haben. Zudem wird argumentiert, dass wir sehr gut mit einfacheren Methoden der gemeinsamen Aufmerksamkeit auskommen können. Die KI und die Roboter der Zukunft können entweder so konzipiert werden, dass sie immer leistungsfähiger werden, um viele Aufgaben zu erfüllen, oder dass sie einen engeren Anwendungsbereich aufweisen und daher nur bestimmte Aufgaben wahrnehmen. Ersteres, das häufiger im Mittelpunkt des Interesses steht, wirft die Sorge auf, dass unbeabsichtigte Folgen oder ethische Probleme aus Aufgaben resultieren könnten, die von komplexen, unvorhersehbaren, domänenübergreifenden KI-Systemen ausgeführt werden. Außerdem ist der Betrieb eines Allzwecksystems nicht allzu energieeffizient, wie die heutigen großen Sprachmodelle demonstrieren.
Bewusstsein ist nicht erforderlich
Menschen, die der alternativen Sichtweise zugeneigt sind, argumentieren, dass das Vorhandensein eines Bewusstseins in den einzelnen Systemen weder notwendig noch ausreichend ist, wenn eine Reihe von gleichzeitigen oder aufeinanderfolgenden Aktionen in verschiedenen KI-spezialisierten Systemen geplant werden. „Was wir brauchen, ist die Fähigkeit, relevante Zustände selektiv mit anderen KI-Systemen zu teilen, um die Koordination und Kooperation zu erleichtern – oder kurz gesagt eine kollaborative gemeinsame Aufmerksamkeit“, erklärt die Hauptautorin der Studie, Prof. Ophelia Deroy vom EMERGE-Projektpartner Ludwig-Maximilians-Universität München, Deutschland, in einem Artikel auf der Projektwebsite. Prof. Deroy, die Expertin für Philosophie des Bewusstseins und kognitive Neurowissenschaften ist, führt weiter aus: „Da das Wort ‚Aufmerksamkeit‘ manchmal als Synonym für Bewusstsein verwendet wird, ist es wichtig zu betonen, dass sich die kollaborative Aufmerksamkeit deutlich vom Bewusstsein unterscheidet.“ Anders als das Bewusstsein ist die gemeinsame Aufmerksamkeit per Definition kein privater Zustand. Sie ist auch flüchtig, d. h., dass Zustände nur dann mit anderen geteilt werden, wenn Koordination oder Kooperation erforderlich ist, während das Bewusstsein kontinuierlich ist. Während das Bewusstsein im Allgemeinen als integriert oder einheitlich betrachtet wird, kann die gemeinsame Aufmerksamkeit selektiv verschiedene Zustände mit anderen teilen und auf verschiedene künstliche Agenten aufgeteilt werden. „Eine gemeinsame Aufmerksamkeit macht künstliche Agenten leichter überwachbar und kontrollierbar für Menschen“, bemerkt die Hauptautorin der Studie, Sabine Hauert, Professorin für Schwarmtechnik am Projektpartner von EMERGE (Emergent awareness from minimal collectives), der Universität Bristol im Vereinigten Königreich. „Außerdem können die Systeme besser zusammenarbeiten, selbst wenn sie von verschiedenen Unternehmen entwickelt wurden. Eine gemeinsame Aufmerksamkeit könnte autonomen Fahrzeugen helfen, Kollisionen zu vermeiden, Logistikroboter könnten die Auslieferung von Paketen koordinieren, oder KI-Systeme könnten komplexe Krankengeschichten von erkrankten Personen analysieren, um nützliche Behandlungsempfehlungen zu geben.“ Weitere Informationen: EMERGE-Projektwebsite
Schlüsselbegriffe
EMERGE, KI, allgemeine künstliche Intelligenz, Bewusstsein, gemeinsame Aufmerksamkeit
