Die Autoren der Studie „Fostering Collective Intelligence in Human–AI Collaboration“ verbinden das transactive systems model of collective intelligence mit der instance-based learning theory und wenden beide auf die Gestaltung von KI-Agenten an, die mit Menschen zusammenarbeiten. Die Forschenden beschreiben Human-Autonomy Teaming (HAT) als Teams, in denen Menschen und autonome KI-Agenten als koordinierte Einheiten auf ein gemeinsames Ziel hinarbeiten. Damit ist der Rahmen gesetzt: Ein Agent soll nicht bloß seine Aufgabe abarbeiten, sondern Ziele, Fähigkeiten und Arbeitsteilung im Team erfassen. Das teilt pmc.ncbi.nlm.nih.gov mit.
Das transactive systems model of collective intelligence formuliert die zentralen Prozesse, die kollektive Intelligenz entstehen lassen und aufrechterhalten; die Autoren übertragen dieses Modell auf Mensch-KI-Systeme. Die instance-based learning theory liefert dazu die kognitive Architektur, auf die sich die Gestaltung der Agenten stützt. Was ein Agent lernen soll, ist damit keine rein technische Frage.
Kollektive Intelligenz als soziale Aufgabe
Was aus Zusammenarbeit kollektive Intelligenz macht, ist damit aber noch nicht beantwortet. Die Autoren der Studie „Fostering Collective Intelligence in Human–AI Collaboration“ definieren kollektive Intelligenz in menschlichen Systemen als die Fähigkeit einer Gruppe, verschiedene Probleme in unterschiedlichen Umgebungen zu lösen. Übertragen auf Mensch-KI-Teams heißt das: Gefragt ist nicht die gute Einzelleistung, sondern ein Verbund, der mit wechselnden Lagen zurechtkommt.
Dafür reicht es nicht, dass ein Agent seine Aufgabe erledigt. Laut den Autoren muss jede soziokognitive Architektur vier Kernprobleme adressieren, damit Ausrichtung und Koordination zwischen Menschen und KI-Agenten gelingen. Erst diese Ausrichtung und Koordination ermöglicht den Autoren zufolge, dass kollektive Intelligenz überhaupt entsteht.
Aus den vier Problemen leiten die Autoren zwei Kategorien von Prozessen ab, die eine solche Architektur mitbringen muss. Die erste sind metakognitive Prozesse, also das Nachdenken des Systems über das eigene Wissen und Können. Die zweite ist die Entwicklung von Engagement-Regeln durch Interaktion. Engagement-Regeln klingen nach Detailfrage, sind aber die Vorentscheidung darüber, woran sich das Zusammenspiel orientiert.
Dass dabei der Mensch im Blick bleiben muss, betonen die Autoren an einer konkreten Stelle. Die Fähigkeit, das menschliche Teammitglied einzuschätzen, gilt ihnen zufolge als wichtiger Aspekt der Situationswahrnehmung von Agenten in Human-Autonomy-Teams. Ein Agent, der nur die Aufgabe sieht und nicht den Menschen daneben, verfehlt demnach genau die Größe, an der sich die Zusammenarbeit entscheidet.
Autonomie ohne Zielkontrolle reicht nicht
Anpassungsfähigkeit klingt nach Fortschritt, bis man fragt, woran sich ein Agent eigentlich anpasst. Die Autoren der Studie „Fostering Collective Intelligence in Human–AI Collaboration“ weisen darauf hin, dass die Ziele von KI-Agenten im Laufe der Zeit wahrscheinlich komplexer werden und durch die Interaktion mit menschlichen Mitarbeitenden beeinflusst werden, wenn die Agenten darauf ausgelegt sind, zu lernen und sich anzupassen.
Einen festen Anker gibt es nicht. Laut den Autoren sind alle autonomen Maschinen oder KI-Agenten entworfene Systeme und besitzen daher im Gegensatz zu Menschen keine übergeordnete Zielautonomie.
Wie viel Autonomie ein Agent im Team haben sollte, ist ebenfalls nicht geklärt. Die Studienergebnisse dazu sind gemischt, wie die Autoren feststellen: Einige Untersuchungen berichten, dass Menschen autonome Teammitglieder mit hoher Autonomie als leichter handhabbar wahrnehmen, andere berichten, dass ein moderates Maß an Autonomie als effektiver wahrgenommen wurde.
Forschung in disziplinären Silos
Die Autoren der Studie „Fostering Collective Intelligence in Human–AI Collaboration“ legen den Finger auf eine Lücke: Forschung zu Mensch-Maschine-Interaktionen findet demnach in verschiedenen disziplinären Silos statt und konzentriert sich vor allem auf die Phänomene, die die jeweilige Disziplin interessieren. Das ganzheitliche, integrierte Verständnis von Mensch-Maschine-Systemen hat sich laut den Autoren langsamer entwickelt als die Fortschritte in der KI und in der sozialwissenschaftlichen Erforschung kollektiver Intelligenz.
Ihr Vorschlag ist deshalb kein weiteres Einzelprojekt, sondern ein gemeinsames Dach: der interdisziplinäre Forschungsbereich Collective Human-Machine Intelligence, kurz COHUMAIN. Die Autoren halten die Integration der Wissenschaften in dieser Phase für kritisch. Sie müsse in frühen Entwicklungsphasen erfolgen, nicht erst später, wenn man sich mit den unbeabsichtigten Folgen herumschlagen müsse.