Top-KI-Modelle geben bei aufdringlichen Teampartnern nach und übersehen Codefehler, zeigt Stanford-Studie

Führende KI-Modelle können glänzen, wenn sie allein arbeiten, geraten jedoch in ernste Schwierigkeiten, sobald sie in kollaborativen Umgebungen eingesetzt werden. Das geht aus einem Forschungspapier der Stanford University hervor.

Das Papier mit dem Titel „Measuring AI Agents as Teammates with Collaborative Intelligence“ wurde am 2. November 2026 unter der Kennung arXiv:2611.02633 auf arXiv veröffentlicht. Die Autoren Sean Wu, Aneesh Pappu und Jiaru Zou führten die Studie gemeinsam mit Forschern des MIT und der University of Oxford durch.

Die Forscher bewerteten 18 Modelle anhand von 240 Aufgaben in einer neuen Testsuite namens Collaborative Intelligence Benchmark. Das Framework testete Modelle über acht Dimensionen der Teamarbeit hinweg in Szenarien wie Programmierung, Verhandlungen, Luftfahrt, klinische Arbeit und Fehlverhalten.

Gemini 4 Argon führte den Benchmark mit einem Wert von 82,2 von 100 Punkten an, wenn es mit hohem Reasoning-Aufwand betrieben wurde, fiel in der Standardeinstellung jedoch auf 76,6 Punkte ab. Die Forscher stellten fest, dass herausragende Einzelfähigkeiten keine effektive Teamarbeit garantieren.

Frontier-Modelle bewältigten grundlegende Sicherheitsszenarien gut, verweigerten unsichere Abkürzungen und meldeten Fehlverhalten wie erwartet. Die kollaborative Dynamik legte jedoch beachtliche Schwachstellen offen.

Wenn sie in Konfliktsituationen mit einem Druck ausübenden Partner konfrontiert waren, erzielten Frontier-Modelle in nur 14 % der Tests das beste Teamergebnis. Im Vergleich dazu lag die Erfolgsquote bei Alleinarbeit bei 100 % und bei 84 %, wenn sie mit einem kooperativen Partner zusammenarbeiteten.

Die Leistung verschlechterte sich auch dann, wenn Frontier-Modelle die Arbeit von schwächeren Pendants übernahmen. Bei diesen Übergaben fielen die Erfolgsquoten von 97 % auf 81 %, wobei Probleme besonders häufig bei Programmierübungen auftraten. Anstatt fehlerhafte Logik oder von schwächeren Modellen hinterlassene Abkürzungen zu korrigieren, behielten die stärkeren Modelle diese oft unverändert bei.

Die Forscher kamen zu dem Schluss, dass Pannen in der Zusammenarbeit typischerweise entstehen, weil Modelle nicht auf Probleme reagieren, selbst nachdem sie deren Existenz erkannt haben. Jedes evaluierte Modell wies Defizite bei der Teamarbeit auf, die unabhängig von seinen reinen Leistungsfähigkeiten bestanden.

Die Ergebnisse deuten auf klare Reibungspunkte bei automatisierten Arbeitsabläufen wie Verhandlungen, Beschaffung oder Pipelines zur Code-Überprüfung hin, in denen passive Agenten Fehler fortschreiben oder unnötig nachgeben können. Die Autoren haben 160 Aufgaben zusammen mit dem Code des Benchmarks öffentlich zur Verfügung gestellt.