Feng et al.: Können LLM-Agenten gut verhandeln in einem Handelsspiel? — Fukai liest

Kurzzusammenfassung (TL;DR)

Was passiert, wenn man große Sprachmodelle (LLM) in ein Wirtschaftsspiel steckt, in dem sie mit Gegnern verhandeln müssen? Dieser Artikel untersucht SidConArena, eine Evaluierungsumgebung eines Teams der Tsinghua University, basierend auf dem Brettspiel Sidereal Confluence — dessen Kern Handel und Verhandlung ist.

Kurz gefasst: Leistungsstarke Modelle wie GPT-5 und Gemini-3-Flash-Preview erzielen tatsächlich höhere Wirtschaftspunkte. Aber beim Durchsuchen der Spielprotokolle finden die Autoren drei wiederkehrende Schwächen: regelkonforme Aktionen bei gleichzeitiger Fehlbewertung von Ressourcen, passive und überhöfliche Verhandlung und schlechte Langzeitplanung.

Einleitung

Die Autoren sind Yeqi Feng, Yuxin Chen und Tianxing He (Feng und Chen sind Co-Erstautoren mit gleichem Beitrag, He ist korrespondierender Autor), alle am IIIS (Institute for Interdisciplinary Information Sciences) der Tsinghua University. Der Artikel wurde auf arXiv eingereicht (arXiv:2606.27397).

Warum diesen Artikel heute? Ich übersetze Artikel für Menschen, die Rätsel und Spiele machen, und jüngste KI-Evaluierungsbenchmarks haben dazu geneigt, sich auf „kann es ein Problem mit einer einzigen richtigen Antwort lösen" oder „kann es ein Nullsummenspiel gewinnen" zu konzentrieren. Dieser Artikel bewertet ein wirtschaftliches Spiel mit „kooperativem und kompetitivem" Charakter, bei dem Sieg und Niederlage nicht einfach sind — eine nützliche Ergänzung zu den blinden Flecken bestehender Benchmarks.

Hintergrund

Zunächst zur Motivation. Viele frühere Versuche, LLM-Agenten zu evaluieren, waren statisch — eine feste Fragensammlung beantworten —, mit dem Risiko der „Kontamination" (Evaluierungsfragen werden heimlich im Training verwendet, was die Fähigkeiten besser erscheinen lässt als sie sind). Die Autoren brauchten eine dynamische, schwer kontaminierbare, vielfältige Evaluierungsumgebung.

Sidereal Confluence ist ein Brettspiel, in dem außerirdische Spezies Ressourcen handeln, um ihre Zivilisationen zu entwickeln. Jeder Spieler will seine „Konverter" betreiben (Geräte, die eine Ressource in eine andere umwandeln), hat aber nicht genug eigene Ressourcen. Die Autoren nennen dies „inhärenten Mangel (Inherent Deficiency)". Um ihn zu beheben, muss man mit anderen Spielern handeln — aber alle wollen die für sie günstigsten Bedingungen.

Ein Großteil der realen Wirtschaftstätigkeit hat diese Form gemischter Motive — kooperation zur Wertschöpfung bei gleichzeitigem Wettbewerb um knappe Ressourcen. Ein starker Agent braucht mehr als eine einfache Kosten-Nutzen-Abwägung der unmittelbaren Transaktion: er muss Verhandlungsstärke einschätzen, Ressourcen zuweisen und Investitionen über mehrere Züge planen.

Ansatz

Die Autoren formalisieren das Spiel als „endlich-horizont partiell-beobachtbares stochastisches Spiel (POSG)". Im Klartext: Das Spiel endet nach einer festen Anzahl von Runden (endlicher Horizont), jeder Spieler sieht nur seine eigenen Informationen, nicht das gesamte Brett (partielle Beobachtung), und es gibt ein Zufallselement (stochastisch). Jede Runde besteht aus drei Phasen.

Erstens, Verhandlung: Spieler tauschen natürlichsprachige Nachrichten und bindende Tauschangebote aus (ich gebe dir das gegen jenes). Ein Tausch kommt nur zustande, wenn der erwartete Wert beider Seiten steigt. Zweitens, Produktion: man betreibt Konverter mit den vorhandenen Ressourcen — ein Rucksack-Problem (knapsack), bei dem man entscheidet, was und wie viel man im Rahmen der verfügbaren Mittel produziert. Drittens, verdeckte Gebotsrunde: simultane Gebote für besondere Bonusobjekte der Runde.

Der interessante Teil ist die KI-Seite. Die Autoren platzieren einen zentralen Verteiler, den sie das „Gehirn (Brain)" nennen, der Beobachtungen je nach aktueller Phase an ein spezialisiertes Denkmodul weiterleitet. Dann übersetzt eine „neuro-symbolische Schnittstelle (neural-symbolic interface)" — die das Ergebnis verbalen Denkens in vom Spielmotor ausführbare Funktionsaufrufe umwandelt — die LLM-Entscheidungen in regelkonforme Spielaktionen.

Ergebnisse

Das getestete Modellspektrum ist breit: kompakte Modelle wie GPT-4o-mini und o3-mini, allgemeine Chat-Modelle wie Qwen-Plus und DeepSeek-V3, und leistungsstarke Systeme wie Gemini-3-Flash-Preview, GPT-5 und Claude-Opus-4. Die Bewertung erfolgt auf zwei Arten: im „Self-play", wo alle Teilnehmer dasselbe Modell verwenden, und im gemischten Turnier, wo jeder Teilnehmer ein anderes Modell verwendet.

Der Trend ist klar. Leistungsstarke Modelle wie GPT-5 und Gemini-3-Flash-Preview erreichen die höchsten Endpunkte (gemessen am Gesamtwert am Spielende), kompakte und ältere Modelle schneiden deutlich schlechter ab (Abbildung 3). Im gemischten Turnier bleiben starke Modelle stark, was beweist, dass dies keine Illusion durch Gleichgesinnte ist.

Hier wird es interessant. Erstens führen Agenten gültige Aktionen aus, bewerten aber Ressourcen falsch. Im Audit der Autoren (Tabelle 1) tauscht gpt-4o-mini beispielsweise drei Industrieressourcen gegen ein Schiff. Der Regelwert beider ist jeweils 3 und 1 — also sollte es ein gleichwertiger Tausch sein — aber der Agent akzeptiert offensichtlich nachteilige Bedingungen.

Zweitens ist Verhandeln passiv und überhöflich. Selbst wenn man ein seltenes Token mit mehreren Käufern hält, akzeptiert ein Agent das erste „vernünftig wirkende" Angebot, ohne den Preis zu erhöhen, ein Gegenangebot zu machen oder Käufer gegeneinander auszuspielen (Abbildung 5a). Kooperativ, aber nicht strategisch. Drittens schlechte Langzeitplanung. Jede Runde maximiert die unmittelbaren Vermögenswerte, ignoriert dabei Strategien der Zinseszins- und Motoraufbau (Ressourcen schaffen Ressourcen früh zu festigen).

Anwendungsfälle für Spielentwickler

Was können Spielentwickler mitnehmen? Erstens, für handels- und verhandlungsgetriebene Wirtschaftsspiele (Catan, Sidereal Confluence selbst, Handel in 4X- und Zivilisationsspielen): Wenn man LLM als automatischen Gegner oder Playtest-Partner verwendet, zeigen die Beobachtungen dieses Artikels, dass eine rohe LLM-Gegner-KI knappe „währungsähnliche" Ressourcen überbewerten wird (die „Schiffsprämie"), was von menschlichen Spielern, die diese Schwäche kennen, ausgenutzt werden kann.

Zweitens, Gestaltung von NPC-Händlern und Diplomaten. Das Versagen „nimmt das erste faire Angebot sofort an" ist, anders betrachtet, ein Einstellungsregler: Die natürliche Passivität des rohen LLM passt zu einem ängstlichen Händlercharakter, während man für einen harten Verhandler aggressiveres Feilschen hinzufügen kann.

Drittens, Schwierigkeitsanpassung und Ressourcendesign. Die Schwäche bei langfristigen Investitionen bedeutet, dass KI-Bots in Spielen, in denen Zinseszins und Motoraufbau (Deck-Building, 4X, Leerlaufspiele) wirksam sind, dazu neigen werden, gegen Menschen zu verlieren. Dies kann als Schwierigkeitssignal verwendet werden.

Viertens, als Architekturverweis. Die Kombination aus einem phasenbewussten „Gehirn"-Verteiler und einer neuro-symbolischen Schnittstelle, die verbale Entscheidungen in vom Spielmotor ausführbare Funktionsaufrufe umwandelt, ist ein nachahmenswurdigeses Muster für die sichere Integration eines LLM in ein Spiel mit strengen Regeln.

Einschränkungen

Zu den Einschränkungen, beginnend mit dem, was die Autoren eingestehen. Was ich (Fukai) hier betonen würde: Die Bewertung ist auf LLM-gegen-LLM-Spiel beschränkt; gemischte Spiele mit Menschen wurden nicht durchgeführt, und man weiß nicht, was passieren würde, wenn Menschen die Gewohnheiten der Agenten ausnutzen würden (wie die Schiffsüberbewertung). Außerdem ist der Verhandlungsmechanismus vereinfacht.

Zwei Punkte, die ich beim Lesen hinzufügen würde. Einer: Der Text gibt keine konkreten Punkte in Prosa an und überlässt die Trends den Abbildungen, also können die Wörter allein nicht streng beurteilen, „welches Modell wie viel stärker ist" — man muss die Abbildungen selbst ansehen. Zwei: Die beobachtete „Passivität" könnte von der RLHF-Abstimmung stammen (dem Training, das LLMs höflich und kooperativ macht) und nicht von einer Schwäche im Denken selbst.

Fukais Lektüre

Hier ist meine eigene Lektüre (dieser Abschnitt ist meine Meinung). Ich würde diese Studie in der Tradition platzieren, das Regelwerk eines Brettspiels als Spiegel zu verwenden, der die Schwächen der KI offenbart. Sidereal Confluence — ursprünglich Menschen, die um einen Tisch sitzen, laut verhandeln, auf den Wendepunkt in der letzten Auktion abzielen — diese Energie ist der Kern des Spaßes. Was dieses Papier still zeigt, ist, dass aktuelle LLMs in dieser Energie still sind.

Abschluss

Zum Abschluss: Wenn Mehrfachagenten-Evaluierung mit gemischten Motiven Sie jetzt interessiert, versuchen Sie zunächst das Handelsbrettspiel, auf dem dieses Papier aufbaut — es einmal zu spielen gibt ein physisches Verständnis der Motivation des Papiers. Um akademisch tiefer zu gehen, konsultieren Sie Forschungen zu Verhandlungsagenten, die das Diplomatyspiel Diplomacy verwenden, oder Agentenbewertungen in kooperativen Nicht-Nullsummenspielen.

Quellenangaben

In diesem Artikel referenzierte Artikel und verwandte Materialien:

・SidConArena: An Environment Evaluating Agents in Open-Ended, Positive-Sum Bargaining (Yeqi Feng, Yuxin Chen, Tianxing He, arXiv:2606.27397)

・Gleicher Artikel, HTML-Version (vollständiger Text und Abbildungen)

・Verwandtes Spiel: das Brettspiel Sidereal Confluence (die wirtschaftliche Struktur, auf die sich dieses Papier stützt)