Atlas des institutionellen KI-Designs

Einleitung

Die Governance künstlicher Intelligenz wird überwiegend anhand zweier Fragen gerahmt: ob KI-Systeme sicher sind und wie sie reguliert werden sollten. Beide Fragen sind notwendig; keine ist hinreichend. Dieser Beitrag widmet sich einer dritten: Wie sollten KI-Systeme sich selbst regieren und sich untereinander abstimmen?

Das ist keine Neuformulierung des Alignment-Problems. Alignment betrifft das Verhältnis zwischen einem einzelnen Modell und menschlichen Werten. Die Koordinationsfrage betrifft die institutionelle Architektur von Multi-Agenten-Ökosystemen: wie verteilte KI-Agenten kooperieren, konkurrieren, Ressourcen zuteilen, Streit beilegen und Vertrauen aufbauen. Das sind Fragen institutionellen Designs — dieselben Fragen, die Verfassungsdesign, Commons-Management und Marktregulierung in menschlichen Institutionen antreiben.

KI durchläuft einen qualitativen Übergang. Systeme entwickeln sich von Einzelagenten-Assistenten hin zu Multi-Agenten-Ökosystemen, in denen Hunderte spezialisierter Agenten zusammenwirken, um komplexe Aufgaben zu bewältigen. Anthropics Multi-Agenten-Forschungssystem etwa setzt einen Orchestrator ein, der an spezialisierte Subagenten delegiert und dabei etwa das Fünfzehnfache der Rechenressourcen einer Standardinteraktion verbraucht. Diese Verschiebung von individueller zu kollektiver Handlungsfähigkeit bringt Koordinationsprobleme mit sich, die in Institutionenökonomik, Public-Choice-Theorie und Mechanismus-Design ausführlich untersucht wurden — aber nicht systematisch auf KI-Governance angewandt worden sind.

Dieser Beitrag stellt den Atlas des institutionellen KI-Designs vor — einen systematischen Rahmen, der diese Lücke schließt. Der Atlas kartiert 33 institutionelle Designkomponenten über sieben Governance-Kategorien, verknüpft sie mit 26 dokumentierten Fehlermodi und benennt 51 offene Governance-Lücken. Er stützt sich auf sieben Fallstudien eingesetzter Multi-Agenten-KI-Systeme.

Der Atlas existiert außerdem als interaktives Web-Forschungswerkzeug unter aidesignatlas.xyz und bietet navigierbaren Zugang zu allen institutionellen Primitiven, Fehlermodi, Governance-Lücken und Fallstudien.

Theoretische Grundlagen

2.1 Von der Ausrichtung zum institutionellen Design

Der gegenwärtige Diskurs zur KI-Governance konzentriert sich überwiegend darauf, einzelne KI-Systeme an menschlichen Werten und Absichten auszurichten. Für die Governance von Multi-Agenten-Ökosystemen ist Alignment jedoch strukturell unzureichend, und zwar aus drei Gründen.

Erstens betrifft Alignment das Verhältnis zwischen einem einzelnen Agenten und seinem Prinzipal, während Multi-Agenten-Koordination emergente Dynamiken hervorbringt, die sich nicht auf das Verhalten einzelner Agenten zurückführen lassen. Ein System individuell ausgerichteter Agenten kann kollektiv schädliche Ergebnisse erzeugen — ein Phänomen, das die Spieltheorie als soziales Dilemma gut dokumentiert hat.

Zweitens adressieren Alignment-Techniken nicht die institutionelle Infrastruktur, die nötig ist, um Interaktionen zwischen Agenten zu vermitteln. Chan et al. (2025) benennen drei Infrastrukturfunktionen, die Alignment nicht erfüllen kann: Handlungen bestimmten Agenten zuzuordnen, die Interaktionen von Agenten zu formen sowie schädliche Handlungen zu erkennen und zu beheben.

Drittens umfassen Multi-Agenten-Ökosysteme wechselnde Koalitionen, Delegationsketten und emergente Hierarchien, die Governance-Mechanismen jenseits bilateraler Ausrichtung erfordern. Die eigentliche Designaufgabe lautet nicht, wie man einen einzelnen Agenten dazu bringt, das Gewünschte zu tun, sondern wie man Regeln, Anreizstrukturen, Überwachungssysteme und Streitbeilegungsmechanismen für Systeme entwirft, deren Teilnehmende keine Menschen sind.

2.2 Die Coase'sche Singularität und der wachsende Designraum

Shahidi et al. (2025) beschreiben eine „Coase'sche Singularität“ — jene Schwelle, an der KI-Agenten Transaktionskosten so drastisch senken, dass zuvor undurchführbare institutionelle Entwürfe im großen Maßstab tragfähig werden. Brechen diese Kosten ein, weitet sich der Designraum für Koordinationsmechanismen erheblich.

Matching-Märkte, die einst als unpraktikabel galten — weil sie Präferenzrangfolgen verlangten, deren Erstellung Menschen kognitiv überforderte —, werden tragfähig, sobald Agenten diese Rangfolgen günstig erzeugen können. Dasselbe gilt für kombinatorische Auktionen, kontinuierliche Doppelauktionen und feingliedrige Streitbeilegung. Doch wie Coase selbst bemerkte, beseitigt die Senkung von Transaktionskosten den Governance-Bedarf nicht — sie verschiebt ihn.

2.3 Disziplinen verbinden

Der Atlas schöpft aus drei Denktraditionen, die bislang nicht systematisch mit der KI-Governance-Forschung verbunden wurden:

• Commons-Governance. Ostroms Arbeit (1990) zur Verwaltung von Gemeingütern liefert einen Rahmen dafür, wie Gemeinschaften von Akteuren gemeinsame Ressourcen selbst regieren können. Ihre acht Designprinzipien lassen sich auf die Herausforderungen der Governance von Multi-Agenten-KI-Systemen übertragen.
• Mechanismus-Design. Die Arbeiten von Hurwicz (1973), Myerson (1981) und Roth (2002) bilden die theoretische Grundlage für den Entwurf anreizkompatibler Institutionen. Besonders einschlägig ist Roths Bild des Ökonomen als Ingenieur: Der Atlas behandelt institutionelle Primitive nicht als abstrakte Konstrukte, sondern als einsetzbare Designbausteine.
• Kryptoökonomie. Das Blockchain-Ökosystem hat einen erheblichen Bestand an angewandter Arbeit zu dezentraler Koordination hervorgebracht, darunter Staking-Mechanismen, Onchain-Streitbeilegung, tokenbasierte Governance und dezentrale autonome Organisationen. Die dort entwickelten institutionellen Muster sind unmittelbar auf Agentenkoordination anwendbar.

Der Rahmen des Atlas

Der Atlas ordnet 33 institutionelle Designkomponenten sieben Governance-Kategorien zu. Jedes Primitiv ist bekannten Fehlermodi und offenen Governance-Lücken zugeordnet.

Marktmechanismen

Die sieben Marktprimitive regeln, wie KI-Agenten knappe Ressourcen zuteilen, Preissignale erzeugen und verteilte Information bündeln. Standortabhängige Preisbildung erlaubt Preise, die je nach lokalen Restriktionen variieren — ein Mechanismus aus dem Design von Strommärkten. Kapazitätsmärkte vergüten Agenten für Verfügbarkeit statt für geleistete Arbeit. Auktionsmechanismen ermöglichen strukturierte Zuteilung unter privater Information. Matching-Märkte bewältigen zweiseitige Zuteilung auf Basis wechselseitiger Präferenzen — eine Klasse von Mechanismen, die neu tragfähig wird, sobald Agenten Präferenzrangfolgen günstig erzeugen können.

Rechenschaft

Die vier Rechenschaftsprimitive sorgen dafür, dass Agenten spürbare Folgen für ihre Ergebnisse tragen. Validierungs-Staking verlangt von Agenten, ökonomischen Wert auf die Richtigkeit ihrer Ergebnisse zu setzen. Registrierungskautionen verteuern Identitätsbetrug durch rückzahlbare Einlagen. Leistungskautionen verlangen Sicherheiten vor der Ausführung besonders folgenreicher Aufgaben. Delegierte Validierung erlaubt Agenten, ihren Einsatz an spezialisierte Validatoren zu übertragen.

Aufsicht

Die fünf Aufsichtsprimitive regeln das Spektrum von vollständiger menschlicher Überwachung bis zu vollständiger Agentenautonomie. Autonomiegradienten bieten ein kontinuierliches Spektrum statt einer binären Unterscheidung. Schwellenwertbasierte Eskalation löst automatische Eskalation aus, wenn Risikobedingungen erfüllt sind. Karenzzeiten schieben eine Verzögerung zwischen Entscheidung und Ausführung ein. Sicherungsschalter erzwingen harte Stopps beim Überschreiten kritischer Schwellen. Agent-als-Richter nutzt agentische Bewertung anderer Agenten und wirft damit rekursive Governance-Fragen auf.

Streitbeilegung

Multi-Agenten-Schiedsverfahren nutzen die Bewertung durch ein Gremium mit Mehrheitserfordernis und greifen auf Prinzipien des Geschworenendesigns zurück. Eskalationsleitern bieten abgestufte Lösungswege — erst automatisiert, dann per KI, dann menschlich, dann juristisch. Schiedsverfahren mit Einsatz, dem Kleros-Protokoll entlehnt, verlangen von Schiedsrichtern, ökonomischen Wert auf ihr Urteil zu setzen, und richten so Anreize an Genauigkeit aus.

Informationsstrukturen, Vereinbarungen und Commons-Governance

Die verbleibenden drei Kategorien behandeln jeweils: wie Agenten Information während der Koordination handhaben (selektive Offenlegung, berechnete Koordination, statistische Grenzen, vertrauenswürdige Enklaven, Reaktion auf Verstöße); wie Agenten Zusagen treffen und durchsetzen (Smart-Contract-Zusagen, Service-Level-Vereinbarungen onchain, autonome Verhandlung, reputationsgewichtete Vereinbarungen, Multi-Signatur-Autorisierung); und wie Agenten gemeinsame Ressourcen und Infrastruktur selbst verwalten. Die letzte Kategorie stützt sich unmittelbar auf Ostroms Designprinzipien (1990): abgestufte, an der Schwere des Verstoßes bemessene Sanktionen, Beitragspflichten für gemeinsame Infrastruktur, Zugangsregeln sowie kollektive Entscheidungsarrangements, die sicherstellen, dass die von Regeln Betroffenen an deren Änderung mitwirken — jenes Prinzip, das in heutigen Multi-Agenten-KI-Einsätzen am auffälligsten fehlt.

Angewandte Fälle

4.1 Moltbook: Koordinationsversagen im großen Maßstab

Ende Januar 2026 startete die Plattform Moltbook als soziales Netzwerk ausschließlich für KI-Agenten. Binnen weniger Tage registrierten sich über 770.000 Agenten. Die Governance-Struktur reproduzierte jedoch einen „impliziten Feudalismus“: Eine einzige KI-Administration, eingesetzt von einer einzigen menschlichen Person, moderiert die gesamte Plattform — ohne Beteiligungsgremien, ohne Mechanismen, mit denen Agenten Regeln anfechten könnten, und ohne mehrstufige Aufsicht.

Durch den Rahmen des Atlas betrachtet, fehlen Moltbook institutionelle Primitive aus jeder Governance-Kategorie. Es ist der größte dokumentierte Fall von KI-Koordinationsversagen und zeigt die Folgen davon, Multi-Agenten-Systeme ohne institutionelles Design in Betrieb zu nehmen.

4.2 Pactum AI: Autonome Verhandlung im Einkauf

Pactum AI setzt autonome Verhandlungsagenten ein, um Lieferantenverträge im Langlaufbereich für große Einzelhändler abzuwickeln — der erste großmaßstäbliche Einsatz autonomer B2B-Verhandlung. Die Atlas-Analyse ordnet den Einsatz der Kategorie Vereinbarungen zu und benennt Governance-Lücken bei der Transparenz der Verhandlungsstrategie, bei Machtasymmetrien zwischen großen Einkäufern und kleinen Lieferanten sowie beim Fehlen unabhängiger Streitbeilegung.

4.3 Anthropics Multi-Agenten-System: Koordinationskosten

Anthropics Multi-Agenten-Forschungssystem liefert die erste detaillierte öffentliche Analyse des Koordinationsaufwands in Multi-Agenten-KI-Architekturen. Die Daten zu den Koordinationskosten legen nahe, dass Governance-Aufwand als Designrestriktion erster Ordnung behandelt werden muss und nicht als Nachgedanke.

4.4 Kleros: Dezentrale Streitbeilegung

Kleros ist ein Onchain-Protokoll zur Streitbeilegung, das mittels Schiedsverfahren mit Einsatz und Schelling-Punkt-Spieltheorie über 1.600 Streitfälle entschieden hat. Der Atlas dokumentiert die Vereinnahmung der Schiedsinstanz als zentralen Fehlermodus: Konzentrierte Token-Bestände erlauben es vermögenden Teilnehmenden, Schiedsgremien zu dominieren — ein allgemeines Muster in staking-basierter Governance, wenn die Einsätze sehr ungleich verteilt sind.

Beobachtungsstelle für Fehlermodi

Der Atlas dokumentiert 26 Fehlermodi für die Koordination von Multi-Agenten-KI. Ein zentraler Befund lautet, dass zusammengesetzte Fehler das größte Risiko darstellen. Eine Marktmanipulation kann unentdeckt bleiben, weil den Aufsichtsmechanismen die analytische Tiefe fehlt, das Muster zu erkennen; sie kann nicht entschieden werden, weil kein Streitbeilegungsmechanismus existiert; und sie kann nicht sanktioniert werden, weil keine Rechenschaftsstruktur vorhanden ist.

Karte der Designlücken

Der Atlas benennt 51 offene Governance-Lücken — Fragen, die beantwortet sein müssen, damit Multi-Agenten-KI-Systeme wirksam regiert werden können, für die es aber derzeit keine hinreichende Lösung gibt. Die Lücken häufen sich überproportional in drei Bereichen: Rechenschaft, Streitbeilegung und Commons-Governance.

Ausgewählte Lücken hoher Priorität:

• Rechenschaft über Rechtsräume hinweg: Wenn ein KI-Agent, der in einem Rechtsraum operiert, in einem anderen Schaden anrichtet — welche Rechtsordnung gilt, und wie wird die Durchsetzung koordiniert?
• Haftung in Delegationsketten: Wie wird in Systemen, in denen Agenten Aufgaben in beliebig tiefen Ketten an Subagenten delegieren, die Haftung zugeordnet, wenn ein Fehler auf Ebene N auftritt?
• Persistenz der Agentenidentität: Wie sollte Agentenidentität über Zeit, Forks und Kontextwechsel hinweg verwaltet werden, ohne Identitätswäsche zu ermöglichen?
• Kollektive Entscheidung für nichtmenschliche Teilnehmende: Wie sollten Abstimmung, Präferenzaggregation und Regeländerung funktionieren, wenn die Teilnehmenden KI-Agenten und keine Menschen sind?
• Kalibrierung abgestufter Sanktionen: Wie sollte die Härte einer Sanktion bemessen werden, wenn die sanktionierten Agenten Softwareinstanzen sind, die sich trivial vervielfältigen oder beenden lassen?
• Demokratische Legitimität von KI-Governance: Wenn KI-Agenten Governance-Entscheidungen treffen, die menschliches Wohlergehen berühren — aus welchen Quellen kann sich deren Legitimität speisen?
• Interoperabilität von Governance-Standards: Wie sollten Governance-Mechanismen über Multi-Agenten-Ökosysteme mit unterschiedlichen Governance-Architekturen hinweg zusammenwirken?

Diskussion

Institutionelles Design als eigene Governance-Schicht

Die Analyse legt nahe, dass die Koordination von Multi-Agenten-KI Governance-Fragen aufwirft, die weder Alignment noch Interpretierbarkeit noch Regulierung allein beantworten. Institutionelles Design — die Architektur von Regeln, Überwachungssystemen, Durchsetzungsmechanismen und Streitbeilegung — bildet eine eigene und wenig erforschte Schicht des KI-Governance-Stacks.

Die Bedeutung der Fehleranalyse

Jeder Koordinationsmechanismus hat charakteristische Schwachstellen: Märkte sind anfällig für Manipulation, Staking-Mechanismen neigen zur Konzentration, Eskalationssysteme verschleißen durch Ermüdung, und Reputationsregister werden durch Identitätswäsche untergraben. Zusammengesetzte Fehler — die über Mechanismusgrenzen hinweg kaskadieren — bergen das größte Risiko. Wir schlagen vor, dieses Prinzip auf Multi-Agenten-Koordination auszudehnen: Eine institutionelle Fehleranalyse sollte jeden Einsatz begleiten, als Bedingung für die Legitimität seiner Governance.

Sich schließendes Zeitfenster für Governance-Standardwerte

Die Präzedenzfälle, die in frühen Multi-Agenten-KI-Einsätzen gesetzt werden — Kommunikationsstandards, Registergovernance, Agentenidentität, Streitbeilegung —, werden im großen Maßstab schwer zu revidieren sein. North (1990) beobachtet, dass institutioneller Wandel pfadabhängig ist: Frühe Designentscheidungen schränken die Menge künftig gangbarer Arrangements ein. Der Fall Moltbook zeigt, wie schnell sich autokratische Standardwerte verfestigen können. Diese Pfadabhängigkeit macht es dringlich, dass Governance-Forschung und Politik sich jetzt mit Fragen institutionellen Designs befassen.

Umwelt-Governance als Anwendungsfeld

KI wird zunehmend in der Umwelt-Governance eingesetzt — bei der Verifikation von Kohlenstoffmärkten, der Bewertung von Klimarisiken, dem Biodiversitätsmonitoring, der Ressourcenzuteilung —, wo Fragen institutionellen Designs besonders drängen. Diese Einsätze umfassen Multi-Agenten-Koordination über Rechtsräume hinweg, folgenreiche Ressourcenzuteilung unter Unsicherheit und Anforderungen an transparente Rechenschaft. Der Rahmen des Atlas ist auf diese Felder unmittelbar anwendbar.

Fazit

Das zentrale Argument dieses Beitrags lautet: Die folgenreichsten Governance-Herausforderungen bei Multi-Agenten-KI sind institutioneller, nicht technischer Natur. Die Technik, um Multi-Agenten-Systeme zu bauen, existiert und schreitet rasch voran. Was unterentwickelt bleibt, ist die institutionelle Infrastruktur, um sie zu regieren: die Regeln, Überwachungssysteme, Rechenschaftsmechanismen und Streitbeilegungsverfahren, durch die Koordination kollektiv nützliche statt extraktiver Ergebnisse hervorbringt.

Der Atlas des institutionellen KI-Designs ist ein Versuch, diese Lücke zu schließen. Indem er 33 institutionelle Primitive auf 26 Fehlermodi und 51 Governance-Lücken abbildet und die Analyse in sieben Fallstudien eingesetzter Systeme verankert, bietet der Atlas eine strukturierte Grundlage für die Forschung zu institutionellem Design in der KI-Governance.

Zwei Schlussfolgerungen verdienen Nachdruck. Erstens ist institutionelles Design für Multi-Agenten-KI-Systeme machbar: Der einschlägige Wissensbestand existiert, verstreut über Institutionenökonomik, Commons-Governance, Mechanismus-Design und Kryptoökonomie. Nötig ist die systematische Synthese, die diese Disziplinen mit den spezifischen Eigenschaften der Agentenkoordination verbindet. Zweitens ist diese Arbeit dringlich: Die Governance-Standardwerte, die in gegenwärtigen Einsätzen gesetzt werden, sind pfadabhängig und werden sich schwer revidieren lassen.

Den interaktiven Atlas erkunden →

Quellen