Agentic-AI-Governance: Warum Matthias Müller seinen Konzernjob aufgab

13. Juli 2026

Artikel teilen

Agentic-AI-Governance war für Matthias Müller lange ein Thema unter vielen, das er als Head of Digital Data and Processes bei der AGRAVIS Raiffeisen AG mitbetreute, neben zahlreichen anderen Digitalisierungsprojekten. Am 1. Februar 2026 zog er einen Schlussstrich. Nicht, weil ihm gekündigt wurde, sondern weil er selbst ging, aus eigener Überzeugung, wie er im Gespräch mit der Redaktion offen einräumt: Digitalisierung sei in seinem bisherigen Umfeld nur verwaltet worden, Künstliche Intelligenz habe dort als reines IT-Thema gegolten statt als das strategische Kernthema, als das er sie längst begreift. Seither berät er als freiberuflicher Business Consultant für Data und AI, unter dem Hashtag #OpenToDriveAI, unabhängige Mittelständler und Konzerne dabei, genau den Fehler zu vermeiden, den er selbst zu oft erlebt hat. Im folgenden Gespräch erklärt er, warum der Erfolg von KI-Agenten im Jahr 2026 nicht am Modell entschieden wird, sondern an Datenfundament, Governance und dem Mut, unbequeme Fragen frühzeitig zu stellen.

Der Ausstieg: Wenn Digitalisierung nur verwaltet wird

Wer mit Müller über seinen Abschied aus der Konzernwelt spricht, merkt schnell, dass es ihm nicht um Abrechnung geht, sondern um eine Beobachtung, die er für symptomatisch hält. Viele Unternehmen hätten in den vergangenen Jahren Digitalisierungsabteilungen aufgebaut, die Projekte koordinieren, Budgets verwalten und Roadmaps pflegen, ohne dass sich am grundsätzlichen Verständnis von KI als strategischem Thema etwas geändert habe. Künstliche Intelligenz werde dort behandelt wie ein weiteres IT-Rollout, mit Ticket, Testphase und Go-live, statt wie ein Thema, das Geschäftsmodell, Datenarchitektur und Personalentwicklung gleichermaßen betrifft.

Diese Beobachtung ist auch der rote Faden seiner Arbeit als Berater: Bevor über Modelle, Agenten oder Automatisierung gesprochen wird, stellt er die Frage, ob ein Unternehmen sein eigenes Datenfundament überhaupt kennt. Genau daran, sagt er, entscheide sich 2026 nicht am Modell, sondern an der Agentic-AI-Governance, ob ein KI-Vorhaben trägt oder in der nächsten Pilotphase versandet.

Der Drei-Minuten-Test für das Datenfundament

Wie erkennt man in der Praxis am schnellsten, ob ein Unternehmen für KI-Agenten bereit ist? Müllers Antwort beginnt nicht bei der Technik, sondern bei einer fast banalen Frage, die er gern gleich zu Beginn eines Beratungsgesprächs stellt: Was genau ist bei euch ein Kunde, und wo liegt die verbindliche Fassung dieses Datensatzes? In einem Handelsunternehmen habe er darauf einmal drei unterschiedliche Antworten aus drei verschiedenen Systemen bekommen, jede mit Überzeugung vorgetragen. Das Gespräch über KI-Agenten war damit im Grunde beendet, bevor es begonnen hatte.

„Ohne belastbaren Golden Record gibt es keine Quelle, der ein KI-System trauen kann. Es rät dann nur eleganter als ein Mensch.“

Genauso verräterisch findet er die Frage nach der Verantwortung: Wer entscheidet, ob eine Produktkategorie korrekt ist, und wer darf sie ändern? Folgt darauf betretenes Schweigen, fehlt Data Ownership, ein Problem, das sich spätestens dann rächt, wenn ein Agent auf dieser Datenbasis selbstständig handeln soll. Reife Organisationen erkennt Müller weniger an Werkzeugen als an Gewohnheiten: daran, dass Datenqualität gemessen statt gefühlt wird, dass Zusagen zwischen Teams als technisch durchgesetzte Data Contracts existieren statt als Absichtserklärung im Wiki, und dass stille Datenfehler auffallen, bevor ein Agent sie in hundert falsche Entscheidungen übersetzt. Auf der Governance-Seite reicht ihm ein einziges Signal: das aktuelle Verzeichnis aller eingesetzten KI-Systeme. Wer es aus dem Stand liefern kann, hat meist auch Rollen, Rechte und Freigabewege im Griff. Ehrliche Selbstauskunft ist dabei seltener, als man denkt. Laut einer Erhebung von Cloudera und Harvard Business Review hielten Anfang 2026 nur 7 Prozent der Unternehmen ihre Daten für vollständig KI-bereit. „Meine Erfahrung sagt: Die anderen 93 Prozent sind näher an der Wahrheit“, kommentiert Müller trocken.

Wenn der Pilot an einem Service-Account verhungert

Viele Agenten-Piloten schaffen es nie in die Produktion. Gartner bezifferte das im Sommer 2025 mit einer harten Zahl: Über 40 Prozent der agentischen Projekte werden bis Ende 2027 abgebrochen, wegen eskalierender Kosten, unklaren Geschäftsnutzens und fehlender Risikokontrollen. Auffällig sei, was in dieser Liste nicht vorkomme, sagt Müller: die Modellfähigkeit. Ein klügeres Modell hätte keinen dieser Gründe gelöst.

Er erzählt von einem Agenten, der in der Demo Lieferantenanfragen souverän beantwortete und im echten Betrieb an einer Kleinigkeit verhungerte: Er kam schlicht nicht an das führende System heran, weil niemand die Berechtigungsfrage vorab geklärt hatte. Monatelanger Demo-Applaus, dann wochenlanger Stillstand wegen eines einzigen Service-Accounts. Ein technischer Klassiker kommt aus seiner Sicht dazu, der sogenannte Training-Serving-Skew: In der Demo berechnet jemand ein Merkmal in einem Notebook nach einer bestimmten Logik, in der Produktion rechnet eine andere Pipeline dasselbe Merkmal minimal anders. Das Schema sieht identisch aus, die Ergebnisse driften, und niemand kann erklären, warum. Am meisten schmerzt Müller allerdings ein vermeidbarer Punkt: Es fehlt eine belastbare Definition von Erfolg. Ein Pilot ohne vorab vereinbarte Kennzahlen kann streng genommen gar nicht scheitern, aber auch nicht bestehen. Er bleibt eine Anekdote, und Anekdoten bekommen kein Budget für den Regelbetrieb. Hinzu kommt ein Marktproblem, das die Branche Agent Washing nennt: Von Tausenden Anbietern, die sich agentisch nennen, liefern nach Gartner-Schätzung nur rund 130 echte Agentenfähigkeit. Der Rest ist umetikettierte Automatisierung.

Der Praktikant, der nie schläft

Ein autonomer Agent hat faktisch ein eigenes Benutzerkonto mit Rechten und Systemzugriff, nur schläft er nicht, macht keine Pause und löst in Sekunden Dinge aus, für die ein Mensch Stunden bräuchte. Trotzdem behandeln viele Unternehmen ihn nachlässiger als jeden Praktikanten, findet Müller. Ein neuer Mitarbeiter bekomme am ersten Tag genau die Rechte, die seine Aufgabe verlangt, dazu einen Vorgesetzten, eine Probezeit und ein Umfeld, das hinschaut. Ein neuer Agent bekomme erstaunlich oft weitreichende Berechtigungen, damit der Code endlich läuft, und danach schaue niemand mehr hin.

Aus dem Stammdatenumfeld kennt er dieses Muster seit Jahren, dort heißt es technischer Benutzer: Konten, deren Passwort nie abläuft, deren Rechte über die Jahre nur gewachsen sind und deren ursprünglicher Besitzer die Firma längst verlassen hat. Agenten seien die Fortsetzung dieses Problems mit deutlich höherer Schlagzahl. Je nach Studie kommen inzwischen auf ein menschliches Konto weit über vierzig, teils deutlich über hundert Maschinenidentitäten, Rubrik Zero Labs nennt ein Verhältnis von 45 zu 1, Palo Alto Networks in seiner Identity Security Landscape 2026 sogar 109 zu 1, davon 79 KI-Agenten. Was konkret fehlt, lässt sich am Lebenszyklus eines Agenten festmachen: konsequentes Least Privilege beim Start, kurzlebige statt monatelang gültige Berechtigungen im laufenden Betrieb, ein Notausschalter für den Ernstfall und ein lückenloser Audit-Trail danach. Wie ernst diese Lücke ist, zeigt eine Studie von Writer und Workplace Intelligence vom April 2026: Rund ein Drittel der Verantwortlichen traut sich nicht sicher zu, einen außer Kontrolle geratenen Agenten wirklich abzuschalten. Genau an dieser Stelle setzt Agentic-AI-Governance im engeren Sinne an, nicht als Absichtserklärung, sondern als technisch durchgesetzte Kontrolle über jedes einzelne Maschinenkonto.

Leitplanken, die schneller machen

Müller beschreibt Agentic-AI-Governance bewusst nicht als Bremse, sondern als Tempomacher, und er hat dafür ein Bild parat: Gerade weil auf der Autobahn Leitplanken stehen, kann man dort überhaupt schnell fahren. Nachgelagerte Freigaben, bei denen ein fertiges System eingereicht und geprüft wird, bremsen tatsächlich, aber das sei nicht die Governance, die er meine. Er meint Leitplanken, die von Anfang an im Bau stecken: Herkunft und Nachvollziehbarkeit werden im Moment der Erstellung erfasst, die Bewertung läuft kontinuierlich mit, sodass die Frage, ob etwas sicher in Betrieb gehen kann, nicht mühsam rekonstruiert werden muss. Aus Wochen werden Tage, manchmal Stunden.

Dass das kein frommer Wunsch ist, zeigt für ihn die stärkste Zahl des Jahres. Databricks hat 2026 Telemetriedaten aus über 20.000 Organisationen ausgewertet, darunter mehr als 60 Prozent der Fortune 500, also echtes Nutzungsverhalten statt Umfragemeinung. Das Ergebnis: Unternehmen mit aktiver KI-Governance bringen über zwölfmal mehr Projekte in Produktion als solche ohne. Wer zusätzlich systematisch evaluiert, kommt auf fast das Sechsfache gegenüber dem Rest. „Zwölffach ist kein Feintuning, das ist der Unterschied zwischen einer Organisation, die liefert, und einer, die dauerhaft pilotiert“, sagt Müller dazu.

Die verschobene Frist, die keine Atempause ist

Der EU AI Act hat verschobene Fristen, trotzdem rät Müller entschieden davon ab, das Thema wegzulegen. Richtig sei, dass der Digital Omnibus die Hochrisiko-Pflichten für Annex-III-Systeme von August 2026 auf Dezember 2027 geschoben habe, für eingebettete Systeme sogar auf 2028. Falsch sei der Schluss, man könne deshalb pausieren. Am häufigsten übersehen werde genau das, was nicht verschoben wurde.

Pflicht	Status	Gültig ab
KI-Kompetenzpflicht (Art. 4)	In Kraft, nicht verschoben	2. Februar 2025
Pflichten für Basismodell-Anbieter (GPAI)	In Kraft, nicht verschoben	2. August 2025
Transparenzpflichten für generative Inhalte (Art. 50)	In Kraft, nicht verschoben	2. August 2026
Hochrisiko-Pflichten Annex-III-Systeme	Verschoben durch Digital Omnibus	2. Dezember 2027
Hochrisiko-Pflichten eingebettete Systeme	Verschoben durch Digital Omnibus	2. August 2028

Ein Unternehmen, das heute KI einsetzt, muss seine Belegschaft laut Artikel 4 bereits nachweisbar befähigen, das sei geltendes Recht, keine Empfehlung. Ebenso unterschätzt werde die eigentliche Arbeit hinter dem Gesetz: nicht das Ausfüllen einer Dokumentvorlage, sondern jedes KI-System im Haus zu finden, es der richtigen Risikoklasse zuzuordnen und dieses Inventar aktuell zu halten. Aus der Datenschutz-Grundverordnung kennt Müller dieses Drehbuch bereits: Wer früh inventarisiert hatte, war im Mai 2018 gelassen, der Rest hat improvisiert und teuer bezahlt. Hinzu kommt, dass die eigene Lieferkette nicht auf Brüssel wartet: Er habe zuletzt Lieferantenfragebögen gesehen, in denen die AI-Act-Konformität gleich hinter der DSGVO abgefragt wurde, lange vor jeder behördlichen Frist. Bei verbotenen Praktiken drohen laut Artikel 99 Bußgelder bis 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.

Schatten-KI als ehrlichste Bedarfsanalyse

Schatten-KI ist in vielen Organisationen längst Realität, bevor überhaupt Richtlinien existieren. Müllers vielleicht unbequemste Überzeugung dazu: Schatten-KI ist die ehrlichste Bedarfsanalyse, die ein Unternehmen bekommen kann. Wo Mitarbeiter heimlich Werkzeuge nutzen, zeigen sie präzise, wo die offiziellen Werkzeuge zu langsam, zu umständlich oder schlicht nicht vorhanden sind. Der Bitkom berichtet, dass Schatten-KI in jedem vierten deutschen Unternehmen Realität ist. Reine Verbote scheitern an einer simplen Mechanik: Ein Verbot entfernt nicht das Verhalten, es entfernt die Sichtbarkeit. Als ein großer Konzern nach einem Datenleck ein Verbot aussprach, stieg die Nutzung im Folgemonat messbar an, ein öffentlich dokumentierter Effekt, den auch der Fall des ChatGPT-Verbots bei Samsung 2023 zeigte.

Was aus seiner Sicht besser funktioniert, ist eine Kombination aus Sichtbarkeit, Angebot und Ton: erst herausfinden, was tatsächlich im Einsatz ist, ohne Schuldzuweisung, dann geprüfte Werkzeuge bereitstellen, die gut genug sind, dass Mitarbeitende sie freiwillig wählen. Eine Amnestie für die Vergangenheit, verbunden mit klaren, konkreten Regeln für die Zukunft, habe sich als pragmatischer Einstieg bewährt. Wer den wirtschaftlichen Anreiz brauche, finde ihn beim IBM Cost of a Data Breach Report: Die Mehrkosten eines Datenschutzvorfalls mit Schatten-KI-Beteiligung liegen bei rund 670.000 US-Dollar, ein global erhobener Wert. Der eigentliche Gewinn liege für ihn aber darin, aus einem Sicherheitsproblem eine Produktivitätsfrage zu machen.

MCP und A2A: Das neue EDI für Maschinen

Zum Abschluss des Gesprächs wird Müller fast enthusiastisch, wenn er über Protokolle wie MCP und A2A spricht, für ihn einer der unterschätzten Wendepunkte der nächsten Jahre, gerade weil sie so unspektakulär wirken. Das Model Context Protocol regelt, wie ein Agent auf Werkzeuge, Daten und Dienste zugreift, das Agent2Agent-Protokoll, wie Agenten untereinander sprechen, auch über Hersteller- und Frameworkgrenzen hinweg. Beide liegen inzwischen bei der Linux Foundation in neutralen Händen, MCP seit Ende 2025, A2A in Version 1.0 seit dem Frühjahr 2026, getragen von einem breiten Anbieterkreis.

Den Vergleich mit EDI zieht Müller, weil er diese Bewegung selbst miterlebt hat: Bevor sich Normen wie EDIFACT und ANSI X12 durchsetzten, war jede Partneranbindung ein eigenes Projekt mit eigenem Format. Erst der Standard machte aus n mal m Einzelverbindungen n plus m Anbindungen, ein Netzwerkeffekt, der laut Forrester bis heute trägt: Rund ein Fünftel der amerikanischen B2B-Transaktionen läuft weiterhin über EDI. Anthropic beschreibt MCP selbst als USB-C für KI, und Müller findet das Bild treffend. Ein ehrlicher Zusatz gehöre für ihn aber dazu: So jung wie die Protokolle sind, so jung sind auch ihre Schutzmechanismen. Die Standardisierung löse das Verbindungsproblem, nicht das Vertrauensproblem.

Ehrlich bis zum eigenen Titelbild

Ein letztes Detail passt so gut zum Gespräch, dass Müller es von sich aus anspricht: das Porträtfoto, das diesen Artikel begleitet. Sein Gesicht darauf ist echt, ein aktuelles Profilfoto diente als Vorlage. Die Homeoffice-Szene drumherum stammt dagegen aus einem aktuellen Bildmodell. Er weist bewusst offen darauf hin, weil er wenige Absätze zuvor selbst mit den Transparenzpflichten aus Artikel 50 für KI-generierte Inhalte argumentiert. Wer Kennzeichnung predigt, sollte beim eigenen Aufmacherbild nicht schweigen, sagt er dazu, und überlässt es ausdrücklich der Redaktion, wie und ob dieser Hinweis im veröffentlichten Beitrag erscheint.

Agentic-AI-Governance: Die sieben Thesen im Überblick

Datenfundament vor Modell: Ein Golden Record mit klarer Data Ownership entscheidet über KI-Reife, nicht die Wahl des Sprachmodells.
Erfolg braucht Definition: Piloten ohne vorab vereinbarte Kennzahlen bleiben Anekdoten ohne Budget für den Regelbetrieb.
Agenten sind Konten: Least Privilege, kurzlebige Berechtigungen, Notausschalter und Audit-Trail gehören zum Pflichtprogramm.
Governance beschleunigt: Leitplanken, die von Anfang an im Bau stecken, verkürzen Freigaben von Wochen auf Stunden.
Der AI Act pausiert nicht: Transparenz- und Kompetenzpflichten gelten längst, nur die Hochrisiko-Pflichten wurden verschoben.
Schatten-KI einladen statt verbieten: Verbote entfernen Sichtbarkeit, nicht das Risiko.
Offene Protokolle statt Insellösung: MCP und A2A werden für Agenten das, was EDI für Lieferketten war.

Über Matthias Müller

Matthias Müller war zuletzt Head of Digital Data and Processes bei der AGRAVIS Raiffeisen AG. Seit dem 1. Februar 2026 ist er freiberuflicher Business Consultant für Data und AI und berät unter dem Hashtag #OpenToDriveAI Unternehmen zu Datenarchitektur, Agentic-AI-Governance und dem Model Context Protocol. Sein Wechsel in die Selbstständigkeit war eine eigene Entscheidung, begründet mit dem Wunsch, KI als strategisches statt rein technisches Thema zu behandeln.

FAQ

Warum ist Agentic-AI-Governance wichtiger als die Wahl des KI-Modells?
Weil Agenten mit Systemzugriff und Entscheidungsbefugnis ausgestattet sind. Ohne verlässliches Datenfundament, klare Verantwortlichkeiten und Kontrollen entsteht Risiko unabhängig davon, wie leistungsfähig das zugrunde liegende Modell ist.

Woran erkennt man, ob ein Unternehmen für KI-Agenten bereit ist?
An einfachen Fragen: Gibt es einen verbindlichen Datensatz je Geschäftsobjekt, ist Verantwortung für Datenqualität klar zugeordnet, und existiert ein aktuelles Verzeichnis aller eingesetzten KI-Systeme.

Was ist der häufigste Grund, warum Agenten-Piloten scheitern?
Nach Matthias Müllers Erfahrung selten das Modell, sondern fehlende Berechtigungen, eine unklare Erfolgsdefinition und der Unterschied zwischen sauberen Demodaten und der Realität im Produktivbetrieb.

Wurde der EU AI Act tatsächlich verschoben?
Nur teilweise. Der Digital Omnibus verschiebt die Hochrisiko-Pflichten für Annex-III-Systeme auf Dezember 2027. Transparenzpflichten, KI-Kompetenzpflicht und Pflichten für Basismodell-Anbieter gelten unverändert und teils bereits seit 2025.

Sollten Unternehmen Schatten-KI verbieten?
Reine Verbote entfernen laut Müller nur die Sichtbarkeit, nicht das Risiko. Wirksamer sei eine Kombination aus Bestandsaufnahme, geprüften Alternativwerkzeugen und klaren, konkreten Nutzungsregeln.

Was bedeuten MCP und A2A für Unternehmen?
Beide Protokolle standardisieren, wie KI-Agenten auf Werkzeuge und Daten zugreifen und wie sie miteinander kommunizieren, ähnlich wie EDI einst die Anbindung von Handelspartnern standardisiert hat.

Hinweis: Dieser Beitrag ist ein redaktionelles Interview im Rahmen unseres Formats für Expert:innen aus dem Netzwerk der Redaktion. Er gibt die persönlichen Einschätzungen des Interviewpartners wieder, basiert auf von ihm benannten und verifizierten externen Quellen und stellt keine Rechts- oder Compliance-Beratung dar. Zu Pflichten aus dem EU AI Act oder anderen regulatorischen Vorgaben ersetzt dieser Beitrag nicht die Prüfung durch eine qualifizierte Rechtsanwältin oder einen qualifizierten Rechtsanwalt.