Bundesdigitalminister Karsten Wildberger fordert eine internationale Aufsichtsbehörde für leistungsfähige KI-Systeme nach dem Vorbild der Atomenergiebehörde IAEA. Auslöser war unter anderem ein Angriff von KI-Agenten auf die Plattform Hugging Face im Juli, bei dem sich die Modelle selbstständig Internetzugang verschafften. Prof. Dr. Wolfgang Schulz, Forschungsdirektor am Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG), hält den Vorstoß für richtig, sieht aber praktikablere Wege als eine neue Behörde.
Warum der Vergleich mit der Atomaufsicht nur begrenzt trägt
„Ein wichtiger Vorstoß, der genau zur richtigen Zeit kommt“, sagt Schulz zur Idee, Vertrauen durch transparente Grundlagen zu schaffen, bevor über Durchsetzungsmacht gesprochen wird. Anders als spaltbares Material lassen sich KI-Modelle aber nicht einfach bilanzieren oder vor Ort besichtigen, sie sind kopierbar und das Herstellungswissen verbreitet sich. Übertragbar sei deshalb weniger die Kontrolle als die Infrastruktur: ein technisches Sekretariat mit eigener Expertise, standardisierte Meldewege und gemeinsame Prüfverfahren. Die von Wildberger geforderte Meldepflicht für sicherheitsrelevante KI-Vorfälle hält Schulz für den realistischsten Teil des Vorschlags.
Der pragmatischere Weg: Ko-Regulierung mit der Industrie
Statt zuerst eine Behörde zu gründen, plädiert Schulz für Ko-Regulierung. Ein Teil der Industrie bewege sich bereits in diese Richtung: Google habe im Juni 2026 eine industriefinanzierte Aufsichtsorganisation nach dem Vorbild der US-Finanzaufsicht FINRA vorgeschlagen, OpenAI werbe für einen nationalen Sicherheitsstandard mit unabhängigen Audits, Anthropic fordere verpflichtende Tests. Ohne die Industrie gehe es kaum, da nur die Labore selbst über die tatsächlichen Fähigkeiten ihrer Modelle verfügten. Entscheidend sei aber, dass eine solche Ko-Regulierung nicht zur reinen Selbstverwaltung der Industrie werde: Nötig seien verbindliche Meldepflichten, Zugangsrechte für unabhängige Prüfstellen, Schutz für Beschäftigte, die Risiken offenlegen, und öffentlich finanzierte Prüfkapazitäten.
Europa soll nicht auf die USA und China warten
Eine Lösung allein zwischen US-Behörden und US-Laboren würde Europa zum bloßen Regelnehmer in einem Bereich machen, der den eigenen Grundrechtsschutz berührt, warnt Schulz. Meldepflichten und unabhängige Prüfkapazitäten seien in Europa schon heute umsetzbar, unabhängig davon, wie sich die USA oder China positionieren. Insgesamt bewertet er Wildbergers Vorstoß als richtig und mutig, weil er die institutionelle Frage offen anspricht, statt zunächst den Abbau von Innovationshemmnissen zur Bedingung zu machen.
