KI-Anbieterauswahl im Unternehmen: Kriterien, Prüfung und Vertragsgestaltung

Die KI-Anbieterauswahl im Unternehmen entscheidet häufiger über den Erfolg eines Vorhabens als die Frage, welches Modell technisch das leistungsfähigste ist. In der Beschaffungspraxis mittelständischer Unternehmen wird diese Reihenfolge regelmäßig umgekehrt: Zuerst wird ein Werkzeug ausprobiert, das in einer Demonstration überzeugt hat, danach wird nach dem passenden Anwendungsfall gesucht, und die vertragliche sowie regulatorische Prüfung folgt, wenn die fachliche Entscheidung längst gefallen ist. Das Ergebnis sind Abhängigkeiten, die sich später nur mit erheblichem Aufwand auflösen lassen, weil Daten, Prozesse und Mitarbeiterroutinen an eine Plattform gebunden wurden, deren Preismodell, Funktionsumfang und rechtlicher Rahmen sich einseitig ändern können. Dieser Beitrag beschreibt ein strukturiertes Vorgehen, das technische Leistung, betriebliche Anschlussfähigkeit, rechtliche Anforderungen und die Möglichkeit eines geordneten Ausstiegs gleichrangig behandelt.

Hinweis: Dieser Beitrag gibt ausschließlich die redaktionellen Ansichten der Redaktion von innovationimunternehmen.de wieder. Er stellt keine Rechtsberatung dar und ersetzt nicht die Beratung durch eine qualifizierte Rechtsanwältin oder einen qualifizierten Rechtsanwalt. Für rechtlich verbindliche Auskünfte zu Ihrem konkreten Fall wenden Sie sich bitte an einen zugelassenen Rechtsbeistand.

Titelbild: Foto von Scott Graham auf Unsplash.

Vor der Auswahl: das Anforderungsprofil

Ein Auswahlverfahren ohne dokumentiertes Anforderungsprofil endet zuverlässig bei dem Anbieter mit der überzeugendsten Präsentation. Das Profil muss deshalb vor dem ersten Anbieterkontakt stehen und aus dem Prozess abgeleitet werden, nicht aus der Technologie.

Anwendungsfall präzise fassen

Ein tragfähiger Anwendungsfall benennt den konkreten Arbeitsschritt, die Personen, die ihn heute ausführen, die Datenquellen, auf die zugegriffen wird, und die Entscheidung, die am Ende steht. Formulierungen wie Effizienzsteigerung im Kundenservice sind kein Anwendungsfall, sondern eine Hoffnung.

• Auslöser: Was startet den Vorgang, und wie oft tritt er auf?
• Eingaben: Welche Daten werden verarbeitet, in welchem Format, aus welchem System?
• Ausgabe: Was ist das Ergebnis, und wer verwendet es weiter?
• Qualitätsmaßstab: Woran wird gemessen, ob das Ergebnis brauchbar ist?
• Fehlerfolgen: Was passiert, wenn das Ergebnis falsch ist, und wer bemerkt es?

Insbesondere der letzte Punkt bestimmt die gesamte weitere Prüfung. Ein System, das Textentwürfe für die interne Weiterverarbeitung erzeugt, unterliegt anderen Anforderungen als eines, das Vorauswahlentscheidungen über Bewerbungen oder Kreditanträge trifft.

Risikoeinstufung vor der Marktrecherche

Die europäische Regulierung künstlicher Intelligenz folgt einem risikobasierten Ansatz und knüpft Pflichten an die Einstufung des jeweiligen Systems. Verboten sind bestimmte Praktiken, hohe Anforderungen gelten für Hochrisikosysteme, für allgemeine Anwendungen bestehen Transparenzpflichten. Die Einstufung ist keine juristische Feinheit am Ende des Projekts, sondern bestimmt, welche Nachweise ein Anbieter überhaupt liefern können muss.

Wer beispielsweise ein System zur Vorauswahl im Bewerbungsverfahren einsetzt, bewegt sich im Bereich beschäftigungsbezogener Anwendungen mit entsprechend hohen Anforderungen an Dokumentation, Protokollierung und menschliche Aufsicht. Wird diese Einstufung erst nach Vertragsschluss vorgenommen, fehlen dem Anbieter möglicherweise genau die Unterlagen, die für den rechtmäßigen Betrieb erforderlich sind.

Die entscheidende Frage bei der Anbieterauswahl lautet nicht, was ein System heute kann, sondern was das Unternehmen in drei Jahren tun kann, wenn dieses System nicht mehr passt.

Bewertungsdimensionen

Eine belastbare Auswahl bewertet mehrere Dimensionen getrennt und gewichtet sie vor der Bewertung, nicht danach. Die folgende Matrix hat sich als Rahmen bewährt und wird je nach Anwendungsfall angepasst.

Dimension	Leitfragen	Typische Gewichtung
Fachliche Eignung	Erfüllt das System die Qualitätsanforderungen im eigenen Datenbestand?	hoch
Datenschutz und Datenverbleib	Wo werden Daten verarbeitet, wie lange gespeichert, wer hat Zugriff?	hoch
Integrationsfähigkeit	Existieren dokumentierte Schnittstellen zu den vorhandenen Systemen?	hoch
Regulatorische Nachweise	Liegen Konformitätsunterlagen und technische Dokumentation vor?	mittel bis hoch
Anbieterstabilität	Wie ist die Finanzierung, wie lang die Historie, wie groß der Kundenstamm?	mittel
Preismodell	Ist der Verbrauch planbar, und wie ändert sich der Preis bei Skalierung?	mittel
Ausstiegsfähigkeit	Wie kommen Daten und Konfiguration wieder heraus?	hoch
Betrieb und Support	Welche Verfügbarkeit ist zugesagt, welche Reaktionszeiten gelten?	mittel

Die Ausstiegsfähigkeit wird in der Praxis am häufigsten unterschätzt und ist zugleich die Dimension mit der längsten Nachwirkung. Sie gehört deshalb in die oberste Gewichtungsstufe, auch wenn sie im Auswahlzeitpunkt keinen unmittelbaren Nutzen stiftet.

Technische Prüfung mit eigenen Daten

Anbieterdemonstrationen laufen auf sorgfältig vorbereiteten Datensätzen. Sie zeigen, was möglich ist, nicht, was im eigenen Betrieb erreichbar ist. Eine belastbare Prüfung erfordert deshalb einen Test mit realen Unternehmensdaten unter kontrollierten Bedingungen.

1. Testdatensatz zusammenstellen: Eine repräsentative Auswahl echter Fälle, einschließlich der schwierigen Randfälle, nicht nur der typischen.
2. Referenzergebnisse festlegen: Für jeden Testfall dokumentieren, welches Ergebnis fachlich korrekt wäre. Ohne diese Referenz ist keine Bewertung möglich.
3. Datenschutzrechtliche Grundlage klären: Vor der Übermittlung realer Daten an einen externen Anbieter ist zu prüfen, ob eine Rechtsgrundlage besteht und ob eine Auftragsverarbeitungsvereinbarung nach Art. 28 der Datenschutz-Grundverordnung geschlossen wurde. Die einschlägigen Vorschriften sind über gesetze-im-internet.de zugänglich.
4. Mehrere Anbieter parallel testen: Derselbe Datensatz, dieselben Referenzergebnisse, dieselbe Bewertungsperson. Sequenzielle Tests sind nicht vergleichbar.
5. Auswertung durch die Fachabteilung: Nicht durch die IT und nicht durch die Person, die den Anbieter vorgeschlagen hat.
6. Wiederholbarkeit prüfen: Dieselbe Eingabe mehrfach durchlaufen lassen und dokumentieren, wie stark die Ergebnisse schwanken.

Was im Test regelmäßig übersehen wird

Drei Aspekte werden in Testläufen selten geprüft und verursachen später den größten Aufwand. Erstens das Verhalten bei unvollständigen oder fehlerhaften Eingaben, das im Alltag deutlich häufiger auftritt als im Test. Zweitens die Verarbeitungszeit unter realistischer Last, die bei Einzeltests unauffällig bleibt. Drittens die Nachvollziehbarkeit der Ergebnisse, also die Frage, ob ein Mitarbeiter erkennen kann, worauf eine Ausgabe beruht, und ob er sie begründet zurückweisen kann.

Vertragliche Gestaltung

Der Vertrag ist das einzige Instrument, das nach der Entscheidung noch Handlungsspielraum sichert. Standardbedingungen internationaler Anbieter sind auf deren Interessen zugeschnitten und in vielen Punkten verhandelbar, sobald ein relevantes Auftragsvolumen im Raum steht.

Kernpunkte der Verhandlung

• Datennutzung: Ausdrücklicher Ausschluss der Verwendung eingegebener Daten für das Training von Modellen des Anbieters, einschließlich anonymisierter Ableitungen
• Verarbeitungsorte: Verbindliche Festlegung der Regionen, in denen Verarbeitung und Speicherung stattfinden, mit Zustimmungsvorbehalt bei Änderungen
• Unterauftragsverhältnisse: Liste der eingesetzten Unterauftragsverarbeiter, Informationspflicht und Widerspruchsrecht bei Änderungen
• Modelländerungen: Vorankündigungsfrist bei Wechsel oder Abkündigung zugrunde liegender Modelle, weil sich damit die Ergebnisqualität sprunghaft ändern kann
• Preisanpassung: Obergrenzen und Ankündigungsfristen, insbesondere bei verbrauchsabhängigen Modellen
• Verfügbarkeit: Zugesagte Verfügbarkeit mit definierter Messmethode und Rechtsfolgen bei Unterschreitung
• Datenexport: Anspruch auf Herausgabe aller eingegebenen Daten, Konfigurationen und erzeugten Ergebnisse in einem maschinenlesbaren Format, auch während der Laufzeit
• Löschung: Nachweisbare Löschung nach Vertragsende innerhalb einer festen Frist
• Nachweispflichten: Verpflichtung des Anbieters, die für den rechtmäßigen Betrieb erforderlichen Unterlagen bereitzustellen und aktuell zu halten

Freistellung bei Rechten Dritter

Bei generativen Systemen stellt sich die Frage, wer einsteht, wenn ein erzeugtes Ergebnis Rechte Dritter verletzt. Einige Anbieter bieten hierfür Freistellungserklärungen an, die jedoch regelmäßig an Bedingungen geknüpft sind, etwa an die Nutzung bestimmter Filterfunktionen oder an den Verzicht auf eigene Eingriffe in die Ausgabe. Diese Bedingungen gehören geprüft, bevor sie als Absicherung eingeplant werden.

Sicherheitsprüfung des Anbieters

Neben der fachlichen und rechtlichen Bewertung gehört eine Prüfung der Informationssicherheit in das Verfahren. Sie muss keinen Umfang eines vollständigen Audits erreichen, sollte aber die wesentlichen Fragen belastbar beantworten.

• Zertifizierungen: Liegt eine Zertifizierung nach ISO 27001 vor, und deckt der Geltungsbereich tatsächlich den genutzten Dienst ab, nicht nur die Unternehmenszentrale?
• Mandantentrennung: Wie werden Daten verschiedener Kunden getrennt, technisch und organisatorisch?
• Zugriffe des Anbieters: Welche Mitarbeitenden des Anbieters können auf Kundendaten zugreifen, unter welchen Bedingungen, und wird das protokolliert?
• Verschlüsselung: Werden Daten bei Übertragung und Speicherung verschlüsselt, und wer verwaltet die Schlüssel?
• Meldewege: Innerhalb welcher Frist informiert der Anbieter über Sicherheitsvorfälle, und in welcher Detailtiefe?
• Prüfrechte: Bestehen Auditrechte, und lassen sie sich in der Praxis ausüben, etwa über Prüfberichte unabhängiger Dritter?

Der Punkt zum Geltungsbereich einer Zertifizierung wird regelmäßig übersehen. Ein Zertifikat sagt nur dann etwas aus, wenn der geprüfte Bereich den konkret genutzten Dienst umfasst. Ein Blick in die Anlage zum Zertifikat klärt das in wenigen Minuten.

Eigenentwicklung als Vergleichsmaßstab

Auch wenn der Bezug von einem Anbieter am Ende die naheliegende Lösung ist, gehört die Alternative einer eigenen Umsetzung als Vergleichsgröße in die Bewertung. Sie liefert einen Maßstab für den Wert, den der Anbieter tatsächlich stiftet, und macht sichtbar, welche Bestandteile der Lösung reine Betriebsleistung sind und welche fachliche Substanz enthalten.

Die Abschätzung muss nicht detailliert sein. Sie umfasst typischerweise den Aufwand für Anbindung an vorhandene Modelle, für die Entwicklung der fachlichen Logik, für Betrieb und Überwachung sowie für die laufende Pflege. In den meisten mittelständischen Konstellationen fällt der Vergleich zugunsten des Bezugs aus, aber die Rechnung schärft die Verhandlungsposition und verhindert, dass Standardfunktionen zu Sonderkonditionen eingekauft werden.

Ausstieg von Anfang an mitdenken

Die Bindung an einen Anbieter entsteht selten durch den Vertrag, sondern durch drei andere Mechanismen: durch Daten, die nur im System des Anbieters vorliegen, durch Prozesse, die um dessen Besonderheiten herum gebaut wurden, und durch Mitarbeiterroutinen, die sich eingespielt haben.

Gegenmaßnahmen sind wirksam, wenn sie vor der Einführung getroffen werden. Dazu zählen die Speicherung aller Eingaben und Ergebnisse in einem eigenen System, die Abstraktion des Zugriffs über eine eigene Schnittstellenschicht statt über direkte Aufrufe aus jedem Fachsystem sowie eine schriftlich festgehaltene Beschreibung der Prozesslogik, die unabhängig vom eingesetzten Werkzeug lesbar bleibt.

Ein einfacher Prüfmaßstab: Lässt sich benennen, welche Schritte in welcher Reihenfolge notwendig wären, um innerhalb von drei Monaten auf einen anderen Anbieter zu wechseln, und was das ungefähr kosten würde? Wer diese Frage nicht beantworten kann, hat keine Wechseloption, sondern nur die Hoffnung, dass der Wechsel nie nötig wird.

Organisation des Auswahlverfahrens

Beteiligte Rollen

Ein tragfähiges Verfahren bindet vier Perspektiven ein, die nicht in einer Person zusammenfallen sollten: die Fachabteilung als Nutzer und Bewerter der Ergebnisqualität, die IT für Integration und Betrieb, den Datenschutz für die rechtliche Grundlage der Verarbeitung sowie den Einkauf für Vertrag und Konditionen. Bei Anwendungen mit Bezug zum Beschäftigungsverhältnis kommt die Mitbestimmung hinzu, da die Einführung technischer Einrichtungen zur Verhaltens- oder Leistungsüberwachung nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig ist.

Zeitlicher Rahmen

1. Anforderungsprofil und Risikoeinstufung, etwa zwei bis vier Wochen
2. Marktrecherche und Vorauswahl auf drei bis fünf Anbieter, etwa zwei Wochen
3. Technischer Test mit eigenen Daten, etwa vier bis sechs Wochen
4. Rechtliche und sicherheitstechnische Prüfung der verbliebenen Anbieter, parallel
5. Vertragsverhandlung, erfahrungsgemäß vier bis zwölf Wochen je nach Anbietergröße
6. Einführung mit begrenztem Nutzerkreis vor der Ausweitung

Wer diesen Rahmen für zu lang hält, sollte bedenken, dass die Bindungsdauer solcher Entscheidungen typischerweise mehrere Jahre beträgt und der Aufwand für einen erzwungenen Wechsel den Aufwand einer sorgfältigen Auswahl deutlich übersteigt.

Stolperfallen in der Praxis

Auswahl über den Preis pro Abfrage. Verbrauchsabhängige Modelle wirken im Test günstig und werden im Regelbetrieb zur schwer planbaren Position. Die Bewertung gehört auf ein realistisches Jahresvolumen bezogen, einschließlich der Frage, wie sich der Preis bei einer Verdopplung der Nutzung entwickelt.

Vernachlässigung des Betriebsaufwands. Der laufende Aufwand für Pflege von Konfigurationen, Qualitätskontrolle der Ergebnisse und Schulung neuer Mitarbeiter übersteigt bei vielen Anwendungen die Lizenzkosten. Er gehört in die Wirtschaftlichkeitsbetrachtung.

Bewertung durch die falsche Person. Wer den Anbieter ins Verfahren gebracht hat, sollte die Testergebnisse nicht allein bewerten. Eine getrennte Bewertung durch die Fachabteilung nach vorab festgelegten Kriterien verhindert, dass die Auswahl die Vorentscheidung bestätigt.

Fehlende Dokumentation der Entscheidung. Die Gründe für die Auswahl, die geprüften Alternativen und die getroffenen Annahmen gehören schriftlich festgehalten. Diese Unterlage ist bei späteren Nachfragen aus Revision, Aufsicht oder Geschäftsleitung der einzige belastbare Nachweis.

FAQ

Sollte ein Unternehmen auf einen großen Anbieter oder auf einen spezialisierten Anbieter setzen?
Große Plattformen bieten Stabilität und breite Integrationsmöglichkeiten, spezialisierte Anbieter oft die bessere fachliche Passung und höhere Verhandlungsbereitschaft. Entscheidend ist die Gewichtung im Anforderungsprofil: Wo der Anwendungsfall eng umgrenzt ist und Fachtiefe zählt, schneiden Spezialisten regelmäßig besser ab.

Wie lässt sich die Qualität eines Systems objektiv vergleichen?
Über einen einheitlichen Testdatensatz mit vorab dokumentierten Referenzergebnissen, ausgewertet durch dieselbe Person nach denselben Kriterien. Veröffentlichte Vergleichswerte der Anbieter sind für die Vorauswahl nutzbar, ersetzen aber keinen Test im eigenen Datenbestand.

Welche Rolle spielt der Verarbeitungsort der Daten?
Er bestimmt, welches Datenschutzregime gilt und welche zusätzlichen Garantien bei einer Übermittlung in Drittländer erforderlich sind. Für Anwendungen mit personenbezogenen Daten ist die verbindliche Festlegung der Verarbeitungsregion ein zentrales Vertragsthema.

Ist ein Pilotprojekt ohne Vertragsprüfung vertretbar?
Nur mit synthetischen oder vollständig anonymisierten Daten. Sobald echte Unternehmens- oder Personendaten fließen, gelten dieselben Anforderungen wie im Regelbetrieb, unabhängig davon, ob das Vorhaben als Pilot bezeichnet wird.

Wie oft sollte die Auswahlentscheidung überprüft werden?
Eine jährliche Überprüfung ist angemessen, zusätzlich anlassbezogen bei Preisanpassungen, Modellwechseln des Anbieters oder deutlichen Veränderungen der Ergebnisqualität. Die Überprüfung sollte die ursprüngliche Bewertungsmatrix als Maßstab verwenden.

Was gehört mindestens in die Dokumentation der Auswahl?
Anforderungsprofil, Risikoeinstufung, Liste der geprüften Anbieter, Testaufbau und Ergebnisse, Bewertungsmatrix mit Gewichtung, Begründung der Entscheidung sowie die identifizierten Restrisiken mit den dafür vereinbarten Maßnahmen.