Wie behalten wir beim KI‑Einsatz die Kontrolle?

In vielen Unternehmen arbeitet KI längst mit: in der Angebotserstellung, im Kundenservice, in der Rechnungsprüfung. Je mehr Aufgaben sie übernimmt, desto drängender werden vier Fragen. Wer prüft, was die KI liefert? Welche Daten verlassen das Unternehmen? Wie abhängig wird man von einzelnen Anbietern? Und was verlangt das Recht?

Diese Fragen gehören auf den Tisch der Geschäftsführung. Wer sie klärt, kann KI mehr Verantwortung übertragen. Wer sie offenlässt, bleibt beim Ausprobieren.

Wie sehr offene Fragen bremsen, zeigt die aktuelle Befragung des Digitalverbands Bitkom. Unternehmen, die KI einsetzen, nennen am häufigsten die Anforderungen des Datenschutzes als Hürde, zwei Drittel von ihnen. Fast die Hälfte sorgt sich, dass Unternehmensdaten in falsche Hände gelangen. Und zwei Drittel der Unternehmen, die noch keine KI nutzen, fühlen sich von rechtlichen Unklarheiten abgehalten.

66 %der Unternehmen mit KI sehen im Datenschutz eine Hürde

45 %sorgen sich, dass Unternehmensdaten in falsche Hände gelangen

2 von 3Unternehmen ohne KI werden durch rechtliche Unklarheiten gebremst

Qualität: Wer prüft, was die KI liefert?

Wer KI im Alltag nutzt, kennt das Muster: Ein Assistent, der einen Vertrag sauber zusammenfasst, kann bei der nächsten Frage eine Zahl erfinden. Bei einzelnen Anfragen fällt das auf. In Abläufen, in denen KI eigenständig arbeitet, braucht es dafür ein festes Verfahren.

Das Prinzip der Einarbeitung aus dem Leitartikel lässt sich genau festlegen. Bewährt hat sich ein Vorgehen in Stufen:

1. 01Ein Mensch prüft und korrigiert jedes Ergebnis. So zeigt sich, wo die KI zuverlässig arbeitet und wo nicht.
2. 02Ein Mensch prüft jedes Ergebnis, gibt aber nur frei oder zurück. Die Korrektur übernimmt die KI selbst.
3. 03Automatische Prüfregeln laufen bei jedem Ergebnis mit, etwa ob Preise und Lieferzeiten zu den Stammdaten passen. Ein Mensch sieht nur noch die auffälligen Fälle und eine Stichprobe.
4. 04Die Stichprobe wird kleiner. Jeder kritische Fehler darin bedeutet: eine Stufe zurück.

Wann der nächste Schritt gerechtfertigt ist, sagt eine einfache Faustregel aus der Statistik. Wer 300 zufällig ausgewählte Ergebnisse geprüft hat, ohne einen kritischen Fehler zu finden, kann mit 95 Prozent Sicherheit sagen, dass die Fehlerquote unter einem Prozent liegt. Verlässlichkeit wird so messbar. Und für das Ergebnis steht immer ein Mensch gerade.

Daten: Was verlässt das Unternehmen?

Die Sorge um die Daten ist berechtigt, aber oft unscharf. Entscheidend sind drei Fragen. Welche Daten gehen überhaupt an die KI? Kundendaten, Preise und Konstruktionswissen brauchen andere Regeln als ein Text für die Website. Wo werden sie verarbeitet? Viele Anbieter bieten Rechenzentren in der EU an, manche Modelle lassen sich auch im eigenen Haus betreiben. Und was darf der Anbieter mit ihnen tun? Verträge für Unternehmen schließen meist aus, dass Eingaben zum Training genutzt werden. Das gehört schriftlich in den Vertrag, nicht nur in die Produktbeschreibung.

Wer diese drei Fragen für die wichtigsten Daten beantwortet hat, kann klare Regeln aufstellen: was in welches Werkzeug darf und was nicht. Das schützt mehr als ein generelles Verbot, das ohnehin umgangen wird.

Abhängigkeit: Wie bleiben wir wechselfähig?

Diese Frage wird oft übersehen. Die leistungsfähigsten KI-Modelle kommen heute von wenigen Anbietern, die meisten aus den USA und aus China. Wer die eigenen Abläufe fest an einen davon bindet, kann Preise und Richtung nicht mehr mitbestimmen.

Im Einkauf ist die Antwort längst bekannt: Kein kritisches Teil kommt von nur einem Lieferanten. Spätestens seit den Lieferengpässen der letzten Jahre weiß das jeder Betrieb. Für KI gilt dasselbe. Abläufe sollten so gebaut sein, dass sich das Modell dahinter austauschen lässt. Das eigene Wissen, also Daten, Regeln und Vorlagen, gehört dem Unternehmen und liegt in eigenen Systemen, nicht beim Anbieter. Und wo es passt, kommen europäische Anbieter oder offene Modelle zum Einsatz, die sich selbst betreiben lassen. Es geht nicht darum, alles selbst zu machen, sondern jederzeit wechseln zu können.

Recht: Was gilt heute schon?

Beim Recht hilft ein nüchterner Blick. Der Datenschutz gilt für KI wie für jede andere Software: Personenbezogene Daten brauchen eine Rechtsgrundlage, Dienstleister einen Vertrag zur Auftragsverarbeitung.

Die europäische KI-Verordnung wurde 2026 überarbeitet und in Teilen verschoben. Strenge Pflichten treffen vor allem Hochrisiko-Anwendungen, etwa bei der Auswahl von Bewerbungen oder der Prüfung der Kreditwürdigkeit. Sie greifen erst ab Dezember 2027. Für die meisten Anwendungen im Mittelstand, etwa Angebote, Rechnungsprüfung oder Kundenanfragen, gilt vor allem zweierlei: Wer mit einer KI kommuniziert, muss das erkennen können. Und Unternehmen sollen die KI-Kompetenz ihrer Mitarbeitenden fördern.

Das ist überschaubar. Rechtlich prüfen lassen sollte man den eigenen Einsatz trotzdem, am besten einmal gründlich zu Beginn, statt bei jedem neuen Werkzeug neu zu zweifeln.

Wie behält man beim KI-Einsatz also die Kontrolle? Indem sie im eigenen Haus bleibt und nicht bei den Anbietern liegt: über die Qualität, die Daten, die Abhängigkeiten und die Regeln. Wer diese vier Punkte klärt, kann der KI Schritt für Schritt mehr Verantwortung übertragen. Nicht blind, sondern mit jedem geprüften Ergebnis ein Stück mehr.