Trainieren unsere Daten die KI?

Diese Frage kommt in fast jedem Gespräch über individuelle Software auf, meist ganz zum Schluss. Sie ist berechtigt: Die Kundenliste, die Rezeptur, die Kostentabelle oder der Schriftverkehr mit Lieferanten geht in ein Werkzeug, und dieses Werkzeug spricht mit einem externen KI-Dienst.

Drei verschiedene Orte — bitte nicht verwechseln

Die Frage „wohin gehen die Daten?“ hat keine einzelne Antwort, denn Daten können an drei Orten liegen:

1. Die eigene Datenbank des Werkzeugs. Ihre Dateien, die Ergebnisse, die Datensätze. Das liegt auf Ihrem Server oder auf einem in Ihrem Namen gemieteten Server.
2. Die vorübergehende Verarbeitung beim KI-Dienst. Wenn das Werkzeug einen Text deuten soll, schickt es ihn an den Dienst und bekommt eine Antwort. Der Anbieter kann den Inhalt zur Missbrauchskontrolle begrenzte Zeit aufbewahren, nutzt ihn aber nicht zum Training des Modells.
3. Die Trainingsdaten des Modells. Hier liegt die eigentliche Sorge: „Wird mit meinen Daten das Modell trainiert?“

Beim dritten Punkt lautet die Antwort für Systeme über eine kommerzielle API: nein. Die kommerziellen Nutzungsbedingungen der großen Anbieter sagen schriftlich zu, dass über die API übermittelte Daten nicht zum Training verwendet werden. Die Verwirrung entsteht anderswo: Für die kostenlose Chat-Oberfläche desselben Anbieters können andere Bedingungen gelten. Wenn Ihre Mitarbeiterin einen Vertrag in ein kostenloses Chatfenster einfügt, ist das etwas anderes, als dieselben Daten einem Werkzeug auf Basis einer kommerziellen API zu geben.

Wer kann die Daten eines Werkzeugs sehen?

Die eigentliche Frage lautet nicht „lernt die KI mit“, sondern „wie viele Menschen können das sehen“. Suchen Sie die Antwort an drei Stellen:

• Wem gehört der Server? Läuft das Werkzeug in Ihrem eigenen Hosting-Konto oder auf dem gemeinsamen Server des Entwicklers? Wenn Ihre Daten neben denen anderer Firmen liegen, sollten Sie das wissen.
• Wie lange bleibt der Zugang des Entwicklers offen? Während der Einrichtung ist Zugang nötig. Bleibt er danach bestehen oder wird er geschlossen?
• Wo liegen die Sicherungen? Sicherungen werden meist vergessen und sind oft schlechter geschützt als die eigentliche Datenbank.

Vier Punkte, die in den Vertrag gehören

Lassen Sie sich diese vier Punkte schriftlich geben. Die Frage ist keine Zumutung; ein seriöser Entwickler hat die Antworten längst parat.

• In welchem Land der Server steht, auf dem die Daten liegen.
• Die Zusage, dass an den KI-Dienst gesendete Daten nicht für Training verwendet werden.
• Dass der Zugang des Entwicklers nach Abschluss der Arbeit endet und Kopien gelöscht werden.
• In welcher Form Ihre Daten an Sie übergeben werden, wenn der Vertrag endet.

Der letzte Punkt wird am häufigsten übersehen und kostet am meisten. Lassen Sie von Anfang an festhalten, dass Sie Ihre Daten in lesbarer Form zurückbekommen — als Tabelle oder Datenbankauszug.

Der Datenschutzteil

Sobald personenbezogene Daten im Spiel sind — Angaben zu Mitarbeitenden, Kundennamen, Telefonnummern — ist das Werkzeug selbst eine Verarbeitungstätigkeit. Das macht die Software nicht unmöglich; es bedeutet nur, dass Ihre Datenschutzhinweise und Ihr Verarbeitungsverzeichnis dieses Werkzeug mit abdecken müssen. Gehen Daten an einen Dienst im Ausland, müssen die Bedingungen für diese Übermittlung erfüllt sein. All das ist lösbar, wird aber mühsam, wenn es erst nach der Einrichtung auffällt.

Kurz gesagt

In einem sauber eingerichteten Werkzeug trainieren Ihre Daten das Modell nicht. Aber „sauber eingerichtet“ ergibt sich nicht von selbst: Wenn nicht festgehalten wird, wem der Server gehört, wann der Zugang endet und wie die Daten zurückgegeben werden, reicht die technisch richtige Antwort allein nicht aus.