Was passiert, wenn KI Informationen erfindet? Genauigkeit im Arbeitsablauf

KI kann ein nicht vorhandenes Produktmerkmal in ein Angebot schreiben, ein Datum falsch lesen oder eine unbelegte Erklärung bestimmt formulieren. Gute Sprache erschwert manchmal das Erkennen des Fehlers. Beim Entwurf eines Arbeitswerkzeugs zählt daher nicht nur die Modellleistung. Es muss auch klar sein, welcher Schritt verhindert, dass eine falsche Antwort an Kunden gesendet oder gespeichert wird.

Dieses Risiko ist real. Das NIST-Profil für generative KI behandelt selbstsicher vorgetragene falsche Inhalte als Konfabulation. Für Unternehmen kann das falsche Preise, Bestandsangaben oder unbelegte Zusagen bedeuten. Die folgenden Beispiele sind Prüfszenarien und keine behaupteten Vorfälle bei Kunden.

Sprachliche Bearbeitung und Datenabruf trennen

Eine Kundenmail verständlicher zu formulieren ist etwas anderes, als den aktuellen Produktpreis festzustellen. Ersteres kann Sprachunterstützung brauchen; Letzteres benötigt den freigegebenen Preiseintrag. Rufen Sie ihn anhand des Produktcodes aus dem Datensystem ab, statt das Modell nach einer Erinnerung zu fragen. Es kann die Erläuterung ordnen, doch die Herkunft des Wertes muss erhalten bleiben.

Das gilt auch für Berechnungen. Definierte Rabatte, Mengen und Summen können durch regelbasierte Software berechnet werden. Die Interpretation einer ganzen Tabelle durch KI ersetzt keinen bekannten Rechenweg. Produktcode, Währung, Einheit und Datum gehören zusammen. Eine richtige Zahl beim falschen Produkt oder einer alten Version ergibt weiterhin ein falsches Resultat.

Quellen mindern Risiken, ersetzen aber keine Prüfung

Relevante Unternehmensdokumente helfen. Trotzdem könnte das richtige Dokument fehlen, eine alte Version ausgewählt oder eine nicht belegte Schlussfolgerung gezogen worden sein. Ein sichtbarer Link reicht nicht. Prüfer sollten die verwendete Textstelle sehen und feststellen können, ob sie die Aussage tatsächlich trägt.

Bewahren Sie nach Möglichkeit Quellenname, Version und Gültigkeitsdatum mit dem Ergebnis auf. Widersprechen sich Dokumente, markieren Sie den Konflikt, statt das Modell raten zu lassen. Die verantwortliche Person legt die Priorität fest. Prüfen Sie nach einer Aktualisierung, ob alte Inhalte weiterhin gefunden werden. Quellenpflege ist mehr als ein einmaliger Upload.

„Ich weiß es nicht“ muss einen Prozessstatus auslösen

Das Modell zu Unsicherheit anzuhalten ist sinnvoll, aber keine ausreichende Kontrolle. Fehlende Angaben müssen ein eigener Status sein. Ein fehlender Pflichtcode, keine passende Quelle oder widersprüchliche Preise können etwa „Prüfung erforderlich“ auslösen. Dieser Status muss den anschließenden Versand stoppen.

Andernfalls erscheint möglicherweise eine Warnung, während im Hintergrund trotzdem versendet wird. Verknüpfen Sie Warnung und Verarbeitungserlaubnis. Bestimmen Sie, wer fehlende Angaben ergänzt und wie der Datensatz erneut verarbeitet wird. Kundenassistenten behandelt der Beitrag Wenn ein KI-Assistent falsch antwortet; hier geht es um den gesamten Arbeitsablauf.

Kontrollen nach den Folgen auswählen

Eine Formulierung in einer internen Besprechungsnotiz und ein Kundenangebot haben unterschiedliche Folgen. Entsprechend sollten sich Kontrollen unterscheiden. Pflichtfelder, Datumsformate und vorhandene Produktcodes lassen sich automatisch prüfen. Inhaltliche Interpretation und außergewöhnliche Zusagen können dagegen eine befugte Person erfordern.

• Felder bestimmen, die exakt zur Quelle passen müssen.
• Rechen- und Konsistenzregeln getrennt von der Texterzeugung ausführen.
• Prüffälle mit klarer Begründung in eine eigene Warteschlange stellen.
• Vor dem Versand festhalten, wer welche Felder freigegeben hat.
• Anschließend das tatsächliche Speicher- oder Versandergebnis prüfen.

Ein zweites Modell kann ein weiteres Signal liefern, garantiert aber keine unabhängige Kontrolle. Beide können sich auf dasselbe unvollständige Dokument stützen. Berechnungen, Identitätszuordnungen und vorhandene Werte lassen sich oft direkter mit Originaldatensätzen vergleichen. Zeigen Sie prüfenden Personen Quellen und Unterschiede, nicht nur den fertigen Text.

Vor dem Einsatz auch Fehlerfälle testen

Ein sauberer Musterfall genügt nicht. Nutzen Sie kontrollierte Beispiele mit unlesbaren PDFs, fehlenden Zeilen, gleichnamigen Produkten, alten Preislisten und widersprüchlichen Dokumenten. Immer eine Antwort zu erzeugen ist nicht das Ziel. Manchmal besteht das richtige Ergebnis darin, anzuhalten und eine konkrete Lücke zu melden. Das gehört in die Abnahmekriterien.

Testprotokolle sollten Eingabe, verwendete Quelle, Ausgabe, Prüfergebnis und abschließenden Status enthalten. So lassen sich betroffene Datensätze leichter finden. Wiederholen Sie nach einer Korrektur auch den Fehlerfall. Verwenden Sie geeignete Testdaten, statt Testnachrichten an echte Kunden zu schicken oder produktive Datensätze anzulegen.

Achtung: Richtigkeit und Datenschutz sind verschieden

Ein korrekt antwortender Prozess bedeutet nicht, dass beliebige Daten hineingehören. Entfernen Sie unnötige personenbezogene Angaben und prüfen Sie Zielsysteme, Zugriffe und Aufbewahrungsdauer. URİKEM beschreibt seine aktuelle Praxis im Abschnitt Datensicherheit. Entwerfen Sie Prüf-, Zugriffs- und Speicherregeln gemeinsam.

Beginnen Sie mit einer wiederkehrenden Aufgabe und zeichnen Sie die Haltepunkte auf: ohne Quelle stoppen, Konflikte prüfen lassen, erst nach bestandenen Kontrollen zum befugten Schritt weitergehen. Das verspricht keine Fehlerfreiheit. Es macht Fehler sichtbar, begrenzt ihre Wirkung und ermöglicht Korrekturen ohne versehentliche Wiederholung einer Handlung.

Häufig gestellte Fragen

Reicht die Anweisung, nur Quellen zu verwenden?

Nein. Prüfen Sie, ob die Quelle die Aussage tatsächlich stützt, und legen Sie fest, wie der Prozess bei fehlenden, veralteten oder widersprüchlichen Quellen anhält.

Beseitigt eine zweite KI die Fehler?

Nein. Sie kann ebenfalls irren oder dieselbe unvollständige Quelle verwenden. Kritische Felder sollten möglichst mit Originaldaten und festen Regeln geprüft werden, gegebenenfalls durch befugte Personen.

Muss bei einem Fehler alles neu beginnen?

Werden die Ergebnisse der einzelnen Schritte gespeichert, lassen sich betroffene Datensätze gezielt korrigieren. Bereits versandte Informationen oder angelegte Datensätze dürfen beim Wiederholen nicht doppelt entstehen.