Was passiert, wenn der KI-Assistent auf Ihrer Website falsch antwortet?

Unternehmen, die einen KI-Assistenten auf ihrer Website einsetzen möchten, stellen meist zuerst dieselbe Frage: „Und wenn er einem Kunden etwas Falsches sagt?“ Eine berechtigte Frage. KI-Modelle können selbst zu Themen, von denen sie nichts wissen, flüssige und selbstsichere Sätze bilden. In einer Chat-App ist das ärgerlich; bei einem Assistenten, der im Namen Ihres Unternehmens spricht, bedeutet es einen falschen Preis, eine Leistung, die es nicht gibt, oder falsche Öffnungszeiten.

Die gute Nachricht: Wie groß dieses Risiko ist, hängt stark davon ab, wie der Assistent eingerichtet ist. Im Folgenden zeigen wir, woher falsche Antworten kommen und wie man die Grenze zieht.

Woher kommen falsche Antworten?

Die falsche Antwort eines Firmenassistenten hat meist eine von drei Ursachen:

• Die Information wurde nie hinterlegt. Wurde dem Assistenten die Lieferzeit nicht mitgeteilt und darf er raten, kann er eine Antwort wie „in der Regel 2-3 Tage“ geben, die plausibel klingt, für Sie aber falsch ist.
• Die Information ist veraltet. Ihre Öffnungszeiten haben sich geändert, der Assistent kennt noch die alten. Das Modell arbeitet korrekt, doch die Information, die es hat, ist falsch.
• Die Frage ist unklar. Auf welche Leistung bezieht sich „Was kostet das bei Ihnen?“? Nennt der Assistent eine Zahl, ohne nachzufragen, kann er die Frage falsch zuordnen.

Die Grenze ziehen: drei Regeln

1. Nur mit dem Wissen des Unternehmens antworten

Die Wissensquelle des Assistenten beschränkt sich auf das, was Sie ihm geben: Leistungen, Preise, Öffnungszeiten, Adresse, häufige Fragen. Mit allgemeinen Informationen aus dem Internet antwortet er nicht. Allein diese Regel verhindert, dass der Preis eines anderen Unternehmens oder eine alte Meldung in eine Antwort gerät. Der KI-Kundenassistent arbeitet genau so: Er antwortet nur mit den Informationen, die Sie bereitstellen.

2. Sagen, was er nicht weiß

Das wichtigste Verhalten: Der Assistent rät nicht, wenn er eine Antwort nicht kennt. Steht die Antwort nicht in den hinterlegten Informationen, sagt er „Wir melden uns bei Ihnen“ und nimmt die Telefonnummer des Kunden auf oder leitet Kunden, die einen Termin möchten, zur Terminbuchung weiter. Für den Kunden ist „Das weiß ich nicht, wir rufen Sie an“ immer besser als eine falsche Antwort.

3. Gespräche speichern und lesen

Ohne zu wissen, was der Assistent sagt, können Sie nicht beurteilen, ob die Grenze funktioniert. Zusammenfassungen der Gespräche sollten regelmäßig bei Ihnen ankommen. Sie haben zweifachen Nutzen: Sie erkennen falsche oder unvollständige Antworten früh, und Sie erfahren, was Ihre Kunden am häufigsten fragen. Bei dem Assistenten, den wir einrichten, kommen die Zusammenfassungen per E-Mail; ändern sich Ihre Informationen, aktualisieren wir den Assistenten.

Ein Beispiel: dieselbe Frage an zwei verschiedene Assistenten

Nehmen wir eine Tierarztpraxis. Spät abends schreibt ein Kunde: „Mein Hund hat etwas verschluckt, was soll ich tun? Und was kostet bei Ihnen eine Kastration?“

Ein Assistent ohne klare Grenze kann auf beide Fragen flüssig antworten: mit einem allgemeinen Erste-Hilfe-Rat und einer Zahl, die den Durchschnittspreisen im Internet ähnelt. Beides ist riskant. Das Erste ist ein persönlicher Gesundheitsrat, das Zweite nicht der tatsächliche Preis der Praxis.

Ein Assistent mit klarer Grenze schaut dagegen zuerst in die eigenen Informationen der Praxis. Hat die Praxis für Notfälle eine Telefonnummer und Zeiten hinterlegt, nennt er diese; einen Rat gibt er nicht. Steht der Preis für die Kastration nicht in der Preisliste der Praxis, erfindet er keine Zahl, sondern sagt „Wir melden uns bei Ihnen“ und nimmt die Telefonnummer auf. Am Morgen sieht die Praxis diese Frage in der Gesprächszusammenfassung und erfährt zweierlei: Der Kunde muss angerufen werden, und dieser Posten gehört in die Preisliste.

Der zweite Assistent wirkt vielleicht weniger „klug“, doch wenn er im Namen Ihres Unternehmens spricht, ist genau das gewünscht. Der Wert eines Assistenten liegt nicht darin, jede Frage zu beantworten, sondern darin, dass jede seiner Antworten stimmt und er an Sie weitergibt, was er nicht weiß.

Welche Themen gehören nicht in die Hand des Assistenten?

Manche Themen sollten an einen Menschen gehen, egal wie gut die Regeln geschrieben sind:

• Preise oder Rabatte, die von Person zu Person unterschiedlich sind
• Beschwerden, Rückgaben und Streitfälle
• Persönliche Ratschläge zu Gesundheit, Recht oder Sicherheit
• Alles, was einen Vertrag oder eine Zusage betrifft

Bei diesen Themen ist es nicht Aufgabe des Assistenten zu antworten, sondern die Angaben des Kunden aufzunehmen und an die richtige Person weiterzuleiten.

Die Informationen für den Assistenten vorbereiten

Wie genau der Assistent antwortet, hängt direkt davon ab, wie klar die Informationen sind, die er erhält. Bei der Vorbereitung helfen diese Punkte:

• Jede Information an einer Stelle, in einer Form. Stehen für dieselbe Leistung in zwei Dokumenten zwei verschiedene Preise, weiß der Assistent nicht, welchen er nennen soll.
• Schreiben Sie auch auf, wo die Antwort „Das wissen wir nicht“ lauten soll. Ein Satz wie „Preise, die sich nach dem Kunden richten, besprechen wir telefonisch“ sagt dem Assistenten zum Beispiel, was er bei dieser Frage tun soll.
• Lesen Sie die Gespräche der ersten Woche aufmerksam. Fehlende Informationen zeigen sich vor allem in den ersten Tagen; ist eine Lücke einmal geschlossen, taucht sie nicht wieder auf.

Fragen Sie sich vor der Einrichtung

Wo die Informationen, die Sie dem Assistenten geben, gespeichert werden und ob ein KI-Modell daraus lernt, ist eine eigene Frage; wir behandeln sie im Artikel Lernt ein KI-Werkzeug die Daten meines Unternehmens? und im Abschnitt Datensicherheit.

Kurz gesagt

Das Risiko, dass ein KI-Assistent falsch antwortet, ist nicht null. Antwortet der Assistent aber nur mit Ihren Informationen, gibt er an Sie weiter, was er nicht weiß, und erreichen Sie die Gespräche regelmäßig, bleibt das Risiko klein und sichtbar.

Häufig gestellte Fragen

Ist es verbindlich, wenn der Assistent einen falschen Preis nennt?

Das ist eine rechtliche Frage, und die Antwort hängt vom Einzelfall ab. Praktisch gilt: Bei heiklen Themen wie Preisen, Aktionen und Rückgaben sollte der Assistent nur mit den aktuellen Informationen antworten, die Sie ihm gegeben haben, und das Thema an Sie weitergeben, wenn ihm die Information fehlt.

Kann der Assistent mit allgemeinen Informationen aus dem Internet antworten?

Bei einem Assistenten, der im Namen Ihres Unternehmens spricht, ist das nicht erwünscht. Allgemeine Informationen können den Preis eines anderen Unternehmens oder veraltete Angaben ins Spiel bringen. Der Assistent, den wir einrichten, antwortet nur mit den Informationen, die das Unternehmen bereitstellt.

Wie behalte ich im Blick, was der Assistent antwortet?

Indem Sie die Gesprächszusammenfassungen regelmäßig lesen. Darin sehen Sie, welche Fragen gestellt wurden, welche an Sie weitergegeben wurden und welche Informationen gefehlt haben.