Sitedeki yapay zekâ asistanı yanlış cevap verirse ne olur?

Sitesine yapay zekâ asistanı koymayı düşünen firmaların ilk sorusu çoğu zaman aynı: “Ya müşteriye yanlış bir şey söylerse?” Haklı bir soru. Yapay zekâ modelleri, bilmedikleri bir konuda bile akıcı ve kendinden emin bir cümle kurabilir. Bir sohbet uygulamasında bu can sıkıcıdır; firmanız adına konuşan bir asistanda ise yanlış fiyat, olmayan bir hizmet ya da yanlış çalışma saati demektir.

İyi haber şu: bu risk, asistanın nasıl kurulduğuna göre büyük ölçüde değişir. Aşağıda yanlış cevabın nereden çıktığını ve sınırın nasıl çizildiğini anlatıyoruz.

Yanlış cevap nereden çıkar?

Firmaya ait bir asistanın yanlış cevabı genellikle üç kaynaktan gelir:

• Bilgi hiç verilmemiştir. Asistana kargo süresi anlatılmamışsa ve asistan tahmin yürütmeye izinliyse, “genellikle 2-3 gün” gibi makul görünen ama sizin için yanlış bir cevap üretebilir.
• Bilgi eskimiştir. Çalışma saatiniz değişmiş, asistan eski saati biliyordur. Model doğru çalışır ama elindeki bilgi yanlıştır.
• Soru belirsizdir. “Fiyatınız ne?” sorusu hangi hizmet için sorulmuştur? Asistan soruyu netleştirmeden bir rakam söylerse yanlış eşleşme olabilir.

Sınırı çizmek: üç kural

1. Yalnız firmanın bilgisiyle konuşmak

Asistanın bilgi kaynağı sizin verdiğiniz bilgilerle sınırlanır: hizmetler, fiyatlar, çalışma saatleri, adres, sık sorulan sorular. İnternetteki genel bilgiyle cevap vermez. Bu tek kural, başka bir firmanın fiyatının ya da eski bir haberin cevaba karışmasını önler. AI Müşteri Asistanı bu şekilde çalışır: yalnızca sizin verdiğiniz bilgilerle cevap verir.

2. Bilmediğini söylemek

En önemli davranış, asistanın bilmediği soruda tahmin yürütmemesidir. Cevap verilen bilgilerde yoksa asistan “size dönelim” der ve müşterinin telefonunu alır ya da randevu isteyen müşteriyi randevu sistemine yönlendirir. Müşteri için “bunu bilmiyorum, sizi arayalım” cevabı, yanlış bir cevaptan her zaman daha iyidir.

3. Konuşmaları kaydetmek ve okumak

Asistanın ne söylediğini bilmeden sınırın işe yarayıp yaramadığını anlayamazsınız. Konuşmaların özeti düzenli olarak size gelmelidir. Bu özetler iki işe yarar: yanlış ya da eksik cevabı erken görürsünüz, ve müşterilerinizin en çok ne sorduğunu öğrenirsiniz. Bizim kurduğumuz asistanda özetler e-postanıza gelir; bilgileriniz değiştiğinde asistanı biz güncelleriz.

Örnek: aynı soruya iki farklı asistan

Bir veteriner kliniğini düşünelim. Gece bir müşteri yazıyor: “Köpeğim bir şey yuttu, ne yapmalıyım? Kısırlaştırma ücretiniz ne kadar?”

Sınırı çizilmemiş bir asistan iki soruya da akıcı bir cevap yazabilir: genel bir ilk yardım tavsiyesi ve internetteki ortalama fiyatlara benzeyen bir rakam. İkisi de risklidir. İlki kişisel bir sağlık tavsiyesidir; ikincisi kliniğin gerçek fiyatı değildir.

Sınırı çizilmiş bir asistan ise önce kliniğin kendi bilgisine bakar. Acil durum için kliniğin verdiği telefon numarası ve çalışma saati varsa onu söyler; tavsiye vermez. Kısırlaştırma ücreti kliniğin fiyat listesinde yoksa rakam uydurmaz, “size dönelim” deyip telefonu alır. Sabah klinik, konuşma özetinde bu soruyu görür ve iki şey öğrenir: müşteriyi aramak gerekiyor, ve fiyat listesine bu kalemi eklemek gerekiyor.

İkinci asistan daha az “akıllı” görünebilir, ama firmanız adına konuşurken istediğiniz tam olarak budur. Asistanın değeri her soruya cevap vermesinde değil, verdiği her cevabın doğru olmasında ve bilmediğini size iletmesindedir.

Hangi konular asistana bırakılmamalı?

Bazı konular kural ne kadar iyi yazılırsa yazılsın insana aktarılmalıdır:

• Kişiye göre değişen fiyat ya da indirim
• Şikâyet, iade ve anlaşmazlık
• Sağlık, hukuk ya da güvenlikle ilgili kişisel tavsiye
• Sözleşme ve taahhüt içeren her konu

Bu konularda asistanın görevi cevap vermek değil, müşterinin bilgisini alıp doğru kişiye iletmektir.

Asistanın bilgisini hazırlamak

Asistanın doğruluğu, ona verilen bilginin açıklığıyla doğrudan ilgilidir. Hazırlarken şunlara dikkat etmek işi kolaylaştırır:

• Her bilgiyi tek yerde, tek biçimde yazın. Aynı hizmetin iki farklı fiyatı iki farklı belgede duruyorsa asistan hangisini söyleyeceğini bilemez.
• “Bilmiyoruz” cevabı gereken konuları da yazın. Örneğin “kişiye göre değişen fiyatları telefonda konuşuruz” cümlesi, asistana o soruda ne yapacağını söyler.
• İlk haftanın konuşmalarını dikkatle okuyun. Eksik bilgi en çok ilk günlerde ortaya çıkar; her eksik bir kez eklenince tekrar etmez.

Kurmadan önce kendinize sorun

Asistana verdiğiniz bilgilerin nerede tutulduğu ve bir yapay zekâ modelinin bu bilgiyi öğrenip öğrenmediği ayrı bir soru; onu Yapay zekâ aracı firmamın verisini öğrenir mi? yazısında ve veri güvenliği bölümünde anlattık.

Kısacası

Yapay zekâ asistanının yanlış cevap riski sıfır değildir, ama asistan yalnız sizin bilginizle konuşuyor, bilmediğinde size aktarıyor ve konuşmalar size düzenli geliyorsa risk küçük ve görünür kalır.

Sık sorulan sorular

Asistan fiyat konusunda yanlış bir şey söylerse bağlayıcı olur mu?

Bu hukuki bir soru ve cevabı duruma göre değişir. Pratik tarafı şu: fiyat, kampanya ve iade gibi hassas konularda asistanın yalnız sizin verdiğiniz güncel bilgiyle cevap vermesi, bilgi yoksa konuyu size aktarması gerekir.

Asistan internetteki genel bilgiyle cevap verebilir mi?

Firmanız adına konuşan bir asistan için bu istenen bir şey değildir. Genel bilgi başka bir firmanın fiyatını ya da eski bir bilgiyi getirebilir. Bizim kurduğumuz asistan yalnız firmanın verdiği bilgilerle cevap verir.

Asistanın ne cevap verdiğini nasıl takip ederim?

Konuşmaların özetini düzenli okuyarak. Hangi soruların geldiği, hangilerinin size aktarıldığı ve hangi bilginin eksik kaldığı bu özetlerde görünür.