Halüsinasyon (hallucination)
Halüsinasyon, bir dil modelinin akla yatkın görünen ama yanlış ya da kaynağı olmayan bilgi üretmesidir; ses ajanlarında önceden ele alınması gereken risktir.
Halüsinasyon (hallucination), bir büyük dil modelinin akla yatkın ve kendinden emin görünen ama yanlış ya da hiçbir kaynağa dayanmayan bilgi üretmesidir. Model bir sorunun cevabını bilmediğinde "bilmiyorum" demek yerine dilsel olarak tutarlı bir yanıt kurabilir. Yazılı sohbette okuyan kişi bunu fark edip kontrol edebilir; telefonda ise arayan duyduğuna çoğunlukla güvenir. Bu yüzden ses ajanlarında halüsinasyon, yayına almadan önce ele alınması gereken bir risktir.
Nasıl çalışır
Dil modelleri bir metnin devamı olarak en olası kelimeleri üretir; ürettikleri bilgiyi doğrulayan ayrı bir mekanizmaları yoktur. Sorunun cevabı modele verilen bağlamda yoksa model genel bilgisinden ya da benzer örneklerden bir yanıt türetebilir. Ses ajanında tipik örnekler var olmayan bir randevu saatini onaylamak, güncelliğini yitirmiş bir bilgiyi söylemek ya da işletmenin sunmadığı bir hizmeti varmış gibi anlatmaktır.
Neden önemli
Telefonda verilen yanlış bilgi doğrudan şikâyete ya da müşteri kaybına dönüşebilir. Başlıca önlemler şunlardır: ajanı onaylı bir bilgi tabanına bağlamak, "emin değilsen tahmin etme, devret" talimatını açıkça yazmak, randevu gibi bilgileri modelin hafızasından değil bağlı sistemden sorgulatmak, işlemden önce arayana teyit ettirmek, yayına almadan önce zorlayıcı sorularla test etmek ve görüşme dökümlerini düzenli incelemek.
Speakline'da
Speakline ses ajanı soruları bilgi bankanızdaki bilgilerle yanıtlar; emin olmadığı konularda talebi kaydetmesini ya da aramayı görüşme özetiyle bir insana devretmesini ajan talimatlarında tanımlarsınız (sıcak devir). Görüşmeler dökümleriyle saklandığından ajanın ne söylediğini sonradan inceleyebilirsiniz.