Kategoria: AI w firmie

AI wymyśla fakty: jak ograniczyć halucynacje chatbota?

AI w praktyce · Kacper Bernecki

Gdy chatbot podaje zmyślony termin dostawy, mocniejszy model nie musi być rozwiązaniem. Najpierw sprawdź źródła.

Śledź pochodzenie informacji

Zapisz pytanie, wersję promptu, fragmenty dokumentów użytych do odpowiedzi i samą odpowiedź. Usuń nieaktualne instrukcje z bazy wiedzy.

Jeżeli źródła nie potwierdzają informacji, chatbot powinien powiedzieć «nie mam danych», zamiast zgadywać.

Rozdziel statyczną i bieżącą wiedzę

Regulamin lub zasady reklamacji mogą pochodzić z dokumentów. Dostępność towaru i status zamówienia wymagają aktualnego API z autoryzacją.

Istnienie produktu w katalogu nie oznacza, że jest dostępny. Zmiennych danych nie zastępuj promptem.

Automatyczne testy regresji

Zbuduj zestaw pytań z odpowiedzią, pytań bez danych i prób obejścia zasad. Uruchamiaj go po aktualizacjach dokumentów i modelu.

Błędne odpowiedzi o cenach, terminach i gwarancji powinny być alarmem do wyłączenia danej automatyzacji.