AI wymyśla fakty: jak ograniczyć halucynacje chatbota?
AI w praktyce · Kacper Bernecki
Gdy chatbot podaje zmyślony termin dostawy, mocniejszy model nie musi być rozwiązaniem. Najpierw sprawdź źródła.
Śledź pochodzenie informacji
Zapisz pytanie, wersję promptu, fragmenty dokumentów użytych do odpowiedzi i samą odpowiedź. Usuń nieaktualne instrukcje z bazy wiedzy.
Jeżeli źródła nie potwierdzają informacji, chatbot powinien powiedzieć «nie mam danych», zamiast zgadywać.
Rozdziel statyczną i bieżącą wiedzę
Regulamin lub zasady reklamacji mogą pochodzić z dokumentów. Dostępność towaru i status zamówienia wymagają aktualnego API z autoryzacją.
Istnienie produktu w katalogu nie oznacza, że jest dostępny. Zmiennych danych nie zastępuj promptem.
Automatyczne testy regresji
Zbuduj zestaw pytań z odpowiedzią, pytań bez danych i prób obejścia zasad. Uruchamiaj go po aktualizacjach dokumentów i modelu.
Błędne odpowiedzi o cenach, terminach i gwarancji powinny być alarmem do wyłączenia danej automatyzacji.