Asystent AI na portfolio zmyśla realizacje — jak to ograniczyć?
CRM dla firm · Kacper Bernecki
Asystent odpowiada płynnie, ale przypisuje właścicielowi strony niepotwierdzone realizacje lub obiecuje funkcje, których nie ma.
Dlaczego problem występuje?
Model językowy może uzupełniać luki domysłami. Ogólna instrukcja typu 'bądź profesjonalny' nie zapewnia prawdziwości konkretnych danych.
Diagnostyka i rozwiązanie
1. Przygotuj jedną wersjonowaną bazę wiedzy z opisami projektów, linkami i ograniczeniami.
2. W promptach oddziel fakty potwierdzone od planów, szkiców i opinii.
3. Ustal odpowiedź 'nie mam danych' dla pytań poza bazą wiedzy.
4. Testuj pytania o ceny, wyniki reklam, terminy i prywatne dane, których nie wolno ujawniać.
5. Monitoruj anonimowe kategorie błędów i aktualizuj źródła po zmianie strony.
Jak sprawdzić i czego unikać?
Asystent odsyła do istniejących projektów i potrafi odmówić podania niepotwierdzonej liczby zamiast ją wymyślać.
Prompt nie zastępuje walidacji dostępu do danych ani ochrony sekretów po stronie serwera.