Halucynacja AI: co to jest i dlaczego sztuczna inteligencja zmyśla?

Halucynacja AI to sytuacja, w której sztuczna inteligencja podaje fałszywe informacje z pełnym przekonaniem, że mówi prawdę.

Wyobraź sobie...

Pytasz kolegę o numer telefonu do restauracji. Nie zna go, ale nie chce przyznać się do niewiedzy. Więc podaje jakiś numer, brzmi wiarygodnie, format się zgadza, ale to kompletna bzdura. Nie kłamie celowo, po prostu jego mózg „wygenerował" coś, co pasuje do wzorca.

AI działa tak samo. Nie rozumie co jest prawdą a co nie. Układa słowa, które statystycznie pasują do pytania. Czasem trafia. Czasem wymyśla nieistniejące badania, fałszywe cytaty albo przepisy prawne, których nie ma.

Gdzie to spotkasz?

Fałszywe linki – ChatGPT podaje link do artykułu, który nie istnieje
Zmyślone biografie – AI generuje biografię fikcyjnej osoby jako „eksperta"
Nieistniejące przepisy prawne – chatbot cytuje paragraf ustawy, który nigdy nie istniał. To realny przypadek z USA, gdzie prawnik użył ChatGPT i trafił pod sąd za sfabrykowane źródła
Fałszywe dane liczbowe – AI podaje statystyki, które brzmią wiarygodnie, ale są całkowicie wymyślone

Najczęstsze pytania o halucynacje AI

Dlaczego AI halucynuje?

Bo AI nie „wie" co jest prawdą. Przewiduje statystycznie jakie słowo powinno być następne. Jeśli nie ma danych na dany temat, generuje coś co brzmi prawdopodobnie, ale może być kompletną fikcją. To nie jest błąd, to cecha działania LLM-ów.

Jak sprawdzić czy AI nie zmyśla?

Trzy zasady: (1) Weryfikuj fakty, daty i źródła, szczególnie cytaty i linki. (2) Proś AI o podanie źródeł. (3) Używaj RAG. AI odpowiada na podstawie Twoich dokumentów zamiast z pamięci. Traktuj AI jak bystrą osobę na stażu, sprawdzaj przed użyciem.

Czy da się wyeliminować halucynacje?

W 100% nie. To fundamentalna cecha obecnych LLM-ów. Ale można je minimalizować: RAG (podpinanie dokumentów), niższa temperature, proszenie o źródła, weryfikacja krzyżowa. Nowe modele halucynują rzadziej, ale problem nie zniknie całkowicie.