Halucynacja (sztuczna inteligencja)

Halucynacja, sztuczna halucynacja^[1] – odpowiedź generowana przez sztuczną inteligencję, która zawiera fałszywe lub wprowadzające w błąd informacje przedstawione jako fakty^[2][3]. Termin ten nawiązuje do psychologii człowieka, gdzie halucynacje zazwyczaj wiążą się z fałszywymi spostrzeżeniami. Istnieje jednak zasadnicza różnica między sztucznymi halucynacjami a halucynacjami w sensie medycznym: halucynacje związane ze sztuczną inteligencją wiążą się z błędnie skonstruowanymi odpowiedziami, a nie doświadczeniami percepcyjnymi^[3].

Klip wideo wygenerowany przez narzędzie Sora wiaduktu Glenfinnan. Klip pokazuje dwa tory (wiadukt posiada 1 tor), dwa kominy na lokomotywie i niektóre składy są o wiele dłuższe od innych.

Chatboty oparte na dużych modelach językowych, jak ChatGPT, mogą umieszczać w generowanej treści losowe, brzmiące wiarygodnie zdania. Szacuje się, że w 2023 r. chatboty halucynowały nawet w 27% przypadków^[4], a błędy rzeczowe występowały w 46% generowanych tekstów^[5].