Prompt 学习地图 08 |概念科普，什么是“幻觉”？

1. 概念

在大型语言模型（LLM）领域，”幻觉”（hallucination）这个词作为术语主要在自然语言处理（NLP）界广泛使用，通常指生成无意义或不忠于所提供源内容的内容。在LLM语境下，”幻觉”指的是模型生成的信息不基于它在训练数据中所学到的内容。这一般是因为LLM在某些情境下会“误解”或“过度推断”，从而生成并不准确或与事实不符的内容。

定义：当模型生成的文本不遵循原文（Faithfulness）或者不符合事实（Factualness），我们就可以认为模型出现了幻觉的问题。