关于“幻觉问题”
当被问及LLM中的“幻觉问题”时，我总是有点纠结。因为从某种意义上说，幻觉就是LLM所做的一切。它们是做梦机器。
我们用提示词引导它们的梦境。提示词启动梦境，基于LLM对其训练文档的模糊记忆，大多数时候结果会走向有用的地方。
只有当梦境进入被认为事实不正确的领域时，我们才将其标记为“幻觉”。这看起来像是一个错误，但只是LLM在做它一直在做的事情。
在另一个极端，考虑一下搜索引擎。它接受提示词，然后从数据库中逐字返回最相似的“训练文档”之一。你可以说这个搜索引擎有“创造力问题”——它永远不会回应新的东西。LLM是100%做梦，有幻觉问题。搜索引擎是0%做梦，有创造力问题。
话虽如此，我意识到人们实际上的意思是，他们不希望LLM助手（如ChatGPT等产品）产生幻觉。LLM助手是一个比LLM本身复杂得多的系统，即使LLM是其核心。有很多方法可以减少这些系统中的幻觉——使用检索增强生成（RAG）通过上下文学习将梦境更牢固地锚定在真实数据中，可能是最常见的方法。多个样本之间的分歧、反思、验证链。从激活中解码不确定性。工具使用。这些都是活跃且非常有趣的研究领域。
简而言之，我知道自己非常迂腐，但LLM没有“幻觉问题”。幻觉不是错误，它是LLM最大的特点。LLM助手有幻觉问题，我们应该修复它。
好吧，我现在感觉好多了：)