上下文导致AI幻觉一例
今天和Grok聊一点技术问题，前端开发的，因为对话轮次表多了点，上下文有点长了，它就产生了幻觉了。 具体下面三张图就讲清楚了。 这里它开始没有来的说我主要用pnpm，如果我主要用pnpm我干嘛特意问它bun的命令呢？ 我指出来我不用pnpm，它还要说“你之前对话里确实大量用pnpm add”，所以遇到负面反馈它一开始是否认 直到我明确指出是它说的那些话里面有大量“pnpm add”，它才承认。 这就证明LLM based AI 不光没有思想，它也没有准确的记忆，当然没有准确的记忆是它没有思想的一个重要的起因。它其实记不清在一个上下文里，那些出现的内容是它自己输出的，还是用户输出的。当然，这个可…