你有没有遇到过这种情况：问ChatGPT一个问题，它一本正经地给你编了个答案，你去查发现根本没这回事。这个事行话叫幻觉，英文hallucination。

为什么会这样？很多人以为是AI笨或者知识不够新。其实问题出在一个你大概率没听过的东西上——向量数据库。

先说AI脑子里存的是什么

大模型读了海量文章之后，它不会把原文一字一句存在脑子里。它做的事情是：把每段文字压成一串数字，比如这一段文章对应[0.12, -0.83, 0.45, ...]，可能有1536个甚至更多维度。这串数字就叫向量。

意思相近的句子，向量也接近。比如猫趴在沙发上和猫咪蜷在长椅上，虽然用词不同，但算出来的向量距离很近。而猫趴在沙发上和火箭发射升空，向量距离就很远。

这个换算过程叫embedding，中文叫嵌入。你可以理解成：AI把所有读过的文字都变成了坐标系里的点，意思相近的点挨在一起。

那向量数据库是干嘛的？

问题来了：大模型训练完之后，它的知识就固化在参数里了。它不知道今天早上发生的新闻，也不知道你公司内部的文档写了什么。

所以后来有人想了个办法：你别让AI凭记忆回答，你先把相关资料找出来塞给它。找资料这个步骤，就靠向量数据库。

具体流程是这样的：你问一个问题，系统先把你的问题也转成向量，然后去向量数据库里找——哪些文档段落的向量跟这个问题最接近？找到前5条，拼在你问题后面，一起发给大模型。大模型就看着这些资料来回答。

这个流程就是我之前讲过的RAG。向量数据库就是那个找资料的搜索引擎。

为什么它决定AI会不会胡说八道？

这里有个关键问题：向量数据库找资料，靠的是意思相近，不是关键词匹配。这听起来很厉害，但会出问题。

举个例子。你问：公司年假怎么算？系统去找向量最接近的段落。结果数据库里有一段讲病假工资计算，因为假、计算这些词跟你的问题很像，向量距离排到了前面。但那段讲的是病假，不是年假。AI拿到这段资料，就一本正经地给你讲病假工资怎么发——你要的是年假，它给你错的答案。

这就是胡说八道的一个主要来源：不是AI在编，是检索环节找错了资料。

还有一种情况：数据库里根本没有相关资料。但向量数据库还是会硬找5条最接近的出来，哪怕它们跟你的问题八竿子打不着。AI看着这些不太相关的资料，加上自己的语言能力，就凑出一个看起来很像那么回事的答案。

普通人怎么判断？

我自己用了大半年，总结出一个实用判断方法：AI回答里如果出现具体的人名、年份、数字、法律条文，你一定要去原文核对。这些细节最容易被编。

反过来，如果AI回答的是怎么写周报、怎么跟老板提加薪这种开放性建议，它一般不会瞎编，因为本来就没有标准答案。

还有一个技巧：你问完之后补一句请根据上面提供的资料回答，如果资料里没有就说不知道。这句话能减少大概一半的胡说八道。亲测有效。

向量数据库这个东西，你平时看不见摸不着，但它决定了AI给你的答案是靠谱还是瞎扯。以后用AI查资料的时候，多留个心眼。

关注我，持续迭代你的AI思维。

#人工智能# #AI科普# #现在做AI是普通人翻身的机会吗#