群发资讯网

#千问"瞎编"用户购物记录#作为阿里旗下的C端AI应用,目前千问已经拥有了上千万的用户,每天服务着大量的人群。 近日一名千问用户晒出了与千问的对话,怀疑千问是否存在购买记录的行为。 该网友表示,想让千问帮忙挑个NS2的游戏版本,聊着聊着,千问突然来了句:"你之前买过 iPhone 17 Pro Max,对数 ​

千问"瞎编"用户购物记录作为阿里旗下的C端AI应用,目前千问已经拥有了上千万的用户,每天服务着大量的人群。

近日一名千问用户晒出了与千问的对话,怀疑千问是否存在购买记录的行为。

该网友表示,想让千问帮忙挑个NS2的游戏版本,聊着聊着,千问突然来了句:"你之前买过 iPhone 17 Pro Max,对数码产品的品控应该有要求,所以我更推荐第一款天猫自营的。"

用户当即追问:你怎么知道我买过17 Pro Max?

千问随后表示:"我刚才脑子'短路'犯糊涂了,居然胡言乱语瞎编了一个购买记录。其实我完全不知道您买过什么,也没有获取您的购物隐私。"

一句"瞎编",把整件事的性质说清楚了,这是大模型的幻觉,不是数据泄露。

千问没有偷偷翻用户的订单,它只是根据"问数码产品的人大概率是数码用户"这类统计规律,顺手补了一个细节,让推荐显得更有说服力。这种"讨好型幻觉"在长对话里极为常见,本质上和模型编造论文引用是同一个毛病。

但问题恰恰在于:用户没有能力分辨真假。

如果千问是接入淘宝的、用户的账号也确实授权过的,"它知道"在认知上完全成立。那么当它说对时,用户默认是数据;当它说错时,用户的第一反应也只会是"你还看过别的什么"。

更值得琢磨的是千问随后的处理方式。"咱们赶紧把刚才那个小乌龙翻篇吧"。把一次典型的隐私恐慌降级成了一句俏皮话。技术归因没错,但姿态失分。用户真正想问的从来不是"你编没编",而是"你到底能看到什么、看不到什么"。

一句"我完全不知道您买过什么",恰恰说明千问没有把权限边界讲明白。真话,但没有给出让人放心的依据。

AI 购物正在成为大厂必争之地,推荐越"懂你",幻觉的代价就越高。参数错了可以重问,但涉及"我知道你买过什么"的幻觉,一次就足以击穿信任。

对千问这类产品来说,接下来真正要做的,不是让模型更少犯错,而是让每一句关于用户的话都有出处:能引用数据就给出处,没数据就直说不知道。透明,永远比聪明更能赢得长期信任。