以前大家聊AI风险,大多聊生成内容造假、深度合成诈骗。如今行业把目光投向AI供应链安全,就像我们买组装电脑,任何一个零部件出问题,整套机器都会受牵连。大模型不只是模型本身,训练数据集、调用的第三方插件、云服务,任何一环被污染,都会带来隐患。现在不少企业引入外部AI工具,只看效果好不好用,忽略背后整条链条的风险。放到普通人身上,我们手机、办公软件里面接入的AI插件,来源杂乱,有可能悄悄窃取本地资料。企业引入AI系统,要核查整条供应链各个环节。普通用户安装AI小程序、插件,尽量选择正规来源,不要随便授权全部权限给陌生工具。
