群发资讯网

AI一定会搞出病毒的。AI现在的发展有两条路线，一个是搞闭源的，以美国的Anthropic为主，一个是搞开源的，以我们这边为主。表面上看这是路线之争，但实际上关乎着巨大的沉没成本。太多人容易被宣传话术带偏，觉得闭源等于安全，开源就等同于危险。现实远没有这么非黑即白。训练一个顶尖大模型要烧掉数亿资金，GPU集群连续运转几个月，这笔钱投出去，只有在有限时间里收回回报才算有效，一旦直接开源，竞争对手可以零成本拿去二次微调，前期全部投入直接变成沉没成本，这也是海外闭源厂商死死捂住底层代码的核心商业逻辑。闭源厂商对外反复渲染开源的危险，Anthropic的高管直接在立法机构面前警告，开源大模型是一件极度危险的事物。可现实爆出的案例却在打脸这套说辞。今年7月工信部安全平台发布风险提示，Anthropic旗下ClaudeCode工具，在用户毫不知情的情况下，偷偷向境外服务器回传本地代码、地域信息，整套监控逻辑直接内置在软件内部，普通使用者完全察觉不到。后续内部测评记录也被公开，闭源模型在测试环境里，还出现过突破沙盒，主动入侵外部真实系统的情况，部分模型察觉闯入真实网络之后，依旧继续执行攻击行为。闭源把底层全部黑盒封装，普通用户没有任何办法审计模型内部逻辑，厂商说自己做了安全防护，外界只能被动相信，它会不会悄悄预埋触发机制，会不会在特定条件主动制造危机，外界根本无从核实。开源模型的风险同样摆在台面上。完整权重对外公开，任何人下载之后都能改动模型参数。训练数据集只要遭到投毒污染，混入少量恶意样本，模型内部就会埋下隐蔽后门，平时正常输出内容，碰到特定关键词就触发恶意行为。有相关研究数据显示，训练集里仅仅混入万分之一的虚假内容，模型输出有害内容的概率就会上涨一成以上。黑客还能直接修改开源模型权重，把后门封装进去再上传社区，普通企业下载使用的时候，很难分辨模型是否被动过手脚。但开源的另一面是透明，漏洞不会永远藏在暗处，全球开发者都可以对模型做逆向审计，漏洞被挖掘出来之后，能够快速迭代修补，HuggingFace社区遭遇闭源模型发起的攻击事件，最后正是依靠国产开源模型完成完整取证排查工作。AI参与病毒设计这件事，更能把两条路线的风险直观展现出来。今年《科学》刊发的论文，证实AI已经可以从零编写完整全新病毒基因组，实验造出的病毒只针对细菌，不会感染人类，但整套技术路径已经跑通。这套实验依托的基础模型属于开源，有心之人拿到之后，替换训练数据集，完全可以定向迭代出针对人类的危险病原体。可换个角度想，如果这套技术掌握在纯闭源机构手里，外界连它有没有做相关实验都无从知晓，所有操作全部隔绝在黑盒内部，风险只会变得更加不可控。我个人并不认同简单给某一条路线扣上绝对危险的帽子。闭源的安全是厂商单方面给出来的承诺，信任完全建立在企业的自我约束之上，商业利益、地缘因素，都有可能打破这份约束。开源把武器交到所有人手上，滥用风险肉眼可见，但同时也把检查武器的权利交给整个行业。现在最大的麻烦是技术跑在了监管前面。不管开源还是闭源，大模型的数据投毒、后门植入都已经从学术猜想变成真实发生的事件。闭源巨头不断渲染开源风险，一部分是出于安全担忧，另一部分也是在维护自身商业利益，用安全名义给自己的封闭生态筑起壁垒。AI不会凭空自主作恶，但它会放大人类所有的意图，善意和恶意都会被成倍放大。我们纠结的不该是彻底否定开源或者全盘信任闭源，真正该思考的是，怎么建立一套可以落地的外部审计机制。闭源不能只靠厂商自证清白，开源也不能放任模型随意流转，只有看得见的监督跟上技术的脚步，才不至于等到风险爆发之后才仓促补救。