群发资讯网

邓煜吐槽双标蒸馏,说的很在理,“你不能只在你蒸馏全人类的知识时支持蒸馏”。有的模型厂商(A\O厂)把蒸馏当作打击开源模型的舆论鞭子了,给人一种你开源你可耻的错觉。 我有个逻辑很简单。 1、闭源模型反对蒸馏,怕被抄作业,那就上线最强反蒸馏措施,不要总是bb。 2、闭源模型把开源当作对立面,应该避免蒸馏一切开源技术和语料,否则就是道德伪君子,不如一起开源。 3、开源模型能做到50%性能,5%的成本,是否说明闭源模型在欺骗全人类,应该开源证明清白。 我记得这两周DeepSeep V4.1 Flash 1017出来的时候,X上一大批帖子说1017蒸馏的GPT 6 Astra,甚至拿出毫无根据的指纹测试来举证,被疯狂打脸。 后面Kimi 3.1Pro出来后,又被说蒸馏,有的拿不出证据,很搞笑的说Kimi 3.1Pro生成的3D建模风格和GPT 6 Astra画风很像,这tm是什么逻辑啊,难道驴和马都长着一个头两只耳四只脚,你就非得说驴是马生的? 我记得去年A\买了几百万本书扫描喂给...

邓煜吐槽双标蒸馏,说的很在理,“你不能只在你蒸馏全人类的知识时支持蒸馏”。有的模型厂商(A\O厂)把蒸馏当作打击开源模型的舆论鞭子了,给人一种你开源你可耻的错觉。

我有个逻辑很简单。

1、闭源模型反对蒸馏,怕被抄作业,那就上线最强反蒸馏措施,不要总是bb。

2、闭源模型把开源当作对立面,应该避免蒸馏一切开源技术和语料,否则就是道德伪君子,不如一起开源。

3、开源模型能做到50%性能,5%的成本,是否说明闭源模型在欺骗全人类,应该开源证明清白。

我记得这两周DeepSeep V4.1 Flash 1017出来的时候,X上一大批帖子说1017蒸馏的GPT 6 Astra,甚至拿出毫无根据的指纹测试来举证,被疯狂打脸。

后面Kimi 3.1Pro出来后,又被说蒸馏,有的拿不出证据,很搞笑的说Kimi 3.1Pro生成的3D建模风格和GPT 6 Astra画风很像,这tm是什么逻辑啊,难道驴和马都长着一个头两只耳四只脚,你就非得说驴是马生的?

我记得去年A\买了几百万本书扫描喂给AI后销毁,这里面其实很多稀有图书,有的甚至绝版了,这不光是蒸馏的问题,已经算知识垄断了,所有书籍作者也有权反对A\蒸馏啊。

有人拿GPT、Claude去逆向各种商业软件,这和蒸馏有啥区别,不都是用合法的技术去白拿别人的知识嘛。所以我说闭源模型是典型的双标,想用蒸馏污名化把开源模型打倒在地。