朋友们,这几天有个叫Jev的模型真的把我看傻了,必须跟你们唠唠。
发布才四五天,外网已经炸了,官宣帖浏览量快冲到四千万,官网直接因为访问量太大崩了,你说离谱不离谱。
最关键的是,这玩意儿跟咱们平时用的GPT、Claude完全不是一个路子。它不跟你聊天,不写小作文,不生成代码,也不画图,它干的事儿特别简单粗暴——做判断,给决策。
你问它"这个用户是不是想退款",它不会给你写一段三百字的分析,直接甩给你"是,概率92%",就这么干脆。是不是听着就很爽?
最爽的是它又快又便宜。官方数据说在特定工作流里比大模型快将近两百倍,便宜四百多倍,响应时间几十毫秒到半秒,输入价格才零点零四二美元每百万token,输出基本不要钱。这价格放在现在的大模型市场里,简直就是在做慈善。
兄弟们,你们有没有想过一个问题——很多时候我们真的需要模型生成一大段文字吗?
客服场景里你只需要知道这个工单该转给谁,风控场景里你只需要知道这笔交易有没有风险,游戏里你只需要知道下一帧地图该怎么生成,数据分析里你只需要知道这条记录该打什么标签。这些场景缺的根本不是一段漂亮的文字,而是一个便宜、稳定、低延迟、能直接被程序吃掉的判断。Jev干的正好就是这个活儿。
这几天开发者们已经玩出花了。有人拿它实时生成跑酷游戏的地图路径,速度快到肉眼跟得上;有人用它四十秒拆解了三百多个品牌的七百多条广告,token成本才九美分;有人拿它给Excel表格里的事件分优先级,一百毫秒搞定;还有人搞了个Claude插件,专门处理上下文压缩,GitHub上已经两千星了。
更有意思的是有人拿它做Computer use,让它帮忙浏览网页找最便宜的门票结账页面,速度比Claude快了十几到四十倍,价格只有人家的百分之一。还有人拿它玩马里奥、打射击游戏,十分钟才花了一毛钱。甚至有人拿它模拟炒币二十一个小时,赚了百分之十二。你说这脑洞大不大。
背后的团队来头也不小,创始人Diogo是前OpenAI的研究员,参与过InstructGPT和RLHF的研究,这些后来都成了ChatGPT的技术基础。所以这东西不是随便哪个小团队拍脑袋想出来的,底层是有真功夫的。
它用的训练方法叫RLCD,面向校准决策的强化学习,目标不是让模型说出讨人喜欢的话,而是让它在做判断的时候给出的概率尽可能接近真实正确率。官方还说它几乎是零幻觉,因为所有输出选项都是预先定义好的,模型不会跑出指定范围,单次决策最多支持两百五十五个选项。
当然也不是没有争议。有开发者说两个小时就做出了开源版本,也有人觉得实际效果没那么稳定,还有人指出输出概率是个黑盒,可解释性是个问题。这些确实值得观望。
但不管怎么说,Jev把大模型的能力拆出了一个更窄、更硬、更工程化的分支,这个方向本身就很值得玩味。
赶紧去试试,哪怕先拿它给你的工作表格分个优先级,感受一下那种一百毫秒出结果的快感,你就知道我说的是什么意思了 🔥