今天和技术ld聊了一下每次面试都要让我造火箭被问到jev和systemone我都惊了jev我懂啊 personal agent我懂啊可是?system1 wtf你在说什么面试官让我去跟算法交流一下我找了组内领导找了清华算法博士青云姐对方也是一脸懵逼
好好好学到了当任务的终点是决策,模型是否应该从决策本身出发?业务场景敏捷决策考虑新架构相关背景:做工具路由、检索或评分时,我们常把所有选项拼进提示词,让模型给答案。但换一下选项顺序就改判、根本没正确项还硬选、同一批候选每次重算,都是部署中的实际问题System One 模型把请求与候选拼接成文本后从 answer token logits 读出决策,将可复用的候选内容困在请求特定计算中;候选顺序与数量都会影响输出,也无法判断"没有可用选项",违背决策问题应有的结构性质一个可靠的 System One 决策器至少要满足第一,能区分“候选都不对”和“多个候选之间拿不准”;第二,打乱选项顺序不应改变决定;第三,候选增加时不必重做固定大小的输出层;第四,在不同请求中重复出现的选项,应能复用已经做过的计算这样看起来貌似很匹配一些特定的意图相关业务场景~