ai产业链 Fractile 转向 DRAM：长任务 Agent 正在改写推理芯片的设计题

信源：No Priors｜Sarah Guo 对谈 Fractile 创始人兼 CEO Walter Goodwin｜2026年10月2日

一家押注高速推理的芯片公司，为什么会主动走出 SRAM 路线？

Walter Goodwin 在这次访谈中披露，Fractile 创业前两年主要围绕 SRAM 设计芯片，但从2023年底到2024年，团队越来越担心这条路线的扩展能力。让他们改变判断的，既有模型参数增长，更有上下文不断变长。过去两年，公司开始与内存厂商和逻辑芯片代工伙伴合作，探索从 DRAM 获得极高带宽的方法。

这次转向点出了推理芯片竞争正在变化的命题：**当 AI 从回答问题走向持续工作，芯片必须同时支持更快的思考、更长的任务状态，以及大量用户负担得起的使用成本。**单独把生成速度拉高，已经回答不了全部问题。

SRAM 的优势很直接。它可以和计算逻辑放在同一块硅片上，通过大量近距离连接提供很高的数据带宽。对于逐个生成 token 的模型，这很有吸引力：计算单元需要反复读取权重和运行状态，数据供给跟不上，再多运算能力也只能等待。

但速度背后有一笔容量账。SRAM 占用硅片面积大，单位容量成本高。模型变大，需要存放更多权重；任务变长，还要保留更多上下文状态。在采用常规注意力的模型里，KV cache 保存历史 token 的键和值，使后续生成不必重新计算它们，但它本身会随上下文和并发请求增长。压缩、共享前缀和不同注意力设计能够缓解压力，却不会让容量问题自动消失。

因此，跑得很快的小批量演示，与经济地服务大量长任务，是两道不同的工程题。增加芯片可以扩充 SRAM 容量，同时也会增加设备、通信和供电成本；把部分工作交给外部大容量内存，又必须处理数据搬运带来的等待。Fractile 的转向，正是在寻找能同时改善这几项约束的组合。

Goodwin 希望得到的是 DRAM 的容量与成本优势，加上接近高速 SRAM 系统的推理体验。这里必须拆清一个概念：**HBM 本身也是 DRAM。**Fractile 探索的是新的高带宽 DRAM 访问与集成方式，不能把它简单理解成换上普通内存条，更不能据此宣布 HBM 已经失去价值。访谈没有披露足够的接口、封装和存储层级细节，无法替公司补出完整架构。

他提到，相比采用 HBM 的芯片，Fractile 所追求的单芯片带宽水平约为其25倍，并计划让新平台在2027年下半年进入爬坡阶段。这是公司的架构主张与交付计划。带宽倍数不能直接换算成模型加速倍数：数据访问模式、计算、芯片间通信，以及任务中的非模型环节，都会影响最终收益。

不过，这条路线的价值并不难理解。批量处理多个请求，可以让一次权重读取服务更多计算，提高设备总吞吐；但单个用户未必因此更快得到下一步结果。高速、低并发的生成容易受带宽约束，追求低成本又往往希望提高批量。Fractile 想改变的，正是这组速度与经济性的取舍。

这种改变对 Agent 尤其重要。写代码、跑测试、读报错、修改方案，构成了前后依赖的工作链。后一步需要前一步的结果，不能靠同时启动更多无关请求来缩短。长任务还不断积累代码、日志和工具反馈，因此更快的生成与更大的上下文容量需要一起成立。

速度由此进入能力的计算。对于能够从额外推理中获益的任务，同样的十分钟预算里，更快的系统可以完成更多候选方案、检查与修正。模型权重没有改变，交付结果却可能更好。客户愿意为这种能力付费，是因为它能更早修复故障、更快完成研发迭代，或者让原本等待时间过长的工作流变得可用。

这种收益也有明确边界。假设一个任务只有一半时间用于模型生成，即使这部分加速十倍，整个任务也只会快约1.8倍。工具调用、编译、实验和人工确认不会随 token 速度同比加快。因此，推理加速器最终要争取的是整个任务的完成时间与成功率；单流 token 速度只能解释其中一部分。

Goodwin 对这个边界给出了一个有价值的延伸：**当外部实验越来越昂贵、越来越耗时，实验前的思考可能反而值得增加。**

芯片设计就是现成例子。AI 可以更快提出电路方案，但布局布线、仿真和制造仍需要时间。与其把大量粗糙候选都送入昂贵流程，工程团队更有动力先用模型筛选、比较和排错，再决定做哪次实验。这并不意味着推理越长越好，而是只要额外思考能减少足够多的无效试验，它就有独立的经济价值。高速推理的市场，也会沿着这些昂贵的试错环节扩展。

访谈更深的一层，是内存带宽可能反过来改变模型架构。

Goodwin 举了混合专家模型，也就是 MoE 的例子。每个 token 只激活部分专家，可以让模型拥有很大的总参数量，同时控制实际运算量。他认为，更高的稀疏程度有机会在保持能力的同时进一步减少计算。

但减少运算，并不等于部署成本按比例下降。大量专家权重仍要存储，不同请求又可能选择不同专家，导致权重复用不足、访问分散，还可能增加跨芯片通信。运算量降下去以后，系统可能更容易暴露数据供给瓶颈。于是，一个算法上很节省计算的模型，放到现有硬件上未必划算。

如果更高带宽与足够容量能够以合理成本实现，一些今天因部署效率不佳而被压制的模型选择，就可能重新变得有吸引力。这是 Fractile 押注中最值得重视的部分：它希望先把现有模型跑快，再让模型设计者敢于选择更依赖内存能力的架构。所谓“带宽的缩放规律”，目前更适合看作这个研究方向，不能当作已经建立的普适定律。

这也解释了为什么 Goodwin 反复强调全栈团队。Fractile 把模型工作负载、前端设计、物理设计、后端实现和先进封装能力放进同一家公司。内存路线一旦改变，影响会传到数据流、芯片布局、封装和软件调度，仅在架构层做优化，很容易把问题交给下一个环节。

全栈组织的价值，在于更快完成这些往返，而它本身仍要接受制造周期的约束。Goodwin 明确承认，送厂到拿回芯片存在数月延迟，客户又需要数年的使用周期来摊销投入。设计工具变快，不代表客户会每隔几周更换硬件。更现实的优势，是在量产投入之前尝试更多方案，并更晚、更准确地选定值得放大的那一个。

对一家新芯片公司而言，进入市场的理由也必须足够具体。Goodwin 把部分自研芯片描述为降低对英伟达依赖、增加议价能力的手段，这带有独立供应商的立场，不能概括所有自研项目的价值。但他的商业判断有一部分成立：如果新平台能够交付现有系统难以经济实现的长任务速度，客户就有了超出“多找一家供应商”的采购理由。

相应地，前沿实验室也未必愿意把所有工作负载锁在一条高度特殊化的硬件路线上。模型结构变化很快，切换底层设备却很慢。保留多平台选择，可以降低押错路线的代价。这为独立加速器留下了空间，但 Fractile 仍需把带宽优势兑现为软件可用性、持续运行能力和规模交付，才能占住其中的位置。

接下来最有信息量的展示，会是一项大模型长任务：在明确的上下文长度、并发量和系统成本下，它究竟能提前多久完成，结果是否更好。这样的结果能够把带宽、容量和经济性放回同一道题里。Fractile 的转向已经提示我们，Agent 时代值得争夺的硬件优势，是让更多复杂工作进入可接受的时间预算；谁能做到这一点，谁就有机会影响下一代模型该如何设计。