一个 AI 任务的总耗时,大致由以下部分组成:云端排队与推理 + 网络往返 + 工具执行 + 串行等待 + 失败重试
如果 AI 已经知道怎么做,却在等待浏览器、编译、文件读写、权限或工具返回,工作流调度确实可能成为这个任务最大的瓶颈。但这里又有两种情况:- 机器资源不足:CPU、内存、磁盘饱和,换设备可能有效。- 软件组织低效:本来可以并行却串行、反复读取上下文、工具调用次数太多。换更贵的电脑,收益可能很小。举个纯示意例子:任务用时 100 秒,其中云端推理 20 秒、工具和等待 80 秒。推理速度翻倍,总耗时仍要 90 秒;工具和等待减半,则降到 60 秒。