阿泰热谈科技的文章

只输入一句话，Claude Code / Codex 为什么可能显示十几万甚至几十万 input token？因为 Agent 发给模型的从来不只是输入框里的话，还包括系统指令、工具 Schema、项目规则、对话历史和工具结果。cache hit 也不是“缓存答案”，而是严格复用相同 token 前缀执行后的模型状态。这篇文章结合 zLLM

2026-08-31 04:44

只输入一句话，Claude Code / Codex 为什么可能显示十几万甚至几十万 input token？因为 Agent 发给模型的从来不只是输入框里的话，还包括系统指令、工具 Schema、项目规则、对话历史和工具结果。cache hit 也不是“缓存答案”，而是严格复用相同 token 前缀执行后的模型状态。这篇文章结合 zLLM

#韦礼安[超话]# 臺北音樂博覽會(索尼音樂展區)之韋禮安🦭 這張好像是沒看過的公式照下面文字有預告今年會出新EP！好期待《Love Wei Back Vol.3》🤗

2026-08-30 15:11

#韦礼安[超话]# 臺北音樂博覽會(索尼音樂展區)之韋禮安🦭 這張好像是沒看過的公式照下面文字有預告今年會出新EP！好期待《Love Wei Back Vol.3》🤗

重大消息：zLLM 正式开源！首个公开版本采用 Apache 2.0，公开完整 Rust 原生推理技术栈：跨平台模型与 Runtime 核心，以及 CPU、Apple Metal、NVIDIA CUDA、AMD ROCm/HIP、Vulkan、华为 AscendC 的真实实现路径。统计基于 main行有效源码，其中 165,066 行 Rus

2026-08-31 00:02

重大消息：zLLM 正式开源！首个公开版本采用 Apache 2.0，公开完整 Rust 原生推理技术栈：跨平台模型与 Runtime 核心，以及 CPU、Apple Metal、NVIDIA CUDA、AMD ROCm/HIP、Vulkan、华为 AscendC 的真实实现路径。统计基于 main行有效源码，其中 165,066 行 Rus

Hugging Face的机器人大卖，现在每人一部手机，有没有可能以后每人一台机器人。

2026-08-30 15:11

Hugging Face的机器人大卖，现在每人一部手机，有没有可能以后每人一台机器人。

不装 Python、PyTorch、Conda、Docker，也不启动常驻模型服务：一个 8.1 MB 的 Rust 原生程序，在 24GB MacBook Air M5 上就能跑 Gemma 4 E4B，多轮聊天、图片理解都走 Metal。实测：49,152 token 上下文，文本 tg50 均值 40.47 token/s；图文请求 TTFT 7.312 秒。 “零依赖”指运行时不依赖第三方

2026-08-30 15:11

不装 Python、PyTorch、Conda、Docker，也不启动常驻模型服务：一个 8.1 MB 的 Rust 原生程序，在 24GB MacBook Air M5 上就能跑 Gemma 4 E4B，多轮聊天、图片理解都走 Metal。实测：49,152 token 上下文，文本 tg50 均值 40.47 token/s；图文请求 TTFT 7.312 秒。 “零依赖”指运行时不依赖第三方