Anthropic公开了一套已上线数月的机制:模型答完用户后,会再收到一条用户看不见的指令,用缓存上下文做一次安全复盘,只输出大约十个token的JSON裁决——是否有害、类别、要不要人工看。长上下文下额外算力开销大约不到2%。它不实时拦截,而是喂给离线汇总和人工复核。同一套对话上,又多了一层安静的监测。

Anthropic公开了一套已上线数月的机制:模型答完用户后,会再收到一条用户看不见的指令,用缓存上下文做一次安全复盘,只输出大约十个token的JSON裁决——是否有害、类别、要不要人工看。长上下文下额外算力开销大约不到2%。它不实时拦截,而是喂给离线汇总和人工复核。同一套对话上,又多了一层安静的监测。
