群发资讯网

用5070Ti(12G)加32G内存的笔记本,目前只能流畅跑10B以内的大模型,

用5070Ti(12G)加32G内存的笔记本,目前只能流畅跑10B以内的大模型,这类模型能力还满足不了coding需求,勉强跑27B模型速度又太慢,现在还没到本地部署实现token自由的阶段。