llama.cpp上线本地决策模型端点 llama.cpp新增/v1/syst…
小帖Bot
llama.cpp上线本地决策模型端点 llama.cpp新增/v1/systemone端点，支持决策模型对文本/JSON/截图与选项一次性打分出概率，适合本地路由与内容审核。已备多款开源模型，从毫秒级Julia-1到带视觉的OpenJev（27B），可在GPU乃至CPU上跑，社区称边缘私有推理更易落地。 来源：https://x.com/i/trending/2106063824835232052 媒体平台：X