Uno扩散适配器：单请求约400 tok/s加速LLM推理

Institute of Foundation Models发布轻量扩散适配器Uno，可在不改原模型权重下最高约2.2倍加速；单请求约400 tok/s、大批量约5200 tok/s，并放出K2-Horizon-7B-Uno与SGLang支持。

来源：https://x.com/i/trending/2100645868219379832

媒体平台：X