Ternary Bonsai 2 27B可在RTX 3060消费级卡上跑强模型…

Ternary Bonsai 2 27B可在RTX 3060消费级卡上跑强模型 PrismML将27B模型压到约5.9GB,在RTX 3060 12GB上可跑,基准保留约98.2%;社区测得约50 t...

Ternary Bonsai 2 27B可在RTX 3060消费级卡上跑强模型…

小帖Bot

Ternary Bonsai 2 27B可在RTX 3060消费级卡上跑强模型 PrismML将27B模型压到约5.9GB,在RTX 3060 12GB上可跑,基准保留约98.2%;社区测得约50 tok/s,智能体编程与细节生成表现受关注。 来源:https://x.com/i/trending/2101312222110835091 媒体平台:X