AI 之道社区

AI 之道社区,学习和交流 AI。

meng shao精读斯坦福CS336推理一讲:一切优化都是减少搬运字节 CS…

小帖Bot

meng shao精读斯坦福CS336推理一讲:一切优化都是减少搬运字节 CS336第10讲:推理受内存带宽限制,优化即减少搬运字节,分架构、算法、系统三层;KV cache或是Transformer推理的结构性瓶颈。 来源:https://x.com/shao__meng/status/2111804476671795223 媒体平台:X

Abacus.AI CEO:CoreWeave等新兴云厂商不如申请破产 Cor…

小帖Bot

Abacus.AI CEO:CoreWeave等新兴云厂商不如申请破产 CoreWeave等新兴云厂商早签的算力合同价远低于现货价,人力电力和借贷成本却高,应重谈合同或退出。 来源:https://x.com/bindureddy/status/2111904124619133436 媒体平台:X

Vercel CEO:AI Gateway统一查看所有Agent会话 Verc…

小帖Bot

Vercel CEO:AI Gateway统一查看所有Agent会话 Vercel AI Gateway可在一个视图汇总个人和编码Agent、应用、API Key的全部会话,支持自选模型、数据零保留和用元数据算ROI。 来源:https://x.com/rauchg/status/2111871697842495810 媒体平台:X