SGLang 联盟成立:英伟达、AMD、谷歌等八家公司加入
LMSYS Org 11 月 12 日在旧金山首届 SGLang 峰会上宣布成立 SGLang 联盟,创始成员包括英伟达、AMD、英特尔、谷歌、Meta、Cloudflare、Modal 与 RadixArk 八家公司。

事件经过
联盟在首届 SGLang 峰会的开幕主题演讲中宣布成立。峰会 11 月 12 日至 13 日在旧金山 Fort Mason 举行,是首个专门聚焦 SGLang 与其开源社区的会议。各创始成员将各指定一名技术代表,每年参加两次路线图会议。
SGLang 是一个用于在生产环境运行大语言模型与多模态模型的开源推理引擎,支持英伟达与 AMD 硬件、英特尔至强处理器与谷歌 TPU。LMSYS 称它运行在数十万块 GPU 上,Meta、微软、谷歌、亚马逊、Thinking Machines Lab、Cloudflare 等在生产中使用。
联盟怎么运作
联盟给成员一个固定议事场所,与 SGLang 维护者讨论新出现的推理趋势,把共同需求转化为联合工程工作。聚焦的四个方向是前沿模型支持、推理与多模态工作负载、分布式推理与跨硬件平台优化。项目维护者保留技术决策与代码接纳权。
LMSYS 引用德勤的估计称,推理将占 2026 年 AI 算力的约三分之二,2025 年约为一半。公告未给出各项功能的发布时间、优先级与具体性能改进数字。
关键事实
- 成员:八家创始成员:英伟达、AMD、英特尔、谷歌、Meta、Cloudflare、Modal、RadixArk
- 发起:LMSYS Org,支持 SGLang 的非营利组织,在首届 SGLang 峰会开幕主题演讲中宣布
- 方向:前沿模型支持、推理与多模态工作负载、分布式推理、跨硬件平台优化
- 治理:每家成员指定一名技术代表,每年参加两次路线图会议;维护者保留技术决策与代码接纳权
- 规模:LMSYS 称 SGLang 运行在数十万块 GPU 上,Meta、微软、谷歌、亚马逊等在生产中使用
- 背景:德勤估计推理将占 2026 年 AI 算力的约三分之二,2025 年约为一半
为什么重要
SGLang 联盟把原本分散在各家硬件与云厂商的推理优化工作收进一个共同路线图,八家创始成员覆盖芯片、云与平台三端;联盟只定方向、不直接交付性能改进,效果取决于后续联合工程的落地。
订阅 HIMIAO视界
不用注册 · 随时退订推送通知
早报出来时,手机或电脑上弹一条提醒。不用留邮箱。
评论
相关新闻
今天
11月15日 星期日- 早报美联储报告:AI 首次成为金融系统头号风险
共 7 条
- 周榜GitHub 周榜 Vol.5:本周 6 个值得看的项目
实测 + 读码,每周一期往期 →
- 三问
- 预测
™