莫得大厂高管站台，一房子却挤满了开源圈的熟状貌。

疏漏往台下扫一眼，就能对上好几个GitHub上的明星 ID：

有当前大模子推理框架顶流SGLang的中枢开导者BBuf（Xiaoyu Zhang）；

有主导下一代算子编程生态TileLang的珍重者唐正举；

有操刀 KVCache 解耦与传输神器Mooncake的中枢孝顺者马腾；

有来自智源东谈主工智能计划院、围绕Triton/FlagOS死磕 AI 编译器的肖航；

还有像R0CKSTAR这样在 GitHub 上相当活跃的硬核开导者。

这场看似是开源圈极客们的面基会，却确切是有点反差在身上的——

行径的攒局者，是国产 GPU玩家，摩尔线程。

这事照实有点兴趣。

因为往常提到国产 GPU，外界最容易念念到的重要词，时常如故硬件参数、显存容量、算力看法、生态替代、模子能不可跑起来。

但这场SGLang × MUSA Meetup确凿抛出的问题如故变了：

怎么让国产 GPU 确凿插足大模子推理的主流开源工程链路？

说得更平直少许，就是让 SGLang、Triton/FlagOS、TileLang、Mooncake、KVCache、P/D 分辨、漫步式通讯、CI/CD、upstream PR 这些东西，能够围着国产 GPU 一都转起来。

有一说一，在举座听下来之后，有一个相当直不雅的感受。

那就是国产 GPU 的竞争，如故不单是芯片参数之争，转而启动迈向生态坐标之争。

为什么这样说？咱们络续往下看。

国产 GPU 启动"扩圈"了

先看这场 Meetup 自己。

它的主题很明确：SGLang × MUSA。

SGLang 是当下大模子推理 serving 领域柔软度很高的开源框架，面向 LLM 和多模态模子，中枢方向是低延长、高隐约，遮盖从单卡到大规模漫步式集群的部署场景。

这类框架之是以伏击，是因为今天的大模子落地，早就不是"模子试验好了，放上去跑"这样约略。

确凿插足坐褥环境后，系统要处理的是一整套复杂问题。

举例 prefill 和 decode 怎么拆，KVCache 怎么复用，长险阻文怎么省钱，多轮对话怎么降 TTFT，大规模集群怎么诊疗，新模子发布后怎么 day-0 support，出了性能 gap 怎么定位到具体 kernel。

第一个上台的是 SGLang 中枢开导者BBuf。

△SGLang 中枢开导者 BBuf

这个在 GitHub 上领有 27k 星的开源推理框架，当前如故是全球开导者部署大模子的首选。

他带来的 SGLang 2026 Q2 Roadmap，每一条都踩在行业的痛点上：

针对 DeepSeek V4 的全链路优化，包括 W4A16 量化、MegaMoE 加快和疏淡端庄力赞成；

jit_kernel 全面替代传统的 sgl-kernel，用 TVM-FFI 把编译速率提高了数倍，再也无须等几个小时的 wheel 包；

Vibe Coding 全面落地，用 AI agent 自动分析 profiler、定位性能瓶颈、提交 PR，5 月前如故完成了跳动 60 个优化任务；

多模态能力全面升级，赞成 LTX2、Wan、混元视频等最新模子，性能比其他框架最高快 5 倍。

最让东谈主印象深入的是他展示的一组数据。

SGLang 通过 P/D 分辨架构，在 12 个 H100 节点上跑出了 52.3k 输入 token/s/node、22.3k 输出 token/s/node 的成绩，比 DeepSeek 官方 API 还低廉 5 倍，这个落幕如故被全球 10 多个团队复现。

紧接着上台的摩尔线程 Contributor  R0CKSTAR，带来了全场最硬核的工程执行分享。

△摩尔线程工程师 R0CKSTAR

他用一句话回来了往常半年的责任：

SGLang on MUSA 如故完成了从环境构建到 CI 测试的全链路买通。

这意味着什么？

当前你惟有克隆 SGLang 的官方仓库，装配 sgl-kernel 和 sglang，就能在摩尔线程 MTT S5000 显卡上平直运行险些通盘主流大模子。

DeepSeek、通义千问 3.5、GLM-4.5、FLUX、Wan 这些热点模子，都如故完成了深度优化。

他止境提到了 MUSA 的三层 CUDA 兼容栈。

往常适配一个推理框架要改几千行代码，当前惟有在伊始加一瞥 import torchada，99% 的 CUDA 代码就能平直运行。这个看似约略的编削，贬责了国产 GPU 生态的一大痛点。

据了解，戒指 5 月 12 日，摩尔线程在 SGLang 干线累计提交 47 个 PR，其中 41 个已合入，完成了从环境构建到漫步式推理的全链路买通。

智源的肖航则带来了 DeepSeek V4 在 MUSA 上的 Day0 适配效果。

△智源 AI 编译器计划员

通过 FlagOS 的 Triton 算子优化和摩尔线程的 SQMMA 张量加快引擎，他们把 DeepSeek V4 的首 token 延长裁减了 56.7%，隐约量提高了 23%。

对此，肖航暗意：

咱们莫得作念什么黑魔法，就是把两个最重要的算子优化到了极致。

FP8 矩阵乘算子平均加快 8.85 倍，疏淡端庄力算子平均加快 6.01 倍，这两个占了推理时期 80% 的算子一优化，端到端性能当然就上去了。

TileLang 珍重者唐正举的分享，则让通盘东谈主看到了下一代算子编程的畴昔。

△TileLang 珍重者唐正举

这个 2025 年 2 月才开源的名堂，短短一年多就成绩了 6k 星和 133 位孝顺者，连 DeepSeek V4 的中枢 kernel 都是用 TileLang 写的，正如唐正举所说：

用 TileLang 写 FlashAttention，惟有 50 行 Python 代码，性能和民众手写的 CUDA 一模一样。

况且从他在现场展示的对比图来看，相通的 GEMM 算子，TileLang 用 15 行代码达到了 CUTLASS 的性能，代码量减少了 90%。

临了上台的阿里云马腾，带来了 Mooncake 名堂的最新阐扬。

△Mooncake Contributor 马腾

这个专注于 KVCache 解耦的名堂，当前如故是 SGLang、vLLM 等主流推理框架的标配。

他展示的一组较为吸睛的数据：

通过 RDMA P2P 权重更新，Kimi K2 1T 模子的权重同步时期从 53 秒降到了 7.2 秒，加快了 7.37 倍；EPD 三级解耦架构让多模态模子的首 token 延长裁减了 6-8 倍；HiCache + Mooncake 后端让多轮对话的缓存射中率跳动 90%。

至此，这场 Meetup 的拼图基本完好——

SGLang 是推理框架主链路，MUSA 是国产 GPU 底层平台，FlagOS/Triton 贬责重要算子优化，TileLang 裁减高性能 kernel 编程门槛，Mooncake 补上 KVCache 和坐褥部署。

这，2026美加墨世界杯中国认证平台即是一条较为完好的工程链路。

为什么摩尔线程能把他们摇来？

这个问题的谜底不可只归结为办了一场行径。

开源圈很现实，各人横暴来，中枢原因不是谁会讲故事，是这件事竟然和他们正在作念的工程问题相关。

最初看 MUSA 自己的设想初心。

摩尔线程 CTO张钰勃在开场中解释，MUSA 是 Meta-computing Unified System Architecture。

△摩尔线程 CTO 张钰勃

Meta-computing 指向通用操办，摩尔线程但愿 GPU 尽量拥抱通用操办，而不是给畴昔可操办的领域设限；Unified 则意味着摩尔线程居品但愿除名兼并套长入标准，幸免不同居品线使用不同领导集和架构，导致软件生态无法积蓄。

更重要的一句话是，MUSA 不但愿开导者为了使用 MUSA 而再行学习一套东西。

这句话看似朴素，其实直指国产 GPU 生态的痛点。

开导者最怕什么？

不是新硬件自己，是为了新硬件，学习一整套新 API，重写一堆代码，改完还进不了上游，社区一更新又要再行补丁。

若是一个国产 GPU 生态条目开导者从新学一遍，那它靠近的即是巨大的迁徙阻力。

是以 MUSA 的道路，是尽量靠近开导者如故老到的 GPU 编程阵势、API 接口和使用风尚。底层结束不错不同，但表层体验尽可能一致。

三层 CUDA 兼容栈的道理就在这里。

torch_musa 崇拜把 PyTorch 和 MUSA 的基础能力接起来；torchada 崇拜让 CUDA-first 生态络续责任；mthreads-ml-py 崇拜把缔造握住、拓扑、显存、MTLink、P2P 等信息清楚给表层框架。

用一句更闲居的话说，摩尔线程在尽量把蓝本的路修到我方门口。

这平直影响到开源社区相助的可行性。

因为上游名堂最敬重的是低侵入、可珍重、可复用。若是一个适配决策需要大面积编削干线代码，后续每次 rebase 都熬煎，上游很难选定。

反过来，若是适配不错通过更透明的阵势完成，PR 就更容易被 review，也更容易陆续奴婢社区迭代。

这就是从"我我方珍重一个分支"到"我插足干线"的区别。

再看生态鸠合。

SGLang × MUSA，是推理主链路买通。

摩尔线程从客岁启动把 SGLang 算作要点接入和孝顺的开源名堂，经由泰半年戮力，MUSA 后端近期如故合入 SGLang 干线。后续不单是奴婢 feature，也但愿在框架层面孝顺更多能力。

这件事的道理在于，国产 GPU 不再只是某个框架的外部适配对象，如故启动成为干线生态的一部分。

FlagOS × MUSA，是重要算子和新模子适配。

大模子推理的性能竞争，越来越多发生在 kernel、编译器、诊疗、低精度和通讯层。DeepSeek V4 day-0 适配这样的责任，实践上锻真金不怕火的是从模子发布到工程落地之间的反映速率。能不可第一时期跑通，能不可快速调优，能不可在真实 shape 上找到更好的设置，决定了生态跟不跟得上。

Mooncake × MUSA，是推领路耦和坐褥部署。

KVCache 的价值在 Agent、多轮对话、长险阻文期间被进一步放大。Mooncake 与 MUSA 的鸠合，不单是让某个缓存后端能跑在国产 GPU 上，更是在探索跨实例 KVCache 分享、弹性扩缩容、缓存复用、原地升级这类坐褥级问题。

TileLang × MUSA，则是下一代算子生态的提前布局。

若是畴昔更多模子和硬件都需要定制 kernel，算子编程不可恒久停留在少数民众手里。TileLang 这类 DSL 的价值，是把高性能 kernel 编程酿成更多开导者能上手的工程用具。

这四条线合在一都，才是摩尔线程能组局的底气。

它把我方放进了大模子推理的真实工程汇注里，包括框架、算子、缓存、通讯、部署、CI/CD、upstream 等等。

而这，亦然国产 GPU 生态确凿要补的课。

国产 GPU 的生态位，正在走向相助

若是把这场 Meetup 从更稠密的算力发展角度来看，它的价值玩忽远超时间分享自己。

往常几年，国产 GPU 的生态逆境是相比昭彰的。

好多厂商风尚了闭门觅句，我方从新写一套深度学习框架，我方攒一套算子库，落幕因为不合适主流开导者的风尚，鲜有东谈主问津。

又或者，有的厂商只是拉一个独有 Fork 作念适配，从来不向开源上游提打法码，导致主流框架一更新，我方的适配版块就成了无东谈主珍重的孤品。

而当前，摩尔线程给出了一个系数不同的谜底：

全面融入全球开源生态，去和宇宙上最奢睿的一批东谈主一都作念事。

在这场行径中，咱们经常听到几个词：Day-0 Support、Upstream PR、CI/CD。

这证实国产 GPU 的生态位正在发生质变。摩尔线程不再只满足于作念一个被迫的适配者，它要的是主动出击，成为中枢代码的"孝顺者"，致使是畴昔架构的"共建者"。

他们不单是是丢一个单点的 Patch 往常，而是把一整套包含环境构建、PR 提交、CI 自动化测试、Release 发布、文档珍重在内的工程闭环，深深地镶嵌到了 SGLang 等顶级名堂的血脉中。

这种可陆续的 Upstream 模式，才是确凿掌捏生态语言权的阵势。

这场开源局还证实了一件事，国产 GPU 如故走上了大模子推理开源生态的民众牌桌。

在这个牌桌上，如故坐着风头正劲的 SGLang，坐着死磕底层编译的 Triton/FlagOS，坐端庄塑算子生态的 TileLang，坐着主导解耦架构的 Mooncake。

而当前，国产 GPU，也不错拉开椅子，安谧地坐下来，和这群明星玩家们一都打好大模子期间最重要的这把牌。

一键三连「点赞」「转发」「严防心」

迎接在批驳区留住你的念念法！

—  完  —

� � 点亮星标 � �

科技前沿阐扬逐日见2026美加墨世界杯中国认证平台