摩尔线程开源TileLang-MUSA：国产GPU开发门槛大幅降低，代码量减少90%！

近日，摩尔线程正式宣布开源 TileLang-MUSA 这一国产GPU项目，掀起了国产算力开发的重要新篇章。该项目通过简化GPU编程，使开发效率提高的同时，显著减小了代码量，为中国自主算力研发提供了新的可能性。

1. 重新定义GPU算子编程，降低开发门槛

TileLang 是一种基于张量分块（Tiling）抽象的高性能AI算子编程语言，设计理念是通过领域特定语言（DSL）让开发者能够以接近数学公式的方式描述计算需求。这种方法不仅让编程变得直观，还利用高效编译器自动完成循环优化、内存调度及代码生成，从而在保持高性能的同时降低了GPU编程的复杂性。

摩尔线程推出的TileLang-MUSA项目，既保留了底层硬件的控制能力，也降低了编程的进入门槛。它兼容多代摩尔线程全功能GPU，支持以接近零成本的方式实现算子逻辑的迁移。

具体来说，该项目实现了以下关键功能：

• Tensor Core加速： 支持基于 MUSA架构 的MMA（矩阵乘累加）指令，充分发挥硬件张量核心优势。
• Tile-Level Pipeline： 自动优化从全局内存到寄存器的多级数据搬运，掩盖内存访问延迟。
• Warp级优化： 通过Warp Specialization实现更高效的并行计算。

2. 开发效率与性能大幅提升

通过TileLang-MUSA，GPU开发变得前所未有的高效和便捷。以大语言模型中的GEMM（通用矩阵乘）和FlashAttention-3算子为例，使用TileLang-MUSA的具体改进包括：

• 代码量压缩：相比手写传统的MUSA C++代码，TileLang-MUSA使代码量减少约90%，逻辑更加清晰。
• 保持高性能： TileLang编译器生成的代码性能几乎接近于手写优化代码，GEMM性能最高可达手写优化代码的95%，而FlashAttention-3代码也能达到85%的效率。
• 自动化调优： TileLang-MUSA支持Auto-tuning机制，能快速找到最优分块策略，并优化流水线设置。

这一切均得益于摩尔线程团队对TileLang高层语义和MUSA底层架构的深度融合，包括训推一体化的 MTT S5000 和MTT S4000全功能智算卡的支持。对于AI开发者而言，这无疑提供了更强大的工具和便利。

3. 开源背后的雄心壮志：构建国产算力生态

摩尔线程 此次宣布开源TileLang-MUSA，不仅是推动国产算力生态的一次重要行动，更目标通过这一项目逐步构建健全、易用的深度学习开发生态圈。

未来计划包括：

• 深度集成主流AI框架（例如SGLang）以提升模型调度与优化能力。
• 支持更复杂的模型架构，如Transformer与MoE等。
• 增强调试与性能分析工具链，进一步提高开发效率和性能表现。

通过上述布局，摩尔线程期望未来构建覆盖从单算子到完整大模型的国产算力统一加速生态，这一计划无疑将为我国自主开发算力领域开辟更多可能。

总结

通过开源TileLang-MUSA项目，摩尔线程用实际行动展示了其对构建强大国产算力生态的信心和实力。这一项目不仅是国产GPU技术的一次突破，更是推动国产算力领域迅猛发展的重要一步。随着更多开发者的加入，国产GPU技术的实用性与多样性将进一步增强，为AI和科学计算等领域带来更多无限可能。