跳到主要内容

AI 推理软件栈

从模型到芯片,一栈直达

AI inference software stack solution

ZMC

模型编译器

PyTorchONNXJAXTensorFlow
  • 基于 MLIR 框架,无缝对接 LLVM
  • 支持 PyTorch、ONNX、JAX、TensorFlow 等主流 AI 模型文件导入
  • 支持来自 FlagGems、PyTorch 以及用户自定义等多来源的 Triton 算子
  • 提供统一的模型和算子库融合优化
  • 支持 RISC-V CPU 及其他异构加速器
联系我们

ZTC

Triton 算子编译器

Triton
  • 基于 MLIR 框架,无缝对接 LLVM
  • 支持 Triton 语言编写的 AI 算子库,性能媲美 C 算子库
  • 支持 RISC-V CPU 及其他异构加速器
联系我们