大模型 硬件 联合优化
让AI 触达世界 各个角落
清昴智能是一家AI模型推理优化与芯片适配解决方案提供商,旨在为各行业客户提供顶尖的AI优化和工程化能力,致力于解决复杂AI模型的落地难、性能差、资源耗费高、硬件适配难等问题
联系我们
模型层

MLGuider

自研AI模型自动优化工具链

极致模型性能

释放硬件潜力

算力层
4X

显存资源占用下降

10X

吞吐量与推理速度提升

1000+ 1K+

集群规模支持

MLGuider

清昴智能自研的AI模型自动优化工具链 MLGuider,针对当前主流的硬件环境进行 适配与优化。除Nvidia之外,MLGuider还 支持AMD、昇腾、寒武纪、天数、燧原等 多款芯片,让客户除了Nvidia以外有更多的 选择,致力于打造适配任何硬件环境的优化 与推理引擎。

核心能力

对目标模型进行特定硬件优化,已实现主流AI基础模型的全部支持, 实现硬件效率最大化

统一底层IR中间表达,屏蔽底层芯片硬件差异,整合硬件生态,实现 多硬件无缝迁移

高并发、高吞吐、低延迟、规模化部署

产品矩阵

硬软全栈产品矩阵,端到端解决方案

高性能训推一体机

全流程覆盖,高效低延迟;主流框架 完全兼容,代码0改动

多芯异构智算云平台

多源国产芯片支持,统一底层调用方 式;混合跨框架部署,无感切换

大模型开发部署平台

各类开源模型统一优化推理加速;服 务部署弹性伸缩,全生命周期管理

大模型边端模组

实现大模型的极致轻量化、小型化; 满足低功耗高显存的边端要求

关于清昴

清昴智能成立于2022年,创始团队来自于清华大学计算机系,在模型自动 优化方向有十余年积累,在人工智能领域累计发表包含ICML、NeurIPS、 CVPR等顶会论文上百篇,成立一年已获得多家一线基金的近亿元投资