MLGuider
自研AI模型自动优化工具链
极致模型性能
释放硬件潜力
显存资源占用下降
吞吐量与推理速度提升
集群规模支持
MLGuider
清昴智能自研的AI模型自动优化工具链 MLGuider,针对当前主流的硬件环境进行 适配与优化。除Nvidia之外,MLGuider还 支持AMD、昇腾、寒武纪、天数、燧原等 多款芯片,让客户除了Nvidia以外有更多的 选择,致力于打造适配任何硬件环境的优化 与推理引擎。
对目标模型进行特定硬件优化,已实现主流AI基础模型的全部支持, 实现硬件效率最大化
统一底层IR中间表达,屏蔽底层芯片硬件差异,整合硬件生态,实现 多硬件无缝迁移
高并发、高吞吐、低延迟、规模化部署
产品矩阵
硬软全栈产品矩阵,端到端解决方案
高性能训推一体机
全流程覆盖,高效低延迟;主流框架 完全兼容,代码0改动
多芯异构智算云平台
多源国产芯片支持,统一底层调用方 式;混合跨框架部署,无感切换
大模型开发部署平台
各类开源模型统一优化推理加速;服 务部署弹性伸缩,全生命周期管理
大模型边端模组
实现大模型的极致轻量化、小型化; 满足低功耗高显存的边端要求
关于清昴
清昴智能成立于2022年,创始团队来自于清华大学计算机系,在模型自动 优化方向有十余年积累,在人工智能领域累计发表包含ICML、NeurIPS、 CVPR等顶会论文上百篇,成立一年已获得多家一线基金的近亿元投资