需求预览历史资料
Ascend部署中8bit权重量化未减小模型,开发者需优化转换链路
Zhangtian用MindSpore Lite固定8bit权重量化后模型大小与FP16相同、推理效率也未变;去掉Ascend优化参数则大小符合预期但推理报错。支持者建议先用其他框架量化再转ONNX并提供参考,未见作者验证。
- 服务方向
- 模型量化优化
- 相关地区
- 未注明
- 资料范围
- 公开需求预览
- 发布时间
- 2026.06.11
需求预览不代表当前有效商机。请在系统内核对时效、参与条件和原始来源。
意客 AIINTELLIGENCE WORKSPACE打开网页版Zhangtian用MindSpore Lite固定8bit权重量化后模型大小与FP16相同、推理效率也未变;去掉Ascend优化参数则大小符合预期但推理报错。支持者建议先用其他框架量化再转ONNX并提供参考,未见作者验证。
需求预览不代表当前有效商机。请在系统内核对时效、参与条件和原始来源。