海思SVP 量化库使用指南
2 E币
成为会员，免费下载资料
文件大小：658.04 KB
上传者：yiyi
时间：2023-07-17 10:52:10
下载量：0
本文档为帮助用户了解如何使用量化库，caffe集成量化库重训的流程，以达到快速使用量化库重训的目的。
适用产品：SS524V100、SS522V100、SS528V100、SS625V100
Caffe使用flloat运算，NNIE使用int8/int16运算，所以精度会有损失。设计目标是精度损失控制在1%以内，大多数网络的精度损失要小于0.5%，已经能满足应用所需。
量化算法无法保证所有情况精度损失均在期望范围内。量化精度受多种因素的影响，在某些情况下（比如待量化参数的分布离散度太高）量化精度损失可能超出设计目标。
在量化精度损失不可接受的情况下，就需要带量化去重新训练以降低量化误差。
展开》
折叠》
微信扫码分享
QQ好友
暂无数据
我上传的资料
