1 个回答 得票排序 · 时间排序
杨二凯 · 2020年03月18日

抛开量化的计算来说浮点量化、定点,其实都是这也是一个常规操作,其实一个数量值,它用什么样的形式来表达, 都是可以的,既可以用32位,也可以用16位,甚至8位来表示,无非就是看我们对取值范围和精度的要求是怎么样的。浮点量化定点,它的主要的思路就是怎么把取值范围比较大精度比较高的浮点值,转换成一个取值范围比较小精度比较低的定点数。具体去量化成定点的话,需要在一个实际处理的数据范围中间取一个最大值和最小值,对应到定点的最大值和最小值。然后就去把浮点映射到定点上,这样的话所有的浮点数在定点上都有一个明确的值,但数值的大小关系是不变的。 也可以说是量化处理是一个单调函数。

你的回答