定点化学习（一）
学习笔记，方便复习，刷到请划走，避免误导。
我有一个小数3.76，我要用8bit位宽来定点化，是不是就是3.76乘以256，但是得到的数值是962.56，这个0.56是不是可以用四舍五入来舍去。
ChatGPT 说：
ChatGPT
没错，首先你将小数 3.76 乘以 256，得到 962.56。在量化过程中，你可以使用四舍五入的方法来处理小数部分：
计算：
\text{定点数} = \text{round}(3.76 \times 256) = \text{round}(962.56) = 963
定点数=round(3.76×256)=round(962.56)=963
存储：你可以将 963 存储为 8 位定点数。
通过四舍五入，你就能有效地将浮点数转换为定点数，而不损失太多精度。需要注意的是，963 会在 8 位定点数中占用一个超出范围的值（最大为 255），所以需要考虑小数部分的精度和可表示范围。
所谓的量化误差就是我定点化后，还存在小数位，这个小数小于一个阈值，比如0.5，那么我就认为量化误差是很小的，相当于无损定点化了，比如我962.56，0.56大于0.5，是有损量化误差。
小数位可以用8bit存储，小数位是0.76*256=194.56。
3.76不可以用8bit存储，因为3.76的定点化是963，超过255.
原文地址：https://blog.csdn.net/qq_35140742/article/details/142454274
免责声明：本站文章内容转载自网络资源，如本站内容侵犯了原著者的合法权益，可联系本站删除。更多内容请关注自学内容网（zxcms.com）！