单片机浮点数的实用快速降法

嵌入式系统 时间：2012-03-08来源：网络

可见只需要在X/YH的基础上再乘以一个修正因子（YH-YL）/YH，就可以得到X/Y的一次校准值。不难证明这个值已经达到了24位的精度要求。事实上，相对误差满足：

1 2 3

关键词： 浮点数 尾数 快速降法

加入微信
获取电子行业最新资讯
搜索微信公众号：EEPW
或用微信扫描左侧二维码

相关文章

查看电脑版