发新帖我要提问
返回列表
打印

乘法运算要注意什么？

[复制链接]
1177|2
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
victor3l|  楼主 | 2012-7-9 10:28 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
电压, 电压值, 元数据, AD
我的AD的内码值比较稳定，把内码值乘以一个固定的常数转换成电压值，很稳定，但是吧各个通道的电压值乘以各个通道的系数后数据就不稳定了，跳动比较大，这会不会和乘法运算有关了？通道电压值是整型数，系数是浮点数，我直接乘的，然后根究显示的系数要求，当显示不需要小数是就把得到的结果直接强制转换成整型的。当需要一位小数时，我把元数据扩大10倍，然后在强制转换成整型，显示多位小数时一次类推，这样处理有问题吗？

使用特权

评论回复 赏

相关下载

相关帖子
沙发
ayb_ice| | 2012-7-9 10:50 | 只看该作者
注意符号，溢出。。。

使用特权

评论回复 赏
板凳
原野之狼| | 2012-7-9 11:11 | 只看该作者
听LS的 没错:lol

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

victor3l

77

主题

308

帖子

5

粉丝