理論:
把測量量滿(mǎn)值等份成4095份。實(shí)測值乘以一份的量
工程值=測量值*0.34188034188034188034188034188034
阻礙:
單份非整形數據,需浮點(diǎn)計算
解決方法:
1、轉換為浮點(diǎn)數后計算
優(yōu)點(diǎn):精度
缺點(diǎn):運行速度、寄存器使用量
注意:1N是否支持FLT和INT這兩個(gè)數據轉換指令未知。起碼我知道2N以上有……
2、將數值翻倍后取整
優(yōu)點(diǎn):速度、寄存器使用量
缺點(diǎn):精度
注意:?jiǎn)我患拇嫫饔行ё畲鬅o(wú)符號整形數為65535。設置倍率時(shí)需留意計算值范圍。窮舉推算的結果最合適倍率為6倍,誤差-2.5%