ModScan32のデータ読み取りに関する問題で、専門家のご指導をお願いします
Thread Content
ModScan32を使って計器の累積値を読み取ると、累積値が7桁の有効数字を超えると正常に読み取れず、科学記数法で表示されます。例えば、計器の表示値が32508125である場合、ModScan32で読み取ると3.25e+007と表示されます；例えば、計器の表示値が5678.1632であるのに対し、ModScan32で読み取ると5678.0000と表示されます。これは、計測器のデータ型が単精度浮動小数点数だからでしょうか？ModScan32を正常に読み取る方法はありますか？この点について詳しい方にご指導いただければ、大変ありがたく思います。
表示されるデータ型は切り替え可能で、あなたのこの累積量のように、一般的には32ビット浮動小数点数です
32ビットの浮動小数点数で、16進数に切り替えて読み取り、その後16進数を10進数の浮動小数点数に変換すると、結果は正しいです。このような問題は計器の問題なのか、それとも読み取りソフトウェアの問題なのか？
これはおそらくあなたのソフトウェアの問題で、私が以前使っていたものでは浮動小数点数が直接表示されました
読み取りにはModScan32というソフトウェアを使用しており、このソフトウェアには浮動小数点数の読み取り機能があります。
もう一つの場合として、数字があまりにも長すぎる場合は、単位を変換することをお勧めします。もともとがKGで表されているなら、Tに変換しても構いません
この方法は試してみましたが、KGをTに変更しても実際には効果がありませんでした。例えば、計器には35288.789Tと表示され、ModScanで読み取った値も科学記数法で表記されます：3.52e+004。また、計器に352.88789Tと表示されても、ModScanでは小数点以下の数字がデフォルトで0となり、読み取り値は352になります。だから単位を変えても実質的な効果はない。また、リアルタイムで読み取ることもできません。例えば値が352の場合、2ずつ増やすごとに1つの値が読み取られ、354、356といった具合です。値が4桁の場合、例えば3528なら、16ずつ増やすごとに1つの値が読み取られ、3544、3560となります。値が5桁の場合、例えば35288なら、256ずつ増やすごとに1つの値が読み取られ、35544、35800となります。これも問題です。