亚洲欧美网站,国精产品一线二线三线av,福利在线播放

工控人家園 綜合討論 請大俠看看這是怎么回事,fx3u 浮點數運算

kongqigg

級別: 正式會員

發送短信
加為好友

精華主題: 0
發帖數量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

樓主發表于: 2015-01-15 17:25

只看樓主 | 小中大

DEBCD指令得到的數值是錯的？為什么？？請大俠指點。

hsqknx

級別: 工控俠客

發送短信
加為好友

精華主題: 0
發帖數量: 434 個
工控威望: 2449 點
下載積分: 511 分
在線時間: 750(小時)
注冊時間: 2011-06-13
最后登錄: 2025-08-07
查看hsqknx的主題 / 回貼

1樓發表于: 2015-01-15 17:58

只看該作者 | 小中大

你想要什么值？你認為會是什么值？？

樓主留言：

我以為DEBCD 指令運行之后，得出來的結果是10000，不知道什么原因，變大了

hsqknx

級別: 工控俠客

發送短信
加為好友

精華主題: 0
發帖數量: 434 個
工控威望: 2449 點
下載積分: 511 分
在線時間: 750(小時)
注冊時間: 2011-06-13
最后登錄: 2025-08-07
查看hsqknx的主題 / 回貼

2樓發表于: 2015-01-15 18:04

只看該作者 | 小中大

你這樣看的結果肯定你不認識

樓主留言：

是啊，我搞不清楚為什么D40里面的值不是100000

kongqigg

級別: 正式會員

發送短信
加為好友

精華主題: 0
發帖數量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

3樓發表于: 2015-01-15 18:51

只看該作者 | 小中大

我以為DEBCD指令得到結果是100000，但是不知道為變大了

niningtt

級別: 工控俠客

發送短信
加為好友
QQ聯系

精華主題: 0
發帖數量: 1233 個
工控威望: 3553 點
下載積分: 850 分
在線時間: 461(小時)
注冊時間: 2010-08-24
最后登錄: 2025-07-29
查看niningtt的主題 / 回貼

4樓發表于: 2015-01-15 20:45

只看該作者 | 小中大

你需要將浮點數轉換成整數也就是100000.0轉成INT100000，
錯誤原因，1、BCD碼轉化也不是將浮點數轉為整數 2、直接用浮點數轉BCD也是錯誤的做法，

hsqknx

級別: 工控俠客

發送短信
加為好友

精華主題: 0
發帖數量: 434 個
工控威望: 2449 點
下載積分: 511 分
在線時間: 750(小時)
注冊時間: 2011-06-13
最后登錄: 2025-08-07
查看hsqknx的主題 / 回貼

5樓發表于: 2015-01-15 21:21

只看該作者 | 小中大

結果不是你這么用的，DEBCD得出的是10進制小數，會有誤差

kongqigg

級別: 正式會員

發送短信
加為好友

精華主題: 0
發帖數量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

6樓發表于: 2015-01-16 11:38

只看該作者 | 小中大

引用
引用第4樓niningtt于2015-01-15 20:45發表的 :
你需要將浮點數轉換成整數也就是100000.0轉成INT100000，
錯誤原因，1、BCD碼轉化也不是將浮點數轉為整數 2、直接用浮點數轉BCD也是錯誤的做法，

我后來把debcd改了，改成INT就好了，但是我還是不太清楚，第一次用浮點數，謝謝指點。

kongqigg

級別: 正式會員

發送短信
加為好友

精華主題: 0
發帖數量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的主題 / 回貼

7樓發表于: 2015-01-16 13:31

只看該作者 | 小中大

引用
引用第5樓hsqknx于2015-01-15 21:21發表的 :
結果不是你這么用的，DEBCD得出的是10進制小數，會有誤差

那個程序里面還有一段跟這個差不多的，那里的BCD指令得出來的結果是正確的。
所以我很納悶
求高人指點。

工控人家園 綜合討論 請大俠看看這是怎么回事,fx3u 浮點數運算

http://www.lnwcd.cn
訪問內容超出本站范圍，不能確定是否安全
繼續訪問	取消訪問