比較兩浮點數的方法

在工作中,我需要比較一系列數據,一方數據精度為兩位小數,而另一方精度為三位小數。我需要將三位小數四舍五入成兩為小數后進行比較。
在操作的過程中,問題出現了,明明應該相等的數據卻走了不等的分支。
什么原因導致呢?
一開始我使用的是A == B 這種方法計算的,而浮點數在比較兩個數的時候用這種方法是不精確的,所以導致出錯。
后來我便使用了 A - B > 0.009這種方法。然而,令人失望的是問題還是沒有解決。
那么,問題究竟出在哪里呢?
原來,在四舍五入的時候。MATH.ROUND(b,2)方法,出現了問題。0.245會計算成0.24,如此一來便出錯了。
那么怎么解決呢?
Math.Round(b, 2, MidpointRounding.AwayFromZero)加了一個MidpointRounding.AwayFromZero參數,問題便得到了解決。

轉載于:https://www.cnblogs.com/ddwy/archive/2012/02/14/2350351.html

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/260979.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/260979.shtml
英文地址,請注明出處:http://en.pswp.cn/news/260979.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

IIS8托管WCF服務

WCF服務程序本身不能運行,需要通過其他的宿主程序進行托管才能調用WCF服務功能,常見的宿主程序有IIS,WAS,Windows服務,當然在學習WCF技術的時候一般使用控制臺應用程序或WinForm程序進行托管。本文將詳細介紹如何使用I…

北京師范大學認知神經科學 計算機,北京師范大學認知神經科學和學習國家重點實驗室.pdf...

北京師范大學認知神經科學和學習國家重點實驗室北京師范大學認知神經科學與學習國家重點實驗室DTI 、靜息fMRI、形態學測量原理及數據分析與應用深度講習班(第二輪通知)近年來,磁共振技術已廣泛地應用到神經科學、認知神經科學、臨床醫學等領域的研究,而…

JAVA面向對象-----instanceof 關鍵字

instanceof 關鍵字 1:快速演示instanceof Person pnew Person();System.out.println( p instanceof Person); 2:instanceof是什么? 1:屬于比較運算符: 2:instanceof關鍵字:該關鍵字用來判斷一…

電子工程師必去的論壇網站

Abstract 搞電子不能閉門造車,要到網上去交流交流,做個網絡吸血鬼也好。本人偶然也發一些資料,還是要感謝活躍在各大論壇上的大蝦們,讓小弟要走了不少彎路。有問題google一下(不是本人崇洋媚外,google的功能…

對象的引用

int、datetime、bool、char等類型都屬于值類型(valuetype),賦值的時候是傳遞拷貝。 普通的對象則是引用類型,賦值的時候是傳遞引用。傳遞給函數也是引用傳遞的。轉載于:https://www.cnblogs.com/roboot/archive/2012/02/15/235329…

Cesium應用篇:3控件(3)SelectionIndicator InfoBox

假設這樣一個場景,用戶在Cesium球上加載了一個GeoJson文件(DataSource),里面是全美國所有州的Geometry信息(Entity),疊加到球面后,你自然會有一種沖動,點擊某一個州&…

北理工計算機學院新聞,北理工計算機學子勇奪CVPR 2021 AI安全國際頂級賽事季軍...

2021年4月19日,CVPR 2021挑戰者計劃第六期落下帷幕。由北理工計算機學院教師李元章、張全新及廣州大學李進教授指導的DemiguiseWoo戰隊,在挑戰賽賽道二“ImageNet無限制對抗攻擊”發起沖擊,最終以9303.6的總分取得決賽第三名的好成績&#xf…

字符串入門

暴力 字典樹總結:字典樹的功能就是map字符串得到編碼或者查詢前綴關系套模板的時候注意t,s,-‘a’,[26],sz0的初始化還有一個問題,到底字典樹開多少內存比較合適,反正至少是要開字符總長度*2hdu1251 http://acm.hdu.edu.cn/showpr…

C++ 的基礎概念(3)——多態詳解。

最近兩次面試都問到了多態,我也不得不重視起來了,最近最大的收獲就是:基礎知識很重要,就算你很會寫代碼,但是面試官問你基礎知識答不上來的話,也很難被人賞識和錄用,所以還是要多補補基礎概念&a…

美育在計算機教育中應用,在現代教育技術中綻放數學美育之花

21世紀是信息化的社會,計算機、網絡等現代技術的飛速發展,作為現代教育技術,計算機多媒體技術和網絡技術已經越來越多地走進小學數學課堂,為深化教學改革,培養學生能力,發展學生個性,提供了嶄新…

.NET Forms身份驗證

.NET表單身份驗證 ASP.NET Forms 身份驗證的簡單實現&#xff1a;1&#xff09;在Web.config文件中配置應用程序使用 Forms 身份驗證&#xff1b;2&#xff09;創建登陸頁面&#xff0c;將用戶身份驗證票證添加到Cookie集合。1.配置文件中設置為Forms驗證<authentication mo…

Oracle SQL篇(三)Oracle ROWNUM 與TOP N分析

首先我們來看一下ROWNUM&#xff1a;含義解釋&#xff1a;1、rownum是oracle為從查詢返回的行的編號&#xff0c;返回的第一行分配的是1&#xff0c;第二行是2&#xff0c;依此類推。這是一個偽列&#xff0c;可以用于限制查詢返回的總行數。2、rownum不能以任何基表的名稱作為…

C++ Primer 第10章 pair類型

//10.2.cpp //至少使用三種方法創建pair對象。 //編寫三個版本的程序&#xff0c;分別采用不同的方法來創建pair對象 //方法1&#xff1a;在定義pair對象時提供初始化式來創建pair對象#include<iostream> #include<vector> #include<utility> #include<st…

計算機對口升學可以報考的學校,對口升學可以報考的學校都在這里,趕快來收藏吧...

對口升學指對口高考&#xff0c;在平常又叫對口單招&#xff0c;對口升學&#xff0c;是從中等職業學校畢業生招生&#xff0c;強調中等職業學校畢業生對口升高職的專業技能考試&#xff0c;以專業技能成績為主要錄取依據的招生辦法。報名條件具有正式學籍的中等職業學校畢業生…

Visual Studio 常用快捷鍵 (二)

想不到上一篇 【Visual Studio 常用快捷鍵】 受這么多人的歡迎。看來大家對Visual Studio的用法非常感興趣。 接下來我準備寫一個 “Visual Studio使用技巧 ” 一個系列的博客。 希望對大家有所幫助 本篇繼續介紹幾個常用的快捷鍵 閱讀目錄 按兩下Tab鍵回退到光標的上一次位置…

js 兼容event.target

function getEventTarget(e){ewindow.event||e;return e.srcElement||e.target; }轉載于:https://www.cnblogs.com/manong13/archive/2012/02/23/2364443.html

企業郵箱收發信息服務器怎么設置,網易閃電郵企業郵箱收發設置教程(IMAP)...

網易閃電郵企業郵箱收發設置教程(IMAP)發表時間 2019-05-30人氣 73(1)啟動閃電郵后&#xff0c;點擊“郵箱---新建郵箱賬戶”菜單&#xff0c;如下圖&#xff1a;(2)輸入“郵箱地址和密碼”&#xff0c;點擊下拉箭頭繼續設置&#xff0c;設置完成后點擊下一步&#xff0c;如下圖…

訂餐系統之Excel批量導入

批量導入現在基本已經成為各類系統的標配了&#xff0c;當前&#xff0c;我們訂餐系統也不例外&#xff0c;什么商家呀、商品呀、優惠碼之類的&#xff0c;都少不了。畢竟嘛&#xff0c;對非開發人員來說&#xff0c;看到Excel肯定比看到很多管理系統還是要親切很多的。這里&am…

需要忽略的一些信號

程序往往會因為收到一些信號導致退出&#xff0c;但很多時候并不是我們想要的&#xff0c;比如往一個已經關閉的socket連接發送數據就會受到SIGPIPE,此信號默認會退出程序&#xff0c;但其實大部分時候我們并不想這么做&#xff0c;所以需要忽略一些信號。常見的有 SIGPIPE SIG…

獲取網頁中選中的文字

獲取頁面中選中的文字 //獲取頁面中選中的文字 function getSelectedText(){if(window.getSelection){ //FFreturn window.getSelection().toString();}else{ //IEreturn document.selection.createRange().text;} }設置或獲取輸入框的選中文字 //設置文字選中 function setSe…