使用 decimal 包解決 go float 浮點數運算失真

文章目錄

    • 問題
    • 解決
    • 注意

問題

go float 在運算的時候會出現精度問題

package mainimport ("fmt"
)func main() {var a float64 = 0.3var b float64 = 0.6fmt.Println("a+b=", a+b) // 你以為是 0.9  但是結果是:0.8999999999999999
}

你觀察到的 0.3 + 0.6 = 0.8999999999999999 現象是由于計算機使用二進制浮點數表示十進制小數時的固有精度問題,而不是 Go 語言特有的問題。這是所有使用 IEEE 754 浮點數標準的編程語言都會遇到的情況

解決

使用 decimal 包解決 golang 浮點數運算失真

代碼如下:

package mainimport ("fmt""github.com/shopspring/decimal"
)func main() {var a float64 = 0.3var b float64 = 0.6a1 := decimal.NewFromFloat(a)b1 := decimal.NewFromFloat(b)fmt.Println("a+b=", a1.Add(b1)) //  0.9
}

注意

decimal建議只用做 float 計算;不建議用來字符串和浮點數之間轉換: decimal.NewFromString(“1”) , 大量數據計算下性能差

原文地址

使用 decimal 包解決 go float 浮點數運算失真

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/917981.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/917981.shtml
英文地址,請注明出處:http://en.pswp.cn/news/917981.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

MongoDB學習專題(六)復制集和分片集群

1、概念MongoDB復制集的主要意義在于實現服務高可用,類似于Redis中的哨兵模式2、功能1. 數據寫入主節點時將數據復制到另一個副本節點上2. 主節點發生故障時自動選舉出一個新的替代節點在實現高可用的同時,復制集實現了其他幾個作用數據分發:…

vue3對比vue2的性能優化和提升 :Vue 3 vs Vue 2

1.性能提升 1.1.響應式系統的改進: 從 Object.defineProperty 到 Proxy Vue2:Vue 2 的響應式系統基于 Object.defineProperty,它為每個屬性單獨設置 getter 和 setter。雖然能夠滿足基本需求,但它在以下方面存在性能瓶頸: Vue2 中數組監聽的局限性:Vue2 通過Object.defi…

進程生命周期管理:從創建到終止的完整邏輯

前言 在操作系統的世界里,進程就像一個個忙碌的 “工作單元”,從被創建到完成任務后終止,始終遵循著一套嚴謹的生命周期規則。理解進程的生命周期管理,是揭開操作系統多任務調度神秘面紗的關鍵 —— 而這其中,進程的創…

【顯示器】背光板的結構和工作原理

背光板是LCD(液晶顯示器)中的一個重要組件,它負責提供屏幕所需的光源。下面我們詳細解釋背光板的結構和工作原理。背光板的基本結構一個典型的背光板由以下幾個主要部分組成:LED燈條:通常使用白色LED作為光源。導光板&…

hadoop HDFS 重置詳細步驟

有時候我們需要對hdfs重置,步驟如下: 1、停止服務 2. 清除日志節點ssh dmp-hdfs-ns1 rm -rf /disk1/dfs/jn/meta/*ssh dmp-hdfs-ns2 rm -rf /disk1/dfs/jn/meta/*ssh dmp-hdfs-dt1 rm -rf /disk1/dfs/jn/meta/*ssh dmp-hdfs-dt2 rm -rf /disk1/dfs/jn/me…

前端性能優化:從請求到資源的精細調控

在用戶體驗為王的時代,前端性能直接決定產品的留存率。本文聚焦 “減少不必要的傳輸與加載損耗”,從 合并HTTP請求、啟用壓縮、減少Cookie、資源加載順序 四個維度,拆解優化思路與落地方法。 一、合并HTTP請求:突破瀏覽器并發瓶頸…

【NLP輿情分析】基于python微博輿情分析可視化系統(flask+pandas+echarts) 視頻教程 - 微博輿情數據可視化分析-熱詞情感趨勢柱狀圖

大家好,我是java1234_小鋒老師,最近寫了一套【NLP輿情分析】基于python微博輿情分析可視化系統(flaskpandasecharts)視頻教程,持續更新中,計劃月底更新完,感謝支持。今天講解微博輿情數據可視化分析-熱詞情感趨勢柱狀圖…

腳本統計MongoDB集合結構信息

場景: 當想統計mongodb集合的結構是什么數據類型時。 1.利用variety.js解析 https://github.com/variety/variety 2.腳本 #!/bin/bash#userxxx #passwxxx host1xx.1x.1x.150 port27010 dbhgrtabs$(echo "show collections"|mongo ${host}:${port}/${db}|g…

訂單簿流動性分析與機器學習在大單匹配中的應用

一、訂單簿流動性的基本概念 1.1 訂單簿的結構與組成 在金融市場中,訂單簿(Order Book)是買賣雙方提交的限價訂單的集合,通常以價格優先、時間優先的原則進行排序。訂單簿由多個層級的價格檔位組成,每個檔位包含若干限…

CSS :is () 與 :where ():簡化復雜選擇器的 “語法糖”

在 CSS 編寫中,你是否遇到過這樣的場景:需要給多個不同父元素下的子元素設置相同樣式,結果寫出一長串重復的選擇器?比如給header、main、footer中的p標簽設置相同的顏色,傳統寫法可能是header p, main p, footer p { c…

vue打包號的文件如何快速查找文件打包后的位置

解析“explorer yz-front-dist”:前端開發者的實用命令小知識 在前端開發的日常工作中,我們經常會接觸到各種命令行操作,其中“explorer yz-front-dist”是一個看似簡單卻暗藏實用價值的命令。對于剛接觸開發的新手來說,理解它的含…

Go語言數據類型深度解析:位、字節與進制

Go語言數據類型深度解析:位、字節與進制 在計算機編程中,數據類型是構建一切的基礎。理解不同數據類型的特性、內存占用以及在不同場景下的應用,對于編寫高效、可靠的代碼至關重要。 本文將深入探討Go語言中的數據類型系統,重點講…

計算機視覺(opencv)——圖像本質、數字矩陣、RGB + 基本操作(實戰一)

OpenCV 入門教程: OpenCV(Open Source Computer Vision Library)是一個開源的計算機視覺庫,廣泛應用于圖像處理、視頻分析、機器學習等領域。 在 Python 中,cv2 是 OpenCV 的主要接口模塊。本文將帶你一步步掌握 cv2…

【數據庫】使用Sql Server創建索引優化查詢速度,一般2萬多數據后,通過非索引時間字段排序查詢出現超時情況

大家好,我是全棧小5,歡迎來到《小5講堂》。 這是《Sql Server》系列文章,每篇文章將以博主理解的角度展開講解。 溫馨提示:博主能力有限,理解水平有限,若有不對之處望指正! 目錄前言SQL 創建索引…

MyBatis聯合查詢

文章目錄數據庫設計MyBatis 配置MyBatis 映射文件Mapper 接口總結數據庫設計 建表 SQL CREATE TABLE user (id INT PRIMARY KEY AUTO_INCREMENT,name VARCHAR(50) NOT NULL );CREATE TABLE order (id INT PRIMARY KEY AUTO_INCREMENT,user_id INT NOT NULL,order_no VARCHAR(…

項目中使用的設計模式

項目中使用的設計模式請列舉幾個項目中常用的設計模式什么是設計模式,在項目中使用了那些設計模式動態代理模式JDK動態代理CGLIB動態代理單例模式懶漢式(非線程安全)餓漢式懶漢式(線程安全)工廠模式觀察者模式裝飾器模…

實戰教程:從“對象文件為空“到倉庫重生——修復 Git 倉庫損壞全記錄

文章目錄實戰教程:從"對象文件為空"到倉庫重生——修復 Git 倉庫損壞全記錄案發現場:一個嚴重損壞的倉庫修復之旅:四步讓倉庫重獲新生準備工作:創建安全備份第 1 步:清理戰場——刪除所有空對象第 2 步&…

ansible 操作家族(ansible_os_family)信息

1. 操作系統系列 (ansible_os_family)ansible web -m setup -a filteransible_os_family2. 操作系統家族為 RedHat 時執行任務--- - hosts: websrvsremote_user: roottasks:- name: Install package on RedHat systemsyum:name: httpdstate: presentwhen…

一文學會c++繼承 組合

文章目錄繼承簡介定義訪問限定符和繼承方式?基類派生類賦值轉換繼承的作用域派生類的默認成員函數繼承與友元繼承與靜態成員?復雜的菱形繼承虛擬繼承組合繼承簡介 繼承是面向對象程序設計代碼復用的重要手段,使得程序員可以在保持原類的基礎上擴展,新…

.Net下載共享文件夾中的文件

由于IIS站點權限等問題,總是沒找到處理辦法,所以改用外掛的winform的方式來下載共享文件(也可以改為使用windows服務的方式)。 前提需要先在資源管理器中登錄到共享文件夾,確保系統能訪問。 服務端代碼 (.NET后端) usi…