精确运算为什么不能用double?

主要原因:就是因为double会导致数据不准确，不准确的原因如下所示

高于大小的比特会被自动删除，但是在删除的过程中还需要遵循 IEEE-754 规范，这就是我们理解的删除不应该会让数变小吗？为什么计算机的计算会变大?

如果最后一位是1左移一位继续,循环此过程，而不像int是1也给你删除，这就是变大的原因了。
所以对于需要精确计算的一定要使用bigDecimal，比如设计钱的问题。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/544125.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

Ubuntu20.04安装FloodLight最新版本

Ubuntu20.04安装FloodLight最新版本

Ubuntu20.04安装FloodLight最新版本 网上的很多教程尝试了一下都不对，并且很多都是基于Ubuntu14的旧版本系统，其中的Python环境大多是基于2.0的，由于本人所使用的系统是Ubuntu20.04，后再油管澳大利亚某个学校的网络教学视频的帮助…
阅读更多...
2024年大唐杯备考

2024年大唐杯备考

努力更新中…… 第一章 网络架构和组网部署 1.1 5G的网络整体架构 5G网络中的中传、回传、前传（这里属于承载网的概念） CU和DU之间是中传 BBU和5GC之间是回传 BBU和AAU之间是前传（这个好记） 这里竟然还藏了MEC（…
阅读更多...
【Linux】centos 7 vim默认一个tab键相当于8个空格 -＞ 修改成4个空格

【Linux】centos 7 vim默认一个tab键相当于8个空格 -＞ 修改成4个空格

专栏文章索引：Linux 有问题可私聊：QQ：3375119339 目录 一、项目场景 二、问题描述 三、原因分析 四、解决方案 1.仅本次 2.永久 一、项目场景 使用vim编辑器编写python3代码 二、问题描述 在使用vim编辑器时，想要缩进&am…
阅读更多...
LangChain-25 ReAct 让大模型自己思考和决策下一步 AutoGPT实现途径、AGI重要里程碑

LangChain-25 ReAct 让大模型自己思考和决策下一步 AutoGPT实现途径、AGI重要里程碑

背景介绍 大模型ReAct（Reasoning and Acting）是一种新兴的技术框架，旨在通过逻辑推理和行动序列的构建，使大型语言模型（LLM）能够达成特定的目标。这一框架的核心思想是赋予机器模型类似人类的推理和行动能…
阅读更多...
Qt快速入门（Opencv小案例之人脸识别）

Qt快速入门（Opencv小案例之人脸识别）

Qt快速入门（Opencv小案例之人脸识别） 编译出错记录 背景 因为主要使用qt，并且官网下载的win版本的编译好的opencv默认是vc的，所以我们需要自己下载opencv的源码使用mingw自行编译，我直接使用的vscode。 报错 报错…
阅读更多...
1.9 数据结构之 并查集

1.9 数据结构之 并查集

编程总结 在刷题之前需要反复练习的编程技巧，尤其是手写各类数据结构实现，它们好比就是全真教的上乘武功 本栏目为学习笔记参考：https://leetcode.cn/leetbook/read/disjoint-set/oviefi/ 1.0 概述 并查集（Union Find&#xff09…
阅读更多...
以C++为例详解UML

以C++为例详解UML

以C为例详解UML —— 2024-04-14 文章目录 以C为例详解UML1. 什么是UML?2. UML模型结构3. UML中类的表示4. UML中类之间的关系4.1 泛化4.2 实现4.3 关联(1) 单向关联(2) 双向关联(3) 自关联(4) 多重关联 4.4 聚合4.5 组合4.6 依赖 5. 关联、组合、聚合与依赖的区别6. 补充笔…
阅读更多...
华为机考入门python3--（15）牛客15-求int型正整数在内存中存储时1的个数

华为机考入门python3--（15）牛客15-求int型正整数在内存中存储时1的个数

分类：二进制 知识点： int转二进制 binary bin(n)[2:] 题目来自【牛客】 def count_ones_in_binary(n): # 将输入的整数转换为二进制字符串 # bin(n)为0b11011binary bin(n)[2:]# 初始化计数器为0 count 0 # 遍历二进制字符串的每一位 fo…
阅读更多...
消息队列RabbitMQ入门学习

消息队列RabbitMQ入门学习

目录 1.初识MQ 1.1.同步调用 1.2.异步调用 1.3.技术选型 2.RabbitMQ 2.1.收发消息 2.1.1.交换机 2.1.2.队列 2.1.3.绑定关系 2.1.4.发送消息 3.SpringAMQP 3.1WorkQueues模型 3.1.1消息接收 3.1.2测试 3.1.3.能者多劳 3.1.3.总结 3.2.交换机类型 3.3.Fanout交…
阅读更多...
Golang | Leetcode Golang题解之第28题找出字符串中第一个匹配项的下标

Golang | Leetcode Golang题解之第28题找出字符串中第一个匹配项的下标

题目&#xff1a; 题解&#xff1a; func strStr(haystack, needle string) int {n, m : len(haystack), len(needle)if m 0 {return 0}pi : make([]int, m)for i, j : 1, 0; i < m; i {for j > 0 && needle[i] ! needle[j] {j pi[j-1]}if needle[i] needle[…
阅读更多...
【微信小程序——案例——本地生活（列表页面）】

【微信小程序——案例——本地生活（列表页面）】

案例——本地生活&#xff08;列表页面&#xff09; 九宫格中实现导航跳转——以汽车服务为案例&#xff08;之后可以全部实现页面跳转——现在先实现一个&#xff09; 在app.json中添加新页面 修改之前的九宫格view改为navitage 效果图&#xff1a; 动态设置标题内容—…
阅读更多...
【Java】内存可见性问题是什么？

【Java】内存可见性问题是什么？

文章目录 内存模型内存可见性解决方案volatile 内存模型 什么是JAVA 内存模型&#xff1f; Java Memory Model (JAVA 内存模型&#xff09;是描述线程之间如何通过内存(memory)来进行交互。 具体说来&#xff0c; JVM中存在一个主存区&#xff08;Main Memory或Java Heap Mem…
阅读更多...
wpf下RTSP|RTMP播放器两种渲染模式实现

wpf下RTSP|RTMP播放器两种渲染模式实现

技术背景 在这篇blog之前&#xff0c;我提到了wpf下播放RTMP和RTSP渲染的两种方式&#xff0c;一种是通过控件模式&#xff0c;另外一种是直接原生RTSP、RTMP播放模块&#xff0c;回调rgb&#xff0c;然后在wpf下渲染&#xff0c;本文就两种方式做个说明。 技术实现 以大牛直…
阅读更多...
信息系统项目管理师0051：管理基础（4信息系统管理—4.1管理方法—4.1.1管理基础）

信息系统项目管理师0051：管理基础（4信息系统管理—4.1管理方法—4.1.1管理基础）

点击查看专栏目录 文章目录 第四章 信息系统管理4.1管理方法4.1.1管理基础1.层次结构2.系统管理第四章 信息系统管理 在信息技术和数据资源要素的推动下，社会各领域已经并正在加速进入数字化的全新发展时期，基于智能、网络和大数据的新经济业态正在形成，从“数字融合”向“数…
阅读更多...
OpenCV4.9图像金字塔

OpenCV4.9图像金字塔

目标 在本教程中&#xff0c;您将学习如何&#xff1a; 使用 OpenCV 函数 pyrUp()和 pyrDown()对给定图像进行下采样或上采样。 理论 注意 下面的解释属于 Bradski 和 Kaehler 的 Learning OpenCV 一书。 通常&#xff0c;我们需要将图像转换为与原始图像不同的大小。为此…
阅读更多...
CleanMyMac一键释放Mac潜力的智能助手

CleanMyMac一键释放Mac潜力的智能助手

在数字化时代&#xff0c;我们的Mac电脑承载着日益增多的数据和文件&#xff0c;使得系统性能逐渐下降&#xff0c;运行缓慢。为了解决这个问题&#xff0c;我们需要一款能够深度清理、优化Mac性能的软件。CleanMyMac&#xff0c;作为Mac系统清理领域的佼佼者&#xff0c;凭借其…
阅读更多...
Go语言入门｜包、关键字和标识符

Go语言入门｜包、关键字和标识符

目录 Go语言 包文件 规则 关键字 规则 标识符 规则 预定义标识符 Go语言 Go语言是一种静态类型、编译型和并发型的编程语言&#xff0c;由Google开发。Go的源代码文件以.go为扩展名&#xff0c;文件名通常与包名保持一致。一个Go文件可以包含多个顶级声明&#xff0c;…
阅读更多...
【opencv】示例-train_HOG.cpp 训练和测试基于支持向量机(SVM)的行人检测器

【opencv】示例-train_HOG.cpp 训练和测试基于支持向量机(SVM)的行人检测器

#include "opencv2/imgproc.hpp" // 包含OpenCV图像处理头文件 #include "opencv2/highgui.hpp" // 包含OpenCV高层GUI&#xff08;图形用户界面&#xff09;头文件 #include "opencv2/ml.hpp" // 包含OpenCV机器学习模块头文件 #includ…
阅读更多...
jupyter切换不同的内核（虚拟环境）（anaconda 24.1.2）

jupyter切换不同的内核（虚拟环境）（anaconda 24.1.2）

jupyter切换不同的内核&#xff08;anaconda 24.1.2&#xff09; 主要的两条命令&#xff1a; conda install ipykernel python -m ipykernel install --user --name 环境名称 anaconda的版本号 conda --version实例&#xff1a; 一、首先可以看到已经创…
阅读更多...
【JDBC入门学习】

【JDBC入门学习】

JDBC简介 注意&#xff1a;1.注册驱动可以不写了 2.导入jar包时要注意点击右键添加 package com.wudreamer.jdbc;import java.sql.Connection; import java.sql.DriverManager; import java.sql.Statement;/* * jdbc 入门 * */ public class JdbcDemo {public static v…
阅读更多...
最新文章

Copyright @ 2022~2023