-
374 votesanswersviews
比较浮点值有多危险?
我知道 UIKit 使用 CGFloat 因为分辨率独立坐标系 . 但每次我想检查例如 frame.origin.x 是否 0 它让我感到恶心: if (theView.frame.origin.x == 0) { // do important operation } 与 == , <= , >= , < , > 比较时, CGFloat 是否容易受到误报?它是... -
8 votesanswersviews
Highcharts饼图忽略百分比十进制工具提示设置并且存在浮点不准确问题
在饼图上显示工具提示时,Highcharts 3.0似乎有浮点数精度问题 . 我能够通过使用一个highcharts演示饼图--Pie with Legend来重新创建确切的错误 . 单击"Edit in JsFiddle"编辑javascript . 在javascript面板中,查找系列和数据部分 . 保留Firefox和IE数据并丢弃其余数据,这样我们就可以专注于2片馅饼... -
3 votesanswersviews
设置UISlider的最小值/最大值是否通过舍入来改变精度
假设我有一个UISlider表示从-1到2的连续值范围 . 如果我保留默认的min = 0,max = 1,那么我的值0表示滑块为行程的1/3和浮点值1/3(0.33333333) . 我特别感兴趣的是特殊值0并将其表示为0.333333,它必须(略微)圆润感觉不对 . 如果我要将最小值更改为-1并将最大值更改为2,那么我的0值就是浮点值0.0 . 设置最小值/最大值会给我更准确吗?拇指是否在像素... -
230 votesanswersviews
为什么这些数字不相等?
以下代码显然是错误的 . 有什么问题? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15 -
2 votesanswersviews
循环中的C浮点精度
我试图通过使用一系列while循环来计算总计中的美元和硬币面额 . 然而,当我拿到硬币时,我只差一分钱 . 当我输入说99.95时,我得到输出3个季度,1个角钱,1个镍币和4个便士 . 我已将问题缩小到浮点精度问题 . 然而,我研究过的所有解决方案都不适用于我的情况 . 有什么指针吗? #include <iostream> using namespace std; int main... -
5 votesanswersviews
为什么0.1 0.2 0.3等于0.3 0.2 0.1? [重复]
这个问题在这里已有答案: Is floating point math broken? 27个答案 注意:我不是在问为什么0.1 0.2与0.3不同 . 根据Is floating point math broken?,0.1 0.2不等于0.3,因为在比较之前0.1和0.2已经四舍五入到不同的数字,这与0.3的舍入数不同 . 但我的问题是,为什么0.1 0.2 0.3!= 0.3 0.2 0... -
0 votesanswersviews
小数点数字可以表示任何值而无需更改和舍入问题
我是对的,decimal floating point numbers可以代表任何"finite-value"(不是1/3情况)而没有任何改动,所以它没有像0.1 in case of binary floating point这样的"non-representable"数字,并且无论如何都可以't accumulate a rounding error a... -
3 votesanswersviews
为什么舍入0.5(十进制)不精确? [重复]
这个问题在这里已有答案: Python 3.x rounding behavior 7个答案 一半,即十进制的0.5,具有精确的二进制表示:0.1 然而,如果我将它四舍五入为整数,我得到0而不是1.我尝试使用Python和C,其行为相同 . 例如 . python代码: >>> a,b,c = 0.49, 0.5, 0.51 >>> [round(x) f... -
231 votesanswersviews
为什么这些数字不相等?
以下代码显然是错误的 . 有什么问题? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15 -
9 votesanswersviews
如果可以用IEEE 754中的二进制格式表示硬编码是否精确浮动?
例如,0,0.5,0.15625,1,2,3 ......是从IEEE 754转换而来的值 . 它们的硬编码版本是否精确? 例如: 是 float a=0; if(a==0){ return true; } 总是回归真实?其他例子: float a=0.5; float b=0.25; float c=0.125; a * b总是等于0.125而a * b == c总是如此?还有一个例... -
4 votesanswersviews
将IEEE 754 Float转换为MIL-STD-1750A Float
我试图将IEEE 754 32位单精度浮点值(标准c浮点变量)转换为无符号长变量,格式为MIL-STD-1750A . 我在帖子的底部包含了IEEE 754和MIL-STD-1750A的规范 . 现在,我在代码转换指数时遇到问题 . 我也看到转换尾数的问题,但我还没有解决这些问题 . 我使用上面链接中表3中列出的示例来确认我的程序是否正确转换 . 其中一些例子对我没有意义 . 这两个例子如何具有...