-
1852 votes16 answers760 views
.NET中的decimal，float和double之间的区别？
.NET中的 decimal ， float 和 double 有什么区别？ 什么时候会有人使用其中一种？ -
6 votes6 answers1547 views
Java中的双重增量[重复]
可能重复：如何在Java中以0.1f的增量在0.1f和1.0f之间进行迭代？ Part of my program needs to use values inside a while loop as: 0.1 0.2 0.3 ... 0.9 so I need to provide them inside that loop. Here is the code: double x = 0.0... -
3 votes2 answers1074 views
为什么ASP.NET DropDownList控件需要两次单击才能在Internet Explorer中展开
我有一个ASP.NET DropDownList控件，它可以呈现在页面上的下拉列表中（选择HTML标记） . 出于某种原因，当我在Internet Explorer中时，需要两次点击才能打开它并查看选项，这只是最终用户的额外点击 . 它在Google Chrome，Mozilla Firefox和Safari中运行良好 - 我只需点击一次即可查看选项的选项 . 为什么它在IE中无法正常工作？更重要... -
101 votes4 answers1540 views
在java中将double转换为整数
在Java中，我想将double转换为整数，我知道如果你这样做： double x = 1.5; int y = (int)x; 你得到y = 1 . 如果你这样做： int y = (int)Math.round(x); 你可能会得到2.但是，我想知道：因为整数的双重表示有时看起来像1.9999999998或其他东西，是否有可能通过Math.round（）创建一个双重表示仍然会导致截断的数字... -
187 votes17 answers976 views
如何将带小数点的字符串解析为double？
我想将像 "3.5" 这样的字符串解析为double . 然而， double.Parse("3.5") 收益35和 double.Parse("3.5", System.Globalization.NumberStyles.AllowDecimalPoint) 扔了 FormatException . 现在我的计算机的语言环境设置... -
-1 votes2 answers1348 views
函数在Matlab中不起作用[关闭]
我很惊讶为什么下面的代码不起作用 function [ x ] = generate2(N,m,A3) f1 = 100; f2 = 200; T = 1./f1; t = (0:(N*T/m):(N*T))'; %' q=randn(500,1); wn = randn(length(t),1); %zero mean variance 1 x = 20.*sin(2.*pi.*f1.*t+q)... -
425 votes22 answers1319 views
如何很好地将浮动数字格式化为字符串而没有不必要的小数0？
64位双精度可以精确地表示整数/ - 253 鉴于这一事实，我选择将double类型用作所有类型的单一类型，因为我的最大整数是无符号32位 . 但现在我必须打印这些伪整数，但问题是它们也与实际双打混合在一起 . 那么如何在Java中很好地打印这些双打？ 我已经尝试了 String.format("%f", value) ，这很接近，除了我得到很多小值的尾随零 . 这是 %f... -
537 votes5 answers760 views
为什么Math.round（0.49999999999999994）会返回1？
在以下程序中，您可以看到每个稍微小于 .5 的值都向下舍入，但 0.5 除外 . for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System... -
7 votes5 answers511 views
如何将float转换为double（都存储在IEEE-754表示中）而不会丢失精度？
我的意思是，例如，我有以下编号用IEEE-754单精度编码： "0100 0001 1011 1110 1100 1100 1100 1100" (approximately 23.85 in decimal) 上面的二进制数存储在文字字符串中 . 问题是，如何将此字符串转换为IEEE-754双精度表示（有点像下面的那个，但值不一样），没有丢失精度？ "0100 ... -
6 votes3 answers449 views
IEEE 754 / iec 559
IEEE 754浮点格式是否跨平台定义良好？在位格式和字节顺序方面？ 我愿意在我的代码中添加以下内容（初始版本）： static_assert(std::numeric_limits<float>::is_iec559, "Only support IEC 559 (IEEE 754) float"); static_assert(sizeof(float) * C... -
5 votes3 answers1462 views
如何检查是否使用了IEEE 754单精度（32位）浮点表示？
我想在目标板上测试以下内容： 'float'是用IEEE 754单精度（32位）浮点变量实现的吗？ 'double'是用IEEE 754双精度（64位）浮点变量实现的吗？ 有什么方法可以用简单的C程序测试它 . -
1 votes3 answers345 views
在VBA中从IEEE-754 double中提取尾数，指数和符号数据
如何从VBA中的IEEE-754 64位（双）浮点数中提取尾数，指数和符号数据？谢谢 Edit （约翰科尔曼评论之后） . 在发布原始问题之前，我已经四处寻找解决方案，并且只能找到如何在C中执行此操作（例如，使用具有位字段的结构） . 无法运行（即AND，OR，NOT，XOR），但这似乎没有给出预期的结果 . 例如，以单精度IEEE 32位浮点表示的1表示为 0 01111111 00000000... -
1 votes1 answers1045 views
IEEE 754浮点 - 为什么这有效？
鉴于以下内容： .1 + .2 === .3 // false 1 * .3 === .3 // true ...前者不会导致 0.3 因为一个或多个操作数无法在IEEE 754双精度浮点中精确表示，因此结果差不多但不完全 0.3 . 为什么后者返回 true . 是因为 0.3 恰好可以在IEEE 754双精度浮点中表示？ -
193 votes7 answers633 views
可以存储在double中的最大整数
什么是最大的“非浮动”整数，可以存储在IEEE 754 double类型而不会丢失精度？ -
0 votes2 answers1750 views
动态分配2维数组
有谁知道第三行“Free（array）”的作用是什么？这里的数组只是数组第一个元素的地址（换句话说，指向int * right数组中第一个元素的指针）？为什么我们需要第三行来释放2D数组的“列”？我基本上记住/理解a是一个指针，意味着保存____的地址 . 这句话是否正确？ 例如：int ** a; int * b; int c; b =＆c = 4; a =＆b;这是对的吗？谢谢！！！ 另外，一... -
8 votes2 answers1974 views
Java整数类型原语是否在转换类型的MAX_INT处“加盖”？
我试图找出一些非常奇怪的Java行为 . 我有一个涉及double的公式，但是“保证”给出一个整数答案 - 具体来说，是一个无符号的32位整数（唉，Java不能很好） . 不幸的是，我的答案有时不正确 . 最终我发现了这个问题，但对我来说这个行为仍然很奇怪：一个 double 直接转换为 int 似乎被限制在 MAX_INT 为有符号整数，而 double 转换为 long 然后被转换为 int ... -
7 votes2 answers956 views
双精度到十进制，15位后没有舍入
将“高”精度Double转换为Decimal时，由于Rounding，我将使用Convert.ToDecimal或转换为（Decimal）而失去精度 . 示例： double d = -0.99999999999999956d; decimal result = Convert.ToDecimal(d); // Result = -1 decimal result = (Decimal)(d); ... -
5 votes1 answers608 views
C / C转换为双精度到固定点，最小非零数字
多个定点十进制数映射到相同的double值 . 例如： double d1 = 132.24; double d2 = 132.24000000000001; d1和d2具有相同的二进制值 . 当使用具有14位精度的ostream将d1（或d2，它们具有相同的值）转换为字符串时，它将转换为：132.24000000000001 . 是否有支持从 double->string 转换的方式/... -
1 votes1 answers1642 views
使用具有所有小数位的联合将char数组转换为double
我正在将一个项目从Java移植到C.我需要将一个字节（= C中的char）数组转换为double . 我在Stack Overflow上找到了一个使用联合的解决方案（How to convert a byte array into double in C?） . 我的代码到目前为止： #include <stdio.h> double getDouble(char array[], i... -
2 votes3 answers423 views
将计算出的双精度数转换为十进制可以校正精度误差吗？
我正在开发一个计算ppm的应用程序并检查它是否大于某个阈值 . 我最近发现了浮点计算的精度误差 . double threshold = 1000.0; double Mass = 0.000814; double PartMass = 0.814; double IncorrectPPM = Mass/PartMass * 1000000; double CorrectedPPM = (doub... -
2 votes2 answers49 views
计算sinh的泰勒级数
该函数使用Taylor系列中的以下开发计算 sinh(x) 的值： 我想计算sinh（3）= 10.01787的值，但函数输出9.我也得到这个警告： 1> main.c（24）：警告C4244：'function'：从'double'转换为'int'，可能会丢失数据 这是我的代码： int fattoriale(int n) { int risultato = 1; i... -
0 votes1 answers167 views
Actionscript 3中的双拖动功能
我有两个动画片段，一个动画片段垂直拖动，另一个拖动水平 . 如果我滑动水平动画片段，我希望垂直动画片段也可以垂直拖动（如菜单） . 我通过在一个拖动功能中放置两个拖动功能来尝试这个，但它没有用 . 任何人都可以帮我吗？ menu0.bar1.thumbnail1.addEventListener(MouseEvent.MOUSE_DOWN, startdrag1) stage.addEventLi... -
0 votes2 answers1366 views
使用mmap分配双2D数组
我试图使用mmap创建/访问twi不同的（N 2）*（N 2）2D双精度数组，以便多个线程可以查看它们自己的部分并更改它，应用更改以便所有其他线程可以看到 . 这是我有的： int main(int argc, char *argv[]) { int N = atoi(argv[1]); int numProcs = atoi(argv[2]); int ARRAY_SI... -
0 votes0 answers475 views
特定设备上的楼层问题
我有一个“四舍五入”的问题，我想了解为什么我在不同的设备上有不同的结果 . 此外，如果有人知道这些设备上有什么不同可以解释这种行为 . 所以，我有这个代码： public final static double round(double val, double interval) { return Math.floor(0.5 + (val / interval)) * interval; }... -
255 votes12 answers227 views
在Java中将String转换为double
如何在Java中将 String （例如 "12.34" ）转换为 double ？ -
385 votes6 answers1614 views
printf中double的正确格式说明符
printf中 double 的格式说明符是什么？是 %f 还是 %lf ？我相信它是 %f ，但我不确定 . 代码示例 #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? } -
787 votes7 answers621 views
十进制vs双！ - 我应该使用哪一个？何时使用？ [重复]
这个问题在这里已有答案： When should I use double instead of decimal? 12个答案 我一直看到人们在C＃中使用双打 . 我知道我读到某个地方，双打有时会失去精确度 . 我的问题是什么时候应该使用双倍，何时应该使用小数类型？哪种类型适合货币计算？ （即超过1亿美元） -
1 votes4 answers961 views
将long或BigInteger乘以double而不会损失精度
我想将一个高精度整数（long或BigInteger）乘以一个小的double（考虑一些> 0和<1），并获得操作的精确算术值的算术舍入整数（long或BigInteger）作为结果 . 将double转换为整数不起作用，因为它的小数值会丢失 . 将整数转换为double，然后乘以并将结果转换回整数也不起作用，因为double不够精确 . 当然你可以争辩说，因为双操作数首先不够精确，所... -
-2 votes0 answers318 views
选择double []数组中的值
我有一个简单的问题，但作为初学者，我很难找到答案 . 所以我真的很感激一些帮助 . 我有两个double []数组（A和B），有10个值 . 还有一个简单的公式（P = A B temp（square）） . 一切都在循环中计算 . 这是代码： double[] arrayA = new double[] { 1.2 * Math.Pow(10, -3), 1.6 ... -
280 votes21 answers1883 views
在swift中将double值舍入为x个小数位数
谁能告诉我如何在Swift中将double值舍入到x个小数位？ 我有： var totalWorkTimeInHours = (totalWorkTime/60/60) totalWorkTime 是第二个NSTimeInterval（double） . totalWorkTimeInHours 会给我一些时间，但它给了我这么长的精确数字的时间，例如1.543240952039 ...... 当...