-
1852 votes16 answers760 views
.NET中的decimal，float和double之间的区别？
.NET中的 decimal ， float 和 double 有什么区别？ 什么时候会有人使用其中一种？ -
10 votes2 answers769 views
更快的decimal.Parse替代品
我注意到 decimal.Parse(number, NumberStyles.AllowDecimalPoint, CultureInfo.InvariantCulture) 比基于Jeffrey Sax的代码的自定义十进制解析方法慢大约100％Faster alternative to Convert.ToDouble public static decimal ParseDecimal(st... -
2008 votes30 answers1936 views
舍入到最多2位小数（仅在必要时）
我想最多舍入2位小数，但只在必要时 . 输入： 10 1.7777777 9.1 输出： 10 1.78 9.1 我怎么能在 JavaScript 这样做？ -
1 votes1 answers160 views
在所有可能的核心文件中进行了更改后，无法从Magento中的价格中删除十进制值
我读过很多关于“如何从Magento价格中删除十进制”的博客 . 但他们仍然没有为我的网站工作 . 我已经按照链接 - “How To Remove Decimal From Magento-1 Prices?”进行了更改，并在下面列出的一些文件中进行了更改，这些文件在解决方案链接中指示 - 1）在根文件夹“js / varien / js.js” 2）app / code / core / Ma... -
0 votes0 answers1790 views
在反应javascript中添加数字到十进制右边，追加字符串，toFixed方法
此功能用于表示用户输入的数字，与标准计算器相同： addLogicToEquation(newLogic) { let equation = this.state.equation console.log(parseFloat(equation)) if(newLogic==="10%"){ let newEquation = Number... -
-4 votes1 answers412 views
Java中的2个小数位，上周开始在课堂上做Java
开始在学校学习Java课程，并获得额外的学分，并需要帮助找出如何只有2位小数 . 感谢您的帮助 . 克里斯托弗 import java.util.Scanner; public class ChapterTwoEx8 {public static void main（String [] args）{ //Create a Scanner object to read keyboard input.... -
1 votes1 answers193 views
Stata - esttab和tabstat格式
我正在使用 esttab tabstat 生成 .tex 文件，以便在 LaTeX 中打开 . 我接近得到我想要的东西，但有一个问题： 如何在平均值之后在同一条线上获得标准偏差？它目前显示在平均线之后 . MWE如下 . 请注意，我实际上创建了两个表并将它们相互附加 . 这只是在 Stata 中显示为两个单独的表，但在我稍微修改代码以便保存到文件而不输出到屏幕后，它在 LaTeX 中有效 . ... -
0 votes1 answers473 views
在java中基数（小数位）之间转换[关闭]
我需要有java代码在不同的基础之间进行转换，同时保留小数位 . 程序将做的是获取一个输入字符串，可以是十进制，十六进制，二进制或八进制（编程已经知道是什么），并将其转换为double . 它使用两个数字执行此操作，并对它们执行所需的操作，并在所需的基础中输出完成的数字（同样，在任何上述基础中） 为了精确，我不需要帮助设置它，而是在保留小数位的同时找出如何转换基数 . 在我的所有搜索中，我无法找到... -
0 votes2 answers1599 views
在int等转换bin [python]
我做了一个程序，应该将 binary 数字转换为 decimal . 要求用户输入一个数字，有一个布尔检查用于查找是否为bin编号，如果是这样的话，它应该将bin转换为十进制数 . 问题：对于带有基数10的int（），我得到一个错误无效的文字：'0b11001' 码： def binToDec(n): return int(n) def Umwandlung(): n = i... -
60 votes12 answers1619 views
在HTML5数字输入中强制小数点而不是逗号（客户端）
我已经看到一些浏览器本地化 input type="number" 数字符号 . 所以现在，在我的应用程序显示经度和纬度坐标的字段中，我得到像"51,983"这样的东西，它应该是"51.982559" . 我的解决方法是使用 input type="text" 代替，但我想使用数字输入正确显示小数 . 无论客户端本地设... -
1 votes1 answers1751 views
当type设置为number时，聚合物纸张输入似乎不能通过allowed-pattern正确阻止小数点
我正在使用type =“number”的纸张输入 . 我希望这个输入是一个整数，因此只接受数字字符 . 因此，我将允许模式设置为[0-9] . 当输入增益集中在我的平板电脑上时，会出现一个数字键盘，这是完美的 . 但是，该键盘有一个小数点按钮，如果我单击它，则允许小数点 . 更糟糕的是，如果在小数点后选择另一个数字，则整个输入值将被清除 . 对我来说奇怪的是，如果我将输入类型从“数字”更改为“文本... -
7 votes2 answers956 views
双精度到十进制，15位后没有舍入
将“高”精度Double转换为Decimal时，由于Rounding，我将使用Convert.ToDecimal或转换为（Decimal）而失去精度 . 示例： double d = -0.99999999999999956d; decimal result = Convert.ToDecimal(d); // Result = -1 decimal result = (Decimal)(d); ... -
2 votes3 answers423 views
将计算出的双精度数转换为十进制可以校正精度误差吗？
我正在开发一个计算ppm的应用程序并检查它是否大于某个阈值 . 我最近发现了浮点计算的精度误差 . double threshold = 1000.0; double Mass = 0.000814; double PartMass = 0.814; double IncorrectPPM = Mass/PartMass * 1000000; double CorrectedPPM = (doub... -
3 votes1 answers1537 views
标志幅度用于表示负数吗？
我知道这两个补码用于表示负数，但也有使用符号幅度的方法 . 标志幅度是否仍用于表示负数？如果不是之前使用的地方呢？一台机器如何使用两个补码来解释负数，能够通信并理解另一台使用符号幅度的机器？ -
0 votes2 answers571 views
理解两个补语
因此，从我到目前为止的理解，0和1作为数字的加号或减号 . 如果我有一个二进制数10101（十进制数为21）的数字，这怎么转换为负数？它变成了10101 00001 = 10111吗？还是它被添加到前面？ 同样在尝试理解它的时候，如果你试图得到一个数字，比如九位二的补码怎么办？用9位写这个是000010101 21，然后在前面加一个？ 我来回走动但是我没理解 . -
0 votes0 answers1192 views
将十进制转换为二进制补码十六进制
我试图弄清楚如何将十进制转换为二进制补码十六进制 . 我完全理解如何取一个小数并找到它的两个补码（对于正值和负值） . 我也完全理解十六进制如何用于无符号整数 . 但是，我不确定二进制补码规则如何与十六进制一起使用 . 是否有使用十六进制的二进制补码的过程？ 或者是这个过程：将十进制转换为二的补码二进制，然后将其转换为十六进制 . 这是我唯一需要做的事情吗？或者是否有一个更复杂的公式，用于找到给出... -
0 votes2 answers1926 views
将十进制转换为二进制补码
Instructions: 如果可能，将这些十进制数转换为5位二进制补码形式 . 如果不可能，解释为什么会这样 . （16）基地10 根据在线转换器： 据我所知， 如果小数是正数： 步骤1：将幅度转换为二进制 . 步骤2：将0填充到所需的bitsize . 如果小数为负数： 步骤1：将幅度转换为二进制 . 步骤2：将0填充到所需的bitsize . 步骤3：反转位以实现1... -
0 votes4 answers139 views
在Excel VBA中从十六进制转换为十进制时忽略空单元格
我是VBA的新手并且有一点疑问 . 我试图将特定单元格中的某些值从十六进制转换为十进制，我有一个小难度 . 在那个细胞中有很多空白细胞 . 例如前5行是空白然后我再次有一个十六进制值3个空白行和一个十六进制值 . 由于空白单元格，我无法循环 . 请有人帮忙 . 以下是我写的代码 . Sub Conversion() Dim j As Integer Dim LR As Integer LR =... -
8 votes4 answers1970 views
Highcharts饼图忽略百分比十进制工具提示设置并且存在浮点不准确问题
在饼图上显示工具提示时，Highcharts 3.0似乎有浮点数精度问题 . 我能够通过使用一个highcharts演示饼图--Pie with Legend来重新创建确切的错误 . 单击"Edit in JsFiddle"编辑javascript . 在javascript面板中，查找系列和数据部分 . 保留Firefox和IE数据并丢弃其余数据，这样我们就可以专注于2片馅饼... -
5 votes4 answers407 views
Excel十进制舍入？
如何对excel中的数字进行舍入，例如通过格式化它以使实际数字更改而不仅仅是它在单元格中的外观 . 例如，如果我在一个单元格中有229.729599999998并且我将单元格格式化为仅显示4位小数，它现在将在单元格中显示229.7296但单元格的值仍然是229.729599999998所以如果我要进行任何计算，excel将使用较长的十进制数与4位十进制数相对 . 有没有办法我可以这样做，以便不仅单... -
1 votes3 answers1817 views
格式十进制9999,99
是否有格式字符串将小数格式化为000000000,00 . 所以前9位数，如果需要，右边用零填充;逗号作为分数分隔符和两个小数位 . 0 => 00000000,00 12 => 00000012,00 987456,456 => 000987456,46 所以类似myDecimal.ToString（“D9”）和.ToString（“F2”） -
1 votes2 answers1862 views
格式化十进制数
我正在格式化十进制数，我有以下标准来格式化它： 数字最多应为小数点后两位（10.1234 => 10.12） 如果小数点后只有一位数，那么最终会得到一个额外的0（10.5 => 10.50） 千位分隔符将是逗号（12345.2345 => 12,345.23） 我写了以下逻辑： double x = Double.parseDouble(value.toStrin... -
3 votes3 answers1097 views
使用异常规则格式化十进制值
在给定以下规则的情况下，将十进制值转换为字符串的优雅方法是什么？ 显示小数点前的所有数字 . 不变地显示逗号代替小数点 . 如果小数点后的部分非零，则仅显示有效数字，但最少为2 . 例子： decimal string ------------ ---------- 500000 500000, 500000.9 500000,90 50000... -
3 votes5 answers1367 views
Java - 十六进制颜色到RGB颜色
我有一个十进制（非十六进制）颜色代码，使用Java，我需要将其转换为三种RGB颜色 . 例如，16777215（纯白色）需要转换为红色：255绿色：255蓝色：255 .65280（纯绿色）需要转换为红色：0绿色255：蓝色：0 Here是更多示例的转换器 . 只是做一些小的计算并在上面链接的页面上玩计算器，我已经确定： 红色等于65536（256 ^ 2） （255x65536 = 1... -
551 votes15 answers492 views
如何将十进制值舍入到2个小数位（对于页面上的输出）
当使用 .ToString() 显示当前小数的值时，'s accurate to like 15 decimal places, and since I' m使用它来表示美元和美分，我只希望输出为2位小数 . 我是否使用 .ToString() 的变体？ -
0 votes1 answers98 views
十进制到二进制转换器无法正常工作
我写了一个十进制到二进制转换器，我遇到了一些麻烦 . 它适用于所有小数<16的数字，但对于任何需要二进制长度大于4的数字，它似乎变得混乱，我不知道为什么 . 在运行代码时，无论输入如何，字符串二进制文件的长度始终为3，尽管我声明char数组二进制文件具有大小计数，这正确地显示了表示十进制数所需的二进制数的长度 我必须忽略一些非常基本的东西，但对于我的生活，我看不出它是什么 . 任何帮助，将不... -
1 votes1 answers1667 views
使用加法器电路添加两个4位二进制数
我需要编写一个程序，使用加法器电路添加两个4位二进制数字，为我们提供答案 . 我需要使用int（）函数将其从二进制转换为十进制（两个值都需要显示） . 我正在努力创建一个创建正确的二进制和十进制输出的代码 . 我们输入两组四位数字 . 数字应该通过电路，结果应该加在一起 . 现在大门都很好 . 但是，我无法正确地将数字加在一起 . 通过电路的二进制加法是不正确的 . 转换器和输入都是正确的 . 用... -
787 votes7 answers621 views
十进制vs双！ - 我应该使用哪一个？何时使用？ [重复]
这个问题在这里已有答案： When should I use double instead of decimal? 12个答案 我一直看到人们在C＃中使用双打 . 我知道我读到某个地方，双打有时会失去精确度 . 我的问题是什么时候应该使用双倍，何时应该使用小数类型？哪种类型适合货币计算？ （即超过1亿美元） -
0 votes0 answers333 views
Mifare，数学挑战
我有两种类型的RFID阅读器在工作 . 一个用于访问控制，壁挂式LCD显示器连接到服务器，一个USB WaveID，pcProx读卡器 . 当我在我的手机中读取带有USB读卡器或NFC读卡器的mifare卡1K时，我得到： HEX: 08 E5 2A 46 (reversed) DEC: 149236294 但是，当我在壁挂式读卡器中读取相同的卡时，我得到： HEX: 42 6C 87 A3 ... -
4 votes4 answers221 views
在C中将双精度转换为固定小数点
我在C中有一个双变量，并希望将其作为固定的小数点数打印到屏幕上 . 基本上我想知道如何编写一个带有一个小数位和一些小数位的函数，并将数字打印到该小数位数，必要时填充零 . 例如： convert(1.235, 2) 会打印出来的 1.24 和 convert(1, 3) 会打印出来的 1.000 所以这个功能就像 convert(number as double, number of de...