-
551 votesanswersviews
如何将十进制值舍入到2个小数位（对于页面上的输出）
当使用 .ToString() 显示当前小数的值时，'s accurate to like 15 decimal places, and since I' m使用它来表示美元和美分，我只希望输出为2位小数 . 我是否使用 .ToString() 的变体？ -
787 votesanswersviews
十进制vs双！ - 我应该使用哪一个？何时使用？ [重复]
这个问题在这里已有答案： When should I use double instead of decimal? 12个答案 我一直看到人们在C＃中使用双打 . 我知道我读到某个地方，双打有时会失去精确度 . 我的问题是什么时候应该使用双倍，何时应该使用小数类型？哪种类型适合货币计算？ （即超过1亿美元） -
0 votesanswersviews
Mifare，数学挑战
我有两种类型的RFID阅读器在工作 . 一个用于访问控制，壁挂式LCD显示器连接到服务器，一个USB WaveID，pcProx读卡器 . 当我在我的手机中读取带有USB读卡器或NFC读卡器的mifare卡1K时，我得到： HEX: 08 E5 2A 46 (reversed) DEC: 149236294 但是，当我在壁挂式读卡器中读取相同的卡时，我得到： HEX: 42 6C 87 A3 ... -
4 votesanswersviews
在C中将双精度转换为固定小数点
我在C中有一个双变量，并希望将其作为固定的小数点数打印到屏幕上 . 基本上我想知道如何编写一个带有一个小数位和一些小数位的函数，并将数字打印到该小数位数，必要时填充零 . 例如： convert(1.235, 2) 会打印出来的 1.24 和 convert(1, 3) 会打印出来的 1.000 所以这个功能就像 convert(number as double, number of de... -
243 votesanswersviews
我什么时候应该使用double而不是decimal？
我可以说使用 double （或 float ）而不是 decimal 有三个好处： 使用较少的内存 . 更快，因为处理器本身支持浮点数学运算 . 可以代表更大范围的数字 . 但这些优势似乎只适用于计算密集型操作，例如建模软件中的操作 . 当然，在需要精确度时，不应使用双精度数，例如财务计算 . 那么在"normal"应用程序中选择 double （或 floa... -
183 votesanswersviews
使用JavaScript获取数字的小数部分
我有像 3.2 和 1.6 这样的浮动数字 . 我需要将数字分成整数和小数部分 . 例如， 3.2 的值将分为两个数字，即 3 和 0.2 获取整数部分很简单： n = Math.floor(n); 但是我无法获得小数部分 . 我试过这个： remainer = n % 2; //obtem a parte decimal do rating 但它并不总是正常工作 . 前面的代码具有以下输出：... -
114 votesanswersviews
Android - 小数点后2位[重复]
可能重复：将小数点后的两位有效数字舍入为2 我知道有很多关于如何围绕这种数字的例子 . 但有人可以告诉我如何圆形加倍，以获得我可以显示为字符串的值，并且总是有2位小数？ -
0 votesanswersviews
如何用二进制表示浮点数 . IEEE
与十进制二进制数字类似，也可以表示浮点数 . 现在我读到它可以有那种浮子 0.5 ： 0.1 ， 0.25 ： 0.01 ， 0.125 ： 0.001 ...等等 . 但是，例如，0.1（十进制）如何用二进制表示？ 另外，给定十进制浮点数，如何将其转换为十进制等效值（给定它不是那么简单） . 编辑：所以我理解更好的问题是;如何将十进制浮点数转换为二进制？现在我得到它，我们乘以小数部分，直到它变... -
1 votesanswersviews
二进制浮点数表示为十进制数
并非所有十进制数都可以使用二进制浮点数精确表示 . http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html 有两个原因可能导致实数不能完全表示为浮点数 . 最常见的情况用十进制数0.1表示 . 虽然它具有有限的十进制表示，但在二进制中它具有无限重复表示 . 反过来呢？如果使用足够的数字，是否可以使用十进制数精确表示每个IEE... -
0 votesanswersviews
从大十进制数转换为浮点表示
我想我知道如何将十进制数转换为IEEE 754单精度浮点表示，但我想确定 . 我想在IEEE 754单精度浮点表示中表示3.398860921 x 10 ^ 18 . 我知道如何浮动代表 . 被打破了 . 第31位：符号（0表示，1表示 - ）30-23位数：表示指数22-0位数：表示尾数（有效数字） 所以标志显然是0，因为它是一个正数 . 对于指数，我想出了这个（通过为偏差添加18到127）并将... -
1 votesanswersviews
在所有可能的核心文件中进行了更改后，无法从Magento中的价格中删除十进制值
我读过很多关于“如何从Magento价格中删除十进制”的博客 . 但他们仍然没有为我的网站工作 . 我已经按照链接 - “How To Remove Decimal From Magento-1 Prices?”进行了更改，并在下面列出的一些文件中进行了更改，这些文件在解决方案链接中指示 - 1）在根文件夹“js / varien / js.js” 2）app / code / core / Ma... -
1 votesanswersviews
Stata - esttab和tabstat格式
我正在使用 esttab tabstat 生成 .tex 文件，以便在 LaTeX 中打开 . 我接近得到我想要的东西，但有一个问题： 如何在平均值之后在同一条线上获得标准偏差？它目前显示在平均线之后 . MWE如下 . 请注意，我实际上创建了两个表并将它们相互附加 . 这只是在 Stata 中显示为两个单独的表，但在我稍微修改代码以便保存到文件而不输出到屏幕后，它在 LaTeX 中有效 . ... -
8 votesanswersviews
Highcharts饼图忽略百分比十进制工具提示设置并且存在浮点不准确问题
在饼图上显示工具提示时，Highcharts 3.0似乎有浮点数精度问题 . 我能够通过使用一个highcharts演示饼图--Pie with Legend来重新创建确切的错误 . 单击"Edit in JsFiddle"编辑javascript . 在javascript面板中，查找系列和数据部分 . 保留Firefox和IE数据并丢弃其余数据，这样我们就可以专注于2片馅饼... -
3 votesanswersviews
Java - 十六进制颜色到RGB颜色
我有一个十进制（非十六进制）颜色代码，使用Java，我需要将其转换为三种RGB颜色 . 例如，16777215（纯白色）需要转换为红色：255绿色：255蓝色：255 .65280（纯绿色）需要转换为红色：0绿色255：蓝色：0 Here是更多示例的转换器 . 只是做一些小的计算并在上面链接的页面上玩计算器，我已经确定： 红色等于65536（256 ^ 2） （255x65536 = 1... -
0 votesanswersviews
十进制到二进制转换器无法正常工作
我写了一个十进制到二进制转换器，我遇到了一些麻烦 . 它适用于所有小数<16的数字，但对于任何需要二进制长度大于4的数字，它似乎变得混乱，我不知道为什么 . 在运行代码时，无论输入如何，字符串二进制文件的长度始终为3，尽管我声明char数组二进制文件具有大小计数，这正确地显示了表示十进制数所需的二进制数的长度 我必须忽略一些非常基本的东西，但对于我的生活，我看不出它是什么 . 任何帮助，将不... -
0 votesanswersviews
在java中基数（小数位）之间转换[关闭]
我需要有java代码在不同的基础之间进行转换，同时保留小数位 . 程序将做的是获取一个输入字符串，可以是十进制，十六进制，二进制或八进制（编程已经知道是什么），并将其转换为double . 它使用两个数字执行此操作，并对它们执行所需的操作，并在所需的基础中输出完成的数字（同样，在任何上述基础中） 为了精确，我不需要帮助设置它，而是在保留小数位的同时找出如何转换基数 . 在我的所有搜索中，我无法找到... -
0 votesanswersviews
在int等转换bin [python]
我做了一个程序，应该将 binary 数字转换为 decimal . 要求用户输入一个数字，有一个布尔检查用于查找是否为bin编号，如果是这样的话，它应该将bin转换为十进制数 . 问题：对于带有基数10的int（），我得到一个错误无效的文字：'0b11001' 码： def binToDec(n): return int(n) def Umwandlung(): n = i... -
194 votesanswersviews
EF Code First中的十进制精度和比例
我正在尝试这种代码优先方法，但我现在发现System.Decimal类型的属性被映射到decimal（18,0）类型的sql列 . 如何设置数据库列的精度？ -
20 votesanswersviews
Python：二进制到十进制转换[重复]
可能重复：将二进制字符串转换为int 如何在Python中将此二进制值'101011111'转换为十进制形式？ 该函数将二进制数转换为十进制数 . 输入：字符串b：二进制数 输出：int d：b的十进制表示 def Binary_to_Decimal(b): #what needs to be filled in return d -
0 votesanswersviews
如果精度值小于刻度，则填充零
如果我除以1.0f / 2.0f，则值为0.5 . 我希望精度值为5（0.50000） . 使用BigDecimal将比例设置为5但仍然将值打印为0.5 BigDecimal val = new BigDecimal（1.0f / 2.0f）; BigDecimal tt = val.setScale（5）;的System.out.println（tt.doubleValue）; 如何设置比例... -
-4 votesanswersviews
Java中的2个小数位，上周开始在课堂上做Java
开始在学校学习Java课程，并获得额外的学分，并需要帮助找出如何只有2位小数 . 感谢您的帮助 . 克里斯托弗 import java.util.Scanner; public class ChapterTwoEx8 {public static void main（String [] args）{ //Create a Scanner object to read keyboard input.... -
7 votesanswersviews
双精度到十进制，15位后没有舍入
将“高”精度Double转换为Decimal时，由于Rounding，我将使用Convert.ToDecimal或转换为（Decimal）而失去精度 . 示例： double d = -0.99999999999999956d; decimal result = Convert.ToDecimal(d); // Result = -1 decimal result = (Decimal)(d); ... -
2 votesanswersviews
将计算出的双精度数转换为十进制可以校正精度误差吗？
我正在开发一个计算ppm的应用程序并检查它是否大于某个阈值 . 我最近发现了浮点计算的精度误差 . double threshold = 1000.0; double Mass = 0.000814; double PartMass = 0.814; double IncorrectPPM = Mass/PartMass * 1000000; double CorrectedPPM = (doub... -
3 votesanswersviews
标志幅度用于表示负数吗？
我知道这两个补码用于表示负数，但也有使用符号幅度的方法 . 标志幅度是否仍用于表示负数？如果不是之前使用的地方呢？一台机器如何使用两个补码来解释负数，能够通信并理解另一台使用符号幅度的机器？ -
0 votesanswersviews
理解两个补语
因此，从我到目前为止的理解，0和1作为数字的加号或减号 . 如果我有一个二进制数10101（十进制数为21）的数字，这怎么转换为负数？它变成了10101 00001 = 10111吗？还是它被添加到前面？ 同样在尝试理解它的时候，如果你试图得到一个数字，比如九位二的补码怎么办？用9位写这个是000010101 21，然后在前面加一个？ 我来回走动但是我没理解 . -
0 votesanswersviews
将十进制转换为二进制补码十六进制
我试图弄清楚如何将十进制转换为二进制补码十六进制 . 我完全理解如何取一个小数并找到它的两个补码（对于正值和负值） . 我也完全理解十六进制如何用于无符号整数 . 但是，我不确定二进制补码规则如何与十六进制一起使用 . 是否有使用十六进制的二进制补码的过程？ 或者是这个过程：将十进制转换为二的补码二进制，然后将其转换为十六进制 . 这是我唯一需要做的事情吗？或者是否有一个更复杂的公式，用于找到给出... -
0 votesanswersviews
将十进制转换为二进制补码
Instructions: 如果可能，将这些十进制数转换为5位二进制补码形式 . 如果不可能，解释为什么会这样 . （16）基地10 根据在线转换器： 据我所知， 如果小数是正数： 步骤1：将幅度转换为二进制 . 步骤2：将0填充到所需的bitsize . 如果小数为负数： 步骤1：将幅度转换为二进制 . 步骤2：将0填充到所需的bitsize . 步骤3：反转位以实现1... -
1 votesanswersviews
格式十进制9999,99
是否有格式字符串将小数格式化为000000000,00 . 所以前9位数，如果需要，右边用零填充;逗号作为分数分隔符和两个小数位 . 0 => 00000000,00 12 => 00000012,00 987456,456 => 000987456,46 所以类似myDecimal.ToString（“D9”）和.ToString（“F2”） -
1 votesanswersviews
格式化十进制数
我正在格式化十进制数，我有以下标准来格式化它： 数字最多应为小数点后两位（10.1234 => 10.12） 如果小数点后只有一位数，那么最终会得到一个额外的0（10.5 => 10.50） 千位分隔符将是逗号（12345.2345 => 12,345.23） 我写了以下逻辑： double x = Double.parseDouble(value.toStrin... -
3 votesanswersviews
使用异常规则格式化十进制值
在给定以下规则的情况下，将十进制值转换为字符串的优雅方法是什么？ 显示小数点前的所有数字 . 不变地显示逗号代替小数点 . 如果小数点后的部分非零，则仅显示有效数字，但最少为2 . 例子： decimal string ------------ ---------- 500000 500000, 500000.9 500000,90 50000...