首页 文章
  • 0 votes
     answers
     views

    舍入到最近的低级实现

    我有一些低级问题:让's assume we'得到十进制数0.1(我们可以通过写1/10来表示这一点 - 但这不是解决方案) . 转换为二进制数,这给我们0,00011,最后4位无限重复(0,0001100110011 ....) . 所以现在假设我们想把这个数字放到浮点表示中,例如IEEE 754单精度,我们希望将它舍入到最接近的可能表示,这给了我们1 0111 1110 0101 0101 0...
  • 1 votes
     answers
     views

    IEEE 754浮点舍入模式硬件/软件

    IEEE 754浮点标准有几种舍入模式,我的问题是:是基于保护/圆/粘位选择的舍入模式还是程序员指定使用哪种模式?
  • 0 votes
     answers
     views

    如何将此二进制数舍入到最接近的偶数

    我有 0.1 的二进制表示: 0.00011001100110011001100110011001100110011001100110011001100110 我需要将它舍入到最近,甚至能够将它存储在双精度浮点中 . 我似乎无法理解如何做到这一点 . 大多数教程都谈论了防护,圆形和粘性位 - 它们在这个表示中的位置是什么? 我也找到了以下解释: 让我们看看0.1在双精度中看起来像什么 . 首先...
  • 0 votes
     answers
     views

    舍入IEEE 754浮点数

    据我所知,IEEE 754标准支持4种舍入模式,我只是想确保每种方式都能很好地理解 . 以下示例是否正确? •向正无穷大四舍五入:这是否意味着无论它是什么(0或1),我们都会向LSB添加一个? 假设我们有1.1010100000000 ... 00向正无穷大四舍五入意味着我们做1因此我们得到1.1010100000000 ... 01&同样当我们有1.10101000000..01并且我们需要向正...
  • 4 votes
     answers
     views

    IEEE 754四舍五入到正无穷大

    我很难理解IEEE 754 Rounding约定: 圆形到正无穷大 圆形到负无穷大 不偏不倚到最近的偶数 如果我有一个由二进制点右边的9位组成的二进制数,我需要使用最右边的3位来确定舍入,我该怎么办? 这是家庭作业所以这就是为什么我对这个问题模糊不清......我需要帮助这个概念 . 谢谢!
  • 3 votes
     answers
     views

    DNS Round Robin在故障转移方案中的请求非常慢

    目前我正在使用AWS配置服务器池 . 这是一个简单的设置,有两个数据库服务器,一个可扩展的服务器阵列和两个负载均衡器 . 每台机器都有一个故障转移站,它应该都非常强大 . 负载均衡器应该能够通过循环DNS进行故障转移 . 因此,在愉快的一天情况下,两台机器都会受到攻击并在阵列上分配流量 . 当其中一台机器出现故障时,Round Robin DNS与客户端浏览器重试相结合应该使浏览器将其目标主机转移...
  • 7 votes
     answers
     views

    如何获得excel以显示一定数量的重要数字?

    我正在使用excel,我想显示一定数量的有效数字的值 . 我尝试使用以下等式 =ROUND(value,sigfigs-1-INT(LOG10(ABS(value)))) Value 被我使用的数字所取代,sigfigs被我想要的有效数字所取代 . 这个公式有时会起作用,但有时却没有 . 例如,值18.036将变为18,其中有2位有效数字 . 解决这个问题的方法是更改源格式以保留1个小数位 . ...
  • 5 votes
     answers
     views

    Excel十进制舍入?

    如何对excel中的数字进行舍入,例如通过格式化它以使实际数字更改而不仅仅是它在单元格中的外观 . 例如,如果我在一个单元格中有229.729599999998并且我将单元格格式化为仅显示4位小数,它现在将在单元格中显示229.7296但单元格的值仍然是229.729599999998所以如果我要进行任何计算,excel将使用较长的十进制数与4位十进制数相对 . 有没有办法我可以这样做,以便不仅单...
  • 0 votes
     answers
     views

    特定设备上的楼层问题

    我有一个“四舍五入”的问题,我想了解为什么我在不同的设备上有不同的结果 . 此外,如果有人知道这些设备上有什么不同可以解释这种行为 . 所以,我有这个代码: public final static double round(double val, double interval) { return Math.floor(0.5 + (val / interval)) * interval; }...
  • 0 votes
     answers
     views

    在Delphi中使用round(double)的无效浮点运算

    我正在使用Delphi 7,其中我有变量v:double,其值设置为5,5889002873e 22 . CurrencyDecimals是2 当我使用round(v)时,我收到此错误: 无效的浮点运算 我不清楚它为什么会发生,因为double的范围是指数-308到308 . 如何进行舍入是正确的?
  • 1067 votes
     answers
     views

    如何在Java中将数字舍入到n个小数位

    我想要的是一种将double转换为使用half-up方法进行舍入的字符串的方法 - 即如果要舍入的小数是5,则它总是向上舍入到前一个数字 . 这是在大多数情况下舍入大多数人所期望的标准方法 . 我也希望只显示有效数字 - 即不应该有任何尾随零 . 我知道这样做的一种方法是使用 String.format 方法: String.format("%.5g%n", 0.912385)...
  • 0 votes
     answers
     views

    使用BigDecimal值舍入aftrer除法的问题 . Java的

    我对BigDecimal实例的划分结果有疑问 . 我的节目: 公共类DecimalPrecision public static void main(String[] args) { MathContext mathContext = new MathContext(25, RoundingMode.HALF_UP); System.out.println(new BigDeci...
  • 1 votes
     answers
     views

    将IF语句添加到SUMPRODUCT公式以避免空白

    我一直试图弄清楚如何将IF语句添加到我正在使用的SUMPRODUCT公式中,将值舍入为2dp,然后在它们> = 0.08时求和 . 这是公式: =SUMPRODUCT((ROUND(A1:A20,2)>=0.08)*ROUND(A1:A20,2)) 如果所有单元格都有值,则此公式可以正常工作,但是,我有一些单元格中包含公式,有时会将它们留空 . 所以当我使用上面的公式时,我得到#VA...
  • 4 votes
     answers
     views

    Delphi / Borland Pascal STR程序是如何进行的

    Borland Pascal 7和Delphi 2007都得到了一个STR程序STR,它取一个数字,一个长度和精度,并将它转换为如下字符串: str(9.234:5:1, s); // -> s = ' 9.2' 如果舍入是非模糊的,那么一切都很好,但如果它不是(0.5 - >向上或向下吗?)则存在一个问题:它似乎依赖于BP中的浮点数据类型,但在Delphi 2007中显然是一致...
  • 383 votes
     answers
     views

    将一个小数加倍到2位小数[重复]

    这个问题在这里已有答案: How to round a number to n decimal places in Java 29个答案 如果值为 200.3456 ,则应将其格式化为 200.34 . 如果它是 200 ,那么它应该是 200.00 .
  • 0 votes
     answers
     views

    Delphi XE2使用DecimalRounding_JH1进行舍入

    由于Delphi XE2中存在记录的舍入问题,我们在Embarcadero站点上使用了一个名为DecimalRounding_JH1的特殊舍入单元来实现真正的银行家舍入 . 可在此处找到该单位的链接: DecimalRounding_JH1 使用此单位的DecimalRound函数,其中包含大量小数位数的数字 这是DecimalRounding_JH1单元的舍入例程 . 在我们的示例中,我们使用以...
  • 428 votes
     answers
     views

    显示2位小数的数字

    将PHP字符串舍入到2位小数的正确方法是什么? $number = "520"; // It's a string from a DB $formatted_number = round_to_2dp($number); echo $formatted_number; 输出应为 520.00 ; round_to_2dp() 函数定义应该如何?
  • 524 votes
     answers
     views

    在JavaScript中格式化一个正好两位小数的数字

    我有这行代码将我的数字四舍五入到小数点后两位 . 但是我得到这样的数字:10.8,2.4等 . 这些不是我的两位小数的想法,所以我如何改进以下内容? Math.round(price*Math.pow(10,2))/Math.pow(10,2); 我想要像10.80,2.40等数字 . 使用jQuery对我来说很好 .
  • 355 votes
     answers
     views

    为什么Math.Round(2.5)返回2而不是3?

    在C#中, Math.Round(2.5) 的结果为2 . 应该是3,不是吗?为什么它在C#中代替2?
  • 0 votes
     answers
     views

    如何解决这个舍入要求?

    我有以下要求来舍入金额: 1.2448 -> 1.25 3.349 -> 3.35 0.474 -> 0.47 我已经尝试了BigDecimal的所有可能模式 . setScale(2,RoundingMode . )方法,没有任何成功 . 结果如下: UP: 1.25, 3.35, 0.48 HALF_UP: 1.24, 3.35, 0.47 ...
  • 1 votes
     answers
     views

    BigDecimal HALF_UP舍入问题

    我试图使用scale = 3和HALF_UP舍入模式舍入0.14049,并希望看到舍入值= 0.141但是得到0.140 . 根据我的理解,最后的十进制数字9应该向上舍入4到5,当使用比例3时,它应该反过来向上舍入0到1,我应该看到0.141 . 这是BigDecimal setScale方法中的错误还是我对Rounding的期望是错误的 . 如何获得类似于0.141而不是0.140的舍入值? B...
  • -3 votes
     answers
     views

    BigDecimal divide方法要么返回0还是ArithmeticException?

    当我尝试使用该方法划分BigDecimals时: divide(divisor, RoundingMode.HALF_UP) 它返回0 但如果我这样做没有这样的舍入模式: divide(divisor) 我得到一个ArithmeticException 我不在乎这个数字是不是精确的十进制表示 . 如何在不获得0或异常的情况下划分BigDecimals?
  • 3 votes
     answers
     views

    为什么舍入0.5(十进制)不精确? [重复]

    这个问题在这里已有答案: Python 3.x rounding behavior 7个答案 一半,即十进制的0.5,具有精确的二进制表示:0.1 然而,如果我将它四舍五入为整数,我得到0而不是1.我尝试使用Python和C,其行为相同 . 例如 . python代码: >>> a,b,c = 0.49, 0.5, 0.51 >>> [round(x) f...
  • 2 votes
     answers
     views

    遇到C#二次方程求解器问题

    我刚刚写了我的第一个C#程序 . 这是一段解码二次方程的简单代码 . 它完美地适用于某些功能(例如-6x2-6x 12),而对于其他功能(4x2-20x 25),它表现出我怀疑是舍入错误 . 我是C#的新手,我看不出问题;有人能帮我调试这段代码吗? using System; using System.Collections.Generic; using System.Linq; using Sy...
  • 0 votes
     answers
     views

    舍入汇总函数导致错误

    尝试使用 rockchalk 包中的 summarize 输出汇总统计信息 . 希望统计数据四舍五入为2位小数 . 在 summarize 上使用 round 时收到错误消息 . library(rockchalk) M1 <- structure(c(0.18, 0.2, 0.24, 0.35, -0.22, -0.17, 0.28, -0.28, -0.14, 0.03, 0.87, -...
  • 101 votes
     answers
     views

    Python中的round()似乎没有正确舍入

    round()函数的文档声明您将数字传递给它,并将小数点后的位置传递给圆形 . 因此它应该这样做: n = 5.59 round(n, 1) # 5.6 但是,实际上,良好的旧浮点怪异爬进来,你会得到: 5.5999999999999996 出于UI的目的,我需要显示 5.6 . 我在互联网上搜索并发现一些documentation这取决于我对Python的实现 . 不幸的是,这发生在我的W...
  • 0 votes
     answers
     views

    计算两次的差值和总和,并以十进制格式舍入到最接近的1/4小时

    我正在尝试创建一个简单的电子表格,以准确计算两次之间的差异,在一天中用于工作人员工资单的三个不同时段 . 每个输入的开始和结束时间为24小时(07:21,22:42等)的确切分钟 . 三个周期中的每一个都有一个总列,需要将工作时间进行总和,将其转换为十进制,并在一个公式中舍入到最接近的1/4小时(即:4.75小时) . 我可以实现一个或另一个,但由于某种原因无法使我的公式一起工作 . 我已经尝试过...
  • 6 votes
     answers
     views

    Java中的双重增量[重复]

    可能重复:如何在Java中以0.1f的增量在0.1f和1.0f之间进行迭代? Part of my program needs to use values inside a while loop as: 0.1 0.2 0.3 ... 0.9 so I need to provide them inside that loop. Here is the code: double x = 0.0...
  • 9 votes
     answers
     views

    如何将日期四舍五入到季度开始/结束?

    我需要采用日期矢量,并且每个日期都可以获得下一季度的第一天 . (或者更确切地说,到本季度的最后一天,找到下一季度的第一天并取消关闭是我的计划) lubridate 将围绕/上限到几个月,但不是四分之一 到目前为止,我发现的唯一解决方案是制作一个矢量列表从1970年到2099年的所有季度开始,然后搜索它以找到我的约会后的最短日期 . 很明显,这会导致严重的矢量化和扩展 . 我需要能够指定年末月份(...
  • 0 votes
     answers
     views

    IEEE 754和机器号

    我一直试图将机器数量包括在单位舍入(u)和epsilon(e)以及IEEE 754标准中 . 我的教科书陈述了一些对我来说没有意义的事情 . 根据我的教科书单位结束是: 单精度 (尾数为23位):u = 6e-8 表示双精度(尾数为52位):u = 2e-16 我一直试图用两种关系推导出这些结果的公式: 我的教科书说明:"In binary arithmetic with...

热门问题