-
1 votesanswersviews
Python mpmath不是任意精度？
我试图用Benet的算法计算斐波那契数 . 为了处理任意精度，我找到了 mpmath . 然而，实施似乎失败超过一定的 Value . 例如，第99个值给出： 218922995834555891712 这应该是（ref）： 218922995834555169026 这是我的代码： from mpmath import * def Phi(): return (1 + sq... -
2 votesanswersviews
Matlab中的双重符号积分
我正在尝试计算一些积分，例如： a = 1/sqrt(2); b = -5; c = 62; d = 1; f = exp(-x^2-y^2)*(erfc((sym(a) + 1/(x^2+y^2)*(sym(b)*x+sym(d)*y))*sqrt((x^2+y^2)*sym(10.^(c/10))))... + erfc((sym(a) - 1/(x^2+y... -
6 votesanswersviews
将任意精度有理数（OCaml，zarith）转换为近似浮点数
我正在使用Zarith库来执行任意精度的有理算术 . 假设我有一个 Q.t 类型的有理数 q ，它是两个大整数的比率（ Q 是Zarith的任意精度有理数模块） . 有时，为了便于阅读，我想将此数字打印为浮点数，有时我需要将此数字浮点数转换为以后的非任意精度计算 . 有没有办法将 q 转换为浮点数达到一定的精度？ 我将 q 转换为浮点的方式现在无法保证，并且可以创建未定义的浮点数（ Z 是任意精度... -
1 votesanswersviews
GMP最重要的数字
我正在使用GNU Multiple Precision（GMP）库对任意精度整数进行一些计算 . 然后我需要结果的十进制数字 . 但不是全部：只是，比方说，一百个最重要的数字（即数字开头的数字）或数字中间的选定数字范围（例如1000的数字100..200） -数字） . 有没有办法在GMP中做到这一点？我在文档中找不到任何函数来提取一系列十进制数字作为字符串 . 将 mpz_t 转换为字符串的转换... -
11 votesanswersviews
加速x64汇编器ADD循环
我正在研究很长整数的乘法运算（大约100,000个十进制数字） . 作为我的图书馆的一部分，我要添加两个长数字 . 分析表明我的代码在add（）和sub（）例程中运行的时间高达25％，因此尽可能快地运行它们非常重要 . 但我还没有看到太大的潜力 . 也许你可以给我一些帮助，建议，见解或想法 . 我会测试它们然后再回复你 . 到目前为止，我的添加例程进行了一些设置，然后使用了8次展开的循环： mov... -
5 votesanswersviews
BigDecimal精确爆炸
我使用BigDecimals和Scala的默认MathContext，它具有精度34.即使所有输入都具有这种精度，我发现经过一些计算后，结果的精度开始爆炸 . 这是一个示例计算，我认为说明了问题： import math.BigDecimal val z40 = BigDecimal(0).setScale(40) // 0E-40 z40.scale ...