我刚刚读了以下问题:Radix sort most significant first or least significant, which is faster?
接受的答案的作者建议MSD基数排序确实更快 . 但是,我不明白为什么 .
我已经实现了LSD和MSD(基于执行移位操作的二进制),LSD是迭代的,只需要一个桶阵列,而MSD是递归的,每个递归调用需要一个单独的桶阵列 .
如果你创建一个1000万个整数的随机数组,我看不出MSD将如何比LSD更快,因为你每次重新输入函数时都会分配额外的存储区数组,而且你将不得不面对递归调用的开销他们自己 .
我可以看到MSD和LSD的组合如何能够提供全部提升(前几位运行MSD,其余位运行LSD以减少缓存未命中),但MSD单独如何比LSD更有效率鉴于它的递归性质以及每次递归调用都需要一个新的桶数组的事实,与LSD不同,LSD既迭代又需要一个桶阵列用于整个排序过程?
2 回答
答案
MSD基数中的迭代次数取决于输入大小,而LSD基数排序中的迭代次数取决于密钥长度 . 这通常导致MSD基数排序要求比LSD基数排序少得多的迭代,因此更快 .
内存分配不是问题,因为MSD基数排序可以很容易地就地实现 .
基本原理
我已经为LSD和MSD基数排序做了一个实现,所以我可以看到它们具有哪些属性使得MSD基数排序比LSD基数排序更快 .
我已经将他们的速度与std :: sort进行了比较,在一个100.000.000随机正63位整数的数组上(我使用std :: sort的结果我也用于验证排序的数组)并得到以下结果:
纯LSD排序:10.5s
std :: sort:9.5s
纯MSD排序:9.3s
MSD sort insertion_sort:7.6s
因此,它比std :: sort略快,如果使用insertion_sort对叶子进行排序,则速度要快得多 .
为什么MSD基数排序比LSD基数排序更快?
有缓存局部性,但我怀疑这是否真的很重要,因为LSD基数排序也会扫描数组,而不是执行随机访问 .
MSD基数排序可以实现为其空间复杂度为O(d k),因此仅取决于基数d和项k的长度 . 这可以在堆栈上分配,几乎是免费的 . 因此,它基本上是一种就地排序算法 .
底层可以修剪 . 即当一个桶只包含1个元素时,它已经被排序,因此不需要在该桶上进行递归 . 因此,MSD基数排序仅需要执行近似log(n)/ log(d)迭代 . 虽然LSD基数排序总是必须执行k次迭代 .
我相信最后一点是MSD基数排序通常比LSD基数排序更快的原因 . 如果输入数据是均匀随机分布的,则预期运行时间为O(n log(n)/ log(d)),而LSD基数排序的运行时间为O(n k) . 并且通常n比k ^ d小很多 . 只有当n = o(k ^ d)时,LSD基数排序才会更快 . 但是,在这种情况下,也可以使用计数排序(基数排序为k = 1) .
实现
您要引用的问题是仅对单个位执行排序 . 因此,每次递归仅将数组拆分为两组 . 因此,在递归时实际上您不必存储太多内容 .
你下降的小组 - 更大的组,你放在一个堆栈以便以后执行 . 在最坏的情况下,堆栈中最多只有
w
个元素,其中w
是数据类型的宽度(以位为单位) .现在,已经证明在这种情况下递归并不是那么糟糕,argumentation of Niklas B.为什么MSD有机会运行得更快(即缓存局部性) .