首页 文章

建议使用哪种Python内存分析器? [关闭]

提问于
浏览
603

我想知道我的Python应用程序的内存使用情况,并且特别想知道哪些代码块/部分或对象占用了大多数内存 . Google搜索显示商业广告是Python Memory Validator(仅限Windows) .

而开源的是PySizerHeapy .

我没有尝试任何人,所以我想知道哪一个是最好的考虑:

  • 提供大部分细节 .

  • 我必须对代码进行最少或不做任何更改 .

8 回答

  • 79

    Heapy使用起来非常简单 . 在代码中的某个时刻,您必须编写以下内容:

    from guppy import hpy
    h = hpy()
    print h.heap()
    

    这给你一些像这样的输出:

    Partition of a set of 132527 objects. Total size = 8301532 bytes.
    Index  Count   %     Size   % Cumulative  % Kind (class / dict of class)
    0  35144  27  2140412  26   2140412  26 str
    1  38397  29  1309020  16   3449432  42 tuple
    2    530   0   739856   9   4189288  50 dict (no owner)
    

    您还可以找出引用对象的位置并获取有关它的统计信息,但不知何故,文档上的文档有点稀疏 .

    还有一个图形浏览器,用Tk编写 .

  • 11

    由于没有人提到它,我将指向我的模块memory_profiler,它能够打印内存使用的逐行报告,并且可以在Unix和Windows上运行(最后一个需要psutil) . 输出不是很详细,但目标是概述代码消耗更多内存的位置,而不是对分配的对象进行详尽的分析 .

    使用 @profile 装饰函数并使用 -m memory_profiler 标志运行代码后,它将打印逐行报告,如下所示:

    Line #    Mem usage  Increment   Line Contents
    ==============================================
         3                           @profile
         4      5.97 MB    0.00 MB   def my_func():
         5     13.61 MB    7.64 MB       a = [1] * (10 ** 6)
         6    166.20 MB  152.59 MB       b = [2] * (2 * 10 ** 7)
         7     13.61 MB -152.59 MB       del b
         8     13.61 MB    0.00 MB       return a
    
  • 8

    我推荐Dowser . 它很容易设置,您只需对代码进行零更改 . 您可以通过简单的Web界面查看每种类型的对象的计数,查看活动对象列表,查看活动对象的引用 .

    # memdebug.py
    
    import cherrypy
    import dowser
    
    def start(port):
        cherrypy.tree.mount(dowser.Root())
        cherrypy.config.update({
            'environment': 'embedded',
            'server.socket_port': port
        })
        cherrypy.server.quickstart()
        cherrypy.engine.start(blocking=False)
    

    导入memdebug,并调用memdebug.start . 就这样 .

    我没有尝试过PySizer或Heapy . 我会很感激别人的评论 .

    UPDATE

    上面的代码适用于 CherryPy 2.XCherryPy 3.X 已删除 server.quickstart 方法且 engine.start 未采用 blocking 标志 . 所以如果你正在使用 CherryPy 3.X

    # memdebug.py
    
    import cherrypy
    import dowser
    
    def start(port):
        cherrypy.tree.mount(dowser.Root())
        cherrypy.config.update({
            'environment': 'embedded',
            'server.socket_port': port
        })
        cherrypy.engine.start()
    
  • 60

    考虑objgraph库(有关示例用例,请参阅http://www.lshift.net/blog/2008/11/14/tracing-python-memory-leaks) .

  • 6

    Muppy是(又一个)Python的内存使用分析器 . 该工具集的重点是识别内存泄漏 .

    Muppy试图帮助开发人员识别Python应用程序的内存泄漏 . 它可以在运行时跟踪内存使用情况,并识别泄漏的对象 . 另外,提供了允许定位未释放对象的源的工具 .

  • 15

    我发现meliae比Heapy或PySizer功能更强大 . 如果您正好运行wsgi webapp,那么Dozer是一个很好的中间件包装器

  • 306

    我正在为Python开发一个名为memprof的内存分析器:

    http://jmdana.github.io/memprof/

    它允许您在执行装饰方法期间记录和绘制变量的内存使用情况 . 您只需使用以下方法导入库:

    from memprof import memprof
    

    并使用以下方法装饰您的方法:

    @memprof
    

    这是一个关于图形如何的示例:

    enter image description here

    该项目在GitHub中托管:

    https://github.com/jmdana/memprof

  • 261

    还可以尝试pytracemalloc project,它提供每个Python行号的内存使用量 .

    编辑(2014/04):它现在有一个Qt GUI来分析快照 .

相关问题