首页 文章

单工dyno的并行背景任务

提问于
浏览
1

我们有一个Rails应用程序,其中某些请求在具有delayed_job的worker dyno上触发长时间运行的任务,而前端轮询直到它收到结果 .

我们的流量虽小但增长很快,而且任务通常只需几秒钟即可完成,但最多可能需要一分钟 . 现在,每个web和worker dyno都足以处理我们的负载 .

问题是,delayed_job队列不会并行处理作业,因此较长的任务最终会阻碍其后面的任务 .

我们正在寻找的是类似于后端的Unicorn,其中单个工作人员可以同时处理多个任务 . 因为它是Rails,我们正在寻找多进程而不是多线程的东西 .

(我们尝试在procfile中创建多个worker条目 - 这在本地开发框中工作,但在Heroku上没有)

Procfile:

web: bundle exec unicorn -p $PORT -c ./config/unicorn.rb
# Multiple workers defined here doesn't translate into multiple processes on single worker dyno:
worker: bundle exec rake jobs:work
worker: bundle exec rake jobs:work
worker: bundle exec rake jobs:work

这篇Heroku文章建议使用resque-pool gem作为解决方案 . 这是唯一的解决方案,还是delayed_job也可用于并行后台作业?

1 回答

  • 5

    根据@ radiospiel的related post,您可以使用foreman启动多个进程 .

    1)将工头添加到Gemfile中

    2)创建两个文件:

    Procfile:

    web: bundle exec unicorn -p $PORT -c ./config/unicorn.rb
    worker: bundle exec foreman start -f Procfile.workers
    

    Procfile.workers:

    dj_worker: bundle exec rake jobs:work
    dj_worker: bundle exec rake jobs:work
    dj_worker: bundle exec rake jobs:work
    

    我刚把它部署到Heroku,效果很好 .

相关问题