首页 文章
  • 3 votes
     answers
     views

    Azure - 从Web角色中访问与worker角色相同的blob

    我是Azure的新手,我想创建一个简单的.Net应用程序(在C#中),其中包含一个Web角色和一个辅助角色来上传和调整图像大小 . 我已经在网络角色中取得了成功 . 它会创建一个blob,然后在那里上传图片,然后显示它们 . 我现在要做的是:如果任何图片太大,发送消息会将队列抛给worker角色,然后在worker角色中调整它们的大小 . 我的问题是我无法看到如何访问在Web角色中创建的相同blo...
  • 7 votes
     answers
     views

    如何为Sidekiq工作者设置default_url_options?

    我有一个Sidekiq工作者,旨在执行社交活动(例如:Facebook上的类似页面) . 部分原因是需要知道所喜欢对象的URL . 幸运的是,Rails 3通过在任何类或模块中包含 Rails.application.routes.url_helpers 来访问path / url helper方法,可以轻松访问特定于应用程序的路由 . 我遇到的问题是我的Sidekiq工作人员无法访问我的默认UR...
  • 0 votes
     answers
     views

    潜在递归任务的工作池(即每个作业可以排队其他作业)

    我正在编写一个应用程序,用户可以从许多“作业”(实际上是URL)开始 . 在开始(主例程)时,我将这些URL添加到队列中,然后启动适用于这些URL的x goroutines . 在特殊情况下,URL指向的资源可能包含更多必须添加到队列的URL . 3名 Worker 正在等待新的工作进来并加工 . 问题是:一旦每个 Worker 都在等待工作(并且没有人正在 生产环境 任何工作), Worker...
  • 5 votes
     answers
     views

    Elastic Beanstalk:我如何仅在工作层上运行ebextension命令?

    我有一个弹性beanstalk应用程序,它同时使用Web层和工作层 . 通过SQS将作业从Web层卸载到工作层,以使面向Web的服务器保持快速 . 两种环境都使用完全相同的代码库,并在其下使用RDS实例 . 我需要在工作层的领导服务器上运行一个cron作业 . 我创建了一个.ebextensions文件夹,其中包含一个名为 crontab 的文件,如下所示(它是一个Laravel Web应用程序)...
  • 3 votes
     answers
     views

    Elastic Beanstalk工作层定期任务未运行

    我使用cron.yaml文件在Elastic Beanstalk工作层上设置了定期任务 . 我的应用程序中有两个文件位于根目录中: cron.yaml index.php 我的应用程序的根路径是“/” . cron.yaml看起来像: 版本:1 cron: - 名称:“电子邮件”网址:“/”schedule:“* * * * *” index.php使用 file_get_contents...
  • 0 votes
     answers
     views

    为特定任务运行10000个工作人员与运行少数工作人员

    我有一个系统,其中我有1000个产品,它们是异步创建的,一方面将它们推入队列,另一端是工作组侦听队列 . 通过调用第三个patry提供者的微服务来创建产品 . 以下是两种实施方法: First approach在这种方法中,我们将每个产品推送到他们自己的特定队列中,即产品A将转到队列A,产品B将转到队列B.如果我正在运行10个工作人员来监听每个队列,那么总共10,000名工作人员正在运行在我的系统...
  • 0 votes
     answers
     views

    WPF工作线程需要通过消费者通知暂停

    嗨,我有一个 生产环境 者 - 消费者模式 . WPF UI对于长时间运行的工作线程来说是一种权利,它正在监听数据包和队列任务 . 实际上,所有消息都会出列,然后UI消费者进程 . 我遇到的问题是我有一个UIcontroller类,负责所有WPF GUI组件 . 它打开一个新窗口,显示每个出列的任务,并保存一个线程安全的引用窗口集合 . 我通过Despatcher.BeginInvoke发出信号...
  • 2 votes
     answers
     views

    线程池,其中工作者既是 生产环境 者又是消费者

    我有一个无限制的作业队列,可以异步处理 . 每个作业的处理可能会也可能不会触发为此队列创建新作业 . 我想要一个由几个工作线程组成的池来从这个队列中取出项目并并行处理它们,直到队列都为空 and 所有工作线程都空闲等待队列中的新作业(因为繁忙的工作者可能最终添加新的工作到队列) . 有没有使用 java.util.concurrent 实现的方法,我可以用它来解决这个特殊问题, Worker 也是...
  • 2 votes
     answers
     views

    对于vsivsi / meteor-job-collection的Node.js worker在job.done()上失败:“调用方法时出现异常'jobs_jobDone'错误:匹配错误......”

    我使用vsivsi / meteor-job-collection(https://github.com/vsivsi/meteor-job-collection),当我(最初)使用Meteor应用程序本身(排队,创建和管理)中基于方法(即非外部)的工作人员处理作业时,一切正常工作) . 但是,我想要一个外部进程,即Node.js程序(甚至不是Meteor应用程序)来监听并随后处理已发布的作业,并...
  • 1 votes
     answers
     views

    (芹菜):在特定 Worker 中运行任务?

    我有很多来自芹菜不同服务器的 Worker ,(如下图所示) 和许多任务: @task(name="task1") def task1(): ....... @task(name="task2") def task2(): ...... 我想只在“celery@40.218testlab_website”工作者上运行“task1” . 我该怎...
  • 2 votes
     answers
     views

    如何在应用程序内只保留Heroku免费层上的工作者?

    我正在使用Heroku免费层上的工作者和web dyno测试应用程序,并且我希望让工作人员保持活力,以便能够在让web dyno闲置的同时执行后台任务 . 默认情况下,即使我在工作人员上排队等待,他们也会在30分钟内闲置 . 我知道有很多方法可以让网络dyno保持活力(并且还有工作人员),还有一些方法可以在缩小工作人员的同时保持网络活跃 . 但是,我需要工作人员活着,网络处于空闲状态 . 我试着在...
  • 0 votes
     answers
     views

    集群工作程序中的计划数据更新

    我会直截了当地说 . 所以,我有JSON(大约20MB),它每天都在更新,我应该从其他服务器下载并放入我的 . 然后我计划制作一个API,通过一些搜索查询('... / search?query = someRandomQuery')从该JSON返回一些数据 . 而我正在考虑将群集与 Worker 一起用于我的案例 . 我对Node JS和集群有点新意,所以我在想什么是使这整件工作最好的方法 . ...
  • 0 votes
     answers
     views

    无论如何将python期货放入fifo?

    我正在尝试将并行处理python脚本放在一起 . 它使用期货来执行重型处理任务,而主线程构建任务以供它们执行,并将它们放入 multiprocessing.Queue . 有's another process that deals with the results of futures(reading the results and compiling the final result). I...
  • 1 votes
     answers
     views

    芹菜任务应排在 Worker 迷路的排队

    我正在使用django-celery 3.2和芹菜3.1.25 . 我添加了以下设置 - CELERY_TASK_ACKS_LATE = True task_reject_on_worker_lost = True 如果我使用芹菜4.x与django-celery 3.2,应用程序会导致以下错误并且无法加载 ImportError:没有名为vine.five的模块 Steps to repr...
  • 0 votes
     answers
     views

    Heroku免费计划工作者

    随着新的2015年6月Heroku免费计划,当一个预定的工作在睡觉时设置为运行时,sidekiq工作人员的行为如何? https://devcenter.heroku.com/articles/dyno-sleeping
  • 1 votes
     answers
     views

    Heroku工作者如何工作?

    Heroku支持多种类型的dyno配置,允许我们为应用程序设置 web 和 worker 进程类型,例如: web: vendor/bin/heroku-php-apache2 web/ worker: php worker/myworker.php web dyno将处理网络流量,同时可以使用 worker dyno类型as a background job (e.g.: to proce...
  • 2 votes
     answers
     views

    群集故障转移后nservicebus工作分离

    背景:我们目前正在尝试迁移到故障转移群集分发服务器模型,并且在将群集从一个分发服务器故障转移到另一个分发服务器时会遇到一些问题 . 在我们的实验室环境中,我们按照David Boike's blog post设置了所有内容 . 我们有3个服务器用于此练习,2个Dist盒子和1个工作人员 . 我看到工作人员最初注册到分发服务器并且它处理消息很好,直到我启动故障转移测试 . 一旦我从一个节点故障转移到...
  • 2 votes
     answers
     views

    NodeJS集群模块

    我正在测试NodeJS的集群模块 . 我想要实现以下目标: 使用两个集群工作程序启动HTTP服务器 . 主站和工作站启动后,主站每隔5秒向工作人员发送一条"check"消息 如果工作人员回复,则计数器设置为0 如果在下一个"check"消息之前没有消息,则计数器递增 . 我检查 Worker 是否在20秒内没有响应然后我杀了 Worker...
  • 0 votes
     answers
     views

    芹菜 Worker 只工作一次

    完整步骤: 开始django 开始一个芹菜 Worker python manage.py celery worker --app = celery_worker:app -Ofair -n W1 上传一个url列表文件,循环url列表发送每个url到一个任务 fetch_article Worker 工作 上传另一个url列表文件 Worker 没有行动 view...
  • 0 votes
     answers
     views

    工作挂在流星

    我正在使用 meteor-job-collection 并定义了一个 Worker var workers = Job.processJobs( 'jobQueue', 'insertItems', function ( job, cb ) { // iterate job.data.forEach( function ( item ) { // insert ...
  • 1 votes
     answers
     views

    我们可以在哪种部署模式中“不”将节点添加到Apache Spark 2.3.1中的集群

    我们可以在哪种部署模式中将节点/工作者添加到Apache Spark 2.3.1中的集群 1.Spark Standalone 2.Mesos 3.Kubernetes 4.Yarn 5.Local Mode 我在我的机器上安装了Apache Spark 2.3.1并在本地模式下运行它 在本地模式中,我们可以将节点/工作者添加到Apache Spark吗?
  • 6 votes
     answers
     views

    芹菜如何运作?

    我最近开始致力于分布式计算,以提高计算速度 . 我选择了Celery . 但是,我对某些术语不太熟悉 . 所以,我有几个相关的问题 . 来自Celery docs: 什么是任务队列? ...芹菜通过消息进行通信,通常使用经纪人在客户和 Worker 之间进行调解 . 为了启动任务,客户端向队列添加消息,然后代理将该消息传递给工作者 . 什么是客户(这里)?什么是经纪人?为什么通过经纪人传递消息...
  • 1 votes
     answers
     views

    如何确定播放应用程序是否在heroku上的工作器dyno上运行?

    我有一个在heroku上运行的Play 1.2.5应用程序,我想将所有作业换成工作器dyno,因此它们不能与web dynos一起扩展 . 要做到这一点,我需要区分,如果应用程序在Web或工作人员dyno上运行 . 有没有办法通过使用procfile传递命令行参数来实现这一点? 目前我看到,通过传递自定义CLI参数,无法创建JVM ... 提前谢谢你!
  • 2 votes
     answers
     views

    如何在运行时创建celery队列,以便发送到该队列的任务被工作人员接收?

    我正在使用django 1.4,芹菜3.0,rabbitmq 为了描述这个问题,我在系统中有很多内容网络,我想要一个队列来处理与这些网络相关的任务 . 但是,当系统处于活动状态时,内容会立即创建,因此我需要动态创建队列并让现有工作人员开始接收它们 . 我尝试以下列方式安排任务(其中内容是django模型实例): queue_name = 'content.{}'.format(content.pk...
  • 2 votes
     answers
     views

    如何在heroku上将工作人员dynos与web dynos隔离?

    我们在Heroku开发了一个Rails应用程序,我们有大约3个web dynos和2-3个工作dynos . 我们有一些导出和导入功能,使用了很多我们的工作人员dynos,当发生这种情况时,一切都崩溃,我们在网站上得到一个App错误 . Sentry告诉我们这是由于超时 . 我们正试图找出我们软件的哪些功能正在耗费大量的工作时间 . 问题是它会影响我们所有的用户,其中一些用户只使用网络层功能 . ...
  • 1 votes
     answers
     views

    芹菜 Worker 接受了任务,但没有工作

    我的发展环境是 base:python 2.7,Django == 1.11,celery == 3.1.25 VM #01 : nginx + gunicorn (web) VM #02 : RabbitMQ server on ubuntu 14.04 VM #03 : celery worker 案例#1:正常工作 RabbitMQ正在运行 芹菜 Worker 跑步 并将异步消...
  • 3 votes
     answers
     views

    Heroku dyno / worker在开始时崩溃

    我有一个用Rails编写的应用程序,部署在Heroku上 . 我曾经在一个网络dyno上工作,但今天我发布了应用程序,流量非常大,所以我决定增加到4个网络dynos和1个工作人员dynos . 我不知道为什么总是当我做 heroku ps 它显示: Process State Command -------- ---...
  • 10 votes
     answers
     views

    Heroku worker dyno上的进程之间的TCP Socket通信

    我想知道如何在Heroku工作者dyno上的进程之间进行通信 . 我们希望Resque工作者读取队列并将数据发送到在同一个dyno上运行的另一个进程 . “其他进程”是一种现成的软件,通常使用TCP套接字(端口xyz)来监听命令 . 它设置为在Resque工作程序启动之前作为后台进程运行 . 但是,当我们尝试本地连接到该TCP套接字时,我们无处可去 . 我们设置队列的Rake任务执行此操作: t...
  • 4 votes
     answers
     views

    一个Heroku应用程序中的两个进程与两个heroku应用程序

    我有一个heroku应用程序,它有两个进程 - 一个Web和一个worker,都在同一个应用程序中 . 我计划在ps中运行这两个:整个月的比例为1x . 这基本上意味着我每月超过750免费的dyno小时,并且必须支付一些费用 . One app, two processes 应用 web:gunicorn myproject.wsgi --log-file - worker:芹菜 - 一...
  • 1 votes
     answers
     views

    Worker dyno在Heroku上运行的频率

    我在Heroku应用程序中创建了一个工作器dyno,它应该在运行时执行cakephp命令 . 请参阅下面的Procfile代码: - worker: app/Console/cake opportunity 这个工作人员dyno执行的默认频率是多少?我已检查heroku日志,显示上述工作进程在某些时间间隔执行,如下所示: - 2016-04-06T11:13:34.557478 00:00 a...

热门问题