首页 文章
  • 0 votes
     answers
     views

    数据流/ apache beam窗口中字节数的触发窗口

    我有一个简单的工作,将数据从pub sub移动到gcs . pub子主题是一个共享主题,具有不同大小的许多不同消息类型 我希望结果在GCS中相应地进行垂直分区: 架构/版本/年/月/日/ 在该父键下应该是当天的一组文件,文件应该是合理的大小,即10-200 MB 我使用scio,我能够进行groupby操作来进行[String,Iterable [Event]]的P / SCollection,...

热门问题