这个连接器插件如何工作? Kafka Connect AWS Lambda Sink
在docker-compose.yml文件中,它正在从 confluentinc 存储库中拉出zookeeper,kafka和kafka-connect的docker镜像 .
我们是否可以仅将此插件用于连接aws lambda作为kafka使用者,并在ec2实例上单独部署kafka集群 .
我们可以在不使用kafka connect的情况下使用此连接器插件吗?
这个连接器插件如何工作? Kafka Connect AWS Lambda Sink
在docker-compose.yml文件中,它正在从 confluentinc 存储库中拉出zookeeper,kafka和kafka-connect的docker镜像 .
我们是否可以仅将此插件用于连接aws lambda作为kafka使用者,并在ec2实例上单独部署kafka集群 .
我们可以在不使用kafka connect的情况下使用此连接器插件吗?
2 回答
不,Kafka Connect连接器在Kafka Connect上运行 .
但是,Kafka Connect是Apache Kafka的一部分,它为您提供了一个运行时环境,可以处理节点故障,横向扩展,集中配置和管理等问题 - 所以它实际上是一件好事 . 从用户的角度来看,只需要编写配置文件即可使用它 .
你可以阅读更多关于Kafka Connect here的信息
免责声明:我为Confluent工作 .
您可以将插件与单独部署的Kafka群集一起使用 . 将连接器jar部署到Kafka Connect集群或在Docker中运行Kafka Connect容器并在那里部署lambda连接器 . 您只需要修改Kafka Connect的docker-compose.yml配置以指向您的Kafka集群 . 在github.com/llofberg/kafka-connect-rest存储库中有一个可能更好的例子 .
免责声明:我写了连接器 .