精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

kafka client在 spring如何實現

科技綠洲 ? 來源:了不起 ? 作者:了不起 ? 2023-09-25 11:21 ? 次閱讀

之前寫過關于 Apache Pulsar 的簡單示例,用來了解如何使用 Pulsar 這個新生代的消息隊列中間件,但是如果想要在項目中使用,還會欠缺很多,最明顯的就是 集成復雜,如果你用過其他消息中間件,比如 Kafka、RabbitMq,只需要簡單的引入 jar,就可以通過注解+配置快速集成到項目中。

開始一個 Pulsar Starter

既然已經了解了 Apache Pulsar,又認識了 spring-boot-starter,今天不妨來看下如何寫一個 pulsar-spring-boot-starter 模塊。

目標

寫一個完整的類似 kafka-spring-boot-starter(springboot 項目已經集成到 spring-boot-starter 中),需要考慮到很多 kafka 的特性, 今天我們主要實現下面幾個模板

  • 在項目中夠通過引入 jar 依賴快速集成
  • 提供統一的配置入口
  • 能夠快速發送消息
  • 能夠基于注解實現消息的消費

定義結構

└── pulsar-starter
    ├── pulsar-spring-boot-starter
    ├── pulsar-spring-boot-autoconfigure
    ├── spring-pulsar
    ├── spring-pulsar-xx
    ├── spring-pulsar-sample
└── README.md

整個模塊的結構如上其中pulsar-starter作為一個根模塊,主要控制子模塊依賴的其他 jar 的版本以及使用到的插件版本。類似于 Spring-Bom,這樣我們在后續升級 時,就可以解決各個第三方 jar 的可能存在版本沖突導致的問題。

  • pulsar-spring-boot-starter

該模塊作為外部項目集成的直接引用 jar,可以認為是 pulsar-spring-boot-starter 組件的入口,里面不需要寫任何代碼,只需要引入需要的依賴(也就是下面的子模塊)即可

  • pulsar-spring-boot-autoconfigure

該模塊主要定義了 spring.factories 以及 AutoConfigure、Properties。也就是自動配置的核心(配置項+Bean 配置)

  • spring-pulsar

該模塊是核心模塊,主要的實現都在這里

  • spring-pulsar-xx

擴展模塊,可以對 spring-pulsar 做更細化的劃分

  • spring-pulsar-sample

starter 的使用示例項目

實現

上面我們說到實現目標,現在看下各個模塊應該包含什么內容,以及怎么實現我們的目標

  • 入口 pulsar-spring-boot-starter

上面說到 starter 主要是引入整個模塊基礎的依賴即可,里面不用寫代碼。

< dependencies >
    < dependency >
        < groupId >com.sucl< /groupId >
        < artifactId >spring-pulsar< /artifactId >
        < version >${project.version}< /version >
    < /dependency >

    < dependency >
        < groupId >com.sucl< /groupId >
        < artifactId >pulsar-spring-boot-autoconfigure< /artifactId >
        < version >${project.version}< /version >
    < /dependency >
< /dependencies >
  • pulsar-spring-boot-autoconfigure
  1. 添加 spring-boot 基礎的配置
< dependencies >
     < dependency >
         < groupId >org.springframework.boot< /groupId >
         < artifactId >spring-boot< /artifactId >
     < /dependency >

     < dependency >
         < groupId >org.springframework.boot< /groupId >
         < artifactId >spring-boot-starter-logging< /artifactId >
     < /dependency >

     < dependency >
         < groupId >org.springframework.boot< /groupId >
         < artifactId >spring-boot-configuration-processor< /artifactId >
         < optional >true< /optional >
     < /dependency >
< /dependencies >
  1. 定義自動配置類 PulsarAutoConfiguration
    • 引入 Properties ,基于EnableConfigurationPropertiesspring-boot-configuration-processor解析 Properties 生成對應spring-configuration-metadata.json文件,這樣編寫 application.yml 配置時就可以自動提示配置項的屬性和值了。
    • 構建一些必須的 Bean,如 PulsarClient、ConsumerFactory、ConsumerFactory 等
    • Import 配置 PulsarAnnotationDrivenConfiguration,這個主要是一些額外的配置,用來支持后面的功能
@Configuration
@EnableConfigurationProperties({PulsarProperties.class})
@Import({PulsarAnnotationDrivenConfiguration.class})
public class PulsarAutoConfiguration {

    private final PulsarProperties properties;

    public PulsarAutoConfiguration(PulsarProperties properties) {
        this.properties = properties;
    }

    @Bean(destroyMethod = "close")
    public PulsarClient pulsarClient() {
        ClientBuilder clientBuilder = new ClientBuilderImpl(properties);
        return clientBuilder.build();
    }

    @Bean
    @ConditionalOnMissingBean(ConsumerFactory.class)
    public ConsumerFactory pulsarConsumerFactory() {
        return new DefaultPulsarConsumerFactory(pulsarClient(), properties.getConsumer().buildProperties());
    }

    @Bean
    @ConditionalOnMissingBean(ProducerFactory.class)
    public ProducerFactory pulsarProducerFactory() {
        return new DefaultPulsarProducerFactory(pulsarClient(), properties.getProducer().buildProperties());
    }

}
  1. 配置 spring.factory

在目錄src/main/resources/META-INF下創建 spring.factories ,內容如下:

org.springframework.boot.autoconfigure.EnableAutoConfiguration=
  com.sucl.pulsar.autoconfigure.PulsarAutoConfiguration
  • spring-pulsar
  1. 添加 pulsar-client 相關的依賴
< dependencies >
     < dependency >
         < groupId >org.apache.pulsar< /groupId >
         < artifactId >pulsar-client< /artifactId >
     < /dependency >

     < dependency >
         < groupId >org.springframework.boot< /groupId >
         < artifactId >spring-boot-autoconfigure< /artifactId >
     < /dependency >

     < dependency >
         < groupId >org.springframework< /groupId >
         < artifactId >spring-messaging< /artifactId >
     < /dependency >
< /dependencies >
  1. 定義 EnablePulsar,之前說到過,@Enable 注解主要是配合 AutoConfigure 來做功能加強,沒有了自動配置,我們依然可以使用這些模塊的功能。這里做了一件事,向 Spring 容器注冊了兩個 Bean
  • PulsarListenerAnnotationBeanProcessor 在 Spring Bean 生命周期中解析注解自定義注解 PulsarListener、PulsarHandler,
  • PulsarListenerEndpointRegistry 用來構建 Consumer 執行環境以及對 TOPIC 的監聽、觸發消費回調等等,可以說是最核心的 Bean
@Target({ElementType.TYPE})
@Retention(RetentionPolicy.RUNTIME)
@Import({PulsarListenerConfigurationSelector.class})
public @interface EnablePulsar {

}
  1. 定義注解,參考 RabbitMq,主要針對需要關注的類與方法,分別對應注解@PulsarListener、@PulsarHandler,通過這兩個注解配合可以讓我們監聽到關注的 TOPIC, 當有消息產生時,觸發對應的方法進行消費。
@Target({ElementType.TYPE})
@Retention(RetentionPolicy.RUNTIME)
public @interface PulsarListener {

    /**
     *
     * @return TOPIC 支持SPEL
     */
    String[] topics() default {};

    /**
     *
     * @return TAGS 支持SPEL
     */
    String[] tags() default {};
}

@Target({ElementType.METHOD})
@Retention(RetentionPolicy.RUNTIME)
public @interface PulsarHandler {

}
  1. 注解@PulsarListener 的處理流程比較復雜,這里用一張圖描述,或者可以通過下面 github 的源代碼查看具體實現

圖片

flow

  • spring-pulsar-sample

按照下面的流程,你會發現通過簡單的幾行代碼就能夠實現消息的生產與消費,并集成到項目中去。

  1. 簡單寫一個 SpringBoot 項目,并添加 pulsar-spring-boot-starter
< dependencies >
    < dependency >
        < groupId >com.sucl< /groupId >
        < artifactId >pulsar-spring-boot-starter< /artifactId >
        < version >${project.version}< /version >
    < /dependency >

    < dependency >
        < groupId >org.springframework.boot< /groupId >
        < artifactId >spring-boot-starter-web< /artifactId >
    < /dependency >
< /dependencies >
  1. 添加配置
cycads:
  pulsar:
    service-url: pulsar://localhost:6650
  listener-topics: TOPIC_TEST
  1. 編寫對應消費代碼
@Slf4j
@Component
@PulsarListener(topics = "#{'${cycads.listener-topics}'.split(',')}")
public class PulsarDemoListener {

    @PulsarHandler
    public void onConsumer(Message message){
        log.info(" >> > 接收到消息:{}", message.getPayload());
    }

}
  1. 向 Pulsar Broker 發送消息進行測試
@Slf4j
@RunWith(SpringRunner.class)
@ContextConfiguration(classes = {ContextConfig.class})
@Import({PulsarAutoConfiguration.class})
public class ProducerTests {

    @Autowired
    private ProducerFactory producerFactory;

    @Test
    public void sendMessage() {
        Producer producer = producerFactory.createProducer("TOPIC_TEST");
        MessageId messageId = producer.send("this is a test message");
        log.info(" >> >> >> > 消息發送完成:{}", messageId);
    }

    @Configuration
    @PropertySource(value = "classpath:application-test.properties")
    static class ContextConfig {
        //
    }
}
  1. 控制臺可以看到這樣的結果
2023-02-26 19:57:15.572  INFO 26520 --- [pulsar-01] c.s.p.s.listener.PulsarDemoListener : > >> 接收到消息:GenericMessage [payload=this is a test message, headers={id=f861488c-2afb-b2e7-21a1-f15e9759eec5, timestamp=1677412635571}]

知識點

  • Pulsar Client

基于 pulsar-client 提供的 ConfigurationData 擴展 Properties;了解 Pulsar Client 如何連接 Broker 并進行消息消費,包括同步消費、異步消費等等

  • spring.factories

實現 starter 自動配置的關鍵,基于 SPI 完成配置的自動加載

  • Spring Bean 生命周期

通過 Bean 生命周期相關擴展實現注解的解析與容器的啟動,比如 BeanPostProcessor, BeanFactoryAware, SmartInitializingSingleton, InitializingBean, DisposableBean 等

  • Spring Messaging

基于回調與 MethodHandler 實現消息體的封裝、參數解析以及方法調用;

源碼示例

https://github.com/sucls/pulsar-starter.git

結束語

如果你看過 spring-kafka 的源代碼,那么你會發現所有代碼基本都是仿造其實現。一方面能夠閱讀 kafka client 在 spring 具體如何實現;同時通過編寫自己的 spring starter 模塊,學習 整個 starter 的實現過程。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 模塊
    +關注

    關注

    7

    文章

    2674

    瀏覽量

    47350
  • 模板
    +關注

    關注

    0

    文章

    108

    瀏覽量

    20554
  • 代碼
    +關注

    關注

    30

    文章

    4753

    瀏覽量

    68368
  • spring
    +關注

    關注

    0

    文章

    338

    瀏覽量

    14312
  • kafka
    +關注

    關注

    0

    文章

    50

    瀏覽量

    5211
收藏 人收藏

    評論

    相關推薦

    Spring Boot如何實現異步任務

    Spring Boot 提供了多種方式來實現異步任務,這里介紹三種主要實現方式。 1、基于注解 @Async @Async 注解是 Spring 提供的一種輕量級異步方法
    的頭像 發表于 09-30 10:32 ?1407次閱讀

    Spring Boot Starter需要些什么

    前面我們簡單介紹了如何使用消息中間件 Apache Pulsar ,但是項目中那樣使用,顯然是不太好的,不管從易用性和擴展性來看,都是遠遠不夠, 為了和springboot項目集成,寫一個
    的頭像 發表于 09-25 11:35 ?735次閱讀
    <b class='flag-5'>Spring</b> Boot Starter需要些什么

    Spring狀態機的實現原理和使用方法

    說起 Spring 狀態機,大家很容易聯想到這個狀態機和設計模式中狀態模式的區別是啥呢?沒錯,Spring 狀態機就是狀態模式的一種實現介紹 S
    的頭像 發表于 12-26 09:39 ?1879次閱讀
    <b class='flag-5'>Spring</b>狀態機的<b class='flag-5'>實現</b>原理和使用方法

    java spring教程

    java spring教程理解Spring 實現原理掌握Spring IOC,AOP掌握Spring的基礎配置和用法熟練使用SSH開發項目
    發表于 09-11 11:09

    什么是java spring

    或多個模塊聯合實現簡單來說,Spring是一個輕量級的控制反轉(IoC)和面向切面(AOP)的容器框架。■ 輕量——從大小與開銷兩方面而言Spring都是輕量的。完整的Spring框架
    發表于 09-11 11:16

    Spring筆記分享

    Spring實現了使用簡單的組件配置組合成一個復雜的應用。 Spring 中可以使用XML和Java注解組合這些對象。6) 一站式:I
    發表于 11-04 07:51

    Kafka集群環境的搭建

    1、環境版本版本:kafka2.11,zookeeper3.4注意:這里zookeeper3.4也是基于集群模式部署。2、解壓重命名tar -zxvf
    發表于 01-05 17:55

    Spring認證」什么是Spring GraphQL?

    這個項目建立 Boot 2.x 上,但它應該與最新的 Boot2.4.x5 相關。 要創建項目,請轉到start.spring.io并為要使用的GraphQL傳輸選擇啟動器: 啟動機 運輸 執行
    的頭像 發表于 08-10 14:08 ?797次閱讀
    「<b class='flag-5'>Spring</b>認證」什么是<b class='flag-5'>Spring</b> GraphQL?

    Kafka的概念及Kafka的宕機

    很好奇Kafka的高可用實現和保障。從 Kafka 部署后,系統內部使用的 Kafka 一直運行穩定,沒有出現不可用的情況。 但最近系統測試人員常反饋偶有
    的頭像 發表于 08-27 11:21 ?2061次閱讀
    <b class='flag-5'>Kafka</b>的概念及<b class='flag-5'>Kafka</b>的宕機

    Spring Boot實現各種參數校驗

    之前也寫過一篇關于Spring Validation使用的文章,不過自我感覺還是浮于表面,本次打算徹底搞懂Spring Validation。本文會詳細介紹Spring Validation各種場景下的最佳實踐及其
    的頭像 發表于 08-14 15:54 ?934次閱讀

    Kafka 的簡介

    ,即使對TB級以上數據也能保證常數時間的訪問性能 高吞吐率。即使非常廉價的機器上也能做到單機支持每秒100K條消息的傳輸 支持Kafka Server間的消息分區,及分布式消費,同時保證每個
    的頭像 發表于 07-03 11:10 ?590次閱讀
    <b class='flag-5'>Kafka</b> 的簡介

    物通博聯5G-kafka工業網關實現kafka協議對接到云平臺

    Kafka協議是一種基于TCP層的網絡協議,用于分布式消息傳遞系統Apache Kafka中發送和接收消息。Kafka協議定義了客戶端和服務器之間的通信方式和數據格式,允許客戶端發送
    的頭像 發表于 07-11 10:44 ?485次閱讀

    Spring Kafka的各種用法

    Kafka 是不支持消息重試的。但是 Spring Kafka 2.7+ 封裝了 Retry Topic 這個功能。 1. @RetryableTopic 使用注解的方式啟用 Retry Topic,
    的頭像 發表于 09-25 17:04 ?949次閱讀

    Kafka架構技術:Kafka的架構和客戶端API設計

    Kafka 給自己的定位是事件流平臺(event stream platform)。因此消息隊列中經常使用的 "消息"一詞, Kafka 中被稱為 "事件"。
    的頭像 發表于 10-10 15:41 ?2310次閱讀
    <b class='flag-5'>Kafka</b>架構技術:<b class='flag-5'>Kafka</b>的架構和客戶端API設計

    如何將Kafka使用到我們的后端設計中

    本文介紹了以下內容: 1.什么是Kafka? 2.為什么我們需要使用Kafka這樣的消息系統及使用它的好處 3.如何將Kafka使用到我們的后端設計中。 譯自timber.io
    的頭像 發表于 10-30 14:30 ?501次閱讀
    如何將<b class='flag-5'>Kafka</b>使用到我們的后端設計中