soul网关学习13-配置数据同步2-Nacos_2

通过上篇,我们把基本的环境搭建好,可以着手去源码层面去看看nacos的数据同步实现。

soul-admin

  1. 找到数据同步配置的入口DataSyncConfiguration,我们可以看到关于Nacos配置监听的初始化类NacosListener
  2. 当然下图会更直观


    DatasSyncConfiguration
  3. 我们再看下NacosListener该类的实现
    NacosListener
  4. 分为两块:数据变更监听NacosDataChangedListener和数据初始化的处理NacosDataInit

数据初始化的处理-NacosDataInit

  1. 先看数据初始化的处理NacosDataInit。该类实现了springCommandLineRunner,也就是这个bean是属于spring应用的一部分,程序启动时会自动执行该beanrun方法,我们看下run方法逻辑
    public void run(final String... args) {
        // 存在三部分的data,plugin & auth & meta
        String pluginDataId = NacosPathConstants.PLUGIN_DATA_ID;
        String authDataId = NacosPathConstants.AUTH_DATA_ID;
        String metaDataId = NacosPathConstants.META_DATA_ID;
        // 只有当admin的配置数据没有在nacos上存在时,才同步所有数据
        if (dataIdNotExist(pluginDataId) && dataIdNotExist(authDataId) && dataIdNotExist(metaDataId)) {
            syncDataService.syncAll(DataEventTypeEnum.REFRESH);
        }
    }
  1. 我们知道,整个soul-admin中的配置变更,都是通过spring的应用事件机制实现。初始化中调用syncDataService.syncAll则会从soul-admin数据库中取出所有的配置数据(plugin & selector & rule & auth),并发布DataChangedEvent的数据变更事件。
    public boolean syncAll(final DataEventTypeEnum type) {
        appAuthService.syncData();
        List<PluginData> pluginDataList = pluginService.listAll();
        eventPublisher.publishEvent(new DataChangedEvent(ConfigGroupEnum.PLUGIN, type, pluginDataList));
        List<SelectorData> selectorDataList = selectorService.listAll();
        eventPublisher.publishEvent(new DataChangedEvent(ConfigGroupEnum.SELECTOR, type, selectorDataList));
        List<RuleData> ruleDataList = ruleService.listAll();
        eventPublisher.publishEvent(new DataChangedEvent(ConfigGroupEnum.RULE, type, ruleDataList));
        metaDataService.syncData();
        return true;
    }
  1. 在前面文章分析,我们可以知道,对于配置数据变更是由DataChangedEventDispatcher来接收事件的处理,其主要逻辑就是遍历DataChangedListener的bean,然后根据配置的不同类型去调用listener中不同的方法
  2. 当我们采用nacos的同步时,则会调用NacosDataChangedListener的相关方法

数据变更监听-NacosDataChangedListener

  1. 我们只分析插件数据的变更处理onPluginChanged,其余类型的变更处理类似
    public void onPluginChanged(final List<PluginData> changed, final DataEventTypeEnum eventType) {
        // 1. 更新加载到内存的数据
        // 更新策略:将原有内存中的数据清掉,然后将nacos拉回来的数据重新载入到内存
        updatePluginMap(getConfig(NacosPathConstants.PLUGIN_DATA_ID));
        // 2. 处理此次变更的数据
        switch (eventType) {
            case DELETE:
                changed.forEach(plugin -> PLUGIN_MAP.remove(plugin.getName()));
                break;
            case REFRESH:
            case MYSELF:
                Set<String> set = new HashSet<>(PLUGIN_MAP.keySet());
                // 替换掉内存中的数据,以数据库全量的内容为准
                // 也就是说,每次的REFRESH或者MYSELF变更,传过来的数据都是当前数据库的全量数据
                changed.forEach(plugin -> {
                    set.remove(plugin.getName());
                    PLUGIN_MAP.put(plugin.getName(), plugin);
                });
                PLUGIN_MAP.keySet().removeAll(set);
                break;
            default:
                changed.forEach(plugin -> PLUGIN_MAP.put(plugin.getName(), plugin));
                break;
        }
        // 3. 再发布处理完之后的配置给到nacos
        publishConfig(NacosPathConstants.PLUGIN_DATA_ID, PLUGIN_MAP);
    }

总结

soul-admin端配置数据同步采用nacos,其大致处理流程如下:

  1. soul-admin端的数据同步分为两块:数据变更监听 NacosDataChangedListener和数据初始化的处理NacosDataInit
  2. soul-admin启动时就会将所有配置数据从数据库加载出来,发布数据变更事件;如果是有多个节点,则都是同样的操作,也就是每个启动启动时,都会从数据库拉取到所有配置数据,同步到nacos
  3. 数据变更的监听器NacosDataChangedListener,会监听到数据变更的事件,根据不同的配置类型,调用不同的处理方法onXxxChanged进行处理
  4. 所有的配置数据都会先在内存放置一份,NacosDataChangedListenerXXX_MAP存放;
  5. 当有配置变更时,先从nacos中拉取一份配置下来,将现有内存XXX_MAP 中存放的数据清除,然后用nacos拉取的配置进行替换;
  6. 如果要delete或者add,则直接在nacos拉取的配置上进行对应操作;如果是refresh,则需要再将当前数据库中最新配置替换掉nacos拉取的配置
  7. 采用此策略同步配置时,soul-admin的各节点中的内存会存在不一致的情况。不过没有关系,因为每次同步之前都会从nacos取回数据再进行操作。

soul-bootstrap

接下来分析soul-bootstrap端。

  1. 先看下关键类图


    bootstrap-nacos-syn-data
  2. NacosSyncDataConfiguration配置中会初始化beanNacosSyncDataServicenacosConfigService
  3. nacos数据同步服务实例化过程中会执行启动逻辑,改逻辑会监听nacos上各个类型的数据配置
    public NacosSyncDataService(final ConfigService configService, final PluginDataSubscriber pluginDataSubscriber,
                                final List<MetaDataSubscriber> metaDataSubscribers, final List<AuthDataSubscriber> authDataSubscribers) {

        super(configService, pluginDataSubscriber, metaDataSubscribers, authDataSubscribers);
        start();
    }
    public void start() {
        // 监听逻辑
        watcherData(PLUGIN_DATA_ID, this::updatePluginMap);
        watcherData(SELECTOR_DATA_ID, this::updateSelectorMap);
        watcherData(RULE_DATA_ID, this::updateRuleMap);
        watcherData(META_DATA_ID, this::updateMetaDataMap);
        watcherData(AUTH_DATA_ID, this::updateAuthMap);
    }
  1. 看下这里的watchData逻辑
    protected void watcherData(final String dataId, OnChange oc) {
        // 创建nacos的监听器
        Listener listener = new Listener() {
            @Override
            public void receiveConfigInfo(final String configInfo) {
                // 监听的处理逻辑
                oc.change(configInfo);
            }

            @Override
            public Executor getExecutor() {
                return null;
            }
        };
        // 初始拉取一次配置,并处理配置
        oc.change(getConfigAndSignListener(dataId, listener));
        // 添加nacos的配置监听,computeIfAbsent线程安全
        LISTENERS.computeIfAbsent(dataId, key -> new ArrayList<>()).add(listener);
    }
  1. 从上得知,nacos配置监听的逻辑实际上就是调用updateXXXMap方法,我们以updatePluginMap为例
    protected void updatePluginMap(final String configInfo) {
        try {
            List<PluginData> pluginDataList = new ArrayList<>(GsonUtils.getInstance().toObjectMap(configInfo, PluginData.class).values());
            // 将从nacos获取到的插件配置,更新内存中的配置
            // 更新策略:先remove cache, 然后再put,一个个处理
            pluginDataList.forEach(pluginData -> Optional.ofNullable(pluginDataSubscriber).ifPresent(subscriber -> {
                // 先删数据
                subscriber.unSubscribe(pluginData);
                // 然后添加数据
                subscriber.onSubscribe(pluginData);
            }));
        } catch (JsonParseException e) {
            log.error("sync plugin data have error:", e);
        }
    }
  1. 该方法的基本逻辑是将从nacos获取到的配置,去更新soul-boostrap端内存中存储的配置
  2. 其更新的策略是先删除配置数据,然后将新的数据添加到内存
  3. 更新的调用逻辑如下:
    • 删除配置:PluginDataSubscriber.unSubscribe -> CommonPluginDataSubscriber.unSubscribe -> CommonPluginDataSubscriber.subscribeDataHandler -> BaseDataCache.getInstance().removePluginData -> PluginDataHandler.removePlugin
    • 添加配置:PluginDataSubscriber.onSubscribe -> CommonPluginDataSubscriber.onSubscribe -> CommonPluginDataSubscriber.subscribeDataHandler -> BaseDataCache.getInstance().cachePluginData -> PluginDataHandler.handlerPlugin
  4. 关于nacos如何实现的配置变更的监听这里就不展开了,对于应用端,只要完成NacosConfigService初始化以及添加监听逻辑就行了。

总结

在分析了soul-adminsoul-bootstrap基于nacos的配置数据同步实现后,感觉相比较HttpLongPolling的在代码实现层面要简单一些。主要的差别在于配置变更监听的实现:对于nacos的实现方式而言,因nacos本身就是一个配置服务中间件,其提供的nacos-client能在nacos-server端配置存在变更后,nacos-client端就能获取到变更的配置,通过client端添加自身配置变更监听的逻辑后,就能完成soul-bootstrap内存中配置数据的更新;而HttpLongPolling则需要自身完成配置变更监听机制,实现逻辑会更复杂些。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,456评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,370评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,337评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,583评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,596评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,572评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,936评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,595评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,850评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,601评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,685评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,371评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,951评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,934评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,167评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,636评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,411评论 2 342

推荐阅读更多精彩内容