微服务撸一个简约而不简单的配置中心
nanshan 2025-05-22 12:23 4 浏览 0 评论
毫不犹豫的说,现代高速发展的互联网造就了一批又一批的网络红人,这一批批网红又极大的催生了特定平台的一大波流量,但是留给了程序员却是一地鸡毛,无论是运维还是开发,每天都会担心服务器崩溃,程序down机。还是怀念以前那些单机结构呀,甚至有点嫉妒那些做内网几乎没有访问量的应用的程序员,不用加班,不用提心吊胆,更不用每年买霸王洗发露。
提到单机架构,在互联网应用中肯定是吃不开的,流量高峰冲击的你可以怀疑人生。单机升级集群,带来的不止是技术上的挑战,在顶住流量高峰,迎合业务的同时,也引入了配置的复杂性。这也是我今天要谈的主题:配置管理。在单机时代,无论是什么语言,java也好,c#也罢,一个配置文件足以。随着所谓微服务这个看似能解决一切问题的方案诞生,同时也引入了更加复杂的配置问题:服务的信息,服务的各种参数,配置更新问题等。可想而知,假如你的服务有100台服务器,修改一个配置项,利用单体架构逐个更新的方式是一个多么蛋疼的事情,传统的配置文件方式已经无法满足开发人员对于配置管理的要求:
- 安全性。配置信息如果随代码一起发布,容易造成配置泄露。
- 实时性。修改配置,传统的单机架构必须重启服务才能生效。
- 局限性。无法支持动态调整,像最普通的日志开关功能,也不能做到。
- 环境区分。传统的配置文件方式,很难区分生产,开发,测试环境。
- 配置修改记录问题。静态配置文件方式,很难追踪这个配置文件的修改记录。
针对以上问题,有的公司采用数据库记录配置来解决问题,不是说不可以,只不过数据库并不能解决根本性问题,举个很简单的例子:有最新的记录修改,客户端怎么能实时得到通知呢?虽然可以利用其他方案来解决,但是基于数据库方式并非是最优的。
配置中心无论是采用数据库方式也好,还是采用其他方式也罢,最本质的出发点还是要看业务具体需求和相应的可以投入的人力物力。不是说像携程的apollo不好,而是说这样一套庞大的配置系统是否适用于你的公司,是否适用于你的业务。在很多情况下,公司的业务发展在一定阶段讲究的是短平快,没有必要也没有时间去投入精力去深研究一套庞大的系统,在业务慢慢发展起来之后可以慢慢迭代,这才是系统架构升级的过程,那些业务之初就要建立淘宝级架构的,最终会落得人人疲惫。
说了这么多,我就是想撸一套简约的,可落地的配置中心,要保证配置中心能正常工作,有几点是在设计之初要考虑的:
需要一个可靠的,强一致性的存储来支撑
在经过了多次技术调研之后,我最终选择了ETCD,并非因为我喜欢最求热点,而是ETCD在应对场景,功能上恰好对应我的需求,
etcd是CoreOS团队于2013年6月发起的开源项目,它的目标是构建一个高可用的分布式键值(key-value)数据库。etcd内部采用raft协议作为一致性算法,etcd基于Go语言实现。
- 简单:安装配置简单,而且提供了HTTP API进行交互,使用也很简单
- 安全:支持SSL证书验证
- 快速:根据官方提供的benchmark数据,单实例支持每秒2k+读操作
- 可靠:采用raft算法,实现分布式系统数据的可用性和一致性
- Watch机制:ETCD支持针对某个Key或者某组Key的Watch机制,一旦有数据发生变化,会实时通知Client。
需要支持多环境的配置
虽然很多存储的显示参数都没有环境这样的参数,但是都提供了类似目录存储这样的功能,就像windows的文件目录一样,这就为我们自定义功能提供了很强的应变能力,例如,我们存储A应用开发环境可以是这样的: /A/DEV/ ,这个目录就代表了A应用的开发环境配置。
配置项发生变化,需要实时通知客户端
基于第一点选择的ETCD天生就支持Watch机制,所以配置项发生变化实时通知客户端这点是很好做到的,就算了通知失败,我们也可以自定义时间来延迟更新配置。稍后请看以下代码。
使用要简单
对于使用者来说,配置中心提供的业务接口最终只有:获取某个key的配置,这里的key可以是应用+环境等参数的合集。为了辅助跟踪,可以暴露出程序异常时候的处理事件,就像以下程序:
/// <summary>
/// 配置中心客户端,应用,子应用,环境、版本、灰度、
/// </summary>
public interface IConfigCenterClient
{
/// <summary>
/// 配置信息发生变化时候的事件,参数:key/new value /动作(put /delete), 是etcd /consul watch的事件。每个key 的value发生变化都会触发,每个key会触发一条
/// </summary>
event Action<string, string, string> ConfigValueChangedEvent;
/// <summary>
/// 发生异常时候的事件
/// </summary>
event Action<Exception> ErrorOccurredEvent;
/// <summary>
/// 获取相应的配置
/// </summary>
/// <param name="configKey">配置的名称</param>
/// <param name="version">版本号</param>
/// <returns></returns>
string GetConfig(string configKey);
}
抽象出这个操作接口之后,至于具体怎么样实现,可以是基于ETCD,可以是基于Consul,甚至可以基于DB,可见面向接口编程是多么的正确。
在网络故障等情况下需要能继续工作
在互联网应用中,始终存在一个真理:网络是不可靠的。配置中心作为公司的一个核心系统来说,要尽可能的保证能提供服务。但是,也要做好了预防措施,以防在配置中心短暂不可用的期间,不影响适用方。对于使用client端来说,既然服务端保证不了高可用,那就需要在本地动手脚:可以把获取到的配置信息在本地做存储,信息并随着watch机制做持久化。这样在配置中心网络不可用的情况下,尽量保证客户端程序可用。至于本地存储的方式,无所谓了,就算了文本文件,还是sqllite都可以。
性能要高
配置中心最显著的一个业务特点是变化不频繁,但是客户端使用频繁。所以我们可以把配置信息加载在内存中,内存中的数据随着watch机制改变而改变,这样就做到了内存数据和服务端数据高度一致。
以上啰嗦了那么多,相信你们也看累了,空谈理论谁都会,落地代码才是真理。
客户端配置中心接口
/// <summary>
/// 配置中心客户端,应用,子应用,环境、版本、灰度、
/// </summary>
public interface IConfigCenterClient
{
/// <summary>
/// 配置信息发生变化时候的事件,参数:key/new value /动作(put /delete), 是etcd /consul watch的事件。每个key 的value发生变化都会触发,每个key会触发一条
/// </summary>
event Action<string, string, string> ConfigValueChangedEvent;
/// <summary>
/// 发生异常时候的事件
/// </summary>
event Action<Exception> ErrorOccurredEvent;
/// <summary>
/// 获取相应的配置
/// </summary>
/// <param name="configKey">配置的名称</param>
/// <param name="version">版本号</param>
/// <returns></returns>
string GetConfig(string configKey);
}
/// <summary>
/// 环境的定义
/// </summary>
public enum EnvEnum
{
/// <summary>
/// 本地环境
/// </summary>
Local=1,
/// <summary>
/// 开发环境
/// </summary>
DEV,
/// <summary>
/// 仿真环境
/// </summary>
UAT,
/// <summary>
/// 生产环境
/// </summary>
PRO
}
public class ConfigCenterETCDProvider : ConfigCenterBaseProvider, IConfigCenterClient
{
//配置发生改变的通知事件
public event Action<string, string, string> ConfigValueChangedEvent;
//有异常发生的时候的事件
public override event Action<Exception> ErrorOccurredEvent;
//etcd的配置
private ConfigCenterETCDOption option { get; set; }
private EtcdClient client = null;
internal ConfigCenterETCDProvider(ConfigCenterBaseOption _option) : base(_option)
{
if (_option == null)
{
throw new Exception("config is null!");
}
option = _option as ConfigCenterETCDOption;
if (option == null)
{
throw new Exception("option type is wrong!");
}
if (string.IsNullOrWhiteSpace(option.ConnectionString))
{
//默认地址
option.ConnectionString = "http://127.0.0.1";
}
client = new EtcdClient(option.ConnectionString, option.Port, option.Username, option.Password, option.CaCert, option.ClientCert, option.ClientKey, option.PublicRootCa);
client.WatchRange(WatchPath, ETCDWatchEvent, exceptionHandler: e =>
{
ErrorOccurredEvent?.Invoke(e);
Thread.Sleep(1000);
});
//读取本地文件只初始化读取一次
InitConfigMapFromLocal();
}
#region 实现的接口方法
//设置某个配置的值
public bool SetConfig(string configKey, string configValue)
{
string key = FillConfigKey(configKey);
try
{
var putRet = client.Put(key, configValue);
}
catch (Exception e)
{
ErrorOccurredEvent?.Invoke(e);
return false;
}
return true;
}
//删除某个配置的值
public bool DeleteConfig(string configKey)
{
string key = FillConfigKey(configKey);
try
{
client.Delete(key);
}
catch (Exception e)
{
ErrorOccurredEvent?.Invoke(e);
return false;
}
return true;
}
#endregion
#region 基类 方法
//etcd 组织key
protected override string FillConfigKey(string configKey)
{
return #34;{WatchPath}/{configKey}";
}
//etcd 获取远程key
protected override (bool isSuccess, string value) GetValueFromServer(string configKey)
{
try
{
var value = client.GetVal(configKey);
return (true, value);
}
catch (Exception e)
{
ErrorOccurredEvent?.Invoke(e);
return (false, null);
}
}
#endregion
#region 私有方法
//监控value 变化的事件
private void ETCDWatchEvent(WatchEvent[] response)
{
lock (ConfigCenterBaseProvider.ObjLock)
{
foreach (WatchEvent e in response)
{
if (e.Type == Mvccpb.Event.Types.EventType.Delete)
{
if (ConfigMap.ContainsKey(e.Key))
{
ConfigMap.Remove(e.Key);
}
}
else
{
ConfigMap[e.Key] = e.Value;
}
Console.WriteLine(JsonConvert.SerializeObject(ConfigMap));
if (ConfigValueChangedEvent != null)
{
ConfigValueChangedEvent.Invoke(e.Key, e.Value, e.Type.ToString());
}
}
if (response != null && response.Any())
{
//把最新的值写会本地文件
FlushLocalFileFromMap();
}
}
}
#endregion
}
鉴于代码有点多,这里不再贴出,有兴趣的小伙伴,可以添加菜菜微信或者公众号"架构师修行之路"回复“配置中心”,基于ETCD完整的简约版配置中心全部代码奉上,最后来看张测试的图
相关推荐
- 虚拟机“播放器”:VMware Player 12.0.1下载
-
IT之家讯免费虚拟机软件VMwareWorkstationPlayer更新至12.0.1,本次更新为维护性更新,同今天更新的WorkstationPro版本一样,解决了某些情况下Skylake...
- ZLG嵌入式笔记 | 移动硬盘和虚拟机的那些事儿
-
在Linux开发中,编译内核是一项常见任务,但不少开发者在移动硬盘或虚拟机环境下尝试时会遭遇失败。本文将简要探讨这些问题的成因,并介绍一些虚拟机使用技巧,帮助大家更好地应对相关问题。在移动硬盘里编译...
- IT 技术小课堂「虚拟机」
-
你知道什么是虚拟机吗?虚拟机就是可以用一台电脑变成多台电脑的计算机魔法。推荐上手最快的虚拟机软件VMwareWorkstation。如果你的物理机是Win10以下的可以安装VMwareWo...
- 最简单的虚拟机安装黑苹果
-
给所有还没体验过Macos的人们。本文会以最简单的方式介绍虚拟机安装黑苹果的教程,准备四个工具,一次性安装黑苹果,中间基本不会有出现任何问题。一、准备工具,先把以下工具都准备好,网上搜索即可。1、...
- VMware虚拟机与物理机文件交互,这8种方法送给你
-
上一期我们讲解过用VMWare虚拟机打造一个金刚不坏之身的操作系统,小伙伴们反应说方法不错,只是虚拟机与物理机文件交互方式不好操作,这期应小伙伴们的要求,给大家讲解下虚拟机与物理机文件交互的8种方式,...
- VMware虚拟机:第二节安装VMware并创建Win10虚拟机
-
VMware虚拟机:第二节安装VMware并创建Windows10虚拟机本节我们介绍如何安装VMwareWorkStationPro17.6.2,以及利用VMware创建Windows10虚拟机。...
- vSphere环境虚拟机安装VMware Tools(Windows操作系统)
-
本文描述Windows操作系统的VMwareTools安装。Windows操作系统的VMwareTools安装操作步骤Windows操作系统安装完成后,VMwarevSphere控制台会提示“该...
- windows7虚拟机VMware tools报错——一招解决
-
前言最近,把VMwareworkstation更新到版本17后,在一次安装windows7虚拟机的时候,发现VMwaretools各种安装报错,安装无法正常进行,这可愁坏了我,让我把自己本来不多的...
- 博通紧急修复VMware Tools高危认证绕过漏洞
-
IT之家3月26日消息,博通昨日(3月25日)发布安全公告,修复VMwareToolsforWindows中存在的高危认证绕过漏洞(CVE-2025-22230)。该漏洞由俄罗...
- linux中如何安装VMwaretools--一定要保存
-
安装好VMware后,有时候我想把真机的文件放到虚拟机了,除了使用远程工具外,也会用到VMwaretools,今天给大家说说如何安装VMwaretools。其实在网上也可以搜到,只是网上的东西太乱了。...
- 精品博文解决安装Ubuntu14.04不弹出图像界面的问题
-
今天遇到一个糗事,不写出来不足以解恨。暑期开始了,给一个辅导班做嵌入式系统的讲座。问题就出在讲完以后系统的安装这个环境。班里面好些同学安装好以后进入不了图像界面,举手问我啊,oh,mygod!就到了这...
- 虚拟机VMware Workstation 17教程,从入门到精通No.3-vmwaretools
-
安装VMwareTools是创建新的虚拟机过程的一部分,而升级VMwareTools是使虚拟机更易于使用的关键。尽管客户机操作系统在未安装VMwareTools的情况下仍可运行,但许...
- 国产操作系统虚拟机安装vm-tools
-
使用vmwareworkstation安装国产化操作系统虚拟机后,不会像windows一样自动安装vmtools工具,按vmware默认的由虚拟机菜单中安装的方法步骤比较复杂,且最终结果不理想,经实...
- VmwareTools的安装 这个功能很强大 #计算机
-
vmwareTools的安装。现在装完之后,这么点看起来也别扭,怎么办?装工具:vmwaretools。·在这个地方选择虚拟机,虚拟机这里边有安装vmwaretools,安装这个工具点击一下。·下边这...
- VMware Tools安装失败?手把手教你本地安装
-
VMwareTools安装失败?作为虚拟机与物理机之间的"桥梁",VMwareTools能实现文件拖拽、剪贴板共享、分辨率自适应等关键功能。没有它,VMware虚拟机就变得非常不好...
你 发表评论:
欢迎- 一周热门
-
-
爱折腾的特斯拉车主必看!手把手教你TESLAMATE的备份和恢复
-
如何在安装前及安装后修改黑群晖的Mac地址和Sn系列号
-
[常用工具] OpenCV_contrib库在windows下编译使用指南
-
WindowsServer2022|配置NTP服务器的命令
-
Ubuntu系统Daphne + Nginx + supervisor部署Django项目
-
WIN11 安装配置 linux 子系统 Ubuntu 图形界面 桌面系统
-
解决Linux终端中“-bash: nano: command not found”问题
-
NBA 2K25虚拟内存不足/爆内存/内存占用100% 一文速解
-
Linux 中的文件描述符是什么?(linux 打开文件表 文件描述符)
-
K3s禁用Service Load Balancer,解决获取浏览器IP不正确问题
-
- 最近发表
- 标签列表
-
- linux 查询端口号 (58)
- docker映射容器目录到宿主机 (66)
- 杀端口 (60)
- yum更换阿里源 (62)
- internet explorer 增强的安全配置已启用 (65)
- linux自动挂载 (56)
- 禁用selinux (55)
- sysv-rc-conf (69)
- ubuntu防火墙状态查看 (64)
- windows server 2022激活密钥 (56)
- 无法与服务器建立安全连接是什么意思 (74)
- 443/80端口被占用怎么解决 (56)
- ping无法访问目标主机怎么解决 (58)
- fdatasync (59)
- 405 not allowed (56)
- 免备案虚拟主机zxhost (55)
- linux根据pid查看进程 (60)
- dhcp工具 (62)
- mysql 1045 (57)
- 宝塔远程工具 (56)
- ssh服务器拒绝了密码 请再试一次 (56)
- ubuntu卸载docker (56)
- linux查看nginx状态 (63)
- tomcat 乱码 (76)
- 2008r2激活序列号 (65)