distributeTemplate分布式配置,上下文的同步维护

移动开发 Android 分布式
我们实现分布式 也是按照 这样一步一步来的,首先是公用的资源对象,第一个必须的公用资源 对象是配置,这配置交给用户外部填写 手动配置 并能维持同步 更新 所以需要一个配置对象 维护在内存里面,需要事件驱动监听配置文件的变化情况

我们实现分布式 也是按照 这样一步一步来的,首先是公用的资源对象,***个必须的公用资源 对象是配置,这配置交给用户外部填写 手动配置 并能维持同步 更新 所以需要一个配置对象 维护在内存里面,需要事件驱动监听配置文件的变化情况

ok下面来 看看代码是怎么做的 ,首先 配置 有多重配置方式 ini conf prop xml 各种方式本质上 我们分布式就是要各台主机 自己所在的节点 都能知道我在网络上情况,或者所可以找到像zookeeper 只要知道或者找到了 才能进行以后的通讯同步

我们为了能够以后支持多重配置 ,所以先把配置定义为一个接口

  1. public interface IConfig { 
  2.     public static final String DEFAULTFILE="distribute.conf"
  3. /** 
  4.  *  
  5.  * 从文件读取配置初始化 
  6.  * @param file 
  7.  * 添加(修改)人:zhuyuping 
  8.  */ 
  9. public void readConfigFormFile(String file); 
  10. /** 
  11.  * 从用户提供的json字符串中初始化 
  12.  * @param json 
  13.  * 添加(修改)人:zhuyuping 
  14.  */ 
  15. public void readConfigFormString(String json); 
  16. /** 
  17.  * 获得系统内存中维护的内存表 
  18.  *  
  19.  * 添加(修改)人:zhuyuping 
  20.  */ 
  21. public Table<InetSocketAddress, String, Object> getConfig(); 
  22. /** 
  23.  * 摄入context上下文 
  24.  * @param context 
  25.  * 添加(修改)人:zhuyuping 
  26.  */ 
  27. public void setContext(Context context); 
  28. /** 
  29.  * 获得上下文context 
  30.  * @return 
  31.  * 添加(修改)人:zhuyuping 
  32.  */ 
  33. public Context getContext(); 
  34. public BiMap<String, InetSocketAddress> getAlias(); 

主要 是3个方法 ,一个是读配置文件到内存对象中,拧一个就是内存对象写到文件中,对于分布式还需要一个同步 

有时候 我们可能需要历史版本 能够容错还原 所以可能需要一个版本号 记录当前版本,然后保持有可能多个节点上配置文件更改后,发送请求时候能够保持顺序的更新,这后面我会处理 加入一个分布式先进先出的队列的,这里暂时未加 后面 加了会补上的,还有上下文context 对象,有人会说 你为什么需要上下文对象去保存变量啊,好多框架 都有上下文这个对象,也许是拦截器模式 也许是门面模式 等等其他模式,但是 这里我都不是,其实上下文只是为了本地节点的各个功能代码段之间的一个桥梁,有句话叫做 两情若是久长时 又岂在朝朝暮暮 我们有鹊桥,他就是上下文最重要的本质 就是维护本地节点上下文贯穿 如果上下文 里面保存着门面 那么他就有门面的功能 便于用户随时获取门面对象 进行操作,ok我们来看看 context是怎么定义的

  1. /** 
  2.  *  
  3.  *       
  4.  *      
  5.  * @author zhuyuping        
  6.  * @version 1.0      
  7.  * @created 2014-7-9  
  8.  * @function:上下文接口  他只是存储用户上面类所有过程中的变量不是config配置而且分布式中不会同步的只会在单点上有效 切记  、、后期如果想支持xml 配置或者其他配置 可以添加策略模式  
  9.  */ 
  10. public interface Context { 
  11.   
  12.     public final static String defaultConfig="distribute.conf";//默认配置名 
  13.       
  14.     public void putValue(String key,Object value); 
  15.       
  16.     public Object getValue(String key); 
  17.       
  18.     public void setCurrHost(String host,int port); 
  19.       
  20.     public InetSocketAddress getCurrHost(); 
  21.     /** 
  22.      * 获得默认配置文件 
  23.      * @return 
  24.      * 添加(修改)人:zhuyuping 
  25.      */ 
  26.     public String getDefaultFc(); 
  27. //  /** 
  28. //   * 设置默认属性文件的名称 
  29. //   * @param pfile 
  30. //   * 添加(修改)人:zhuyuping 
  31. //   */ 
  32. //  public void setDefaultFc(String pfile); 
  33. //  /** 
  34. //   * 注入template 门面 便于后面直接通过上下文来使用  如果要整合spring ApplicationContextAware 
  35. //   * @param distributedTemplate 
  36. //   * 添加(修改)人:zhuyuping 
  37. //   */ 
  38. //  public void setTemplate(DistributedOperations distributedTemplate); 
  39. //  
  40. //  public DistributedOperations getTemplate(); 
  41.       
  42.       

这里其实 就是一个map 保存属性key value 而常用的就取出作为一个方法了

这个context 因为后面我们给用户一个继承的 这样便于 用户实现自己的上下文 或交给其他框架上下文 以及整合所以我们实现了一个抽象的 默认实现

  1. /** 
  2.  *  
  3.  *       
  4.  *      
  5.  * @author zhuyuping        
  6.  * @version 1.0      
  7.  * @created 2014-7-9 下午5:58:37  
  8.  * @function:抽象的上下文 主要是 管理context的资源 还有就是提供用户自定义 整合spring使用该类 //这里后期需整合策略 实现 
  9.  */ 
  10. public abstract class AbstractContext implements Context{ 
  11.     //?也可以使用LocalThread 也可以 
  12.     private Map<String,Object> context=Maps.newConcurrentMap(); 
  13.       
  14.     private InetSocketAddress currHost;//当前主机 比如192.168.0.1 8888 
  15.       
  16.     private String dfConfig;//默认读取的配置文件 当用户 提供就修改 没有提供就默认  
  17.       
  18.       
  19.     public AbstractContext(String dfConfig) { 
  20.         super(); 
  21.           
  22.         this.dfConfig = dfConfig; 
  23.         //当前classes 下的文件 
  24.         //currentPort 
  25.         this.currHost=new InetSocketAddress(ConfigFactory.load(dfConfig).getString("client.currentHost"),ConfigFactory.load(dfConfig).getInt("client.currentPort")); 
  26.     } 
  27.   
  28.       
  29.       
  30.     @Override 
  31.     public InetSocketAddress getCurrHost() { 
  32.           
  33.         return currHost; 
  34.     } 
  35.   
  36.       
  37.   
  38.     @Override 
  39.     public void setCurrHost(String host,int port) { 
  40.           
  41.         this.currHost=new InetSocketAddress(host, port); 
  42.           
  43.     } 
  44.   
  45.   
  46.   
  47.     @Override 
  48.     public String getDefaultFc() { 
  49.           
  50.         return dfConfig!=null?dfConfig:defaultConfig; 
  51.     } 
  52.   
  53.   
  54.   
  55.     public AbstractContext() { 
  56.         super(); 
  57.         this.dfConfig=defaultConfig; 
  58.   
  59.         this.currHost=new InetSocketAddress(ConfigFactory.load(defaultConfig).getString("client.currentHost"),ConfigFactory.load(defaultConfig).getInt("client.currentPort")); 
  60.           
  61.     } 
  62.   
  63.   
  64.   
  65.     @Override 
  66.     public void putValue(String key, Object value) { 
  67.           
  68.         context.put(key, value); 
  69.           
  70.     } 
  71.   
  72.     @Override 
  73.     public Object getValue(String key) { 
  74.         return context.get(key); 
  75.     } 
  76.       
  77.       
  78.       

ok 很简单的 维护者

然后回到刚才的配置 ,首先 我们配置文件 需要从文件读取 到配置对象中 ,这是为了用户更改 或者初始化时候 吧配置文件初始化到配置内存对象中 然后这个内存对象将会在同步 配置文件 更改 网络通讯时候用到,在对于全局的所有节点的沦陷时候 单纯的context只维护本节点桥梁信息的 已经不够用了 因为他不会同步的,这就是为什么需要他的原因,我这里采用的配置文件时conf 也就是configLoad方式,后面我会逐步添加更多的支持方式 无非是xml 等读取问题,这并不重要 思想才是重要的

 

  1. /** 
  2.  *  
  3.  *       
  4.  *      
  5.  * @author zhuyuping        
  6.  * @version 1.0      
  7.  * @created 2014-7-9 下午4:07:00  如果后期需要支持xml 其他 只需要使用策略模式  
  8.  * @function:基类config 主要维持 配置基本信息 以及配置信息的同步 备份 同时内存中维持一张内存表table 
  9.  */ 
  10. public abstract class AbstractConfig implements IConfig{ 
  11.     /** 
  12.      * 当前的配置表 行 为主机别名 其中一定有一列为版本号 AotmicLong 以及配置的相关字段  值为相关的对象   
  13.      */ 
  14. protected Table<InetSocketAddress, String, Object> config=HashBasedTable.create();//table信息  table 信息 这里无需要用到 哪个ConcurrentHashMap<K, V> 因为这个只会加载读取 加载  
  15. //不会修改,因为这个table当用户真的更新config后 会同步并同时刷到更新到文件中的 ,而且每次用户提供查询的配置 
  16. //是不会更新到文件里面的  
  17. protected AtomicLong version=new AtomicLong(0);//初始化版本为0;//判断当前的版本 是佛在config 里面是否存在 
  18. protected BiMap<String,InetSocketAddress> alias=HashBiMap.create(); 
  19. protected Context context; 
  20.        
  21.     public BiMap<String, InetSocketAddress> getAlias() { 
  22. return alias; 
  23. /** 
  24.      * context 需要提供当前主机 以及  
  25.      * @param context 
  26.      */ 
  27. public AbstractConfig(Context context) { 
  28. super(); 
  29. this.context = context; 
  30. wrapConfig(ConfigFactory.load(context.getDefaultFc())); 
  31. @Override 
  32. public void setContext(Context context) { 
  33. this.context=context; 
  34. @Override 
  35. public Context getContext() { 
  36. return context; 
  37. @Override 
  38. public void readConfigFormFile(String file) { 
  39. Config config=TypeSafeConfigLoadUtils.loadFromFile(new File(file)); 
  40. wrapConfig(config); 
  41. @Override 
  42. public void readConfigFormString(String json) { 
  43. Config config=TypeSafeConfigLoadUtils.loadFromString(json); 
  44. wrapConfig(config); 
  45. /** 
  46.  * 对config进行初始化 table 
  47.  * @param config 
  48.  * 添加(修改)人:zhuyuping 
  49.  */ 
  50. protected abstract void wrapConfig(Config config); 
  51. /** 
  52.  * 把table 从内存中读取从新写入到配置文件中  
  53.  * @param config 
  54.  * 添加(修改)人:zhuyuping 
  55.  */ 
  56. protected abstract String wrapTable(Table<String, String, Object> config); 
  57. /** 
  58.  * 只保留最近的5个版本 可以回滚 更新***的 
  59.  *  
  60.  * 添加(修改)人:zhuyuping 
  61.  */ 
  62. public void updateVersion(Long version){ 
  63.    
  64. /** 
  65.  * 版本数更新 
  66.  *  更新完后 需要  
  67.  * 添加(修改)人:zhuyuping 
  68.  */ 
  69. public void addVersion(){ 
  70. Long v=version.getAndIncrement(); 
  71. //TODO 需要通知所有节点 我要修改版本了 如果同时有几个人也这样 那么接受该节点下次更新的版本号, 
  72.     //在回调函数中 更新配置 随后同步 只保留5个版本  
  73.     @Override 
  74. public Table<InetSocketAddress, String, Object> getConfig() { 
  75. return config; 
  76. /** 
  77.      *  
  78.      * 提交对文件配置做出的修改 
  79.      * 添加(修改)人:zhuyuping 
  80.      */ 
  81.     protected abstract void commit(); 
  82. /** 
  83.  *  
  84.  * 提交对配置的修改 如果一个人在一个节点上 更改了配置 需要核对版本 并从新更新本地的配置文件 
  85.  * 添加(修改)人:zhuyuping 
  86.  */ 
  87. protected abstract void sync(); 
  88.       

这里 我为了好维护 就直接使用guava的table ,其实你可以用List< map> 实现,这里 重要是获取所有主机列表的方法

然后就是配置文件读取后 写入context 对象 当然 上面说的读取配置到内存对象 ,内存对象写入到配置文件是基础

然后看看怎么写入的 我为了以后支持xml 所以这读取方式 写入方式 交给后面的子类实现类去实现 这样实现xml只要实现这2个方法即可

 

  1. /** 
  2.  *  
  3.  *       
  4.  *      
  5.  * @author zhuyuping        
  6.  * @version 1.0      
  7.  * @created 2014-7-9 下午10:38:05  
  8.  * @function:默认的配置  允许用户实现自定义的配置规则 只需要继承 AbstractConfig 
  9.  */ 
  10. public class SimpleDistributeConfig extends AbstractConfig{ 
  11.     public SimpleDistributeConfig(Context context) { 
  12.         super(context); 
  13.           
  14.     } 
  15.   
  16.     @Override 
  17.     protected void wrapConfig(Config configObj) { 
  18.         //得到所有的节点 
  19.         List<? extends ConfigObject> nodes=configObj.getObjectList("server.hosts"); 
  20.         int i=0
  21.         for (ConfigObject node : nodes) { 
  22.       
  23.            i++; 
  24.            //如果后期添加其他mysql 等支持 这里就需要添加判断 
  25.             
  26.            //Integer localport=node.containsKey("localPort")?Integer.parseInt(node.get("localPort").render()):LOCALPORT;//Integer.parseInt(node.get("localPort").render()); 
  27.            Integer remotePort=Integer.parseInt(node.get("remotePort").render()); 
  28.            String remoteIp=node.get("remoteHost").unwrapped().toString();//远程主机的ip 
  29.            //开始初始化配置table 
  30.            String name=node.containsKey("name")?node.get("name").unwrapped().toString():remoteIp;//主机别名 
  31.            InetSocketAddress remoteHost=new InetSocketAddress(remoteIp, remotePort); 
  32.            super.alias.put(name, remoteHost); 
  33.            super.config.put(remoteHost,"version"super.version.incrementAndGet()); 
  34.            super.config.put(remoteHost, "remoteHost", remoteHost); 
  35.            //super.config.put(remoteHost, "localPort", localport); 
  36.            super.config.put(remoteHost, "remotePort", remotePort); 
  37.            super.config.put(remoteHost, "name", name); 
  38.              
  39.            
  40.            if(node.containsKey("file")){ 
  41.                HashMap fcs=(HashMap) node.get("file").unwrapped(); 
  42.                String syncPath=fcs.get("syncPath").toString();//文件同步的路径 
  43.               // System.out.println("SimpleDistributeConfig.wrapConfig() "+syncPath); 
  44.                super.config.put(remoteHost, "file", syncPath);//以后配置多的时候 分装成一个bean存入 
  45.            } 
  46.              
  47.              
  48.         } 
  49.         String chost=configObj.getString("client.currentHost"); 
  50.         int port=configObj.getInt("client.currentPort"); 
  51.         super.context.setCurrHost(chost, port); 
  52.           
  53.         //config.root().containsKey(key) 
  54.         //config.getString(path); 
  55.     } 
  56.       
  57.       
  58.     @Override 
  59.     protected String wrapTable(Table<String, String, Object> table) { 
  60.         StringBuilder sb=new StringBuilder("server{"); 
  61.           
  62.         sb.append("\n\t").append("hosts=["); 
  63.         Set<String> rows=table.rowKeySet(); 
  64.         int size=rows.size(); 
  65.         int i=0
  66.         for (String row : rows) { 
  67.             i++; 
  68.             Map<String,Object> map=table.row(row); 
  69.             if(!map.containsKey("remoteHost")) continue
  70.             sb.append("\t {"); 
  71.             Object remoteHost=map.get("remoteHost");   
  72.             Object remotePort=map.get("remotePort"); 
  73.             //Object localPort=map.get("localPort"); 
  74.             Object name=map.get("name"); 
  75.             sb.append("name=").append(name).append("\n\t"); 
  76.             //sb.append("localPort=").append(localPort).append("\n\t"); 
  77.             sb.append("remoteHost=").append(remoteHost).append("\n\t"); 
  78.             sb.append("remotePort=").append(remotePort).append("\n\t"); 
  79.             if(map.containsKey("file")){ 
  80.                 sb.append("file{").append("\n\t").append("syncPath=").append(map.get("syncPath")).append("}"); 
  81.             } 
  82.              
  83.             sb.append("\t }"); 
  84.             if(i!=size){ 
  85.                 sb.append(","); 
  86.             } 
  87.         } 
  88.        sb.append("]").append("\n\t").append("}");    
  89.       //继续 保存client 
  90.         
  91.        sb.append("\n\t").append("client{").append("\n\t").append("currentHost=").append(context.getCurrHost().getHostString()).append("\n\t"); 
  92.        sb.append("\n\t").append("currentPort=").append(context.getCurrHost().getPort()).append("\n\t"); 
  93.        sb.append("}"); 
  94.          
  95.        return sb.toString(); 
  96.           
  97.     } 
  98.   
  99.     @Override 
  100.     protected void commit() { 
  101.           
  102.           
  103.     } 
  104.   
  105.     @Override 
  106.     protected void sync() { 
  107.           
  108.           
  109.     } 
  110.   
  111.     public static void main(String[] args) { 
  112.       
  113.           
  114.           
  115.     } 
  116.   

ok 基本的简单的 配置 以及 上下文 这些用来同步的 用来做桥梁的都已经做好了 下面就是怎么监听配置文件的更改,有人说怎么监听一个配置文件更改啊,其实 文件有个属性 ***更改的时间,只要监听这个就可以 初级版本没有加上更改,这个后面可以随时加上 而且为了以后好更改 只写了相关方式没有 加上

  1. import java.io.File; 
  2.   
  3. public interface FileListener { 
  4.     public void fileChanged(File file); 

然后用定时器 timeer 或者线程池定时线程去轮训他 ,

 

 

 

 

 

这里 注意弱应用 ,其实 对于这些时间 我建议用LinkTransferQueue 他是FIFO 先进先出的无阻晒的队列 然后队列 加上若引用,保证时间的一些顺序,

然后 通知了接口 在接口里面我们在做相应的更改配置 同步配置 的相关操作,这一章基本思想就是

 同步 资源 配置 上下文为桥梁 事件驱动为引擎 

还有支出的是 timer excutors.newSchulerXXXX  还有很多方式实现轮训的方式  这种方式 也可以实现心跳线 

同时 告诉大家的事 Apache、 camel| 里面的事件驱动文件部分 核心代码就是上面 这一小部分 

代码 没有贴完整 ,但是代码已经托管到  http://git.oschina.net/zhuyuping/distributeTemplate

 本文链接:http://my.oschina.net/yilian/blog/295667

责任编辑:chenqingxiang 来源: oschina
相关推荐

2017-05-11 14:00:02

Flask请求上下文应用上下文

2012-12-31 10:01:34

SELinuxSELinux安全

2022-09-14 13:13:51

JavaScript上下文

2023-07-11 10:02:23

2022-04-24 15:37:26

LinuxCPU

2022-09-15 08:01:14

继承基础设施基础服务

2022-10-28 16:24:33

Context上下文鸿蒙

2017-12-17 17:01:23

限界上下文系统模型

2024-03-14 08:11:45

模型RoPELlama

2012-07-18 11:39:18

ibmdw

2022-04-25 11:27:34

LinuxCPU

2022-09-26 23:36:33

Linux系统CPU

2011-03-28 13:39:45

nagios分布式

2021-07-26 07:47:36

Cpu上下文进程

2020-07-24 10:00:00

JavaScript执行上下文前端

2010-02-25 17:04:54

WCF实例上下文

2019-05-06 14:36:48

CPULinux寄存器

2012-07-30 16:29:40

架构架构模式.NET

2023-09-16 13:47:47

人工智能数据

2017-06-27 18:52:05

TensorFlow深度学习
点赞
收藏

51CTO技术栈公众号