• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    迪恩网络公众号

go-yea: GO-YEA是YEA的一个应用,它是一个极其容易使用的分布式框架,致力于提供产品 ...

原作者: [db:作者] 来自: 网络 收藏 邀请

开源软件名称:

go-yea

开源软件地址:

https://gitee.com/yiyongfei/go-yea

开源软件介绍:

go-yea

YEA

使用go-yea前,请先下载yea,并且执行yea/pom.xml

mvn clean install -Dmaven.test.skip=true

YEA传送门帮助传送门

概述

YEA是什么

GO-YEA是YEA的一个应用,它是一个极其容易使用的分布式框架,致力于提供产品的快速启动以及后续的服务伸缩。其核心部分包含:

  • RPC服务:基于Netty4框架、序列化、数据压缩、心跳检测、断链重连等机制提供稳定的RPC服务,完成服务之间的非阻塞通讯。
  • 负载均衡:基于Ribbon提供的负载均衡算法,通过不同的负载均衡策略可以合理分担系统负载、加强网络数据处理能力。
  • 熔断处理:基于Hystrix提供的熔断机制,为分布式系统提供延迟和容错功能,防止级联失败,在面临不可避免的失败时仍能有其弹性。
  • LOOKUP服务:基于Zookeeper提供的注册中心,使地址透明,方便服务生产者、消费者平滑增加或减少机器。
  • 认证授权:基于Shiro框架、Redis服务提供的权限管理,提供用户的认证服务和可配置的授权服务。
  • 代码生成:通过生成工具,生成基于Mybatis的Sql-Mapping文件及相应的Entity、PK、Domain类(均是贫血对象),降低开发人员的重复工作。
  • Spring配置:透明化接入,通过Spring自身的注解机制无需额外编写代码即可为服务提供分布式能力。

YEA能做什么

首先它是一个分布式服务框架,通过高性能的RPC远程调用以及SOA服务治理,提升产品在各个阶段不同的可伸缩要求。以达到最大程度降低由于伸缩性的改变对整个项目的变动影响。

系统伸缩性通常以三种方式完成:1、增加副本;2、功能分割;3、数据分割。YEA主要考虑前二种方式。

  • 以GO-YEA举例,最初以单机方式部署运行Alt 早期部署
    通过go-yea-launcher里配置的DefaultClient,以支持同JVM间Act相互调用    <bean id="launcherClient" class="com.yea.core.remote.client.DefaultClient" />    在go-yea-web里建立与go-yea-launcher的依赖关系,且将go-yea-launcher里的配置文件引入    <import resource="classpath:/application-launcher.xml" />
  • 将Web层与应用层进行物理分离,为往分布式服务方向发展建立基础Alt 发展期部署
    go-yea-launcher作为服务生产者对外提供服务。    <bean id="nettyServer" class="com.yea.remote.netty.server.NettyServer" />    go-yea-web作为服务消费者通过NettyClient远程调用服务生产者所提供的服务来完成业务操作(不依赖于go-yea-launcher)    <bean id="nettyClient" class="com.yea.remote.netty.client.NettyClient" />
  • 为了应对日益复杂的业务场景,通过使用分而治之的手段将整个业务拆分成不同的产品线,不同产品线的数据部署在不同的服务器上,同时实现一定意义上的数据分割Alt 后期部署
    基于产品线规划将go-yea-launcher拆分成go-yea-launcher-permission与go-yea-launcher-authorization,以二个不同的注册名向Zookeeper注册。    go-yea-web将建立二个Netty客户端分别与go-yea-launcher-permission与go-yea-launcher-authorization建立连接。

其次它是一个快速启动的应用开发平台,集成了项目中常用的基础组件。

  • 认证授权:基于Shiro实现的可配置授权管理系统,通过页面可定义整个系统的权限、角色、授权。
  • 缓存:按照Map接口对Redis和Ehcache封装,降低使用门槛,同时也减少未来缓存方案的迁移开销(本地缓存向分布式缓存的迁移)。
  • ORM:基于Mybatis完成数据库层面的增、删、改、查操作。
  • 代码生成:基于数据表生成Sql-Mapping文件及相应的Entity、PK、Domain类。
  • 序列化:提高统一的序列化接口,支持三种序列化方式:FST、Hessian2、原生。
  • 等等Alt 技术结构

附上性能测试数据。

测试环境:三台Vultr的云主机,各1 CPU(单核),1024MB 内存,一台部署go-yea-web(Tomcat),一台部署Launcher(启三个服务,每个服务占用堆内存128MB),一台部署Jmeter用于测试。测试软件:Jmeter。测试说明:调用api:permission/operation/query。执行路径Jmeter--(http)-->Go-yea-web--(netty)-->Launcher--(tcp)-->DB--(tcp)-->Launcher--(netty)-->Go-yea-web--(http)-->Jmeter测试结果(360并发):Alt 360并发详细数据:详细结果提升性能指标:可以考虑先适当增加CPU核数和内存容量,然后再横向扩充。纵向扩展对比:测试环境:二台Vultr的云主机,各2 CPU,4096MB 内存测试说明:调用api:permission/operation/query。执行路径Jmeter--(http)-->Go-yea-web--(netty)-->Launcher--(tcp)-->DB--(tcp)-->Launcher--(netty)-->Go-yea-web--(http)-->Jmeter测试结果(999并发):Alt 999并发详细数据:详细结果

访问GO-YEA(部署在bluemix上)

启动

单机模式

1、准备数据库

  • 建表:Postgresql,请执行go-yea/go-yea-launcher/src/main/sql/ddl_sql.sql;Mysql,请执行yea库里的yea/yea-shiro/src/sql/shiro_db.mwb(MysqlWorkbench打开)所生成的脚本。
  • 初始化数据:请执行go-yea/go-yea-launcher/src/main/sql/init_sql.sql

2、Maven打包

执行go-yea/pom.xml:

mvn clean package -Dmaven.test.skip=true -Pdevelop

3、部署Web服务

复制go-yea-web/target/go-yea-web.war到应用服务器部署目录内,启动服务器

4、登录访问

RPC模式

1、准备数据库

参见单机模式

2、安装zookeeper

3、Maven打包

执行go-yea/pom.xml:

mvn clean package -Dmaven.test.skip=true

4、启动APP服务

复制go-yea/go-yea-launcher/target/go-yea-launcher-0.0.1-release.tar.gz到执行目录

tar -xzvf go-yea-launcher-0.0.1-release.tar.gz;cd launcher;sh start.sh;

启动时会要求输入Netty服务端绑定端口,输入端口或直接回车

5、部署Web服务

复制go-yea-web/target/go-yea-web.war到应用服务器部署目录内,启动服务器

6、登录访问

注意

RPC模式下,启动Web服务时会调用APP服务初始化Shiro权限管理信息,启动顺序先APP后WEB。实际应用中可单独部署一台APP用于提供统一认证授权服务。

开发

APP服务

向外部系统提供APP服务接口,服务内部实现具体的业务场景。可参照go-yea的结构建立Maven项目结构:

  • 公共层Common
  • 模型层Model
  • 业务模块层,会有多个业务模块层
  • 启动器层

1、建立通用Dao类

@Repositorypublic class CommonDao<T> extends AbstractBaseDAO<T> {  省略}
  • 通用Dao请参看go-yea/go-yea-common里的com.team.goyea.common.dao.CommonDao
  • 若不使用通用Dao,则各业务所产生的Dao类请放置各个模块对应的Maven Module Project内
  • 使用通用Dao的好处:将来可以将与DB的交互单独封装成服务,由该服务统一处理数据存储

2、建立Model层

  • Model层将存放各模块所需要的模型类,它们将会被APP服务和WEB服务共同使用

3、建立模块对应的Maven Module Project

  • 模块允许单独部署成APP服务,便于未来拆分服务
  • 模块间调用分二种场景,非JVM内的将通过Netty-RPC完成,而JVM的调用将通过com.yea.core.remote.client.DefaultClient来完成
  • 模块请参看权限模块go-yea/go-yea-permission和授权模块go-yea/go-yea-authorization
  • 请注意:同JVM内模块间的调用务必使用DefaultClient来完成,未来若被调用方单独部署成服务,只需重新注入该服务的对应Client即可

4、建立启动器

  • 每个单独部署的APP服务均需要启动器,启动器内将存放Main类、该APP服务所涉及的DB操作以及启动APP服务所需的Spring配置文件
  • 启动器提供Netty服务端配置、DB配置,同时基于APP服务的实际调用情况酌情提供Netty客户端配置
  • 启动器请参看go-yea/go-yea-launcher
  • 运行在单机模式下的Netty配置内容:
	<!-- JVM内调用,注意,DefaultClient需设置lazy为false,以确保向ClientRegister注册本地客户端 -->        <bean id="launcherClient" class="com.yea.core.remote.client.DefaultClient" lazy-init="false" init-method="connect" destroy-method="disconnect" ></bean>
  • 运行在RPC模式下的Netty配置内容:
	<!-- JVM内调用,注意,DefaultClient需设置lazy为false,以确保向ClientRegister注册本地客户端 -->        <bean id="launcherClient" class="com.yea.core.remote.client.DefaultClient" lazy-init="false" init-method="connect" destroy-method="disconnect" ></bean>		<!-- Netty编解码的Handler实现 -->	<!-- 编码Handle的构造参数,可以设定序列化时将使用压缩算法压缩数据 -->	<bean id="nettyMessageEncoder" class="com.yea.remote.netty.codec.NettyMessageEncoder">	    <constructor-arg value="DEFLATE"/>	</bean>	<bean id="nettyMessageDecoder" class="com.yea.remote.netty.codec.NettyMessageDecoder"></bean>		<!-- Netty心跳检测Handler实现 -->	<bean id="heartBeatServerHandler" class="com.yea.remote.netty.server.handle.HeartBeatServerHandler">		<constructor-arg index="0" type="int" value="60"/>		<constructor-arg index="1" type="int" value="60"/>	</bean>		<!-- Ping,用于负载均衡Ping类(检测服务连通性) -->	<bean id="pingHandler" class="com.yea.remote.netty.handle.PingHandler"></bean>		<!-- Netty服务处理Handler实现,所有业务操作均由该Handler处理 -->	<bean id="serviceServerHandler" class="com.yea.remote.netty.server.handle.ServiceServerHandler"></bean>		<!-- Netty异常处理Handler实现,Netty处理时若抛出异常,由该Handler封装异常并返回调用端 -->	<bean id="exceptionHandler" class="com.yea.remote.netty.handle.ExceptionHandler"></bean>		<!-- Zookeeper调度中心的配置 -->	<bean id="zkDispatcher" class="com.yea.dispatcher.zookeeper.ZookeeperDispatcher" init-method="init">		<property name="host" value="${zookeeper.host}" />		<property name="port" value="${zookeeper.port}" />	</bean>		<!-- Netty服务端配置,Netty服务启动将在Main内调用(外部提供服务绑定端口),启动服务后向调度中心发送服务注册请求 -->	<bean id="nettyServer" class="com.yea.remote.netty.server.NettyServer" destroy-method="shutdown">		<property name="registerName" value="${netty.server.register}" /><!-- 服务注册名,将在Zookeeper内注册 -->		<property name="dispatcher" ref="zkDispatcher" />		<property name="host" value="${netty.server.host}" /><!-- 该主机未设置时,系统将会读取本机IP自动设入 -->		<property name="port" value="${netty.server.port}" /><!-- 该端口在执行start.sh脚本时,允许外部输入并替换 -->	    <property name="listHandler">            <list>                <map>	                <entry key="MessageDecoder">	                    <ref bean="nettyMessageDecoder"/>	                </entry>	            </map>	            <map>	                <entry key="MessageEncoder">	                    <ref bean="nettyMessageEncoder"/>	                </entry>	            </map>	            <map>	                <entry key="HeartBeatHandler">	                    <ref bean="heartBeatServerHandler"/>	                </entry>	            </map>		    <map>	                <entry key="PingHandler">	                    <ref bean="pingHandler"/>	                </entry>	            </map>	            <map>	                <entry key="ServiceHandler">	                    <ref bean="serviceServerHandler"/>	                </entry>	            </map>	            <map>	                <entry key="ExceptionHandler">	                    <ref bean="exceptionHandler"/>	                </entry>	            </map>            </list>        </property>	</bean>	<!-- Netty服务端的配置 End -->
  • 可选的数据压缩算法有:GZIP、DEFLATE、BZIP2、SNAPPY_FRAMED、LZ4_BLOCK、LZ4_FRAMED、ZSTD(Facebook的Zstandard算法)、NONE(不使用压缩算法)

5、生成Mybatis的映射文件及相应的Domain

进入开发管理->生成工具Alt 生成工具

  • Mybatis映射文件内包含单表常规操作
    • 生成的映射文件请复制到启动器内的src/main/resources/sqlmap
    • 样例请参看go-yea/go-yea-launcher/src/main/resources/sqlmap/authorization/personinfo-sqlmap-mapping.xml
  • 模型类主要有:聚合类、实体类、主键类
    • 生成的模型类均是贫血对象,请复制到Model层
    • 实体类对应单表,通过实体类完成对表进行增、改操作,通过主键类完成基于主键的查、删操作
    • 聚合类默认由实体类和主键类组成,完成对表的查操作
    • 聚合类,将根据实际业务模型对聚合类进行属性扩充:一个聚合类可以对应一个或多个实体类,若存在一对多关系,对应的实体类应封装成集合
    • 样例请参看go-yea/go-yea-model里的com.team.goyea.authorization.model.PersonInfo,扩充属性的对比:UserInfo
  • 生成工具使用说明:
    • 模块名:com.team.goyea.authorization.model.PersonInfo里,authorization是模块名
    • 根包路径:com.team.goyea.authorization.model.PersonInfo里,com.team.goyea是根包路径
    • 表名:数据库里的表名,例如t_person_info是表名,表名允许以%作后缀模糊匹配(如t_person%可以匹配t_person_info)
    • 公共DAO:勾选该选项后,生成的Mybatis映射文件namespace将使用所设置的Dao包路径和Dao名
  • 关于贫血对象的说明:
    • 对于贫血对象有过权衡,考虑到分布式,最终还是违反DDD设计,生成的模型类更多是作为数据传输对象使用。
    • 从消费者角度来看,它并不关注生产者如何实现领域业务,而是更关注生产者需要什么样的数据及结果。
    • 虽然DDD适合在服务生产者中使用,但这个需要考虑数据传输对象与领域对象之间的转换,在没有找到适合的对象转换方案前,仍旧使用贫血对象,而具体的业务逻辑在Service上完成。

6、Repository以及Service

7、Act(重点)

APP服务对外暴露的接口,客户端请求服务端时需提供Act名,Netty服务端收到请求后根据Act名找到相应的Bean并执行

  • 无事务控制Act,针对查询请求,继承com.yea.core.act.AbstractAct并实现perform方法
  • AbstractAct是一个RecursiveTask,复杂业务允许拆分成多个子任务做Fork Join
@Servicepublic class QueryOperationAct extends AbstractAct {	protected Object perform(Object[] messages) throws Throwable {		省略	}}
  • 事务控制Act,针对增删改请求,继承com.yea.core.act.AbstractTransactionAct并实现perform方法
  • AbstractTransactionAct同样是一个RecursiveTask,复杂业务允许拆分成多个子任务做Fork Join
@Servicepublic class SaveOperationAct extends AbstractTransactionAct {	protected Object perform(Object[] messages) throws Throwable {		省略	}}

WEB服务

提供Web服务,主要完成参数封装、页面展示。可参照go-yea的结构建立Maven项目结构:

  • 模型层Model(与APP服务共用)
  • 控制层Controller
  • 页面资源WEB-INFO

1、pom.xml

  • 运行在单机模式下:
<profile>	<!-- 单机模式 -->	<id>standalone</id>	<properties>	    <profiles.active>standalone</profiles.active>	</properties>	<dependencies>        		<dependency>			<groupId>com.team</groupId>			<artifactId>go-yea-launcher</artifactId>			<version>0.0.1</version>		</dependency>    </dependencies></profile>
  • 运行在RPC模式下:
<profile>	<!-- RPC模式 -->	<id>rpc</id>	<properties>	    <profiles.active>rpc</profiles.active>	</properties>	<dependencies>        		<dependency>			<groupId>com.yea</groupId>			<artifactId>yea-dispatcher</artifactId>		</dependency>    </dependencies></profile>

2、spring-bean.xml

  • 运行在单机模式下:
    <import resource="classpath:/application-launcher.xml" />
  • 运行在RPC模式下:
    <!-- Netty编解码的Handler实现 -->	<bean id="nettyMessageEncoder" class="com.yea.remote.netty.codec.NettyMessageEncoder">	    <constructor-arg value="DEFLATE"/>	</bean>	<bean id="nettyMessageDecoder" class="com.yea.remote.netty.codec.NettyMessageDecoder"></bean>		<!-- Netty异常处理Handler实现,Netty处理时若抛出异常,由该Handler封装异常并返回调用端 -->	<bean id="exceptionHandler" class="com.yea.remote.netty.handle.ExceptionHandler"></bean>		<!-- Netty心跳检测Handler实现 -->	<bean id="heartBeatClientHandler" class="com.yea.remote.netty.client.handle.HeartBeatClientHandler">		<constructor-arg index="0" type="int" value="60"/>		<constructor-arg index="1" type="int" value="60"/>	</bean>		<bean id="pingHandler" class="com.yea.remote.netty.handle.PingHandler"></bean>		<!-- Netty客户端收到服务端响应后的处理Handler实现 -->	<bean id="serviceClientHandler" class="com.yea.remote.netty.client.handle.ServiceClientHandler"></bean>		<!-- Netty服务处理Handler实现,所有业务操作均由该Handler处理,配置该Handle是为了支持双向调用,由服务端主动发起请求,如果发送的动作均由客户端发起,该Handle可以不配置在客户端内 -->    <bean id="serviceServerHandler" class="com.yea.remote.netty.server.handle.ServiceServerHandler"></bean>    	<!-- 调度中心的配置 -->	<bean id="zkDispatcher" class="com.yea.dispatcher.zookeeper.ZookeeperDispatcher" init-method="init">		<property name="host" value="${zookeeper.host}" />		<property name="port" value="${zookeeper.port}" />	</bean>		<!-- Netty客户端配置,启动时将会根据服务注册名主动连接服务端 -->        <bean id="nettyClient" class="com.yea.remote.netty.client.NettyClient" init-method="connect" destroy-method="disconnect">		<property name="registerName" value="${netty.server.register}" /><!-- 服务注册名 -->		<property name="dispatcher" ref="zkDispatcher" />		<property name="host" value="${netty.client.host}" /><!-- 该主机未设置时,系统将会读取本机IP自动设入 -->		<property name="port" value="${netty.client.port}" /><!-- 该端口在执行start.sh脚本时,允许外部输入并替换 -->	    <property name="listHandler">            <list>                <map>	                <entry key="MessageDecoder">	                    <ref bean="nettyMessageDecoder"/>	                </entry>	            </map>	            <map>	                <entry key="MessageEncoder">	                    <ref bean="nettyMessageEncoder"/>	                </entry>	            </map>	            <map>	                <entry key="HeartBeatHandler">	                    <ref bean="heartBeatClientHandler"/>	                </entry>	            </map>		    <map>	                <entry key="PingHandler">	                    <ref bean="pingHandler"/>	                </entry>	            </map>	            <map>	                <entry key="ServiceClientHandler">	                    <ref bean="serviceClientHandler"/>	                </entry>	            </map>	            <map>	                <entry key="ServiceServerHandler">	                    <ref bean="serviceServerHandler"/>	                </entry>	            </map>	            <map>	                <entry key="ExceptionHandler">	                    <ref bean="exceptionHandler"/>	                </entry>	            </map>            </list>        </property>	</bean>
  • Shiro的配置,请注意单机模式与RPC模式endpoint的设置(单机模式设置为DefaultClient,RPC模式设置成NettyClient):
    <bean id="sessionIdGenerator" class="org.apache.shiro.session.mgt.eis.JavaUuidSessionIdGenerator"/>      <bean id="sessionDAO" class="org.apache.shiro.session.mgt.eis.EnterpriseCacheSessionDAO">          <property name="activeSessionsCacheName" value="shiro-activeSessionCache"/>          <property name="sessionIdGenerator" ref="sessionIdGenerator"/>      </bean>	    <!-- 会话Cookie模板 -->      <bean id="sessionIdCookie" class="org.apache.shiro.web.servlet.SimpleCookie">        <constructor-arg value="JEA_SESSIONID"/>        <property name="httpOnly" value="true"/>        <property name="maxAge" value="-1"/>    <!-- maxAge=-1,表示浏览器关闭时失效此Cookie -->    </bean>	    <!-- 会话管理器 -->      <bean id="sessionManager" class="org.apache.shiro.web.session.mgt.DefaultWebSessionManager">          <property name="globalSessionTimeout" value="1800000"/>        <property name="deleteInvalidSessions" value="true"/>        <property name="sessionValidationSchedulerEnabled" value="true"/>        <property name="sessionDAO" ref="sessionDAO"/>        <property name="sessionIdCookieEnabled" value="true"/>        <property name="sessionIdCookie" ref="sessionIdCookie"/>    </bean>	    <!-- rememberMe的Cookie模板 -->    <bean id="rememberMeCookie" class="org.apache.shiro.web.servlet.SimpleCookie">          <constructor-arg value="rememberMe"/>          <property name="httpOnly" value="true"/>          <property name="maxAge" value="604800"/><!-- 记住我的Cookie,保存时长7天 -->    </bean>    <!-- rememberMe管理器 -->    <bean id="rememberMeManager" class="org.apache.shiro.web.mgt.CookieRememberMeManager">         <property name="cipherKey" value="#{T(org.apache.shiro.codec.Base64).decode('9AVvhnFLuS3KTV8KprsdAg==')}" />         <property name="cookie" ref="rememberMeCookie"/>    </bean>	    <bean id="securityManager" class="com.yea.shiro.web.mgt.WebSecurityManager">        <property name="endpoint" ref="nettyClient"/>        <property name="sessionManager" ref="sessionManager"/>        <property name="rememberMeManager" ref="rememberMeManager"/>    </bean>        <!-- 相当于调用SecurityUtils.setSecurityManager(securityManager) -->    <bean class="org.springframework.beans.factory.config.MethodInvokingFactoryBean">	<property name="staticMethod" value="org.apache.shiro.SecurityUtils.setSecurityManager"/>        <property name="arguments" ref="securityManager"/>    </bean>	    <!-- Shiro的Web过滤器 -->    <bean id="shiroFilter" class="org.apache.shiro.spring.web.ShiroFilterFactoryBean" >        <property name="securityManager" ref="securityManager"/>        <property name="loginUrl" value="/login.html"/>        <property name="successUrl" value="/index.html"/>        <property name="unauthorizedUrl" value="/unauthorized.html"/>    </bean>    <!-- 对ShiroWeb过滤器进行包装,以初始化过滤器链(不允许延迟加载) -->    <bean id="shiroFilterWrapper" class="com.yea.shiro.web.wrapper.ShiroFilterWrapper" init-method="init" lazy-init="false" >        <property name="endpoint" ref="nettyClient"/>        <property name="shiroFilter" ref="shiroFilter"/>        <property name="authenticedUrl" value="/authenticed.html"/>	<property name="logoutUrl" value="/logout.html"/>    </bean>    <!-- Shiro生命周期处理器-->    <bean id="lifecycleBeanPostProcessor" class="org.apache.shiro.spring.LifecycleBeanPostProcessor"/>
  • Shiro+Redis的配置,解决负载均衡模式下分布式Session共享问题:
    <!-- Redis池 -->    <bean id="redisGeneralPool" class="com.yea.cache.jedis.pool.RedisGeneralPool" init-method="initPool" destroy-method="destroyPool">        <property name="server" value="${redis.server}"/>    </bean>        <!-- RedisSessionDAO的支持,将Session放置在Redis服务上,可解决多Web服务器的Session同步问题 -->    <bean id="sessionDAO" class="com.yea.shiro.session.mgt.redis.ShiroSessionDAO">	<property name="cachePool" ref="redisGeneralPool"/>    </bean>

3、spring-mvc.xml

  • 配置拦截器,自动设置当前登录用户的用户信息及菜单信

鲜花

握手

雷人

路过

鸡蛋
该文章已有0人参与评论

请发表评论

全部评论

专题导读
热门推荐
热门话题
阅读排行榜

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

139-2527-9053

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:深圳市南山区西丽大学城创智工业园
电邮:jeky_zhao#qq.com
移动电话:139-2527-9053

Powered by 互联科技 X3.4© 2001-2213 极客世界.|Sitemap