dubbo负载均衡策略Radware:如何实现CDN内容发布网本地负载均衡

负载均衡的解决方案

负载均衡在银行中的解决方案 业务连续性与高可用性从来都是企业的生命线。

我们很难想象，当一个银行的信息系统中断那怕是一个小时，将会造成怎样的严重后果。

据权威统计，经历突发性重大灾害后的公司有将近43%倒闭，而另外51% 也在两年之内陆续关门。

要保证关键业务7x24不中断，应对激烈的市场竞争和提高客户满意度，企业必须在IT系统围绕“连续”主题进行构建，实施业务连续/容灾备份计划，包括业务连续性、高可用性管理、容灾、数据保护和恢复案、安全等。

正是基于以上考虑，某银行数据中心采用了服务器负载均衡高可用性解决方案，该银行实现了多数据中心链接和高负载高流量的网络应用目标，确保了该银行数据中心的稳定的业务处理能力。

客户需求 某银行成立于1992年，是国有控股的全国性股份制商业银行，为国内第一家有国际金融组织参股的银行，具有雄厚的资金实力，特点鲜明的股权结构，完善的经营管理体制，布局合理的机构网络，该银行已在全国23个省、自治区、直辖市的36个经济中心城市拥有分支机构300多家，成为对社会有一定影响的全国性股份制商业银行。

与此同时，该银行也积极利用信息化手段，来提高自身的竞争力和客户满意度。

就该银行而言，要确保银行数据中心高流量负载和高可用性，全面部署高可用性的服务器负载均衡解决方案，要求如下：在正常情况下两台或多台服务器的负载基本相同，在某台服务器停机的情况下透明的容错，保证关键服务的持续。

ISP接入链路的容灾:在每个数据中心采用不同的ISP接入链路, 保证在ISP故障的情况下系统的正常运行, 而在正常的情况下实现负载均衡, 提高链路利用率。

多数据中心的协同工作:为配合未来在业务量增加的情况下, 在某分中心的协同工作,特别是不同地理位置的用户的就近性访问的考虑, 以提高服务品质, 增加用户访问的满意度。

解决方案 针对某银行的需求现状和未来需求趋势，考虑到该银行数据中心的后台是通过中间件为基础架构搭建起来，服务器负载均衡设备机, 并以服务器直接返回模式(DSR)将负载均衡设备接入网络，对每一层的应用服务器进行负载均衡。

该方案具有以下优势： 1. DSR模式为独有负载均衡工作模式，是专门针对如金融行业这种对高并发连接数有严格要求的行业开发的模式。

2. 简单快速的网络搭建, 实现网络拓扑零改动。

负载均衡机是提供本地服务器群负载均衡和容错的产品，在充分利用现有资源以及对IT基础设施进行最小变动的前提下有效地进行流量的分配，从而提高服务器的处理性能。

对客户端而言，这一切都是透明的。

两台服务器负载均衡机做为一组, 对应用服务器提供负载均衡服务, 并且互为备份，采用“心跳”技术实时监控伙伴设备的同时, 也实现了负载均衡设备的负载均衡。

能够避免SPOF和单点瓶颈的问题， 最大限度地发挥负载均衡的能力。

采用负载均衡系列产品处理多ISP的多网段IP地址的情况, 由该产品全权处理有关DNS解析和多数据中心的多ISP接入链路问题。

开启该产品的健康检查功能, 检查两个或多个数据中心的服务状况, 以确保用户的正常访问。

DNS服务器分别接在接入路由器上，负责用户的DNS访问请求。

引导用户使用最快的链路进行访问站点。

同时，负载均衡机负责检查线路的健康状态，一旦检测到线路的中断，则停止相应线路的地址解析。

dubbo怎么实现rpc远程调用

在消费者初始化的时候，会生成一个消费者代理注册到容器中，该代理回调中持有一个MockClusterInvoker实例，消费调用服务接口时它的invoke会被调用，此时会构建一个RpcInvocation对象，把服务接口的method对象和参数放到RpcInvocation对象中，作为MockClusterInvoker.invoke方法的参数，在这个invoke方法中，判断请求是否需要mock，是否配置了mock属性，是强制mock还是失败后mock，关于mock这里先不详细展开，这里只看下核心流程。

? MockClusterInvoker.invoke会调用FailfastClusterInvoker.invoke，大系统中为了服务高可用同一个服务一般会有多个应用服务器提供，要先挑选一个提供者提供服务。

在服务接口消费者初始化时，接口方法和提供者Invoker对应关系保存在RegistryDirectory的methodInvokerMap中，通过调用的方法名称（或方法名称+第一个参数）改方法对应的提供者invoker列表，如注册中心设置了路由规则，对这些invoker根据路由规则进行过滤。

? com.alibaba.dubbo.registry.integration.RegistryDirectory.doList(Invocation)? com.alibaba.dubbo.rpc.cluster.directory.AbstractDirectory.list(Invocation)? 读取到所有符合条件的服务提供者invoker之后，由LoadBalance组件执行负载均衡，从中挑选一个invoker进行调用，框架内置支持的负载均衡算法包括random（随机）、roundrobin（R-R循环）、leastactive（最不活跃）、consistenthash（一致性hash），应用可配置，默认random。

? methodInvokerMap保存的是持有DubboInvoker（dubbo协议）实例的InvokerDelegete对象，是Invoker-Filter链的头部，先激活Filter连然后最终调到DubboInvoker.invoke(RpcInvocation)，此时远程调用分三种类型：? 1. 单向调用，无需获取关注调用结果的，无需等待接口返回结果，注意调用结果不要单纯跟返回值混淆了，异常也是调用结果。

? 2. 异步调用，需要关注返回结果，但是不会同步等待接口调用结束，会异步的获取返回返回结果，这种情况给调用者返回一个Future，但是不同步等待Future.get返回调用结果? 3. 同步调用，需要同步等待服务调用结束获取调用结果，给调用者返回一个Future并且Future.get等待结果，此时接口调用线程会挂起等待响应。

? 我们大部分使用场景都是同步调用，所以主要看一下同步调用。

如果使用者配置了多个connections按顺序选择一个ExchangeClient和服务器通信，同步调用时调用HeaderExchangeClient.request->HeaderExchangeChannel.request。

com.alibaba.dubbo.remoting.exchange.support.header.HeaderExchangeChannel.request(Object, int)? 这里的request参数是RpcInvocation对象，包含调用的方法、参数等信息，timeout参数是接口超时时间，把这些信息封装在Request对象中，调用channel.send，这个channel对象就是和服务端打交道的NettyClient实例，NettyClient.send调用NettyChannel.send。

ty.NettyChannel.send(Object, boolean)? 这里的sent参数决定是否等待请求消息发出，sent=true 等待消息发出，消息发送失败将抛出异常，sent=false 不等待消息发出，将消息放入IO队列，即刻返回。

默认情况下都是false。

NettyChannel中有channel属性，这个channel是Netty框架中的组件，负责客户端和服务端链路上的消息传递，channel.write把请求消息写入，这里的message是上面封装的Request对象。

这里的IO模型是非阻塞的，线程不用同步等待所有消息写完，而是直接返回。

调用Netty框架的IO事件之后会触发Netty框架的IO事件处理链。

Radware:如何实现CDN内容发布网本地负载均衡

通常采用专业负载均衡设备，此设备通常也可以同时完成全局的负载均衡的工作。

Radware提出了实现本地负载均衡机制的解决方案。

WSD本地服务器负载均衡的功能实现 Radware建议通过RadwareWSD实现本地服务器负载均衡解决方案,利用RadwareWSD可以对CDN网中的各个节点中的服务器及缓存服务器提供本地负载均衡服务，为CDN提供不间断服务. WSD可以对本地服务器实现如下智能管理: n 应用状态监控 首先，WSD可靠的状态监控机制可以保证用户获得最佳的服务。

WSD可以监视服务器在IP、7a686964616fe78988e69d8331333332643833TCP、UDP、应用和内容等所有协议层上的工作状态。

如果发现故障，用户即被透明地重定向到正常工作的服务器上。

这可以保证用户始终能够获得他们所期望的信息。

n 交易完整性的可靠保证 为了确保服务正常运行，WSD监控从Web服务器、中间件服务器到后端数据库服务器的整个路径上工作状态，确保整个数据路径上的服务器都处于正常状态。

如果存在一个故障服务器，WSD 则不会将用户分配到这个发生故障路径的服务器，从而保证为用户提供透明的数据完整性保障。

n 完全的容错与冗余 WSD的配置提供设备间的完全容错，以确保网络最大的可用性。

两个设备通过网络相互检查各自的工作状态，为其所管理的应用保障完全的网络可用性。

它们可工作于“主用-备用”模式或“主用-主用”模式，在“主用-主用”模式下，因为两个设备都处于工作状态，从而最大限度地保护了投资。

并且所有的信息都可在设备间进行镜像，从而提供透明的冗余和完全的容错，确保在任何时候用户都可以获得从点击到内容的最佳服务。

n 通过正常退出服务保证稳定运行 当需要进行服务器升级或系统维护时，WSD保证稳定的服务器退出服务以避免服务中断。

当选定某台服务器要从服务器退出服务后，WSD将不会将任何新的用户分配到该服务器。

但是，它可以要退出服务的服务器上完成对当前用户的服务。

从而保证了无中断的优质服务，以及服务器组的简易管理能力。

n 智能的服务器服务恢复 将重新启动的服务器应用到服务中时，避免新服务器因突然出现的流量冲击导致系统故障是非常重要的。

所以，在将新服务器引入服务器组时，WSD将逐渐地增加分配到该服务器的流量，直至达到其完全的处理能力。

从而不仅保证用户在服务器退出服务时，同时还保证服务器在启动期间以及应用程序开始时，均能获得不间断服务。

WSD服务器负载均衡解决方案具有的优点 n 能够支持包括Web、Email、Ftp等所有IP业务的流量管理与负载均衡； n 具有多种负载均衡算法，包括循环法、最小用户数法、最小流量法、基于NT服务器SNMP参数法及用户可定制的私有算法等；并可根据服务器处理能力的不同，定义相应的权重，从而达到流量的均匀分配； n 可根据应用不同创建不同的服务器群(FARM)，并可将多个服务器群(FARM)合并为一个SUPERFARM，以一个IP地址标识所有应用，用户可以通过一个地址访问所有应用，如HTTP、FTP、DNS等； n 针对数据中心的应用特点，不同客户的URL会解析到同一个IP上，WSD可以创建基于URL的或文件扩展名的SUPERFARM，不同的URL或文件扩展名会自动被分配到相应的Farm上。

n 可以进行TCP及UDP端口的复用，以节省IP地址资源并提高Web服务器的性能； n 可支持基于Cookie的会话以及基于SSL的会话； n 针对INTERNET上的用户请求数据量远远小于用户得到的数据量的流量特点，WSD具有TRIANGULATION的流量分配方法，可以将服务器返回的数据直接由服务器发给用户，从而极大地提高用户访问速度及网站的吞吐量； n 可以采用PING、TCP端口检查、UDP端口检查、HTTP页面检查以及页面内容检查等方法检查服务器的健康状况，以确保用户始终得到服务； n 同时还可针对目前流行的基于WEB的应用由三级WEB服务器、应用服务器、数据库服务器组成，WSD可以对应用服务器、数据库服务器进行检查，以确保整个WEB服务的数据通路工作正常，如果某一服务器出现故障，WSD将不会把就是分配到该WEB服务器； n 支持两台WSD之间的冗余工作，防止单点故障，备用WSD时刻监测主用WSD的工作状况，如果发现故障可立即接管主用WSD的工作，并且不中断现有WSD服务的用户。

n Radware本地三角传输策略 本地负载均衡可以使用Radware独有的“本地三角传输”，又称作路径外返回（Out-of-PathReturn），能够使速度得到极大的提升。

当执行本地三角传输功能时,WSD的CPU 只对入口流量进行管理。

服务器响应被直接发送到客户。

由于一般的 流量是不对称的，比如服务器的响应，它包括网页、图像、甚至是视频流等，这些流量远远高于客户发出请求的上行流量。

这样就大大提高了网络的速度。

本地三角传输利用了高出口流量/低入口流量数据包的这种比例特性，来支持对带宽要求比较敏感的服务。