云上运维及应用 第5章 基础架构之负载均衡.pdf

/用负载均衡SLB逊尧,*；*4,-.；,上j?6A玛.,%,01 SLB概要介绍02SLB基本概念目录CONTENTS负载均衡概要介绍什么是负载均衡SLB负载如何产生又堵了，怎么办负载均衡概览-互联网的发展快得无法言喻，随之而来的各种应用更是层出不穷。即使优化得再好的网络,也会显得不太给力。-面对电子商务网站，服务器会苦不堪言；-面对网络数据库，存储系统面临考验;|I M SORRY|OUR SERVER IS ALWAYS WRONG!I对不起，我们又挂了!OH!有错误发生!！很抱歉论坛曲时无法处理您的访问请求不停刷新 拒绝上网 怒砸电脑1解堵思路转化服务集群功旨相同的 多台服务器负载均衡合壬里分配并 发的充量SLB产品介绍 负载均衡（Server Load Balancer,简称SLB）是对多台云服务器进行流量分发的负载均衡服务VSSLB弹性负载均衡优势低成本、稳定、高 可扩展、无需运维SLB功能及其特点SLB主要功能协议支持域名URL转 发证书管理健康检查I会话保持 多可用区访问控制 带宽控制I实例类型调度算法安全防护监控管理方式SLB可以做什么？1.负载均衡（Server Load Balancer,简称SLB）是对多台云服务器进行流量分发的负载 均衡服务。SLB可以通过流量分发扩展应用系统对外的服务能力，通过消除单点故障提 升应用系统的可用性。SLB可以做什么？2.SLB服务通过设置虚拟服务地址（IP）,将位于同一地域（Region）的多台云服务器（Elastic Compute Service,简称ECS）资源虚拟成一个高性能、高可用的应用服 务池；根据应用指定的方式，将来自客户端的网络请求分发到云服务器池中。SLB可以做什么？3.SLB服务会检查云服务器池中ECS的健康状态，自动隔离异常状态的ECS,从而解决了单 台ECS的单点问题，同时提高了应用的整体服务能力。SLB还有哪些特点?4.在标准的负载均衡功能之外，SLB服务还具备TCP与HTTP抗DDoS攻击的特性，增强了应 用服务器的防护能力。5.SLB服务是ECS面向多机方案的一个配套服务，需要同ESC结合使用。SLB的应用场景场景一：同城容灾（多可用区容灾）正常情况下可用区B（省可用区）ECSChina(Hangzhou)可用区A故瞳时 业务流量一当主可用区出现机房故 障或不可用时，负载均 衡仍然有能力在非常短 的时间内（大约30s中 断）切换到另外一个备 可用区恢复服务能力当主可用区恢复时，负 载均衡同样会自动切换 到主可用区提供服务场景二：跨地域容灾 N5在不同地域下部署负载均衡 实例，并分别挂载相应地域 内不同可用区的ECS。上层利用云解析做智能DNS,将域名解析到不同地域的 I负载均衡实例服务地址下，可实现全局负载均衡。当某个地域出现不可用时，暂停对应解析即可实现所有 用户访问不受影响。案例解读一：蜻蜓fmS 蜻蜓fm是华语地区最好的收音机APP,2011年App Store最佳收听广播电台的工具！提供全球3000多个电台频道，以及点播内容，24小时不间断提供在线收听。蜻蜓fm 的移动客户端包括IOS和Android,还有网页版，在电脑上也能随时收听广播。部署架构示意图蜻蜓FM 统计E数据库0云盾扩展存储ECSl ECS2 ECS3ECSn转码集群通过SLB实现负载 均衡，满足各种业务场景对 资源弹性调整的需求云监控SLB案例解读二：大掌门Plciyc-cih北京玩蟹科技有限公司(Playcrab)是专注于移动互联网游戏产品开发和运营的 创新企业，致力于为广大智能机用户提供最佳的游戏体验。目前公司产品大 掌门在苹果AppStore和各大Android市场位居前列。11.游戏更新服务集群的SLB|2.游戏运行环境服务集群演亩使川aliyun api动态创建和销 毁服务&及出实现业务高峰 期动树事大掌门APPWEBSERVINjM服成更Cache SERVER REDISWEB SERVERI Nginx+PHP-fpmI 1RDSAliyun RDS ServiceMyS 阳t 停/yimlTO,像 一服务的除定和安全Whhi ScrvctLi能酬务SLBWEB SERVERI WEB SERVER 2 WEBSERVER?WEB SERVER n；Ji j Nginx+PHP-fpm Nginx+PHP-fpm Nginx+PHP-fpm Nginx+PHP-fpm.1Cache SERVER1Cache SERVER1Cache SERVERIRED1SRED1SRED1S案例解读三：在路上博客园创立于2004年1月，是一个面向开发者的知识分享社区。自创建以来，博客园一直致力并专 博安园 注于为开发者打造一个纯净的技术交流社区，推动并帮助开发者通过互联网分享知识，从而让更多 开发者从中受益。博客园的目标是帮助开发者用代码改变世界。负载均衡基本概念SLB核心概念Server Load BalancerLoadBalancer 4阿里云SLB主要由3个基本概念组成：-LoadBalancer代表一个运行的负载均衡服务，用来接收流量并将其分配给后端服务器/Listener监听用来检查客户端请求 并将请求转发给后端服务器，也 会对后端服务器进行健康检查。/BackendServer是一组接收前端 请求的ECS实例SLB术语术语全称中文说明SLBServer Load Balancer负载均衡服务，简称SLB服务阿里工计算提供的一种网络负载均衡服务，结合阿里入 提供的ECS服务，提供四层和七层负载均衡服务。LoadBalancerLoad Balancer负载均衡服务实例，简称SLB实例负载均衡实例是一个运行的负载均衡服务。要使用负载 均衡服务，必须先创建一个负载均衡实例。LoadBalancerld是识别用户SLB实例的唯一标识。ListenerListener负载均衡服务监听负载均衡服务监听规定了如何将请求转发给后端服务器。包括监听端口、负载均衡策略和健康检查配置等。一个 负载均衡实例至少添加一个监听。BackendServerBackend Server后端服务器接受SLB分发请求的一组云服务器，SLB服务将外部的访 问请求按照用户设定的规则转发到这一组后端服务器上 进行处理。AddressAddress服务地址系统分配的服务地址，当刖为IP地址。用户可以选择该 服务地址是否对外公开，来分别创建公网和私网类型的 SLB服务。BackendServers GroupsBackend Servers Groups虚拟服务器组一组处理负载均衡分发的刖端请求的ECS实例。不同的监 听可以关联不同的虚拟服务器组，实现监听维度的请求 转发。实例类型性能共享型实例的资源是所有实例共享的，所以不保障实例的性能指标。性能保障型实例提供了可保障的性能指标，按使用量收取，即不论您选择何种规格,实例规格规格费均按照您实际使用的规格收取。规格最大连接数每秒新建连接数(CPS)每秒查询数(QPS)千规格1:简约型I(sib.si.small)500030001000规格2：标准型I(sib.s2.small)5000050005000规格3：标准型n(sib.s2.medium)1000001000010000是否可以升降配？规格4：高阶型I(sib.s3.small)2000002000020000规格5：高阶型n(sib.s3.medium)5000005000030000如何选择规格？规格6：超强型I(sib.s3.large)100000010000050000主可用区/备可用区网络类型选择公网负载均衡私网负载均衡公网类型的负载均衡实例可以 通过Internet,将客户端请求按 照您制定的监听规则分发到 添加的后端服务器ECS上。在创 建公网负载均衡实例后，系统 会为其分配一个公网服务地 址，可以将您的域名和该公网 服务地址进行绑定，对外提供 服务。私网类型的负载均衡实例只能 在阿里云内部使用，可以转发 的请求只能来自具有负载均衡 的私网访问权限的客户端。经典网络私网负载均衡实例的服务地址由阿 里云统一分配和管理。该私网负载均衡服务只能被经典网 络ECS实例访问专有网络私网负载均衡实例的服务地址会从 您指定的专有网络的交换机网段内 分配。该私网负载均衡服务只能被 相同VPC内的ECS实例访问网络类型选择阿里云公网负载均衡实例VPC私网负载均衡实例SLB整体结构根据不同应用的特点，阿里云SLB可同时提供四层及七层负载均衡服务SLB系统由3部分构成：四层负载均衡：采用开源软件LVS(linuxvirtual server)进行定制化七层负载均衡：采用开源软件Tengine控制系统：用于配置和监控负载均衡系统网络流量路径对于入网流量，负载均衡会根据 用户在控制台或API上配置的转 发策略，对来自前端的访问请求 进行转发和处理TCP/UDPt办议和 HTTP/HTTPS 协议的流量都需要经过LVS集群 进行转发。LVS集群内的每一台 节点服务器均匀地分配海量访问 请求，并且每一台节点服务器之 间都有会话同步策略，以保证高 可用。网络流量路径阿里云VPC-专有网络ECSInterne 窿源此部分公阳遢产在 SLB上,ECS到5LB之间走 内网通信，瞄不L菸如果ECS仅仅处理来 自负载均衡的请求如果需要直接通过后 端ECS对外提供服务 或后端ECS有访问外 网的需求费用计算产品定价类型说明特点预付费（包年包月）预付费实例的每月带宽费和 实例费都比后付费按固定带 宽计费的实例价格便宜在合同期内，您可以对预付费实例 的规格、带宽进行变更。在合同期内，预付班实例无法释放。到期后，实例会自动释放。预付费模式，只支持按带宽计费按量计费可以选择按固定带宽计费或 按流量计费按量计费实例可以随时释放。计费项类型网络类型实例类型实例费带宽费规格费预付费公网性能共享型实例VV-（包年包月）性能保障型实例VVV类型网络类型实例类型实例费流量费带宽费规格费按量计费公网 按流量性能共享型实例VV-性能保障型实例VV-V公网性能共享型实例V-V-按带宽性能保障型实例V-VV V收取-不收取私网：性能共享型实例不收取实例费、流量费、带宽费和规格费 性能保障型实例不收取实例费、流量费和带宽费，收取规格费SLB按量计费的收费模式计费模式按使用流量计费按固定带宽计费计费模型实例租用费+公网流量费（下行流量）公网流量为公网出流量（下行流量），公网入 流量（上行流量）不计入费用实例租用费+公网带宽费带宽计费是按照用户开通的实例带宽规格收费，而不 是按照已使用的带宽规峰值收费后付费SLB实例类型实例租用费根据SLB实例的类型分为公网和私网2种类型，公网类型SLB含公网IP成本，私网类型免收实例 租用费公网流量费公网带宽费不设阶梯，线性定价内网流量费针对内网类型的SLB实例不收取公网带宽费，但是会由SLB系统做相应的限流措施（每个监听lGbps）,如 果内网SLB超过60天没有挂载ECS实例，将提前24小时通知用户即将删除计费单位时间米取按小时计费，实时扣费的计费方式。在一个计费周期内，如果使用SLB实例的时间不足一小时，最少 按一小时收费账单出账时间账单出账时间，通常在当刖计费周期结束后一小时内例如：10:00-11:00的账单会在11:00以后生成，具体以系统出账时间为准,账单生成后会自动从您的账 户余额中扣除费用以结算账单开通SLB开通SLB选择合适地域、创建 并配置ECS实例创建SLB实例查看SLB实例为了减少延迟时间与提高下载速度，建议选择离您客户最近节点的负载均衡服务创建ECS实例之后，需要配置该实例之后才能使用，如配置web静态页面创建配置ECS实例创建ECS实例,创建静态网页 网络类型：选择专有网络。使用系统提供的默认专有网络和交换机及安全组。镜像：选择公共镜像（Ubuntu 16.04 64位）作为两个ECS实例的操作系统。购买数量：将购买数量设置为2,系统会自动创建两台相同配置的ECS实例。选择安全组：配置的安全组规则必须包括入方向的22和80端口。22端口是SSH远程连接端口，用于登录ECS实例。80端口是Web服务默认端口，用于访问创建静态网页中Apache搭建的静态网页。创建SLB实例创建SLB实例 查看SLB实例 地域：确保负载均衡实例的地域和后端添加的云服务器ECS的地域相同 可用区类型：单可用区：负载均衡实例只部署在一个可用区上。多可用区：负载均衡实例会部署在两个可 用区上。默认启用主可用区的实例。负载均衡已经在大部分地域部署了多可用区。实例规格：性能共享型和性能保障型 实例类型：根据业务场景选择配置对外公开或对内私有的负载均衡服务 网络类型：如果您选择的实例类型是私网，您还需要选择该负载均衡实例的网络类型。选择公网，无选择 网络类型。经典网络：经典网络的负载均衡实例的服务地址由阿里云统一分配和管理。专有网络：专有网 络的负载均衡实例的服务地址会从您指定的专有网络的交换机网段内分配。配置SLB的服务监听规则4层艮别监听配置协议选择 监听端口 高级配置 协议选择：在4层可以选择TCP、UDP 监听端口：用来接收请求并向后端服务器进行请求转发的监听端口。端口范围为1-65535。在同一个负载均衡实例内，监听端口不可重复。高级配置：调度算法、会话保存（UDP无）、访问控制、监听带宽限速等z层（HTTBUHIB9服务配置协议选择 监听端口 高级配置 协议选择：在7层HTTP、HTTPS 监听端口：用来接收请求并向后端服务器进行请求转发的监听端口。端口范围为1-65535。在同一个负载均衡实例内，监听端口不可重复。负载均衡对外提供服务的端口，通常HTTP协议使用80端口，HTTPS协议使用443端口 高级配置：调度算法、会话保存、访问控制、监听带宽限速等岬配置 g度算法负载均衡支持轮询（RR）、加权轮询（WRR）、加权最小连接数（WLC）三种调度算法。讨论1,那么按权重轮询的请求是如何转发的？7监听配置一会话保持开启会话保持后，负载均衡监听会把来自同一客户端的访问请求分发到同一台后端服务器上。TCP同一 IP地址的请求持续发往一台服务器UDPHTTP、HTTPS无会话保持相同cookie的请求发往一台 植入Cookie:需要指定 服务器 Cookie的过期时间、设置具体的超时时间 重写Cookie:可以根据需 要指定HTTPS/HTTP响应中 插入的Cookie监听配置一访问控制白名单白名单仅转发来自所选访问控制策 略组中设置的IP地址或地址 段的请求场景适用十应用只允许特定1P访 问的场景说明如果开启了白名单访问,但 访问策略组中没有添加任何 IP，则负载均衡监听会转发 全部请求黑名单来自所选访问控制策略组中 设置的IP地址或地址段的所 有请求都不会转发场景 适用于应用只限制某些特定IP访问的场景说明 如果开启了黑名单访问，但访问策略组中没有添加任何 IP,则负载均衡监听会转发 全部请求名 郭管理后端服务器管理后端服务器添加、删除服务器 端口、权重设置 后端服务器（ECS实例）开放用来接收请求的端口，端口范围为1-65535 同一个负载均衡实例内，后端服务器端口可以相同 权重越高的ECS实例将被分配到更多的访问请求，权重设置为0,该服务器不会再接受新请求 管理后端服务器负载均衡服务通过设置虚拟服务地址，将添加的同一地域的多台ECS实例虚拟成 一个高性能、高可用的应用服务池。您也可以通过虚拟服务器组管理后端服务 器。不同的监听可以关联不同的服务器组，这样一个负载均衡实例的不同监听就 可以将请求转发给不同的服务器组内不同端口的。说明如果您在配置监听时，选择使用虚拟服务器组，那么该监听会将请求转发到关联 的服务器组中的ECS,而不会再将请求转发给默认服务器组中的ECS实例。管理后端服务器A注意事项L不支持跨地域部署,确保ECS实例的所属地域和负载均衡实例的所属地域相同。2、负载均衡本身不会限制后端ECS实例使用哪种操作系统，只要两台ECS实例中的应用服务部署是 相同的且保证数据的一致性即可。建议选择相同操作系统的ECS实例作为后端服务器，以便日后管 理和维护。3、一个负载均衡实例最多支持添加50个监听，每个监听对应后端ECS实例上的一个应用。负载均 衡的监听端口对应后端ECS实例上的应用服务端口。4、可以指定后端服务器池内各ECS实例的转发权重。权重越高的ECS实例将被分配到更多的访问请 求。5、ECS进行热迁移时，可能导致SLB长连接断开。重新连接后即可恢复，请做好应用的重连工作。管理后端服务器类型 作用默认服务器组如果监听没有设置虚拟服务器组或主备服务器组，默认将请求转发至默认 服务器中的ECS主备服务器组包含一台作为主服务器，一台作为备服务器。由于备服务器主备服务器组 不会做健康检查，所以只要主服务器健康检查失败，系统会直接将流量切 到备机。当主服务器健康检查成功恢复服务后，流量会自动切到主服务器。只有四层TCP和UDP监听支持添加主备服务器组虚拟服务器组 需要将不同的请求转发到不同的后端服务器上时，或需要通过域名和URL 进行请求转发提问当负载均衡服务分发请求不均匀时，有什么方法可以检查处理?如果同时开启了会话保持功能，出现了访问不均衡的情况，建议暂时关闭会话保持功能,观察一下是否依然存在这种情况。统计一个时间段内，后端ECS实例的Web服务访问日志记录数据量。按照负载均衡的配置，对比多台ECS实例日志的数量是否有相差。,7健康检查健康检查开启健康检查高级配置TCP/HTTP 开启健康检查 选择健康检查协议TCP或HTTP、健康检查端口、响应超时时间、间隔时间、健康阈值、不健康阈值健康检查负载均衡通过健康检查来判断后端服务器（ECS实例）的业务可用性。健康检查机制提高了前端业务整体 可用性，避免了后端ECS异常对总体服务的影响健康检查成功：相应请求被成功处理，前端访问正常健康检查失败：新的请求不会再分发到相应ECS上,所以对前端访问没有影响HTTP/HTTPS监听健康检查机制SLB服务器HTTP HEAD请求HTTP健康检查HTTP状态码（2xx等）后端ECS针对七层（HTTP或HTTPS协议）监听，健康检查通过HTTP HEAD探测来获取状态信息,如下图所示。对于HTTPS监听，证书在负载均衡系统中进行管理。负载均衡与后端ECS之间的数据交互（包括健康检查数据和业务交互数据），不再通过HTTPS进行传输，以提高系统性能。TCP监听健康检查机制响应超 时时间fSLBlgiSCLOSEDSYN-SENDCLOSEDTCP健康检查RST，后端ECSUSTENSYN_RECVCLOSED针对四层TCP监听，为了提高健康检查效率，健康检查通过定制的TCP探测来获取状态信息UCP监听健康检查机制(SLBflKisUDP健康检查后端ECSUDP探测报文一判断健康 检直失败十ICMPUnreachable 报错响应超 判断健康 时时间 检查成功”.针对四层UDP监听，健康检查通过UDP报文探测来获取状态信息总结针对七层（HTTP或HTTPS协议）监听，健康检查通过HTTP HEAD探测来获取状态信息针对四层TCP监听，为了提高健康检查效率，健康检查通过定 制的TCP探测来获取状态信息，也可选择HTTP健康检查方式针对四层UDP监听，健康检查通过UDP报文探测来获取状态 信息健康检查时间 健康检查时间窗由以下三个因素决定：健康检查间隔（每隔多久进行一次健康检查）响应超时时间（等待服务器返回健康检查的时间）检查阈值（健康检查连续成功或失败的次数）健康检查失败时间窗二响应超时时间X不健康阈值+检查间隔X（不健康阈值-1）健康检查成功时间窗二健康检查成功响应时间X健康阈值+检查间隔x（健康阈值-1）健康检查成功响应时间是一次健康检查请求从发出到响应的时间。当采用TCP方式健康检查时，由于仅探测端口是否存活，因此该时间非常短，几乎可以忽略不计。当采用HTTP方式健康检查时，该时间取决于应用服务器的性能和负载，但通常都在秒级以内。健康检查时间第一次第二次第三次健康三响应超时：5s僖事检查间隔：2s健康检查响应超时：5s建事一响应超时：5s、健康检查状态成功总耗时19s健康检查间隔：2s健康检查状态失败健康检查时间健康检查状态失败健康检查状态成功关闭健康检查可以关闭健康检查功能，但关闭健康检查后，当后端某个ECS健康检查出现异 常时，负载均衡还是会把请求转发到该异常的ECS上，造成部分业务不可访问。所以建议一般情况下不要关闭健康检查。只有HTTP和HTTPS监听支持关闭健康检查。UDP和TCP监听无法关闭健康检查SLB证书管理SLB证书管理上传证书 绑定HTTPS监听为了支持HTTPS功能，SLB提供证书管理功能。用户可以将证书存储到SLB证书管理系统,而不需要将证书直接部署到后端SERVER上。SLB证书管理是分REGION的,即一个证书如果要在多个REGION使用,那么上传证书时 就需要选择多个REGION目前仅支持PEM格式的证书每个账号最多可以创建100个证书SLB实例监控SLB实例监控查看监控,设置报警规则必要条件：开启了健康检查功能后端ECS实例的健康检查状态正常6LB实例监控监控指标 说明流量 流入流量：从外部访问负载均衡所消耗的流量。流出流量：负载均衡访问外部所消耗的流量。数据包数 流入数据包数：负载均衡每秒接到的请求数据包数量。流出数据包数：负载均衡每秒发出的数据包数量。并发连接数 活跃连接数：所有ESTABLISHED状态的TCP连接。非活跃连接数：表示指除ESTABLISHED状态的其它所有状态的TCP连接数。并发连接数：所有建立的TCP连接数量。新建连接数 在统计周期内，新建立的从客户端连接到负载均衡的连接请求的平均数。丢弃流量 丢弃入流量：每秒丢失的入流量。丢弃出流量：每秒丢失的出流量。丢弃数据包数 丢弃流入数据包：每秒丢弃的流入数据包的数量。丢弃流出数据包：每秒丢弃的流出数据包的数量。丢弃连接数 每秒丢弃连接数。QPS 每秒查询率(Query Per Second)每秒可以处理的HTTP/HTTPS请求。四层监听暂不提供QPS监控值。谢谢观看Thank All for watching