轮询(Round Robin): 这种方法就会将收到的请求循环分配到服务器集群中的每台机器,即有效服务器。如果使用这种方式,所有的标记进入虚拟服务的服务器应该有相近的资源容量以及敷在相同的应用程序。如果所有的服务有相同或者相近的性能那么选择这种方式会使服务器负载相同。基于这个前提,轮询调度是一个简单而有效的分配请求的方式。然而对于服务器不同的情况,选择这种方式就意味着能力比较弱的服务器也会在下一轮循环中接收轮询,即使这个服务器已经不能再处理当前这个请求了。这可能导致能力弱的服务器超载。
加权轮询(Weighted Round Robin):这种算法解决了简单轮询调度算法的缺点:传入的请求按顺序被分配到集群中的服务器,但是会考虑提前为每台服务器分配的权重。管理员只是简单的通过服务器的处理能力来定义各台服务器的权重。例如,能力高的服务器A给权重100,同时能力低的服务器B给权重50,就意味着在服务器B接收到第一个请求之前,服务器A会连续接收到2个请求,以此类推。
最少连接数(Least Connection):以上两种方法都没有考虑的是系统不能识别在给定时间里保持多少连接。因此可能发生服务器B接收到的连接比服务器A少但是他已经超载,因为服务器B上的用户打开链接的持续时间更长。这就是说连接数即服务器的负载是累加的。这种潜在的问题可以通过“最少连接数”算法来避免:传入的请求是根据每台服务器当前所打开的连接数来分配的。即活跃连接数量最少的服务器会自动接收下一个传入的请求。基本上和简单轮询的原则相同:所有拥有虚拟服务的服务器资源容量应该相近。值得注意的是,在流量率低的配置环境中,各服务器的流量并不是相同的,会优先考虑第一台服务器,这是因为如果所有的服务器是相同的,那么第一个服务器优先,直到第一台服务器有连续的活跃流量,否则总是会优先选择第一台服务器。
加权最少链接(Weighted Least Connection): 如果服务器的容量各不相同,那么“加权最少连接”方法更合适。由管理员根据服务器情况定制的权重所决定的活跃连接数一般提供了一种对服务器非常平衡的利用,因为他借鉴了最少链接和权重两者的优势。通常,这是一个非常公平的分配方式,因为它使用了连接数和服务器权重比例;集群中比例低的服务器自动接收下一个请求。但是请注意,在低流量情况中使用这种方法时,请参考“最小连接数”方法中的注意事项。
基于代理的自适应负载均衡(Agent Based Adaptive Balancing):除了上述方法之外,负载机包含一个自适用逻辑用来定时检测服务器状态和该服务器的权重。对于非常强大的“基于代理的自适用负载均衡”方法来说,负载主机以这种方式来定时检测所有服务器负载状况:每台服务器都必须提供一个包含文件,这个文件包含0-99的数字用来标明该服务器的实际负载状况(0=空前,99=超载,101=失败,102=管理员禁用),而服务器通过http get方法来获取这个文件;同时对集群中服务器来说,以二进制文件形式提供自身负载情况也是该服务工作之一,然而并没有限制服务器如何计算自身的负载情况。根据服务器整体负载情况,有两种策略可以选择:在常规操作中,调度算法通过收集的服务器负载值和分配给该服务器的连接数的比例计算出一个权重比例。因此如果一个服务器负载过大,权重会通过系统透明做重新调整。和加权轮询调度算法一样,不正确的分配可以被记录下来使得可以有效地为不同服务器分配不同的权重。然而在流量非常低的情况下,服务器报上来的负载值将不能建立一个有代表性的样本;那么基于这些值来分配负载的话将导致失控以及指令动荡。因此,在这这种情况下更合理的做法是基于静态权重比来计算负载分配。当所有服务器的负载低于管理员定义的下限时,负载主机就会自动切换为加权轮询的方式来分配请求;如果负载大于管理员定义的下限时,那么主机就会切换回自适应方式。
固定加权(Fixed Weighted):最高权重只有在其他服务器的权重值都很低时才使用。然而,如果是最高权重的服务器下降,则下一个最高优先级的服务器将为客户端服务。这种方式中每一个真实服务器的权重需要基于服务器优先级来配置。
加权响应(WeightEd Response):流量的调度是通过加权轮询的方式。加权轮询中所使用的权重是根据服务器有效性检测的响应时间来计算。每一个有效性检测都会被计时,用来标记他响应成功花了多长时间。但是需要注意的是,这种方式假定服务器心跳检测是基于机器的快慢,但是这种假设也许不总是能成立。所有服务器在虚拟服务上的响应时间的总和加在一起,通过这个值来计算单个服务物理服务器的权重;这个权重值大约每15秒计算一次。
源IP哈希(Source IP Hash):这种方式通过生成请求源IP的哈希值,并通过这个哈希值来找到正确的真实服务器。这意味着对于同一台主机来说他对应的服务器总是相同。使用这种方式,你不需要保存任何源IP。但是需要注意,这种方式可能导致服务器负载不平衡。
常见的轮询方式有四种:轮询,加权轮询,最少连接数,源IP哈希