一 百万并发秒杀概述
1.1 可能遇到问题
- 在一瞬间服务出现大量请求,服务可能会崩溃。
- 在秒杀商品时候,可能出现超卖。
1.2 秒杀的业务流程
- 秒杀的商品有热点商品和非热点商品,热点商品可能流量占整个的90%.
- 后台商品管理可以将商品加入到秒杀商品,根据商品访问量分位热点商品和非热点商品。
- 用户抢到商品支付,发货商品。超时不付款,订单取消。
二 秒杀架构
我们Java项目时用tomcat部署的。nginx的并发量能达到五万,tomcat最优能支持1千。所以首要问题就是让tomcat直接处理请求,减少tomcat处理请求。
由于商品的详情页除了数量其他基本不改变。因此可以采用详情页放到nginx缓存中。还有就是考虑热点商品的抢购能直接经过nginx处理不到服务端,
这样就完美解决了问题了。
Lua脚本对JWT校验
用户请求到达nginx,用lua脚本进行jwt校验,减少非法请求对服务器的访问。从而减少服务器压力。
2.1 静态页面处理
因为秒杀商品的浏览量很高,而且商品的描述,价格,图片,标题基本上是不变的。因此考虑用freemarker做商品静态化。
所以先考虑静态页面的生成,商品数量发生改变静态页面从新生成。
1. 后台将设置商品成为秒杀商品流程:
比如京东的秒杀都是一个时间点到另外一个时间点。当秒杀的时间点到了,需要从索引库中删除对应索引和删除对应的静态页面。我们可以在商品添加秒杀时候,
设置定时任务。然后定时任务到达后执行对应操作。在添加秒杀时候,更改数据库中商品是处于秒杀,然后生成静态页面。
2. 商品数量修改,静态页面的同步(canal数据同步):
使用canal对数据库的表进行监控时候,当新增,删除,编辑表中是数据时候,canal都能监控到。从而触发canal书写的Java服务,然后根据业务进行静态页面的修改。
3. 静态页面的生成和删除:
当商品变成秒杀商品,生成静态页面。当商品卖完或者变为普通商品,删除静态页面。
2.3 将秒杀热点数据隔离
我们可以根据商品的浏览量判定当前商品是否位热点数据。所以需要商品浏览记录收集,和收集浏览记录的分析。
2.3.1 日志收集
用户访问商品详情,首先请求经过nginx,然后使用nginx和lua脚本对请求商品详情路径进行拦截,让后将请求商品数据发送到kafka。数据库接受到kafka数据,完成商品浏览数据收集。
2.3.2 数据分析
Apache Druid订阅Kafka从而获取商品的访问日志,druid能实时获取商品访问记录。druid支持sql,对数据进行分析。找出热点数据。
# lua脚本发送给kafka日志格式
{
"actime": "2020‐4‐10 9:50:30",
"uri": "http://192.168.211.137/items/S1235433012716498944.html",
"ip": "119.123.33.231",
"token": "Bearer ITHEIMAOOPJAVAITCAST"
}
2.3.3 热点数据隔离
可以采用定时任务(elastic-job)实时查询Druid,把近期访问量最多的商品放入redis缓存中。缓存中数据如下:商品库存,价格,名称等。
备注:
用户进行下单时候,在redis中就是热点商品,走热点下单。不在redis中不是热点商品,走服务直接下单。
在将热点商品放到redis中,需要根据商品的锁定字段,将商品锁定。然后再将商品信息放到redis中。用户抢购商品和热点商品放到redis中同时进行,导致库存混乱。
2.4 热点商品和非热点商品抢购流程
需要判断当前用户对当前商品24小时内是否抢过。判断抢购商品是冷商品还是热门商品。判断库存是否充足。
1. 非热点商品秒杀:
a 判定为非热点数据,进入服务中进行下单系统。
b 对库存进行判断,如果库存充足,进行下单。如果库存不充足,事务回滚。
c 如果库存充足,但是商品变为热点商品。应将下单操作发送到kafka,然后变成热点商品下单操作(防止商品库存混乱)。
d 记录该用户抢的该商品,用于提示该用户24小时不能抢该商品。
2. 热点商品秒杀:
a lua脚本进行JWT校验,判断用户是否登录。
b 从redis查询看该用户是否抢了该商品(在抢购商品成功后,会将商品和用户信息存储到redis中)。
c 从redis热点商品中查询,商品是否为热点商品。如果是热点商品且库存>0,热点商品抢购流程。
d 判断该用户该商品是否处于排队(用redis的incr自增来判断当前用户该商品是否重复排队)。是,提示用户正在排队。否,直接排队。
e 订单系统通过队列订阅读取用户下单信息,并进行下单。
三 流量监控
在秒杀项目中需要集成Sentinel进行限流操作。在秒杀过程中冷门商品变为热门商品时候,访问服务流量瞬间激增,需要采用Sentinel进行限流,保护服务的稳定性。