[数据库]000 - 🍳Sysbench 数据库压力测试工具

000 - 🍳Sysbench 数据库压力测试工具

  • sysbench 是一个开源的、模块化的、跨平台的多线程性能测试工具,可以用来进行CPU、内存、磁盘I/O、线程、数据库的性能测试。目前支持的数据库有MySQLOraclePostgreSQL。以下操作都将以支持MySQL数据库为例进行。

1. Linux 上安装 sysbench 工具

  • 安装方式有两种,一种是通过 yum/apt 等来安装,另一种自己下载源码包来安装,笔者这里采用的是centos ,采用yum 安装
  • sysbench 的源码包下载地址: http://sourceforge.net/projects/sysbench ,采用源码安装的可转这里
  • 通过 yum 安装如下:
    • 设置 yum repo 仓库

curl -s https://packagecloud.io/install/repositories/akopytov/sysbench/script.rpm.sh | sudo bash

  • 安装

sudo yum -y install sysbench

  • 安装完检查是否成功

sysbench --version

image.png

2. 数据库测试用例准备

  • 我们这里测试的是 MySQL ,首先我们在数据库创建一个专门用来测试的库 test_db
image.png
  • 通过sysbench 创建20个测试表,每个表中创建100万数据,再通过10个线程对测试库发起访问,持续5分钟,对其进行压测

3. sysbench 构建表与数据

  • 执行下面命令准备数据

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_read_write --db-ps-mode=disable prepare

  • 上面命令的参数说明:
    • --db-driver=mysql : 表示数据库的驱动类型,我们使用的是 MySQL 所以填mysql ,如果使用 Oracle 则填写相应的oracle
    • --time=300 : 这个参数表示持续访问的时间 300秒
    • --threads=10 : 表示使用10个线程模拟并发访问
    • --report-interval=1 : 表示每隔一秒输出以此压测情况
    • --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root : 这一块的配置,就是基本的数据库链接信息,指定数据库IP ,端口,账号密码
    • --mysql-db=test_db --tables=20 --table_size=1000000 : 这三个参数设置,表示指定测试的库为test_db , 同时在这个库中构建20个表,并且每个表中构建出 100万条测试数据,表的名字会类似 sbtest1,sbtest2 这种格式
    • oltp_read_write : 表示执行oltp 数据库的读写测试
    • --db-ps-mode=disable : 禁止 ps 模式
    • prepare : 表示按照命令设置去构建出我们的数据,也就是对前面所有命令的执行方案

4. 全方位测试

1. 综合读写测试
  • 测试数据库的综合读写TPS ,使用 oltp_read_write 模式

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_read_write --db-ps-mode=disable run

注意:命令最后不再是 之前的 prepare,这里是 run ,表示运行压测,前面的是准备数据

  • 效果
image.png
  • 上面是直接输出到控制台,我们也可以将其全部记录在文件中,通过管道,| tee /tmp/mysysbench.log 整个命令如下:

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_read_write --db-ps-mode=disable run | tee /tmp/mysysbench.log

2. 只读性能测试
  • 测试数据库的只读性能,使用 oltp_read_only 模式,命令如下:

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_read_only --db-ps-mode=disable run

  • 结果:
image.png
  • 如果要输出到文件如上
3. 删除性能测试
  • 测试数据库的删除性能,使用模式:oltp_delete ,命令如下:

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_delete --db-ps-mode=disable run

4. 更新索引字段测试
  • 测试数据库的更新索引字段的性能,使用模式:oltp_update_index , 命令如下:

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_update_index --db-ps-mode=disable run

5. 更新非索引字段测试
  • 测试数据库中更新非索引字段的性能,使用模式:oltp_update_non_index, 命令如下:

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_update_non_index --db-ps-mode=disable run

6. 插入性能测试
  • 测试数据库的数据插入性能,使用模式:oltp_insert,命令如下:

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_insert --db-ps-mode=disable run

7. 写入性能测试
  • 测试数据库的写入性能,使用模式:oltp_write_only, 命令如下:

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_write_only --db-ps-mode=disable run

8. 清理数据
  • 前面命令进行了各种测试,在测试完之后我们可以通过下面的 cleanup 命令来清除构建的测试数据

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_read_write --db-ps-mode=disable cleanup

9. 压测结果分析

  • 通过上面的命令我们可以全方位的得到测试的结果,我们直接每个一秒输出一次结果,在控制台会输出类似下面的东西:

[ 31s ] thds: 10 tps: 350.35 qps: 5575.50 (r/w/o: 4874.81/0.00/700.69) lat (ms,95%): 36.89 err/s: 0.00 reconn/s: 0.00

  • 我们来解释一下其中的含义,首先[31s] 表示这是在第31秒的时候输出的一段压测统计结果,其他字段如下:
    • thds:10 : 表示当前有10个线程正在压测
    • tps:350.35 : 表示当前每秒执行了 350.35 个事务
    • qps:5575.50: 表示当前每秒可以执行 5575.50 个请求
    • (r/w/o: 4874.81/0.00/700.69) : 表示在每秒 5575.50 个请求中,有 4874.81 个读请求,0.00 个写请求,700.69 个其他请求,其实就是对 qps 的细化
    • lat (ms,95%): 36.89:表示 95% 的请求的延迟都在36.89 毫秒以下
    • err/s: 0.00 reconn/s: 0.00:表示有0个请求失败,发生了0次的网络重连
  • 在压测结束后会输出一个总的压测结果,如下:
image.png
  • 其中的参数的解释:
image.png

10. 常用监控命令

  • 在压测过程中我们要时刻关注服务器的 CPU 、磁盘I/O 、网络负载等信息,一旦发现任何一个超出一定负荷,则不适合再继续加大线程数来压测了
  • 一定要注意,压测的过程是要保证机器各项指标在正常范围内的最大负载,而不是我们不断的增大 sysbench 的线程数,不关系其他指标,这样即使机器每秒抗住了很高的qps ,但是这时候的机器已经是满负荷运行了,内存,cpu,网络带宽等都几乎被打满,这种情况机器随时可能挂掉,这时候的测压就没有什么代表性了,因为你不可能在生产者让它达到这样的负荷
观察 CPU 的的负荷
  • Linux下最常见的命令就是top 命令,可以输出详细的情况,如下:
image.png
  • 对于上面的输出,我们详细来分析一下,首先看第一行的输出

top - 16:24:21 up 13:41, 4 users, load average: 0.11, 3.10, 3.72

  • 16:24:21 : 表示当前的时间
  • up 13:41:表示已经运行了多长时间
  • 4 users:当前机器有几个用户在使用
  • load average: 0.11, 3.10, 3.72:这是核心。表示 CPU 在 一分钟、五分钟、十五分钟 内的平均负载情况,简单解释一下,假设我们是一个四核的CPU ,此时如果我们的CPU 负载是 0.15 ,那么表示这四个核心中连一个核心都没使用满,表明整体比较空闲;如果整个负载是1,则表示四个核中有一个已经使用的比较繁忙了,但是其他三个还是比较空闲的;如果负载是4,则说明当前四个核心都处于跑满的状态,如果负载大于四,假设6,那说明四核的CPU 被超负荷使用也无法处理完当前的任务,有很多线程与要等待CPU 资源
  • 后面有内存的使用情况,

KiB Mem : 498684 total, 6216 free, 366620 used, 125848 buff/cache

  • 498684 total : 总的内存,差不多 490M
  • 6216 free:当前可用内存,6M
  • 366620 used:已使用内存
  • 125848 buff/cache:用于IO 缓冲的内存
磁盘IO检测
  • 在检测CPU 和内存使用的同时,我们还需要检测磁盘的使用状况,包括IO 吞吐量,IOPS 等信息
  • 主要通过 dstat 命令来查看,如果系统没有装可以通过 yum install dstat 进行安装
  • 执行 dstat -d 命令,可以看到如下:
image.png

上面显示的内存可以看到存储的IO吞吐量的详细数据,每秒读19M数据,每秒写 6521K的数据,这个吞吐量并不是很高,一般普通的机械硬盘可以到达上百MB的读写量

  • 使用命令 dstat -r 来查看IOPS 的情况,如下:
image.png

如上面结果可以看到,读写分别的IOPS 的值,也就是说随即磁盘读取/写入每秒多少次,通常来说磁盘的读写每秒在两三百次是可接受的

网卡流量检测
  • 同样我们可以通过 dstat -n 来查看网卡的具体流量情况,如下:
image.png

可以看到上面所示,网卡每秒接收和发送的数据量。通常来说如果我们电脑是千兆网卡,那么每秒钟网卡的总流量也就在100M 左右,甚至更低


本文由AnonyStar 发布,可转载但需声明原文出处。
更多文章关注笔者博客 :云栖简码 i-code.online

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,723评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,080评论 2 379
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,604评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,440评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,431评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,499评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,893评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,541评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,751评论 1 296
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,547评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,619评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,320评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,890评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,896评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,137评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,796评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,335评论 2 342

推荐阅读更多精彩内容