Sysbench测试神器:一条命令生成百万级测试数据

作者 : 开心源码 本文共3703个字,预计阅读时间需要10分钟 发布时间: 2022-05-14 共229人阅读

1. 基准测试

基准测试(benchmarking)是性能测试的一种类型,强调的是对一类测试对象的某些性能指标进行定量的、可复现、可比照的测试。

image

进一步来了解,基准测试是在某个时候通过基准测试建立一个已知的性能水平(称为基准线),当系统的软硬件环境发生变化之后再进行一次基准测试以确定那些变化对性能的影响,这也是基准测试最常见的用途。其余用途包括测定某种负载水平下的性能极限、管理系统或者环境的变化、发现可能导致性能问题的条件等等。

2. 基准测试的作用

对于大多数Web应用而言,系统的瓶颈往往很容易发生在数据库端,起因很简单:Web应用中的其余因素,例如网络带宽、负载均衡节点、应用服务器(包括CPU、内存、硬盘灯、连接数等)、缓存,都很容易通过水平的扩展(俗称加机器)来实现性能的提高。而对于数据库如MySQL,因为数据一致性的要求,无法通过添加机器来分散向数据库写数据带来的压力;尽管可以通过前置缓存(Redis等)、读写分离、分库分表来减轻压力,但是与系统其它组件的水平扩展相比,受到了太多的限制。

而对数据库的基准测试的作用,就是分析在当前的配置下(包括硬件配置、OS、数据库设置等),数据库的性能体现,从而找出数据库的性能阈值,并根据实际系统的要求调整配置。除此之外,对数据库服务器进行基准测试,也通常用于观察比照数据库结构修改之前以及修改之后,其性能会受到什么样的影响。

3. 基准测试与压力测试区别

很多时候,基准测试和压力测试在实际使用的过程中,很容易被弄混淆。基准测试可以了解为针对系统的一种压力测试。但基准测试不关心业务逻辑,更加简单、直接、易于测试,数据可以由工具生成,不要求真实;而压力测试一般考虑业务逻辑(如购物车业务),要求真实的数据。

4. 基准测试的指标及工具

常见的数据库指标包括:

  • TPS/QPS:主要用于衡量吞吐量。
  • 响应时间:包括平均响应时间、最小响应时间、最大响应时间、时间百分比等,其中时间百分比参考意义较大,如前95%的请求的最大响应时间。
  • 并发量:同时解决的查询请求的数量。

假如只是针对数据库服务器,例如只针对MySQL数据库展开基准测试,一般可以使用专门的工具进行,例如mysqlslapsysbench等。

mysqlslap是MySQL5.1.4之后自带的benchmark基准测试工具,该工具可以模拟多个用户端同时并发的向服务器发出查询升级,给出了性能测试数据而且提供了多种引擎的性能比较。

其中,sysbenchmysqlslap更通用、更强大,本文将给大家详情如何使用sysbench来展开基准测试,之所以说它是测试神器,是由于除了能对利用它对各类基础设备对象展开基准测试以外,还可以利用它的实现思路帮助我们生成成百上千万的测试数据,往下看,一起来揭秘吧~

5. sysbench基准测试

sysbench是一个模块化的、跨平台、多线程基准测试工具,主要用于评估测试各种不同系统参数下的数据库负载情况,它主要包括以下几种方式的测试:

  • cpu性能
  • 磁盘io性能
  • 调度程序性能
  • 内存分配及传输速度
  • POSIX线程性能
  • 数据库性能(OLTP基准测试)

目前sysbench主要支持MySQL,pgsql,Oracle这3类数据库

默认支持MySQL,假如需要测试Oracle/PostgreSQL,则在configure时需要加上–with-oracle或者者–with-pgsql参数.

通过sysbench工具对数据库展开基准测试最大的亮点在于:可以自动帮你在数据库里构造出来大量的数据,你想要多少数据,就自动给你构造出来多少条数据。同时还可以模拟几千个线程并发的访问数据库,模拟使用各种各样的 SQL 语句,包括模拟出来各种事务提交到你的数据库里去,甚至可以模拟出几十万的 TPS 去压测数据库。

image

6. sysbench基本语法

1、在使用前,先要需要安装,建议在Linux下安装sysbench

yum install -y sysbench

2、sysbench的基本语法如下:

sysbench [options]... [testname] [command]

image

其中,command是sysbench要执行的命令,包括prepareruncleanup
顾名思义:

  • prepare是为测试提前准备数据
  • run是执行正式的测试
  • cleanup是在测试完成后对数据库进行清除。

testname指定了要进行的测试,在老版本的sysbench中,可以通过–test参数指定测试的脚本;而在新版本中,–test参数已经公告为废弃,可以不使用–test,而是直接指定脚本。

如下两种方法效果是一样的:

sysbench --test=./tests/include/oltp_legacy/oltp.luasysbench ./tests/include/oltp_legacy/oltp.lua

测试时使用的脚本为lua脚本,可以使用sysbench自带脚本,也可以自己开发。对于大多数应用,使用sysbench自带的脚本就足够了。不同版本的sysbench中,lua脚本的位置可能不同,可以自己在sysbench路径下使用find命令搜索oltp.lua

大多数数据服务都是oltp类型的,假如你不理解什么是oltp,那么大概率你的数据服务就是oltp类型的。

7. sysbench使用实践(一键构建百万级数据)

接下来,给大家演示一下,如何使用sysbench来对MySQL展开基准测试,以及如何利用sysbench一条命令来构建百万级测试数据。

注:sysbench基准测试技能,在笔者的全栈测试开发训练营数据库版块中,对训练营的学员有过专题详情,本文算是给公号读者送福利了。

image

操作方法:

1、在基准测试prepare准备阶段,先创立默认的测试库,例如sysbench_test

mysql> create database sysbench_test;      #创立数据库

如此处,创立sysbench_test数据库

image

2、准备数据,时间比较长,本文主要为了演示方法,因而把table_size设置的小一点

sysbench /usr/share/sysbench/oltp_read_write.lua --tables=5 --table_size=100 --mysql-user=root --mysql-password=xxx --mysql-host=192.168.0.103 --mysql-port=3306 --mysql-db=sysbench_test prepare

其中,几个关键参数:

  • --tables:指定生成表的数量,此处设置了5张表,表明生成5张测试表,读者可根据实际需要,调整此值。
  • --table_size:指定生成表中生成的数据量,上述例子,表明每张表生成100条测试数据,实际可以根据需要调整引值,比方调整为:1000000,即代表生成一百万条测试数据。
  • --mysql-db: 连接的测试数据库名称。
    其它几项参数较为简单,就不逐个详情了。

执行上述命令后,输出如下:

image

命令执行成功后,可以打开数据库查看生成的数据能否和设置的对应:

image

可以看到,已经自动生成了100条测试数据了,假如需要一键成生成百万条测试数据,只要要将--table_size=100 修改为 --table_size=1000000就可。

3、选择一个lua脚本进行测试,如验证读写性能,执行命令如下:

 sysbench /usr/share/sysbench/oltp_read_write.lua --mysql-user=root --mysql-password=xxx --mysql-host=192.168.0.103 --mysql-port=3306 --mysql-db=sysbench_test --tables=5 --table_size=100 --threads=10 --time=30 --report-interval=3 run

上述命令,表明使用了10个并发线程数,执行时间为30秒,每3秒输出一次测试信息。
实际读者可以将--threads=10--time=30值调大少量。

输出信息相似如下:

image

其中,对于我们比较重要的信息包括:

  • queries:查询总数及qps
  • transactions:事务总数及tps
  • Latency-95th percentile:前95%的请求的响应时间。

4、执行完测试,拿到所需要的测试结后,最后一步,记得要清除数据,否则后面的测试可能会受到影响。

sysbench /usr/share/sysbench/oltp_read_write.lua --tables=5 --table_size=100 --mysql-user=root --mysql-password=xxx --mysql-host=192.168.0.103 --mysql-port=3306 --mysql-db=sysbench_test cleanup

假如觉得有用,帮忙点个好看或者朋友圈转发分享一下就行。

说明
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是摆设,本站源码仅提供给会员学习使用!
7. 如遇到加密压缩包,请使用360解压,如遇到无法解压的请联系管理员
开心源码网 » Sysbench测试神器:一条命令生成百万级测试数据

发表回复