lepus天兔数据库监控系统搭建记录

一、开场白

去年的锅,今年才接。时间都耗在了各种业务测试上,上周刚刚把锅甩了,赶紧把以前没完成的事做完。

二、lepus简介

简洁、直观、强大的开源数据库监控系统,MySQL/Oracle/MongoDB/Redis一站式性能监控,让数据库监控更简单。没有memcached。
官网:http://www.lepus.cc/
QQ群:149648217
搭建完成后是这样的

三、lepus3.7搭建

3.8版本已经发布,这里用的是3.7,文末照旧给出所有相关软件下载地址。操作系统CentOS6.4 64位,自带python2.6.6。

依赖软件

1.MySQL 5.0及以上(必须,用来存储监控系统采集的数据)
2.Apache 2.2及以上 (必须,WEB服务器运行服务器)
3.PHP 5.3以上 (必须,提供WEB界面支持)
4.Python2 (必须,推荐2.6及以上版本,执行数据采集和报警任务,不支持Python3)
5.Python连接和监控数据库的相关驱动模块包:
MySQLdb for python (Python连接MySQl的接口,用于监控MySQL,此模块必须安装)
cx_oracle for python (Python连接Oracle的接口,非必须,如果需要监控oracle此模块必须安装)
Pymongo for python (Python连接MongoDB的接口,非必须,如果需要监控MongoDB此模块必须安装 )
redis-py for python (Python连接Redis的接口,非必须,如果需要监控Redis此模块必须安装)

安装步骤

1.xampp安装

上传安装文件并添加+x执行权限,执行安装

./xampp-linux-x64-5.5.24-0-installer.run

2.安装各数据库python驱动

安装前准备:

yum -y install rpm-build gcc-c++ mysql-devel python-devel

各驱动名称:
Mysql:MySQLdb
Redis:redis
Mongodb:pymongo

安装以上三个:

pip install pymongo redis mysql-python

安装oracle驱动:
Oracle:cx_Oracle
参考网址:
http://blog.csdn.net/u011666720/article/details/41350897

需要先配置oracle客户端:
下载地址:
http://www.oracle.com/technetwork/topics/linuxx86-64soft-092277.html
下载
instantclient-basic-linux.x64-12.2.0.1.0.zip
instantclient-sdk-linux.x64-12.2.0.1.0.zip

分别解压后:

yum install unzip -y
unzip ***********
cp -R instantclient_12_2 /opt/

配置环境变量:

vi /etc/profile
#在文件末添加:
export ORACLE_HOME=/opt/instantclient_12_2/
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$ORACLE_HOME

确保文件生效

source /etc/profile

创建软链接

cd /opt/instantclient_12_2/
ln -s libclntsh.so.12.1 libclntsh.so

使用pip安装

pip install cx_Oracle

3.创建并配置lepus数据库

解压安装包:

unzip  lepus_v3.7.zip

启动lampp

/opt/lampp/lampp start

进入mysql命令行,默认密码为空(直接回车)

/opt/lampp/bin/mysql –uroot –p 

创建lepus数据库、账号、修改密码以及访问host

use mysql
create database lepus default character set utf8;
GRANT ALL privileges ON *.* TO 'root'@'localhost' IDENTIFIED BY '123456';
GRANT ALL privileges ON *.* TO 'root'@'%' IDENTIFIED BY '123456';
GRANT ALL privileges ON *.* TO 'lepus'@'localhost' IDENTIFIED BY '123456';
GRANT ALL privileges ON *.* TO 'lepus'@'%' IDENTIFIED BY '123456';
flush privileges;

导入初始化数据:

use lepus
source xxx/xxx/lepus_table.sql 
source xxx/xxx/lepus_data.sql 

4.安装lepus程序

切换到安装包python目录下执行安装:

cd lepus_v3.7/python
./install.sh

修改配置文件

vi  /usr/local/lepus/etc/config.ini
[monitor_server]
host="127.0.0.1"  #这个必须是127.0.0.1
port=3306
user="lepus"#数据库用户名,我上面设置的是lepus
passwd="123456"#数据库密码,我上面设置的密码是123456
dbname="lepus"

lepus常用命令:

lepus start/stop/status

查看启动日志:

tail -f /usr/local/lepus/nohup.out

5.安装lepus web

创建文件夹

mkdir /opt/lampp/htdocs/lepus

拷贝安装文件

cp -rf lepus_v3.7/php/* /opt/lampp/htdocs/lepus

编辑配置文件

vi  /opt/lampp/htdocs/lepus/application/config/database.php

$db['default']['hostname'] = '192.168.200.136';
$db['default']['port']     = '3306';
$db['default']['username'] = 'lepus';
$db['default']['password'] = '123456';
$db['default']['database'] = 'lepus';
$db['default']['dbdriver'] = 'mysql';

重启xampp

/opt/lampp/lampp restart

启动lepus

lepus start

访问http://192.168.200.136/lepus (记得关防火墙或者设置防火墙策略)
默认账号密码admin/Lepusadmin

四、监控mysql

1.添加mysql

2.配置慢查询

被监控机主要有以下几个步骤:mysql基础配置--依赖软件安装---脚本配置--定时任务。

mysql基础配置:

在mysql命令行中执行以下命令:

set global slow_query_log=on;
set global long_query_time=1;#设置记录查询超过多长时间的sql,根据自己情况定
set global slow_query_log_file='/opt/lampp/var/mysql/';#设置mysql慢查询日志路径

断开当前连接然后重新连接进入命令行查询(缓存):

show variables like '%slow%';
show variables like '%long_query_time%';

依赖软件安装:

# yum -y install perl-IO-Socket-SSL
# yum -y install perl-DBI
# yum -y install perl-DBD-MySQL
# yum –y install perl-Time-HiRes
#yum –y install perl-Digest-MD5

或者:

yum install perl* -y

上传percona-toolkit.rpm并安装

rpm -ivh percona-toolkit.rpm

脚本配置:

vi /usr/local/lepus/client/mysql/lepus_slowquery.sh 

#config lepus database server  lepus服务器
lepus_db_host="192.168.200.136"
lepus_db_port=3306
lepus_db_user="lepus"
lepus_db_password="123456"
lepus_db_database="lepus"

#config mysql server  被监控的mysql
mysql_client="/opt/lampp/bin/mysql"
mysql_host="192.168.200.136"
mysql_port=3306
mysql_user="lepus"
mysql_password="123456"

#config slowqury  慢查询日志
slowquery_dir="/opt/lampp/var/mysql/"
slowquery_long_time=1
slowquery_file=`$mysql_client -h$mysql_host -P$mysql_port -u$mysql_user -p$mysql_password  -e "show variables like 'slow_query_log_file'"|grep log|awk '{print $2}'`
pt_query_digest="/usr/bin/pt-query-digest"

#config server_id  与web上配置中心,mysql列表中的ID对应
lepus_server_id=1

手动运行查看是否正常运行:

sh /usr/local/lepus/client/mysql/lepus_slowquery.sh 

定时任务:

查看所有定时任务:

crontab -l

添加定时任务:

crontab -e 
*/5 * * * * sh /usr/local/sbin/lepus_slowquery.sh > /dev/null 2>&1

3.配置表空间分析

vi /usr/local/lepus/lepus.py

在monitor_mysql中添加(注意python代码格式):

job = Process(target = job_run, args = ('check_mysql_bigtable',int(frequency_monitor)*120)
joblist.append(job)
job.start()

修改脚本(非必须)

vi /usr/local/lepus/check_mysql_bigtable.py
bigtable=curs.execute("SELECT table_schema as 'DB',table_name as 'TABLE',CONCAT(ROUND(( data_length + index_length ) / ( 1024 * 1024 ), 2), '') 'TOTAL' , table_comment as COMMENT FROM information_schema.TABLES group by table_name having total > 5 ORDER BY data_length + index_length DESC LIMIT 10;");

以上修改内容表示提取表大小大于5M并且是排名前10的表。

pip install functions

将脚本放到crontab中执行,定期采集数据

crontab -e
*/5 * * * * python /usr/local/lepus/check_mysql_bigtable.py

4.配置表复制监控

主从mysql实例添加到监控后,等一会时间,监控就会有数据产生。
搜索选项的“角色”框中选择SLAVE角色,搜索后就会出现相应的数据。

五、监控mongodb

确保驱动已安装:

python lepus_v3.7/python/test_connect_mongodb.py

试运行check_mongodb.py :

cd /usr/local/lepus/
python check_mongodb.py  

运行成功则能正常使用。
我遇到的问题:


Pymongo安装了太新的版本,重新安装pymongo2.4再次运行(不知道lepus3.8有无更新)

这次真看不懂了,留个锅,以后再看。

六、监控redis

输入ip端口即可。

七、监控OS

安装组件:

yum install net-snmp*

编辑配置

vi /etc/snmp/snmpd.conf
#41行 将default改为监控服务器ip; 将public改成lepus (备注: lepus是您在天兔配置文件里配置的通用实体,如果您配置的实体是其他名称,这里要做相应的修改)示例如下:
com2sec notConfigUser  10.0.10.10      lepus 

#62行 将systemview 改为all,供所有snmp访问权限 
access  notConfigGroup ""      any       noauth    exact  all none none 

#85行 将#注释符号去掉 
view all    included  .1                               80 

尝试启动:

/etc/init.d/snmpd start 

验证是否启动成功:

ps -ef | grep 'snmpd' 

修改日志级别

vi /etc/init.d/snmpd
#OPTIONS="-Lsd -Lf /dev/null -p /var/run/snmpd.pid -a" 
OPTIONS="-LS 4 d -p /var/run/snmpd.pid -a" 

重启服务

/etc/init.d/snmpd restart

八、监控oracle

确保驱动已安装:

python lepus_v3.7/python/test_driver_oracle.py 

添加实例,果失败,查看日志:
ORA-00942: table or view does not exist
查到可能有如下原因:


使用数据库管理员账号再次添加实例重试成功。
安利一波我的图


恩 大概就是这样。

九、其它乱起八糟的记录

python2.6升级python2.7

参考:
http://blog.csdn.net/xh16319/article/details/39276053

wget http://python.org/ftp/python/2.7.3/Python-2.7.3.tar.bz2 --no-check-certificate
tar -jxvf Python-2.7.3.tar.bz2
cd Python-2.7.3
mkdir /usr/local/python27
./configure --prefix=/usr/local/python27
make
make install
mv /usr/bin/python /usr/bin/python_old
ln -s /usr/local/python27/bin/python2.7 /usr/bin/python 

python -V命令验证

安装pip

wget https://bootstrap.pypa.io/get-pip.py 
python get-pip.py
#curl https://bootstrap.pypa.io/get-pip.py | python 

yum源更换

卸载原来的yum,安装新的然后配置源为163,参考地址:
http://blog.csdn.net/h249059945/article/details/11636107

升级python为2.7后yum无法正常使用,yum支持的是python2.6版本

vi /usr/bin/yum

将第一行python修改为python2或python2.6

奇葩问题一个:使用yum的时候提示:

GPG key retrieval failed: [Errno 14] PYCURL ERROR 56 - "Failure when receiving data from the peer"

解决办法:

rpm --import http://mirrors.163.com/centos/RPM-GPG-KEY-CentOS-6

mongodb安装

参考文档:
http://www.cnblogs.com/savokiss/p/6410433.html
http://blog.csdn.net/sikichan/article/details/53738449

1、下载mongodb安装包,
2、在/usr/local目录下创建一个mongodb文件夹,然后把mongodb的安装包解压到mongodb文件中
3、创建一个存放数据的文件夹data和日志文件logs

cd /usr/local/mongodb
mkdir data
touch mongodb.logs

4、启动和关闭mongodb

/usr/local/mongodb/bin/mongod -dbpath=/usr/local/mongodb/data/ -logpath=/usr/local/mongodb/mongodb.logs -logappend -port=27017 -fork
/usr/local/mongodb/bin/mongod  --shutdown --dbpath /usr/local/mongodb/data/

注:参考文章使用的是配置文件启动。

5.创建管理员以及常用的操作

./mongo
use admin;
db.system.users.find();
show collections;
db.createUser({ user: "root",pwd: "123456",customData:{name:"root"},roles:[{ role: "userAdminAnyDatabase",db: "admin" }]})
db.createUser({user: "myUserAdmin",pwd: "abc123",roles: [ { role: "userAdminAnyDatabase", db: "admin" } ]})
db.auth('myUserAdmin','abc123');  //本地授权操作1 代表成功
db.createUser({user:"admin",pwd:"123456",roles:[{role:"root",db:"admin"}]})
db.system.users.remove({user:"myUserAdmin"});
db.dropUser('myUserAdmin')
db.dropUser('useradmin')
db.auth('admin','123456'); 
db.changeUserPassword("username", "xxx")

////////以上为创建账户
////////以下为创建库
./mongo // 进入mongo shell

use test // 使用 test 库,如果没有则新建
db.createCollection('test') // 在 test 库中新建一个叫 user 的 collection
db.test.insert({"name":"yuyuy","nums":100});
db.test.find()

6.远程无法登陆的问题

db.system.version.update({"_id":"authSchema"},{$set:{"currentVersion":3}}) 

参考:
http://www.cnblogs.com/chenjianxiang/p/6909236.html

默认所有ip都可以访问
新安装的数据没有admin管理员
MongoDB默认情况下不启用访问控制

redis安装

1、下载redis安装包

wget  http://download.redis.io/releases/redis-2.8.12.tar.gz

2、安装redis依赖

yum -y install gcc* make  tcl

3、编译安装

tar xvf  redis-2.8.12.tar.gz 
#改名
mv redis-2.8.12 redis
#移动
mv redis /usr/local 
cd /usr/local/redis
make

4、使用redis的可执行命令
将redis命令移动到/usr/local/bin目录下,把redis命令放到/usr/local/bin目录下后就可以直接使用redis命令,如果不放到/usr/local/bin也是可以的,直接到/usr/local/redis/src目录下使用即可。

cd /usr/local/redis/src
cp -rf redis-benchmark redis-server redis-cli redis-check-dump redis-check-aof /usr/local/bin

5.启动和关闭redis

redis-server &
redis-cli shutdown    

文件编码

windows编码一般是GBK(dos),而linux文件编码是unix UTF-8
如果编码不正确会导致脚本无法运行
首先使用locale命令查看系统编码,如果不是LANG=en_US.UTF-8就修改/etc/sysconfig/i18n文件直到生效

vi fileName
:set fileencoding 查看文件编码
:set fileencoding=utf-8
:set ff=unix  设置为unix
:set ff?    查看系统编码

十、软件下载

链接:http://pan.baidu.com/s/1pKW0TgZ 密码:bjdn

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,547评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,399评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,428评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,599评论 1 274
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,612评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,577评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,941评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,603评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,852评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,605评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,693评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,375评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,955评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,936评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,172评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,970评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,414评论 2 342

推荐阅读更多精彩内容