调研了一下现在市面上有的mysql中间件,大概有这么一些:
mysql-proxy
官方出的版本,使用的人较少
cobar
阿里开源版本,比较老没人维护,暂不深入研究
tddl
未完全开源,不深入研究
sohu-dbproxy
搜狐公司开源,在mysql-proxy 0.8.3基础上修改,已经两年多没更新了,文档较齐全,从文档上看,内部还出过事故,开源版本不支持读写分离,和atlas结构一致,就不算看了...
atlas
360开源,在mysql-proxy 0.8.2基础上修改,也两年多没更新了,不过最近还一直有人开issue,说明有人使用,目前准备尝试的选项
mycat
在阿里的cobar基础上开发的,Java语言开发,有完整的文档,前同事的公司正打算试水,但也有网友说如果出问题,咨询是要收费的...打算看一下相关的实现,另外有人在群里总结的mycat缺陷:
- 事务功能只管成功不管失败,因为没有xa rollback
- order by合并结果集,直接sort,nlogn级别的
- 解析器受制于druid的解析器,手写的没有自动生成的快
- 性能差
暂时先不考虑,等前同事部署好了看效果再说-||
oneproxy
免费使用,但拿不到源代码,文档较少,且服务收费,是阿里的楼方鑫写的,愿意付费的话很多人都推荐使用
kingshard
golang实现的新的dbproxy,一直有更新,作为备选项...
SkyProxy
某大神自己写的,功能尚不完善...
vitess
youtube开源的mysql中间件,包含功能复杂,项目较大,功能应该非常完善,且久经考验,但使用难度很大,codis的作者说他们没搭起来...
其它
就是各大公司内部正在使用的版本,网上是找不到的...
后面详细了解atlas和kingshard,atlas和sohu-dbproxy的搭建流程基本一致,HA的方案也是一样的,但360的版本内部还在开发,且issue一直在更新,所以先看atlas
atlas 安装使用
我基本参考这两篇文章:
编译安装dbproxy atlas
采用atlas+keepalived实现mysql读写分离、读负载均衡
我的系统:
LSB Version: :core-4.1-amd64:core-4.1-noarch
Distributor ID: CentOS
Description: CentOS Linux release 7.0.1406 (Core)
Release: 7.0.1406
Codename: Core
1 安装库文件
可以直接yum install的库
yum install -y libevent-devel lua-devel openssl-devel flex
yum install -y xz gettext-devel
yum install -y libffi*
安装glib
wget http://ftp.acc.umu.se/pub/gnome/sources/glib/2.33/glib-2.33.6.tar.xz
xz -d glib-2.33.6.tar.xz
tar xvf glib-2.33.6.tar
./configure
make
sudo make install
ldconfig
安装jemalloc
wget http://www.canonware.com/download/jemalloc/jemalloc-3.1.0.tar.bz2
tar xvf jemalloc-3.1.0.tar.bz2
./configure
make
sudo make install
make install已经把libjemalloc.so.1拷贝到/usr/local/lib目录
但还是需要把jemalloc库所在的目录/usr/local/lib加入ldconfig寻找的路径
创建文件 vi /etc/ld.so.conf.d/jemalloc.conf
写入 /usr/local/lib/
执行
ldconfig
我后面执行./bootstrap.sh报错就是因为找不到libjemalloc.so.1文件
2 安装 atlas
wget https://github.com/Qihoo360/Atlas/archive/2.2.1.tar.gz
tar zxvf 2.2.1.tar.gz
默认安装目录配置在bootstrap.sh中,--prefix=/usr/local/mysql-proxy
./bootstrap.sh
按照我自己操作的顺序,到这一步出错:
<pre>
checking for gcc... gcc
checking for C compiler default output file name... a.out
checking whether the C compiler works... configure: error: in /search/dbproxy/Atlas-2.2.1': configure: error: cannot run C compiled programs. If you meant to cross compile, use
--host'.
See `config.log' for more details.
</pre>
查看config.log里面报了两个错,一个是gcc版本,一个是找不到jemalloc库文件,感觉应该不是gcc版本问题,不然那个错报了就直接退出了,所以先忽略,按照前天提到的方法拷贝libjemalloc.so.1文件修复第2个问题。
make
这一步又报错
<pre>
/usr/bin/ld: cannot find -lmysqlclient
</pre>
我前面没有按参考文章里安装mysql-devel,因为本地之前已经安装过mysql了,怀疑是这个原因,再次尝试yum install -y mysql-devel mysql-client,还是失败,于是按正常方法解决: 查找相关文件 find / -name "libmysql*",找到文件
/usr/lib64/libmysqlclient.so.18.1.0
创建soft link:
ln -s /usr/lib64/libmysqlclient.so.18.1.0 /usr/lib64/libmysqlclient.so
再次make,成功!
sudo make install
至此,安装结束,程序被安装在默认安装目录:/usr/local/mysql-proxy
3 运行atlas
参考官方文档
atlas运行及常见问题
altas部分配置参数及原理详解
在/usr/local/mysql-proxy/conf下新建文件 proxy.cnf,写入:
[mysql-proxy]
admin-username = user
admin-password = pwd
admin-address = 0.0.0.0:2345
proxy-backend-addresses = 10.44.12.53:3306
#proxy-read-only-backend-addresses = 192.168.1.221:9858,192.168.0.14:9858
pwds = test1:m+V9O1oT0vI=,test2:CdRfa4F0N6w=
daemon = true
keepalive = true
event-threads = 4
log-level = message
log-path = /usr/local/mysql-proxy/log
sql-log = ON
sql-log-slow = 10
wait-timeout = 10
proxy-address = 0.0.0.0:12340
charset = utf8
client-ips = 127.0.0.1
基本上按照官方参数解释里填写就可以了,这个文件我默认是没有的,所以就新建了。
根据配置文件名proxy.cnf,启动atlas:
/usr/local/mysql-proxy/bin/mysql-proxyd proxy start
启动之后又两个进程:
root 15078 1 0 09:59 ? 00:00:00 /usr/local/mysql-proxy/bin/mysql-proxy --defaults-file=/usr/local/mysql-proxy/conf/proxy.cnf
root 15079 15078 0 09:59 ? 00:00:00 /usr/local/mysql-proxy/bin/mysql-proxy --defaults-file=/usr/local/mysql-proxy/conf/proxy.cnf
这是正确的,因为配置文件里keepalive=true。
在需要连接的数据库中创建用户:
grant all on *.* to test1@localhost identified by 'test1';
保证proxy所在的机器上能成功连接mysql:
mysql -utest1 -ptest1 -P3306 -h127.0.0.1
就可以在proxy允许的机器上通过proxy连接mysql
mysql -utest1 -ptest1 -P12340 -h127.0.0.1
至此,安装altas成功,可以进行各种操作,并进入管理员界面:
mysql -uuser -ppwd -P2345 -h127.0.0.1
select * from help;