1. MongoDB 简介
MongoDB是一个可扩展的高性能,开源,模式自由,面向文档的NoSQL,基于分布式文件存储,由 C++ 语言编写,设计之初旨在为 WEB 应用提供可扩展的高性能数据存储解决方案。
2. MongoDB特点
模式自由 :可以把不同结构的文档存储在同一个数据库里
面向集合的存储:适合存储 JSON风格文件的形式,
完整的索引支持:对任何属性可索引,
复制和高可用性:支持服务器之间的数据复制,支持主-从模式及服务器之间的相互复制。复制的主要目的是提供冗余及自动故障转移。
自动分片:支持水平的数据库集群,可动态添加额外的机器。
丰富的查询:支持丰富的查询表达方式,查询指令使用JSON形式的标记,可轻易查询文档中的内嵌的对象及数组。
快速就地更新:查询优化器会分析查询表达式,并生成一个高效的查询计划。
高效的传统存储方式:支持二进制数据及大型对象(如图片等...)。
3. MongoDB与SQL区别
4. 适用场景
网站数据: 适合实时的插入,更新与查询,并具备网站实时数据存储所需的复制及高度伸缩性。
缓存: 由于性能很高,也适合作为信息基础设施的缓存层。在系统重启之后,搭建的持久化缓存可以避免下层的数据源过载。
大尺寸、低价值的数据: 使用传统的关系数据库存储一些数据时可能会比较贵,在此之前,很多程序员往往会选择传统的文件进行存储。
高伸缩性的场景: 非常适合由数十或者数百台服务器组成的数据库。
用于对象及JSON数据的存储: MongoDB的BSON数据格式非常适合文档格式化的存储及查询。
5. MongoDB的安装与使用
1. MongoDB官网安装包下载地址:http://www.mongodb.org/downloads
MongoDB安装文档:https://docs.mongodb.com/getting-started/shell/installation/
Ubuntu下安装MongoDB:
python@ubuntu:~$ sudo apt-get install mongodb
注意:使用MongoDB,需要先启动服务端,再使用客户端连接数据库。
2. 服务端
MongoDB 默认的存储数据目录为 /data/db,默认端口27017
服务的命令为mongod,可以通过help查看所有参数
python@ubuntu:~$ mongod --help
相关文件存放路径:默认各个文件存放路径如下所示:
可执行文件存放路径:/usr/bin/mongod和/usr/bin/mongo
数据库文件存放路径:/data/db
日志文件存放路径:/var/log/mongodb/mongod.log
配置文件存放路径:/etc/mongod.conf
3. 启动注意事项
1. 首次启动:
启动MongoDB服务:sudo mongod
报出如下错误,表示默认的存储数据目录 /data/db 不存在:
[initandlisten] exception in initAndListen: 29 Data directory /data/db not found., terminating
创建 /data目录和 /data/db 目录,并指定 读/写/执行 权限
python@ubuntu:~$ sudo mkdir -p /data/db
python@ubuntu:~$ sudo chmod777/data/db
2. 再次启动:
再次启动MongoDB服务:sudo mongod
启动成功,但是可能会有三个warning的警告
Warning 1:
[initandlisten] ** WARNING: /sys/kernel/mm/transparent_hugepage/enabled is 'always'.[initandlisten] ** We suggest setting it to 'never'[initandlisten][initandlisten] ** WARNING: /sys/kernel/mm/transparent_hugepage/defrag is 'always'.[initandlisten] ** We suggest setting it to 'never'
Linux的内存分配默认由内核动态分配,而不是由程序自行管理。而MongoDB对内存占用有那么点...严重,所以为了防止MongoDB占用内存过大而被内核"管理",官方推荐关闭动态分配。
默认"always"表示允许动态分配,对应的"never"就是不允许,所以我们将这两个文件内容修改为"naver"后就没有warning了。
# Ctrl + c 退出 MongoDB 数据库服务# 然后进入 root 用户下,执行修改命令python@ubuntu:~$ sudo su[sudo] python 的密码: root@ubuntu:~# sudo echo "never" > /sys/kernel/mm/transparent_hugepage/enabledroot@ubuntu:~# sudo echo "never" > /sys/kernel/mm/transparent_hugepage/defrag
实际上,除非网站DBA对数据库性能有极限要求,在通常情况下系统动态分配的内存页大小足够我们正常使用,而且更能优化整个系统,所以一般不必理会这个warning。而且这样只是临时修改Linux内核的设置,在Linux服务器重启后则会失效。
Warning 2:
[initandlisten] ** WARNING: soft rlimits too low.rlimits set to 1024 processes, 64000 files. Number of processes should be at least 32000 : 0.5 times number of files.
这个WARNING(如果有的话)含义为: 表示默认分配给MongoDB的进程和文件数量限制过低,需要重新分配值:
mongodb当前限制:1024 processes, 64000 files
mongodb建议要求:processes = 0.5*files=32000(至少)
咱们学习阶段默认用不着这么多的进程和文件,所以也可以不必理会。
# 打开 相关配置文件:root@ubuntu:~# vi /etc/security/limits.conf# 在打开的 文件最下方,添加,然后保存退出mongod soft nofile64000mongod hard nofile64000mongod soft nproc32000mongod hard nproc32000
Warning 3:
[initandlisten] ** WARNING: You are running this process as the root user, which is not recommended.
意思是我们在用root权限做这些事,理论上是不安全的。我们可以通过附加--auth参数,来使用用户认证来处理这个情况,这个后面会讲到。
3. 再再次启动:
再再次启动MongoDB服务:sudo mongod
启动后查看进程,以确定是否启动成功
python@ubuntu:~$ ps aux | grep mongod
如果进程中没有mongod的项则没有启动成功,可以通过查看日志来确定错误原因,默认日志文件为/var/log/mongodb/mongod.log,最新的信息在最后面显示。
4. 客户端
客户端命令为mongo,可以通过help查看所有参数。
这个shell即是mongodb的客户端,用来对MongoDB进行操作和管理的交互式环境。
python@ubuntu:~$ mongo --help
终端退出连接
> exit
6. MongoDB数据库命令
1、连接成功后,默认使用test数据库
查看当前数据库名称
db
2、查看所有数据库名称,列出所有在物理上存在的数据库
show dbs
3、切换数据库,如果数据库不存在也并不创建,直到插入数据或创建集合时数据库才被创建
use 数据库名称
4、删除当前指向的数据库,如果数据库不存在,则什么也不做
db.dropDatabase()
7. MongoDB集合命令
创建语法如下:
name是要创建的集合的名称
options是一个文档,用于指定集合的配置,选项参数是可选的,所以只需要到指定的集合名称
可以不手动创建集合,向不存在的集合中第一次加入数据时,集合会被创建出来
db.createCollection(name, options)
例1:不限制集合大小
db.createCollection("stu")
例2:限制集合大小,后面学会插入语句后可以查看效果
参数capped:默认值为false表示不设置上限,值为true表示设置上限
参数size:当capped值为true时,需要指定此参数,表示上限大小,当文档达到上限时,会将之前的数据覆盖,单位为字节
db.createCollection("sub", { capped : true, size : 10 } )
查看当前数据库的集合
show collections
删除命令
db.集合名称.drop()
8. MongoDB文档命令
1.MongoDB的数据类型
Object ID:文档ID
String: 字符串,最常用,必须是有效的UTF-8
Boolean: 存储一个布尔值,true或false
Integer: 整数可以是32位或64位,这取决于服务器
Double: 存储浮点值
Arrays: 数组或列表,多个值存储到一个键
Object: 用于嵌入式的文档,即一个值为一个文档
Null: 存储Null值
Timestamp:时间戳,表示从1970-1-1到现在的总秒数
Date: 存储当前日期或时间的UNIX时间格式
创建日期语句如下
注意:参数的格式为YYYY-MM-DD
new Date('2015-11-11')
object id
每个文档都有一个属性,为_id,保证每个文档的唯一性
可以自己去设置_id插入文档
如果没有提供,那么MongoDB为每个文档提供了一个独特的_id,类型为objectID
objectID是一个12字节的十六进制数:
前4个字节为当前时间戳
接下来3个字节为机器ID
接下来的2个字节为MongoDB的服务进程id
最后3个字节为简单的增量值
2. MongoDB的数据增删改查
1、插入语法:
db.集合名称.insert(document)
插入文档时,如果不指定_id参数,MongoDB会为文档分配一个唯一的ObjectId
例1
db.stu.insert({name:'gj',gender:1})
例2
s1={_id:'2015111',name:'hr'}
s1.gender=0
db.stu.insert(s1)
2、更新语法:
db.集合名称.update(
<query>,
<update>,
{multi:boolean<>}
)
参数query:查询条件,类似sql语句update中where部分
参数update:更新操作符,类似sql语句update中set部分
参数multi:可选,默认是false,表示只更新找到的第一条记录,
值为true表示把满足条件的文档全部更新
例1:全文档更新
db.stu.update({name:'hr'},{name:'mnc'})
例2:指定属性更新,通过操作符$set
db.stu.insert({name:'hr',gender:0})
db.stu.update({name:'hr'},{$set:{name:'hys'}})
例3:修改多条匹配到的数据
db.stu.update({},{$set:{gender:0}},{multi:true})
3、保存语法:
db.集合名称.save(document)
如果文档的_id已经存在则修改,如果文档的_id不存在则添加
例1
db.stu.save({_id:'20160102','name':'yk',gender:1})
例2
db.stu.save({_id:'20160102','name':'wyk'})
4、删除语法:
db.集合名称.remove(
query,
{
justOne:
})
参数query:可选,删除的文档的条件
参数justOne:可选,如果设为true或1,则只删除一条,默认false,表示删除多条
例1:只删除匹配到的第一条
db.stu.remove({gender:0},{justOne:true})
例2:全部删除
db.stu.remove({})
9. MongoDB数据查询
1、基本查询:
方法find():查询
db.集合名称.find({条件文档})
方法findOne():查询,只返回第一个
db.集合名称.findOne({条件文档})
方法pretty():将结果格式化
db.集合名称.find({条件文档}).pretty()
2、比较运算符:
等于,默认是等于判断,没有运算符
小于$lt
小于或等于$lte
大于$gt
大于或等于$gte
不等于$ne
例1:查询名称等于'zhangsan'的学生
db.stu.find({name:'zhangsan'})
例2:查询年龄大于或等于18的学生
db.stu.find({age:{$gte:18}})
3、逻辑运算符:
查询时可以有多个条件,多个条件之间需要通过逻辑运算符连接
逻辑与:默认是逻辑与的关系
例1:查询年龄大于或等于18,并且性别为true的学生
db.stu.find({age:{$gte:18},gender:true})
逻辑或:使用$or,值为数组,数组中每个元素为json
例2:查询年龄大于18,或性别为false的学生
db.stu.find({$or:[{age:{$gt:18}},{gender:false}]})
and和or一起使用
例3:查询年龄大于18或性别为true的学生,并且学生的姓名为gj
db.stu.find({$or:[{age:{$gte:18}},{gender:true}],name:'gj'})
4、范围运算符:
使用"$in","$nin" 判断是否在某个范围内
例1:查询年龄为18、28的学生
db.stu.find({age:{$in:[18,28]}})
5、支持正则表达式:
mongodb提供的终端shell,同时也是一个js的执行器,可以编写js的代码和函数
使用//或$regex编写正则表达式
例1:查询姓黄的学生
db.stu.find({name:/^黄/})
db.stu.find({name:{$regex:'^黄'}}})
6、自定义查询:
使用$where后面写一个函数(js函数),返回满足条件的数据
例1:查询年龄大于30的学生
db.stu.find({$where:function(){return this.age>30;}})
10. MongoDB中limit与skip的应用
limit
方法limit():用于读取指定数量的文档
语法:
db.集合名称.find().limit(NUMBER)
参数NUMBER表示要获取文档的条数
如果没有指定参数则显示集合中的所有文档
例1:查询2条学生信息
db.stu.find().limit(2)
skip
方法skip():用于跳过指定数量的文档
语法:
db.集合名称.find().skip(NUMBER)
参数NUMBER表示跳过的记录条数,默认值为0
例1:查询从第3条开始的学生信息
db.stu.find().skip(2)
方法limit()和skip()可以一起使用,不分先后顺序
创建数据集
for(i=0;i<15;i++){db.t1.insert({_id:i})}
查询第5至8条数据
db.stu.find().limit(4).skip(5)
或
db.stu.find().skip(5).limit(4)
11. MongoDB投影
定义:在查询到的返回结果中,只选择必要的字段,而不是选择一个文档的整个字段
如:一个文档有5个字段,需要显示只有3个,投影其中3个字段即可
语法:
参数为字段与值,值为1表示显示,值为0不显示
db.集合名称.find({},{字段名称:1,...})
对于需要显示的字段,设置为1即可,不设置即为不显示
特殊:对于_id列默认是显示的,如果不显示需要明确设置为0
例1
db.stu.find({},{name:1,gender:1})
例2
db.stu.find({},{_id:0,name:1,gender:1})
12. MongoDB排序
定义:方法sort(),用于对结果集进行排序
语法
db.集合名称.find().sort({字段:1,...})
参数1为升序排列
参数-1为降序排列
例1:根据性别降序,再根据年龄升序
db.stu.find().sort({gender:-1,age:1})
13. MongoDB统计个数
定义:方法count()用于统计结果集中文档条数
语法
db.集合名称.find({条件}).count()
也可以与为
db.集合名称.count({条件})
例1:统计男生人数
db.stu.find({gender:true}).count()
例2:统计年龄大于20的男生人数
db.stu.count({age:{$gt:20},gender:true})
14. MongoDB消除重复
方法distinct()对数据进行去重
语法
db.集合名称.distinct('去重字段',{条件})
例:查找年龄大于18的学生,来自哪些省份
db.stu.distinct('hometown',{age:{$gt:18}})
15. MongoDB聚合 aggregate
定义:聚合(aggregate)主要用于计算数据,类似sql中的sum()、avg()
语法:db.集合名称.aggregate([{管道:{表达式}}])
管道:管道在Unix和Linux中一般用于将当前命令的输出结果作为下一个命令的输入
ps ajx | grep mongo
在mongodb中,管道具有同样的作用,文档处理完毕后,通过管道进行下一次处理
常用管道
$group:将集合中的文档分组,可用于统计结果
$match:过滤数据,只输出符合条件的文档
$project:修改输入文档的结构,如重命名、增加、删除字段、创建计算结果
$sort:将输入文档排序后输出
$limit:限制聚合管道返回的文档数
$skip:跳过指定数量的文档,并返回余下的文档
$unwind:将数组类型的字段进行拆分
表达式:处理输入文档并输出
语法:表达式:'$列名'
常用表达式
$sum: 计算总和,$sum:1同count表示计数
$avg: 计算平均值
$min: 获取最小值
$max: 获取最大值
$push: 在结果文档中插入值到一个数组中
$first: 根据资源文档的排序获取第一个文档数据
$last: 根据资源文档的排序获取最后一个文档数据
16. unwind
将文档中的某一个数组类型字段拆分成多条,每条包含数组中的一个值
语法1
对某字段值进行拆分
db.集合名称.aggregate([{$unwind:'$字段名称'}])
构造数据
db.t2.insert({_id:1,item:'t-shirt',size:['S','M','L']})
查询
db.t2.aggregate([{$unwind:'$size'}])
语法2
对某字段值进行拆分
处理空数组、非数组、无字段、null情况
属性preserveNullAndEmptyArrays值为false表示丢弃属性值为空的文档
属性preserveNullAndEmptyArrays值为true表示保留属性值为空的文档
db.inventory.aggregate([{
$unwind:{
path:'$字段名称',
preserveNullAndEmptyArrays:#防止数据丢失
}
}])
构造数据
db.t3.insert([
{ "_id" : 1, "item" : "a", "size": [ "S", "M", "L"] },
{ "_id" : 2, "item" : "b", "size" : [ ] },
{ "_id" : 3, "item" : "c", "size": "M" },
{ "_id" : 4, "item" : "d" },
{ "_id" : 5, "item" : "e", "size" : null }
])
使用语法1查询
db.t3.aggregate([{$unwind:'$size'}])
查看查询结果,发现对于空数组、无字段、null的文档,都被丢弃了
问:如何能不丢弃呢?
答:使用语法2查询
db.t3.aggregate([{$unwind:{path:'$size',preserveNullAndEmptyArrays:true}}])
17. MongoDB索引
在mysql中已经学习了索引,并知道索引对于查询速度的提升
mongodb也支持索引,以提升查询速度
步骤一:创建大量数据
在命令行中执行如下代码,向集合中插入10万条文档
注意:不要在图形界面中执行,因为软件原因无法插入10万条数据就会中断执行
for(i=0;i<100000;i++){
db.t1.insert({name:'test'+i,age:i})
}
步骤二:数据查找性能分析
查找姓名为'test10000'的文档
db.t1.find({name:'test10000'})
使用explain()命令进行查询性能分析
db.t1.find({name:'test10000'}).explain('executionStats')
其中的executionStats下的executionTimeMillis表示整体查询时间,单位是毫秒
性能分析结果如下图,由于机器的配置原因这个时间也会不同
索引前
步骤三:建立索引
创建索引
1表示升序,-1表示降序
db.集合.ensureIndex({属性:1})
如
db.t1.ensureIndex({name:1})
步骤四:对索引属性查询
执行上面的同样的查询,并进行查询性能分析
db.t1.find({name:'test10000'}).explain('executionStats')
性能分析结果如下图
索引后:
索引的命令
建立唯一索引,实现唯一约束的功能
db.t1.ensureIndex({"name":1},{"unique":true})
联合索引,对多个属性建立一个索引,按照find()出现的顺序
db.t1.ensureIndex({name:1,age:1})
查看文档所有索引
db.t1.getIndexes()
删除索引
db.t1.dropIndex('索引名称')
18. MongoDB 备份与恢复
备份
语法:
mongodump -h dbhost -d dbname -o dbdirectory
-h:服务器地址,也可以指定端口号
-d:需要备份的数据库名称
-o:备份的数据存放位置,此目录中存放着备份出来的数据
例1
sudo mkdir test1bak
sudo mongodump -h 192.168.196.128:27017 -d test1 -o ~/Desktop/test1bak
恢复
语法:
mongorestore -h dbhost -d dbname --dir dbdirectory
-h:服务器地址
-d:需要恢复的数据库实例
--dir:备份数据所在位置
例1
mongorestore -h 192.168.196.128:27017 -d test2 --dir ~/Desktop/test1bak/test1