这几天一直在使用python 的 pymongo操作mongodb数据库,然后发现一个问题:
在大量操作的情况下,mongo会突然连接不上,导致程序出错
一开始我的解决办法就是:重启.....后面发现,治标不治本,这样下去是不行滴
netstat -an | grep 27017
查看端口情况27017 ( 我设置的连接mongodb的端口 )
netstat -an | grep -c 27017
查看27017端口的连接数
netstat -n | awk '/^tcp/ {++state[$NF]} END {for(key in state) print key,"\t",state[key]}'
查看tcp的各个状态的数目
发现处于time_wait的tcp竟然达到上万
发现连接mongodb的tcp的大量处于time_wait状态,学过网络应该知道,客户端主动关闭连接时,会发送最后一个ack后,然后会进入TIME_WAIT状态,再停留2个MSL时间,进入close状态。
猜测之前mongodb会连接不上可能跟tcp大量处于time_wait状态有关,检查一下mongodb所支持的最大连接数
db.serverStatus().connections
查看mongodb的最大连接数
如下图,虽然mongo的最大连接数是可以设置,但是在我的项目中已经足够用了
可见,mongodb的最大支持连接数是19998
在下的解决办法:
- 在使用mongodb之后,要进行close断开连接操作
- 设置releaseConnectionsAfterResponse参数
db.runCommand({ setParameter : 1, releaseConnectionsAfterResponse : true })
在网上查找,releaseConnectionsAfterResponse参数:连接在完成一个读操作或者安全写操作后能够重复使用
- 默认mongo的连接是可以复用的,可设置maxPoolSize连接池的最大数量,waitQueueMultiple等待的最大数量,waitQueueTimeoutMS等待队列的超时时间
client = MongoClient(host, port, maxPoolSize=200)
client = MongoClient(host, port, maxPoolSize=None)
client = MongoClient(host, port, maxPoolSize=50, waitQueueMultiple=10)
client = MongoClient(host, port, waitQueueTimeoutMS=100)
我只采用了前两个方法,最后保持tcp的连接在4000左右,目前还不知道有没有其他更好的办法。
写下这篇文章作为记录。
参考链接:
http://blog.chinaunix.net/uid-15795819-id-3807939.html
http://api.mongodb.com/python/current/faq.html
http://blog.csdn.net/hjxhjh/article/details/12611195