脚本宝典收集整理的这篇文章主要介绍了MongoDB_6：4种方法解决MongoDB游标超时的问题（转载），脚本宝典觉得挺不错的，现在分享给大家，也给大家做个参考。

4种方法解决MongoDB游标超时的问题

当我们使用Python从MongoDB里面读取数据时，可能会这样写代码：

123456

import pymongohandler = pymongo.MongoClient().db.colfor row in handler.find():    parse_data(row)

短短4行代码，读取MongoDB里面的每一行数据，然后传入parse_data做处理。处理完成以后再读取下一行。逻辑清晰而简单，能有什么问题？只要parse_data(row)不报错，这一段代码就完美无缺。

但事实并非这样。

你的代码可能会在for row in handler.find()这一行报错。它的原因，说来话长。

要解释这个问题，我们首先就需要知道，handler.find()返回的并不是数据库里面的数据，而是一个游标（cursor）对象。如下图所示：

只有当你使用for循环开始迭代它的时候，游标才会真正去数据库里面读取数据。

但是，如果每一次循环都连接数据库，那么网络连接会浪费大量时间。

所以pymongo会一次性获取100行，for row in handler.find()循环第一次的时候，它会连上MongoDB，读取一百条数据，缓存到内存中。于是第2-100次循环，数据都是直接从内存里面获取，不会再连接数据库。

当循环进行到底101次的时候，再一次连接数据库，再读取第101-200行内容……

这个逻辑非常有效地降低了网络I/O耗时。

但是，MongoDB默认游标的超时时间是10分钟。10分钟之内，必需再次连接MongoDB读取内容刷新游标时间，否则，就会导致游标超时报错：

1

pymongo.errors.CursorNotFound: cursor id 211526444773 not found

如下图所示：

所以，回到最开始的代码中来，如果parse_data每次执行的时间超过6秒钟，那么它执行100次的时间就会超过10分钟。此时，当程序想读取第101行数据的时候，程序就会报错。

为了解决这个问题，我们有4种办法：

1. 修改MongoDB的配置，延长游标超时时间，并重启MongoDB。由于生产环境的MongoDB不能随便重启，所以这个方案虽然有用，但是排除。
2. 一次性把数据全部读取下来，再做处理：

1234

all_data = [row for row in handler.find()]for row in all_data:    parse(row)

这种方案的弊端也很明显，如果数据量非常大，你不一定能全部放到内存里面。即使能够全部放到内存中，但是列表推导式遍历了所有数据，紧接着for循环又遍历一次，浪费时间。

3. 让游标每次返回的数据小于100条，这样消费完这一批数据的时间就会小于10分钟：

1234

# 每次连接数据库，只返回50行数据for row in handler.find().batch_size(50):     parse_data(row)

但这种方案会增加数据库的连接次数，从而增加I/O耗时。

4. 让游标永不超时。通过设定参数no_cursor_timeout=True，让游标永不超时：

12345

cursor = handler.find(no_cursor_timeout=True)for row in cursor:    parse_data(row)cursor.close()  # 一定要手动关闭游标

然而这个操作非常危险，因为如果你的Python程序因为某种原因意外停止了，这个游标就再也无法关闭了！除非重启MongoDB，否则这些游标会一直留在MongoDB上，占用资源。

当然可能有人会说，使用try...except把读取数据的地方包住，只要抛出了异常，在处理异常的时候关闭游标即可：

12345678

cursor = handler.find(no_cursor_timeout=True)try:    for row in cursor:        parse_data(row)except Exception:    parse_exception()finally:    cursor.close()  # 一定要手动关闭游标

其中finally里面的代码，无论有没有异常，都会执行。

但这样写会让代码非常难看。为了解决这个问题，我们可以使用游标的上下文管理器：

123

with handler.find(no_cursor_timeout=True) as cursor:    for row in cursor:        parse_data(row)

只要程序退出了with的缩进，游标自动就会关闭。如果程序中途报错，游标也会关闭。

它的原理可以用下面两段代码来解释：

1234567891011121314151617

class Test:    def __init__(self):        self.x = 1    def echo(self):        print(self.x)    def __enter__(self):        print('进入上下文')        return self    def __exit__(self, *args):        print('退出上下文')        with Test() as t:    t.echo()print('退出缩进')

运行效果如下图所示：

接下来在with的缩进里面人为制造异常：

123456789101112131415161718

class Test:    def __init__(self):        self.x = 1    def echo(self):        print(self.x)    def __enter__(self):        print('进入上下文')        return self    def __exit__(self, *args):        print('退出上下文')        with Test() as t:    t.echo()    1 + 'a'  # 这里一定会报错print('退出缩进')

运行效果如下图所示：

无论在with的缩进里面发生了什么，Test这个类中的__exit__里面的代码始终都会运行。

我们来看看pymongo的游标对象里面，__exit__是怎么写的，如下图所示：

可以看到，这里正是关闭游标的操作。

因此，如果我们使用上下文管理器，就可以放心大胆地使用no_cursor_timeout=True参数了。

脚本宝典总结

以上是脚本宝典为你收集整理的MongoDB_6：4种方法解决MongoDB游标超时的问题（转载）全部内容，希望文章能够帮你解决MongoDB_6：4种方法解决MongoDB游标超时的问题（转载）所遇到的问题。

如果觉得脚本宝典网站内容还不错，欢迎将脚本宝典推荐好友。

本图文内容来源于网友网络收集整理提供，作为学习参考使用，版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ：384754419，请注明来意。