Python重试模块retrying
创始人
2024-05-21 20:20:03
0

工作中经常碰到的问题就是,某个方法出现了异常,重试几次。循环重复一个方法是很常见的。比如爬虫中的获取代理,对获取失败的情况进行重试。
刚开始搜的几个博客讲的有点问题,建议看官方文档,还有自己动手实验。

最初的版本

import requestsclass ProxyUtil:def __init__(self):self._get_proxy_count = 0def get_proxies(self):try:r = requests.get('代理服务器地址')# print('正在获取')# raise Exception("异常")# print('获取到最新代理 = %s' % r.text)params = dict()if r and r.status_code == 200:proxy = str(r.content, encoding='utf-8')params['http'] = 'http://' + proxyparams['https'] = 'https://' + proxyelse:raise Exception("获取代理失败,状态码%s"%(r.status_code))return paramsexcept Exception:if self._get_proxy_count < 5:print('第%d次获取代理失败,准备重试' % self._get_proxy_count)self._get_proxy_count += 1self.get_proxies()else:print('第%d次获取代理失败,退出' % self._get_proxy_count)self._get_proxy_count = 0return dict()
if __name__ == '__main__':proxy = ProxyUtil()proxy.get_proxies()

以上代码通过try...except...捕获异常,并通过一个计数器判断获取代理的次数,获取失败递归调用自己,直到达到最大次数为止。
为了模拟失败,可以解开抛出异常的注释

下面来试试retrying模块
安装
pip install retrying

retrying提供一个装饰器函数retry,被装饰的函数会在运行失败的情况下重新执行,默认一直报错就一直重试。

import requests
from retrying import retryclass ProxyUtil:def __init__(self):self._get_proxy_count = 0@retrydef get_proxies(self):r = requests.get('代理地址')print('正在获取')raise Exception("异常")print('获取到最新代理 = %s' % r.text)params = dict()if r and r.status_code == 200:proxy = str(r.content, encoding='utf-8')params['http'] = 'http://' + proxyparams['https'] = 'https://' + proxyif __name__ == '__main__':proxy = ProxyUtil()proxy.get_proxies()

结果:

正在获取
正在获取
正在获取
...
正在获取(一直重复下去)
没有添加任何参数,默认情况下会一直重试,没有等待时间

# 设置最大重试次数
@retry(stop_max_attempt_number=5)
def get_proxies(self):r = requests.get('代理地址')print('正在获取')raise Exception("异常")print('获取到最新代理 = %s' % r.text)params = dict()if r and r.status_code == 200:proxy = str(r.content, encoding='utf-8')params['http'] = 'http://' + proxyparams['https'] = 'https://' + proxy
# 设置方法的最大延迟时间,默认为100毫秒(是执行这个方法重试的总时间)
@retry(stop_max_attempt_number=5,stop_max_delay=50)
# 通过设置为50,我们会发现,任务并没有执行5次才结束!
# 添加每次方法执行之间的等待时间
@retry(stop_max_attempt_number=5,wait_fixed=2000)
# 随机的等待时间
@retry(stop_max_attempt_number=5,wait_random_min=100,wait_random_max=2000)
# 每调用一次增加固定时长
@retry(stop_max_attempt_number=5,wait_incrementing_increment=1000)
# 根据异常重试,先看个简单的例子
def retry_if_io_error(exception):return isinstance(exception, IOError)@retry(retry_on_exception=retry_if_io_error)
def read_a_file():with open("file", "r") as f:return f.read()

read_a_file函数如果抛出了异常,会去retry_on_exception指向的函数去判断返回的是True还是False,如果是True则运行指定的重试次数后,抛出异常,False的话直接抛出异常。
当时自己测试的时候网上一大堆抄来抄去的,意思是retry_on_exception指定一个函数,函数返回指定异常,会重试,不是异常会退出。真坑人啊!
来看看获取代理的应用(仅仅是为了测试retrying模块)

# 定义一个函数用于判断返回的是否是IOError
def wraper(args):return isinstance(args,IOError)class ProxyUtil:def get_proxies(self):r = requests.get('http://47.98.163.40:17000/get?country=local')print('正在获取')raise IOError# raise IndexErrorprint('获取到最新代理 = %s' % r.text)params = dict()if r and r.status_code == 200:proxy = str(r.content, encoding='utf-8')params['http'] = 'http://' + proxyparams['https'] = 'https://' + proxy# @retry_handler(retry_time=2, retry_interval=5, retry_on_exception=[IOError,IndexError])@retry(stop_max_attempt_number=5,retry_on_exception=wraper)def retry_test(self):self.get_proxies()print('io')

这种方法只能判断单一的异常,而且扩展性不够高

# 通过返回值判断是否重试def retry_if_result_none(result):"""Return True if we should retry (in this case when result is None), False otherwise"""# return result is Noneif result =="111":return True@retry(stop_max_attempt_number=5,retry_on_result=retry_if_result_none)def might_return_none():print("Retry forever ignoring Exceptions with no wait if return value is None")return "111"might_return_none()

might_return_none函数的返回值传递给retry_if_result_noneresult,通过判断result,返回Treu或者None表示需要重试,重试结束后抛出RetryError,返回False表示不重试。
扩展默认的retry装饰器:

def retry_handler(retry_time: int, retry_interval: float, retry_on_exception: [BaseException], *args, **kwargs):def is_exception(exception: [BaseException]):for exp in retry_on_exception:if isinstance(exception,exp):return Truereturn False# return isinstance(exception, retry_on_exception)def _retry(*args, **kwargs):return Retrying(wait_fixed=retry_interval * 1000).fixed_sleep(*args, **kwargs)return retry(wait_func=_retry,stop_max_attempt_number=retry_time,retry_on_exception=is_exception)class ProxyUtil:def get_proxies(self):r = requests.get('代理地址')print('正在获取')raise IOError# raise IndexErrorprint('获取到最新代理 = %s' % r.text)params = dict()if r and r.status_code == 200:proxy = str(r.content, encoding='utf-8')params['http'] = 'http://' + proxyparams['https'] = 'https://' + proxy@retry_handler(retry_time=2, retry_interval=5, retry_on_exception=[IOError,IndexError])# @retry(stop_max_attempt_number=5,retry_on_exception=wraper)def retry_test(self):self.get_proxies()print('io')if __name__ == '__main__':proxy = ProxyUtil()proxy.retry_test()

相关内容

热门资讯

华为手机适合安卓系统,安卓生态... 你有没有发现,最近华为手机在安卓系统圈子里可是风头无两呢?这不,我就来给你好好捋一捋,为什么华为手机...
安卓系统下载福建助学,安卓系统... 你有没有听说最近安卓系统上有个超级棒的福建助学项目?没错,就是那个能让你轻松下载各种学习资源的神器!...
i7安卓系统,引领智能科技新潮... 你有没有想过,手机和电脑的结合体是什么样的呢?想象一个既能流畅运行大型游戏,又能轻松处理日常办公的设...
安卓改鸿蒙系统安装,系统升级安... 你有没有想过给你的安卓手机换换口味呢?没错,就是那种焕然一新的感觉!今天,就让我来带你一起探索如何将...
安卓原生系统美化软件,个性化美... 你有没有发现,安卓手机用久了,界面总是有点单调乏味呢?别急,今天就来给你安利几款超好用的安卓原生系统...
安卓系统图案解锁方法,安卓系统... 手机解锁,这可是每天都要经历的小环节,是不是觉得有点儿单调呢?今天,就让我来带你一起探索一下安卓系统...
安卓系统怎么调俄语,安卓系统设... 你有没有想过,在安卓手机上轻松切换到俄语界面呢?这可不是什么高难度的任务,只要跟着我一步步来,保证让...
安卓系统怎么配置内网,安卓系统... 你有没有想过,家里的安卓设备怎么才能轻松连接到内网呢?这可是个实用的小技巧哦!想象你可以在手机上直接...
安卓系统更新 文件路径,安卓系... 你有没有发现,你的安卓手机最近是不是总在提醒你更新系统呢?每次更新,都感觉手机焕然一新,功能更强大了...
wish只能用安卓系统,探索无... 你知道吗?在手机世界里,有一个神奇的愿望清单,只有安卓系统的小伙伴们才能实现哦! 今天,就让我带你一...
开元安卓车机系统,智能驾驶新体... 你有没有发现,现在的汽车越来越智能了?这不,最近我入手了一辆配备了开元安卓车机系统的车,简直让我爱不...
安卓系统旁白怎么关,如何关闭安... 你是不是也和我一样,在使用安卓手机的时候,不小心开启了旁白功能,现在想把它关掉,却怎么也找不到方法?...
安卓手机系统流畅版,极致性能与... 你有没有发现,最近你的安卓手机用起来是不是特别顺滑?没错,就是那种点屏幕就立刻响应的感觉,简直让人爱...
forest安卓系统换到苹果,... 你有没有想过,手机操作系统就像是我们生活中的不同道路,有时候,你可能觉得一条路走得太久了,想要换一条...
华为鸿蒙系统安卓平板,开启智能... 亲爱的读者们,你是否也像我一样,对科技圈的新鲜事儿充满好奇?今天,我要和你聊聊一个最近在科技圈掀起波...
安卓系统藏族软件下载,精选安卓... 安卓系统藏族软件下载:探索藏族文化的数字新篇章在数字化时代,手机已经成为我们生活中不可或缺的一部分。...
显示安卓系统耗电大,深度剖析原... 手机电量总是不够用?是不是觉得安卓系统耗电特别大?别急,今天就来给你揭秘安卓系统耗电的秘密,让你手机...
抽取原装安卓系统驱动,深度挖掘... 你有没有遇到过这种情况?手机里的安卓系统突然卡顿,或者某个应用突然罢工,这时候你是不是想给它来个“大...
安卓系统手机游戏排行,热门游戏... 你有没有发现,最近你的手机里是不是又多了一款游戏?没错,安卓系统手机游戏排行又更新了!今天,就让我带...
安卓系统叫AR 特效,安卓系统... 你知道吗?最近在安卓系统上出现了一个超级酷炫的新功能,它就是AR特效!是不是听起来就让人兴奋不已?那...