接口时间优化实践(协程下的多线程)

最近有个新需求导致原来的接口时间消耗很长,所以对现有的接口进行了一个优化。

问题:时间消耗在单个线程多次调用网络

问题出现的原因很简单,原来的接口在I/O的处理上是并发的,利用协程来处理各个接口的调用。但是由于yield from 的使用,导致接口函数内部的函数调用,有变成了同步执行。

@asyncio.coroutine
def update(self,params):
  all_vins = yield from self.vehicle.get_all_vins()
  for vin_data in all_vins:
      # 网络调用获取数据
      net_data = yield from self.get_data_by_url()
      # 写入数据库
      yield from self.insert_db()

这可以看出,时间消耗主要由网络调用和写入数据库产生的。数据库的时间消耗不在暂时不做考虑。现在由于yield from,将协程里面的任务挂起,使得当这个任务完成后才能执行下面的任务。设网络调用的时间消耗为0.2s,那么现在的消耗的时间是0.2*len(all_vins),这样就很耗时间了。

解决:添加多线程

针对这个上述问题光是利用协程的特性是不能解决的(暂时未找到好的方法)。而且原先的网络调用函数,扔到协程的线程池中,这样再利用就很不方便。于是个人将这个网络调用从线程池中拿出来,不添加asycio标记。这样我就可以使用threading来启动多线程了。
代码如下:

@asyncio.coroutine
def update(self,params):
  all_vins = yield from self.vehicle.get_all_vins()
  threads = []
  for vin_data in all_vins:
      # 网络调用获取数据
      t = threading.Thread(target=self.get_data_by_url,arge=())
      t.start()
      threads.append[t]
      # 写入数据库
      yield from self.insert_db()
  for i in rang(len(all_vins)):
      threads[i].join()

这样利用多线程来将网络I/O并发操作,实际的时间消耗是这些线程里消耗时间最长的那个线程时间。
但是项目中的程序并没有这么简单,网络调用要获取json数据,这样上面的写法如果在for循环中这样还是会在写入数据的时候将时间消耗增加,这是我将这个for拆解成两个。

RESULT = []
@asyncio.coroutine
def update(self,params):
  all_vins = yield from self.vehicle.get_all_vins()
  threads = []
  for vin_data in all_vins:
      # 网络调用获取数据
      t = threading.Thread(target=self.get_data_by_url,arge=())
      t.start()
      threads.append[t]
    
  for i in rang(len(all_vins)):
      threads[i].join()

  for vin_data in all_vins:
      # 写入数据库
      yield from self.insert_db()

这样就达到上面的理想效果。返货的结果放在全局变量RESULT中。
在实际的测试中,时间消耗的主要来源于数据的库的写入,网络的时间消耗已经减少到一个网络调用的时间。

善后

如果直接这样写会造成在特定时间内造成大量线程的增加,这样如果这个接口访问量过多,那么服务器的压力将会在短时间内暴增。所以必须消耗一定的时间来做优化。

RESULT = []
@asyncio.coroutine
def update(self,params):
  all_vins = yield from self.vehicle.get_all_vins()
  threads = []
  for_times = all_vins / 200
  remain_time = all_vins % 200
  if for_times == 0:
      threads = []
      for vin_data in all_vins:
          # 网络调用获取数据
          t = threading.Thread(target=self.get_data_by_url,arge=())
          t.start()
          threads.append[t]
      
      for i in rang(len(all_vins)):
          threads[i].join()
  else:
      for i in for_times:
          threads = []
          for i in rang(0, 200):
              # 网络调用获取数据
              t = threading.Thread(target=self.get_data_by_url,arge=())
              t.start()
              threads.append[t]
          for i in rang(0,200)
              threads[i].join()
      threads = []
      for i in rang(0,remain_time ):
             # 网络调用获取数据
              t = threading.Thread(target=self.get_data_by_url,arge=())
              t.start()
              threads.append[t]
      for i in rang(0,remain_time ):
             threads[i].join()

  for vin_data in all_vins:
      # 写入数据库
      yield from self.insert_db()

把线程数最大设置成200,这样避免因为过大的线程数导致服务器崩溃。

补充

协程

通常,函数运行时要使用单一的一组输入参数,但是,函数也可以编写成一个任务程序,用来处理发送给它的一系列输入。这类函数被称为协程。(摘自《python 参考手册》--David M.Beazley)
协程可以通过@asynico.coroutine来生成异步I/O操作。从而处理高并发的接口调用。

多线程

python中的多线程这里我采用处理threading模块来实现。当然还有thread,queue模块。当然threading模块对线程的处理有比较强大的控制。保证重要的子线程在进程退出前结束。上述例子中没有用到锁的概念,因为整个函数是一个协程,利用threading相当于在这个线程下,创建多个子线程。而我需要的结果是要将所有的数据获得后再写入,且所有返回结果都放在一个不规则数组中,数据的输出不需要分前后,并不担心数据出现混乱的问题。

总结

其实这个优化很简单,只是在优化的时候顺道去复习一下协程和多线程。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,636评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,890评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,680评论 0 330
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,766评论 1 271
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,665评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,045评论 1 276
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,515评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,182评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,334评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,274评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,319评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,002评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,599评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,675评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,917评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,309评论 2 345
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,885评论 2 341

推荐阅读更多精彩内容