celery

http://student-lp.iteye.com/blog/2093397
https://segmentfault.com/a/1190000007780963

为什么要用celery

  • celery是一个简单、灵活、可靠的,处理大量消息的分布式系统,并且提供维护这样一个系统的必须工具。他是一个专注于实时处理的任务队列,同时也支持任务调度。

  • celery是异步任务队列/基于分布式消息传递的作业队列。它侧重于实时操作,但对调度支持也很好。celery用于生产系统每天处理数以百万计的任务。

    注:何为任务队列?任务队列是一种在线程或机器间分发任务的机制。消息队列的输入是工作的一个单元,称为任务,独立的职程(Worker)进程持续监视队列中是否有需要处理的新任务。

  • Celery 用消息通信,通常使用中间人(Broker)在客户端和职程间斡旋。这个过程从客户端向队列添加消息开始,之后中间人把消息派送给职程。Celery 系统可包含多个职程和中间人,以此获得高可用性和横向扩展能力。

  • Celery 需要一个发送和接受消息的传输者。RabbitMQ 和 Redis 中间人的消息传输支持所有特性,但也提供大量其他实验性方案的支持,包括用 SQLite 进行本地开发。

  • Celery 可以单机运行,也可以在多台机器上运行,甚至可以跨越数据中心运行。

二、celery适用于那些场景

应用场景一:

我们知道大型网站的性能非常重要,然而有时不得不做一些相当耗时的操作。 比如SNS网站的“新鲜事儿”系统,我发帖之后,会给所有关注我的人推送一条通知。乍一看没什么难的,发帖之后找出关注我的人, 然后生成相应的消息记录就行了。但问题是,100个人关注我,就要执行100条INSERT查询,更要命的是,Web服务器是同步的, 这100条查询执行完成之前,用户是看不到结果的。怎么办呢,这时就轮到消息队列上场了。发帖之后只需给队列发送一条消息, 告诉队列“我发帖子了”,然后把发帖的结果返回给用户。 这时另一个叫做worker的进程会取出这条消息并执行那100条INSERT查询。这样,推送通知的操作在后台异步执行, 用户就能立即看到发帖结果。更精彩的是,可以运行多个worker实现分布式,多繁重的任务都不在话下了。将Celery 与RabbitMQ 结合,将会产出很好的效果,可以实现类似新浪微博大数据量的消息推送。(这里就可以采用RabbitMQ消息队列系统负责存储消息;采用celery的worken进程,同时提供在webapp中创建任务的功能)。

应用场景二:

很多做开发和运维的都会涉及一件事:crontab, 也就是在服务器上设定定时任务,按期执行一些任务.但是假如你有上千台的服务器, 你有上千种任务,那么对于这个定时任务的管理恐怕是一件很头疼的事情.哪怕你只是几十个任务分配的不同的机器上怎么样合理的管理和实现以下功能呢:①查看定时任务的执行情况.比如执行是否成功,当前状态,执行花费的时间;②一个友好的界面或者命令行下实现添加,删除任务;③怎么样简单实现不同的机器设定不同种任务,某些机器执行不同的队列;④假如你需要生成一个任务怎么样不阻塞剩下来的过程(异步了呗);⑤怎么样并发的执行任务。

RabbitMQ,ZeroMQ这样的消息队列总是出现在我们视线中, 其实意义是很简单: 消息就是一个要传送的数据,celery是一个分布式的任务队列.这个”任务”其实就是一种消息, 任务被生成到队列中,被RabbitMQ等容器接收和存储,在适当的时候又被要执行的机器把这个消息取走。

以上是两种典型的应用场景。通过上面两种场景的分析,在大量异步任务处理和大量定时任务管理的情况下,我们可以优先考虑采用celery和rabbitMq解决这些问题。

三、celery特点

  • 简单:Celery 易于使用和维护,并且它不需要配置文件
  • 高可用性:倘若连接丢失或失败,进程和客户端会自动重试,并且通过主/主或主/从方式复制来提高可用性
  • 快速:单个 Celery 进程每分钟可处理数以百万计的任务,而保持往返延迟在亚毫秒级
  • 灵活:Celery 几乎所有部分都可以扩展或单独使用。可以自制连接池、序列化、压缩模式、日志、调度器、消费者、生产者、自动扩展、中间人传输或更多。

四、工作原理

它的基本工作就是管理分配任务到不同的服务器,并且取得结果。
至于说服务器之间是如何进行通信的?这个Celery本身不能解决。
所以,RabbitMQ作为一个消息队列管理工具被引入到和Celery集成,负责处理服务器之间的通信任务。

和rabbitmq的关系只是在于,celery没有消息存储功能,他需要介质,比如rabbitmq、redis、mysql、mongodb 都是可以的。

推荐使用rabbitmq,他的速度和可用性都很高。

五、celery安装配置

  • 用pip
    安装:$ pip install -U Celery

  • 用easy_install
    安装:$ easy_install -U Celery

  • 捆绑式安装--Celery 也定义了一组用于安装 Celery 和给定特性依赖的捆绑:$ pip install celery[librabbitmq] 或者 $ pip install celery[librabbitmq,redis,auth,msgpack]。

  • 注意:有关celery的捆绑详解,请查看:http://docs.torriacg.org/docs/celery/getting-started/introduction.html 页面中捆绑。

六、应用

from celery import Celery  
app = Celery('tasks', broker='amqp://root:123456@*.*.*.*:5672/myhost')  
@app.task  
def add(x, y):  
return x + y  
  
#启动:  
celery -A tasks worker --loglevel=info  
  
from tasks import add  
add.delay(4, 4)  
  
#执行:  
python run.py  

七、使用模块配置

BROKER_URL = 'amqp://'                           broker设置  
CELERY_RESULT_BACKEND = 'amqp://'              存储任务结果  
CELERY_TASK_RESULT_EXPIRES = 18000         celery任务结果有效期  
  
CELERY_TASK_SERIALIZER = 'json'                 任务序列化结构  
CELERY_RESULT_SERIALIZER = 'json'               结果序列化结构  
CELERY_ACCEPT_CONTENT=['json']                  celery接收内容类型  
CELERY_TIMEZONE = 'Asia/Shanghai'                  celery使用的时区  
CELERY_ENABLE_UTC = True                          启动时区设置  
CELERYD_LOG_FILE="/var/log/celery/celery.log"  celery日志存储位置  
from kombu.common import Broadcast  
CELERY_QUEUES = (Broadcast('broadcast_logger'), )   任务队列的类型  
CELERY_ROUTES = {                                     任务队列  
'log_analysis.run': {'queue': 'api.log'},  
'logrotate': {'queue': 'broadcast_logger'},  
}  
CELERY_SEND_TASK_ERROR_EMAILS = True             celery接收错误邮件  
ADMINS = (  
    ("*****", "*****@***.com"),      celery接收错误邮件地址  
)   
SERVER_EMAIL = ****@***.com       从哪里发送的错误地址  
EMAIL_HOST = "*.*.*.*"                     
EMAIL_PORT = 25  
EMAIL_HOST_USER = SERVER_EMAIL   
CELERYBEAT_SCHEDULE = {                                定期执行任务  
# 接口中心每小时  
'api.hour':{'task': 'api.hour', 'schedule': crontab(minute=15), 'args': ()},  
# 接口中心每日  
'api.day':{'task': 'api.day', 'schedule': crontab(minute=30, hour=0), 'args': ()},  
}  
celery = Celery()  
celery.config_from_object('celeryconfig1')     celery配置文档  

高级用法

1、group

from celery import group  
>>> res = group(add.s(i, i) for i in xrange(10))()  
>>> res.get(timeout=1)  
[0, 2, 4, 6, 8, 10, 12, 14, 16, 18]  
是多个相同任务  

2、chain

>>> from celery import chain  
# 2 + 2 + 4 + 8  
>>> res = chain(add.s(2, 2), add.s(4), add.s(8))()  
>>> res.get()  

是一个任务  

3、chord

from celery import chord
res = chord((add.s(i, i) for i in xrange(10)), xsum.s())()
res.get()
90
多个不同任务,必须有backend配置,配置文件中增加CELERY_CHORD_PROPAGATES = True


**celery队列**
**1、CELERY_QUEUES(定义celery队列)**

from kombu import Queue  
CELERY_DEFAULT_QUEUE = 'default'  
CELERY_QUEUES = (  
    Queue('default',    routing_key='task.#'),  
    Queue('feed_tasks', routing_key='feed.#'),  
)  
CELERY_DEFAULT_EXCHANGE = 'tasks'  
CELERY_DEFAULT_EXCHANGE_TYPE = 'topic'  
CELERY_DEFAULT_ROUTING_KEY = 'task.default'  

**2、CELERY_ROUTES(用来决定在任务哪个队列上执行)**Python代码  ![收藏代码](http://upload-images.jianshu.io/upload_images/3428759-2d343017eb3dd6f1.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

CELERY_ROUTES = {  
        'feeds.tasks.import_feed': {  
            'queue': 'feed_tasks',  
            'routing_key': 'feed.import',  
        },  
}  

** 3、只让队列单独工作:**celery worker -Q feed_tasks
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,053评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,527评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,779评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,685评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,699评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,609评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,989评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,654评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,890评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,634评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,716评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,394评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,976评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,950评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,191评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,849评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,458评论 2 342

推荐阅读更多精彩内容