瑞狮网络Vlion-RTB入门指导

RTB(Real Time Bidding)是目前计算广告技术中最新的阶段,从效率和效果上是远远领先网盟和流量平台。RTB业务上包括DSP、Ad Exchange、DMP三大产品形态,技术上涉及到机器学习、大数据处理、流式系统、高并发系统四个部分,是目前尖端计算机工程技术和算法应用和验证的核心领域。

新的工程技术通常很难找到技术方案或资料,需要自己做大量的实验、摸索,踩无数的坑,阅读国外大量的资料,往往才能稳定、高性能地使用起来,算法模型更是,往往是facebook、google、criteo这样的公司掌握了最新的科研成果,国内使用的算法模型普遍晚1-3年,模型部分做的好的国内也就百度了,目前瑞狮网络使用的预测引擎和反作弊引擎是与交通大学APEX实验和UCL计算机系联合研发的,有理论上的高地优势,下面简单的介绍一下各个部分的入门知识。

大数据处理:目前瑞狮Vlion综合使用CDH集群,分在线业务集群和离线业务集群,组件上包括HBase、Spark、HDFS、HIVE等。

CDH集群主要用来进行离线批处理,基于HDFS进行MR、HIVE处理广告数据和营销点数据。Spark主要用于一些实时查询,HBase用于存储基于HDFS的有实时特性的中间数据。从传统行业程序员过来主要得学习Map Reduce的基本原理,学习HBase列存储的原理,熟悉hive的思考方式。学习过程中要注意多看报错日志,这样才能慢慢学会调优性能。

高性能系统:目前瑞狮网络Vlion 的竞价服务器QPS达到25万,单机QPS达到8000。技术架构使用Go和ngx-lua混合模式,使用go之前是用的c语言,综合比较下来如下:

ngx_lua采用“one-coroutine-per-request”的处理模型,对于每个用户请求,ngx_lua会唤醒一个协程用于执行用户代码处理请求,当请求处理完成这个协程会被销毁。每个协程都有一个独立的全局环境(变量空间),继承于全局共享的、只读的“comman data”。所以,被用户代码注入全局空间的任何变量都不会影响其他请求的处理,并且这些变量在请求处理完成后会被释放,这样就保证所有的用户代码都运行在一个“sandbox”(沙箱),这个沙箱与请求具有相同的生命周期。

  得益于Lua协程的支持,ngx_lua在处理10000个并发请求时只需要很少的内存。根据测试,ngx_lua处理每个请求只需要2KB的内存,如果使用LuaJIT则会更少。所以ngx_lua非常适合用于实现可扩展的、高并发的服务。

流式系统:目前瑞狮网络Vlion 使用flume+kafka+storm的技术框架来构建的流式系统,Storm集群单机处理20000条/秒。

n Flume agent不能过多占用宿主服务器的计算性能,推荐使用内存模式,用内存换CPU,多个agent建议不能直接导向kafka,而是先合并到一台日志服务器,再从该服务器统一flume到kafka。

n Storm 的输出一般需要自己构建和管理缓存,topology要有异常日志输出,方便排查错误。

机器学习:目前瑞狮网络Vlion 在动态创意优化DCO、反作弊、竞价策略、CVR预测、Audience Segmentation五个部分应用了机器学习技术。

n 动态创意优化综合使用了基于标签tag的推荐和Slope One协同过滤推荐,主要应用在电商的重定向投放中使用;

n 反作弊使用了SVM模型和规则引擎,目前过滤了接近60%的流量。

n 竞价决策使用了Direct functional optimization,竞价函数如下:

n CVR预测主要基于Star Tree和GBDT,AUC大概在82%,目前正在spark集群上尝试FTRL模型。

n 受众细分针对不同的客户采用了不同的模型,如游戏客户采用k-means,电商行业采用SMO。

以上仅是简单介绍,后续会陆续推出更详细的介绍~

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,937评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,503评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,712评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,668评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,677评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,601评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,975评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,637评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,881评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,621评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,710评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,387评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,971评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,947评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,189评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,805评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,449评论 2 342

推荐阅读更多精彩内容