adventure BI可视化项目总结

项目背景:关于adventure Works Cycles的公司信息 

 Adventure Works Cycles是AdventureWorks样本数据库所虚构的公司,这是一家大型跨国制造公司。该公司生产和销售金属和复合材料自行车到北美,欧洲和亚洲的商业市场。虽然其基地业务位于华盛顿州博塞尔,拥有290名员工,但几个区域销售团队遍布整个市场。 2000年,Adventure Works Cycles收购了一家位于墨西哥的小型制造工厂Importadores Neptuno。Importadores Neptuno为Adventure Works Cycles产品系列制造了几个关键子组件。这些子组件被运送到Bothell位置进行最终产品组装。2001年,Importadores Neptuno成为旅游自行车产品集团的唯一制造商和分销商。 在成功实现财政年度之后,Adventure Works Cycles希望通过下面三种方式扩大销售额,第一销售目标定位到最佳客户、第二通过外部网站扩展适用的产品、第三通过降低生产成本来降低销售成本其中关于客户类型、产品介绍、采购和供应商这三个方面来做一个简单的介绍客户类型Adventure Works Cycle这家公司的客户主要有两种:个体:这些客户购买商品是通过网上零售店铺商店。 这些是从Adventure Works Cycles销售代表处购买转售产品的零售店或批发店。产品介绍这家公司主要有下面四个产品线:Adventure Works Cycles 生产的自行车自行车部件,例如车轮,踏板或制动组件从供应商处购买的自行车服装,用于转售给Adventure Works Cycles的客户。从供应商处购买的自行车配件,用于转售给Adventure Works Cycles客户。采购和供应商方面在Adventure Works Cycles,采购部门购买用于制造Adventure Works Cycles自行车的原材料和零件。 Adventure Works Cycles还购买转售产品,如自行车服装和自行车附加装置,如水瓶和水泵。

项目数据描述:数据来源于adventure Works Cycles公司的的样本数据库,包括了公司4大应用场景的数据:Sales、Finance、Product、Manufacture 


项目流程:

1.导入数据,转换数据格式,进行预处理,清洗,执行shell脚本导入到Hive数据库;

2.探索数据集并罗列分析指标;

3.提取数据并建立销售事实表,汇总数据建立数据仓库(Sales主题),每日定时任务更新数据;

4.PowerBI连接Hive导入销售事实表和维度表,建立各指标可视化图表展示并发布到web;



具体需求操作:

1.首先用Pycharm导入原数据集,原数据格式为UTF-16,这里把它转换成UTF-8,紧接着进行分隔符转换;项目文件中有一个txt文件包含所有数据的表名及表字段,这里我用了正则把每一个表名和表的字段名提取出来,然后创建一个建表脚本,把刚才提取到的表名和字段名写在脚本里面,编写建表语句,接着创建一个插入数据脚本,把每个表中的数据插入到刚刚创建的对应表格中,两个脚本创建完之后,把代码放到linux服务器上,依次执行两个脚本,导入到Hive数据库中;

2.数据处理及导入完成了,紧接着要进行数据探索;


表主要分为事实表(Fact开头的)和 维度表(Dim开头的),两种表通过主键连接,表的设计结构为星型模型;

通过对每个数据表格的探索分析,这里我罗列出5个指标:

1).今天、昨天以及最近一周、一个月、一个季度、一年每个国家的产品销售情况以及销售额完成率;

2).每个洲、每个城市的销售额情况(按地理纬度展示);

3).各年、季度、月、周的产品子类别销售趋势(期望销售额和实际销售额、期望订单量和实际订单量);

4).每个大洲、每个国家的产品销售额、订单量以及利润情况;

5).价值客户:客户订购金额top20、客户订购数量top20、客户年收入以及各年龄段订购情况;

3.建立数据仓库汇总层:

数据仓库设计分为两层,一个是 ODS 基础层,一个是 DM 汇总层 。基础层存放的是基础数据既我们导入的数据,汇总层存放的则是我根据基础层加工生成的数据;

这里我新生成了两个事实表:fact_time、fact_internet,一个是按订购时间、销售区域主键进行分组,另一个是按订购时间、产品子类主键进行了分组。新增的字段有年份、季度、月份、周(由于原数据中只有订购日期,所以要自己从中取出年、季度、月以及周生成新的字段)、期望销售额、期望订单数量、客单价、平均成本、平均税费以及平均运费;把这两个SQL写入一个脚本中,使用crontab命令每天定时执行脚本,作用就是每天模拟产生销售数据插入到ods基础层,然后更新汇总层的数据;

4.PowerBI展示数据:

首先打开PowerBI连接Hive导入数据,然后开始制作报表,制作前要把表和表之间关联建立好;这里我一共制作了8页报表,使用书签实现页面之间的跳转;

第一页展示每个国家今天、昨天、最近一周、一个月、季度、以及最近一年的销售额排名前5产品销售情况以图表展现,展示销售额完成率,一卡片形式展示客单价、产品成品、平均税费、平均运费等;

第二页按地理维度展示每个国家每个地区的销售情况(以圆圈大小形式展现);

后四页展示产品子类别销售趋势(周、月、季度、年)以及产品子类别销售额所占百分比;

第七页展示每个国家的销售趋势及利润情况(周、月、季度);

最后一页则展示价值客户,客户订购次数top20、客户订购金额top20、客户年收入以及各年龄段的订购情况;

报表完成之后最后发布到web;

项目展示链接:

https://app.powerbi.com/view?r=eyJrIjoiMTc0Y2ViNjMtY2JkMC00YjViLTg3OGMtMTdlN2QwYjNiZmExIiwidCI6IjYwM2I2OTczLWY5NzgtNDEwYS1iNjAwLTM1OTlmOGI0NWFlZiJ9


项目架构:EXCEL , Python , SQL , shell , Hive , treesoft , PowerBI,阿里云服务器;

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,711评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,932评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,770评论 0 330
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,799评论 1 271
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,697评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,069评论 1 276
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,535评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,200评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,353评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,290评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,331评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,020评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,610评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,694评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,927评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,330评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,904评论 2 341