我研究了一下上海凌晨不睡觉的人们

本文同步更新于这儿

最近牙疼,疼到睡不着的那种。每晚总得深夜起来,喝上几口凉水,摸黑找出一片甲硝唑含上,到阳台站上一会儿,继续感受着隐隐阵痛。

夜已深。整个城市有一种褪色的沉淀感,周围很安静,听不见白日里的嘈杂声。这地界也算得上是在上海市区吧,附近的高层住宅楼依稀闪着几点亮光,然而在光污染的影响下,它们在橘黄色的天空背景下并不起眼。我知道,那是还没有入睡的人们。

我有点好奇,那些灯火下映射的人,他们是谁,他们又在做什么?我决意去了解一下

于是,我开始写代码QAQ

方法也比较干脆,通过分析微博同城的信息,看看大家的动态。俗话说<爬虫写得好,牢饭吃到饱>,这次写的爬虫简单至极,没有并发请求,没有用代理,甚至连请求头都是一成不变。

几天下来,我获取了超过100万条上海本地的微博数据,去重并筛选出在凌晨发的之后数据里少了很多(如无特殊说明,本文凌晨均指0点-5点),因为这些都是公开数据,这边放上来应该也无碍

数据库
微博数据

首先看一下性别,女性竟然是男性的三倍,是不是说女性更容易熬夜。

性别饼图

当然,其实这很大程度上是由于微博上女性用户数量多于男性的缘故。通过计算各性别用户在凌晨发博数据在全天的占比,发现,女性的比值为9.3%,男性为8.7%,相差并不大。所以说,不管是男性还是女性,都有不睡觉的理由。

我们再看下发博时间的统计,很明显,凌晨0点到1点的人数最多,可能那时对年轻人来说时候还早,夜生活才刚刚开始。

发博时间段统计

随着夜色入深,大部分人还是会向睡眠妥协,但终究还是有修仙党战胜了睡眠,凌晨4点发博的人仍占到了5%。5点时段的人数比4点略有回升,环比增长8个百分点,估计是有人已经起早干活了吧。

当然,相比以上这些,我更关心他们在凌晨时段究竟在做什么,于是采用了基于 TF-IDF 算法的关键词抽取,对每条微博提取出10个关键词,绘制出词云(看↓,福尔摩斯)

词云

几个权重比较大的词(自己、上海、开心....)  <自己>的词频远超其他。或许在上海这个快节奏的都市中,唯有深夜,才有段时间是留给自己的吧。

从词云来看,大家的都表现得蛮积极的。不过我还是决定再深挖一下。这里通过paddlepaddle进行深度学习,使用百度的ERNIE+BI-LSTM模型,在ChnSentiCorp数据集上fine-tune后对微博数据进行情感倾向分析。(PS.感谢百度AI平台提供的16GB显存的Tesla V100算力卡)

微博情感倾向

可以看出,有超过70%的状态都是积极的,看来大家都是想起高兴的事情,才睡不着呀。于是,我便看了看究竟是什么高兴的事。


我觉得可还行。

不过,也有人喜欢在深夜的时候吐露负面情绪,或许夜深人静更清醒,于是更绝望

我曾经遇到过一个男孩 他磨灭了我的所有少女心 毁了我对爱情的念想 他让我眼里没了光 他真的好不注重细节 毁了我好多温柔。  ​
这几天真的很难受 刷单骗子骗走了所有的钱 其中还包含跟家里要的、朋友借的 现在吃饭都成问题 爸爸最近身体不好 我也不敢跟家里说 身边的朋友都挺忙的 不好意思打扰人家的生活 当时真的跟中了邪一样 平时挺清醒的 都没想到自己居然也会被骗 3万多就这么没了 自己一个人都不敢去报警 所有的事情真的都怪 ​

绝望向左,希望向右!希望大家都能好好的!

综合地看了下,表现为消极的微博比重较多的为情感问题,而情感倾向为积极的微博<>相关的记录所占的也是相当多。

吃&积极

喝酒吃串串,快活似神仙

在深夜里,人们不睡觉时最惦记着谁呢,家人,朋友,还是对象? 这些在深夜时分的碎碎念,可能代表了人们情感中最温暖和柔软的部分:

想家人

最后统计了把用户信息,绝大部分都是和你我一样的普通人,也不乏有个别大V在其中。

数据

我不太想写太多诸如在大城市的人,人生艰难,生活无奈的话,毕竟在这些不睡觉的人里,有许多都是因为有开心的事情,或者对第二天的期待而无法入睡的。

当然也会有不开心的时候,有辗转反侧,有难以入眠,有浓烈的孤独,有不甘和委屈在被窝里留下的泪,有睁着眼睛到天亮,这些,一直会有,也永远会有,但天亮的时候,我们又迎来了新的一天。

最后,记住一点,年轻人,少熬夜,以及 保护好牙齿。



PS.

受<我研究了一下北京凌晨不睡觉的人们>启发

关于程序,为了不暴露自己拙劣的编程水平 保护部分隐私信息,这里暂不贴出来了。后续可能会写篇文章记录下,大概率会咕。

涉及技术栈及开源框架:scrapy爬虫框架、手机网络请求抓包、jieba分词、paddlepaddle深度学习框架、wordcloud词云、阿里DataV数据可视化平台、亚马逊QuickSight BI系统。

blog:个人博客

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,324评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,303评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,192评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,555评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,569评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,566评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,927评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,583评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,827评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,590评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,669评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,365评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,941评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,928评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,159评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,880评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,399评论 2 342