结巴分词和词云图——天龙八部人物提取并制作图云

代码与数据链接:https://pan.baidu.com/s/1425DckPlqrGyUFW6APnxpQ

提取码:sbmc

1. 导入数据

import pandas as pd

import os

os.chdir('./')

character =open('天龙八部人物表.txt',encoding='utf-8').read()

2. '''添加词性'''

import re

data = re.split(r'\s+|:|,', character)

data = pd.DataFrame(data, columns=['姓名'])

#查看data

print(data.head())


data['词性'] ='nr'

#将对象写入Excel工作表。

data.to_excel('天龙八部人物分词.xlsx', index=False, header=None)


3.将天龙八部这本书进行分词

'''添加自定义词库'''

import jieba

# jieba.enable_parallel(4)

jieba.load_userdict('天龙八部人物词典.txt')


'''加载停用词库'''

stopwords = [line.rstrip()for linein open('停用词表.txt', encoding='utf-8')]


'''分词'''

def seg_sentence(sentence):

sentence_seged = jieba.cut(sentence.strip())

outstr =''

    for wordin sentence_seged:

if wordnot in stopwords:

if word !='\t':

outstr += word

outstr +=" "

    return outstr

inputs =open('天龙八部.txt', 'r', encoding='GB18030')

outputs =open('天龙八部分词.txt', 'w',encoding='utf-8')


for linein inputs:

line_seg = seg_sentence(line)

outputs.write(line_seg +'\n')

outputs.close()

inputs.close()


4.提取关键字

#

#

'''加载分词后的文本'''

text =open('天龙八部分词.txt', encoding='utf-8').read()

'''指定词性,提取关键词:TF-IDF'''

import jieba.analyse

n =100          #指定关键词数量

result = jieba.analyse.extract_tags(text, topK=n, withWeight=True, allowPOS=('nr',))

#返回关键词和权重

result[:10]#打印前10个最重要的人物

print(result)


结果如下:


5.利用关键词制作词云

'''词云关键词'''

keywords =dict()

for iin result:

keywords[i[0]] = i[1]

'''设置词云属性'''

from PILimport Image

import numpyas np

from wordcloudimport WordCloud, ImageColorGenerator

import matplotlib.pyplotas plt

image = Image.open('图片.png') #这里你可以随意选择你想绘制的图云图案。

graph = np.array(image)

wc = WordCloud(font_path='/Library/Fonts/simsun.ttc', #设置字体

              background_color='White',          #设置背景颜色

              max_words=n,                      #设置词云显示的最大词数

              mask=graph)#设置背景样式

#注:这里需要查看本地是否存在该字体,否则会报错:OSError: cannot open resource,在Windows环境,字体一般位于C:\WINDOWS\Fonts文件夹下。用户可以到此文件夹中查看Python程序中指定的字体是否存在。

Python程序中直接写类似华文行楷.ttf、微软简粗黑.TTF等中文名称的字体会出错。查看对应字体英文名称的方法很简单,我们可以选中相应字体,右击属性项即可找到。



'''生成词云'''

wc.generate_from_frequencies(keywords)#生成词云

plt.imshow(wc)

image_color = ImageColorGenerator(graph)#从背景图片生成颜色值

plt.imshow(wc.recolor(color_func=image_color))

plt.axis("off")#不显示坐标轴

plt.show()

wc.to_file('词云.jpg')#保存结果到本地



词云.jpg

下一步改进:使用命名实体识别技术来自动提取关键人物而非自定义词典。

词云的制作可参考:词云wordcloud入门示例:https://www.cnblogs.com/jlutiger/p/9176517.html

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,980评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,178评论 2 380
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,868评论 0 336
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,498评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,492评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,521评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,910评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,569评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,793评论 1 296
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,559评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,639评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,342评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,931评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,904评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,144评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,833评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,350评论 2 342

推荐阅读更多精彩内容