python实现textrank关键词提取
作者:sparksnail 时间:2021-11-01 16:47:58
用python写了一个简单版本的textrank,实现提取关键词的功能。
import numpy as np
import jieba
import jieba.posseg as pseg
class TextRank(object):
def __init__(self, sentence, window, alpha, iternum):
self.sentence = sentence
self.window = window
self.alpha = alpha
self.edge_dict = {} #记录节点的边连接字典
self.iternum = iternum#迭代次数
#对句子进行分词
def cutSentence(self):
jieba.load_userdict('user_dict.txt')
tag_filter = ['a','d','n','v']
seg_result = pseg.cut(self.sentence)
self.word_list = [s.word for s in seg_result if s.flag in tag_filter]
print(self.word_list)
#根据窗口,构建每个节点的相邻节点,返回边的集合
def createNodes(self):
tmp_list = []
word_list_len = len(self.word_list)
for index, word in enumerate(self.word_list):
if word not in self.edge_dict.keys():
tmp_list.append(word)
tmp_set = set()
left = index - self.window + 1#窗口左边界
right = index + self.window#窗口右边界
if left < 0: left = 0
if right >= word_list_len: right = word_list_len
for i in range(left, right):
if i == index:
continue
tmp_set.add(self.word_list[i])
self.edge_dict[word] = tmp_set
#根据边的相连关系,构建矩阵
def createMatrix(self):
self.matrix = np.zeros([len(set(self.word_list)), len(set(self.word_list))])
self.word_index = {}#记录词的index
self.index_dict = {}#记录节点index对应的词
for i, v in enumerate(set(self.word_list)):
self.word_index[v] = i
self.index_dict[i] = v
for key in self.edge_dict.keys():
for w in self.edge_dict[key]:
self.matrix[self.word_index[key]][self.word_index[w]] = 1
self.matrix[self.word_index[w]][self.word_index[key]] = 1
#归一化
for j in range(self.matrix.shape[1]):
sum = 0
for i in range(self.matrix.shape[0]):
sum += self.matrix[i][j]
for i in range(self.matrix.shape[0]):
self.matrix[i][j] /= sum
#根据textrank公式计算权重
def calPR(self):
self.PR = np.ones([len(set(self.word_list)), 1])
for i in range(self.iternum):
self.PR = (1 - self.alpha) + self.alpha * np.dot(self.matrix, self.PR)
#输出词和相应的权重
def printResult(self):
word_pr = {}
for i in range(len(self.PR)):
word_pr[self.index_dict[i]] = self.PR[i][0]
res = sorted(word_pr.items(), key = lambda x : x[1], reverse=True)
print(res)
if __name__ == '__main__':
s = '程序员(英文Programmer)是从事程序开发、维护的专业人员。一般将程序员分为程序设计人员和程序编码人员,但两者的界限并不非常清楚,特别是在中国。软件从业人员分为初级程序员、高级程序员、系统分析员和项目经理四大类。'
tr = TextRank(s, 3, 0.85, 700)
tr.cutSentence()
tr.createNodes()
tr.createMatrix()
tr.calPR()
tr.printResult()
来源:https://blog.csdn.net/y12345678904/article/details/77855936
标签:python,textrank,关键词
0
投稿
猜你喜欢
PHP curl get post 请求的封装函数示例【get、post、put、delete等请求类型】
2023-05-25 01:24:18
如何快速一次性卸载所有python包(第三方库)呢
2022-08-18 12:12:58
Python 的Json 模块编码详解
2023-03-19 08:29:15
Node.js对MongoDB数据库实现模糊查询的方法
2024-01-23 14:31:02
Python根据字典的值查询出对应的键的方法
2022-04-07 04:01:49
mysql下mysqladmin日常管理命令总结(必看篇)
2024-01-16 23:35:55
教你快速掌握一些方便易用的SQL语句
2008-11-28 15:21:00
Python基于pygame实现单机版五子棋对战
2021-02-26 05:53:54
python有几个版本
2021-09-12 00:44:30
详解Golang 中的并发限制与超时控制
2024-02-18 12:43:21
python如何实现视频转代码视频
2022-09-09 16:16:56
Windows下安装python2和python3多版本教程
2021-06-06 07:10:59
利用sort()和Math.random()实现元素的随机排列
2010-10-19 12:42:00
Python操作MySQL MongoDB Oracle三大数据库深入对比
2024-01-13 21:48:00
python多进程中的内存复制(实例讲解)
2022-01-20 23:34:46
python 正则式 概述及常用字符
2023-01-14 14:50:54
Python设计模式中的结构型适配器模式
2023-07-19 11:59:54
Python实现好友全头像的拼接实例(推荐)
2021-08-21 17:29:35
通过视图修改数据时所应掌握的基本准则
2009-01-07 14:22:00
Python figure参数及subplot子图绘制代码
2023-09-14 17:13:00