python实现textrank关键词提取

作者:sparksnail 时间:2021-11-01 16:47:58 

用python写了一个简单版本的textrank,实现提取关键词的功能。


import numpy as np
import jieba
import jieba.posseg as pseg

class TextRank(object):

def __init__(self, sentence, window, alpha, iternum):
   self.sentence = sentence
   self.window = window
   self.alpha = alpha
   self.edge_dict = {} #记录节点的边连接字典
   self.iternum = iternum#迭代次数

#对句子进行分词
 def cutSentence(self):
   jieba.load_userdict('user_dict.txt')
   tag_filter = ['a','d','n','v']
   seg_result = pseg.cut(self.sentence)
   self.word_list = [s.word for s in seg_result if s.flag in tag_filter]
   print(self.word_list)

#根据窗口,构建每个节点的相邻节点,返回边的集合
 def createNodes(self):
   tmp_list = []
   word_list_len = len(self.word_list)
   for index, word in enumerate(self.word_list):
     if word not in self.edge_dict.keys():
       tmp_list.append(word)
       tmp_set = set()
       left = index - self.window + 1#窗口左边界
       right = index + self.window#窗口右边界
       if left < 0: left = 0
       if right >= word_list_len: right = word_list_len
       for i in range(left, right):
         if i == index:
           continue
         tmp_set.add(self.word_list[i])
       self.edge_dict[word] = tmp_set

#根据边的相连关系,构建矩阵
 def createMatrix(self):
   self.matrix = np.zeros([len(set(self.word_list)), len(set(self.word_list))])
   self.word_index = {}#记录词的index
   self.index_dict = {}#记录节点index对应的词

for i, v in enumerate(set(self.word_list)):
     self.word_index[v] = i
     self.index_dict[i] = v
   for key in self.edge_dict.keys():
     for w in self.edge_dict[key]:
       self.matrix[self.word_index[key]][self.word_index[w]] = 1
       self.matrix[self.word_index[w]][self.word_index[key]] = 1
   #归一化
   for j in range(self.matrix.shape[1]):
     sum = 0
     for i in range(self.matrix.shape[0]):
       sum += self.matrix[i][j]
     for i in range(self.matrix.shape[0]):
       self.matrix[i][j] /= sum

#根据textrank公式计算权重
 def calPR(self):
   self.PR = np.ones([len(set(self.word_list)), 1])
   for i in range(self.iternum):
     self.PR = (1 - self.alpha) + self.alpha * np.dot(self.matrix, self.PR)

#输出词和相应的权重
 def printResult(self):
   word_pr = {}
   for i in range(len(self.PR)):
     word_pr[self.index_dict[i]] = self.PR[i][0]
   res = sorted(word_pr.items(), key = lambda x : x[1], reverse=True)
   print(res)

if __name__ == '__main__':
 s = '程序员(英文Programmer)是从事程序开发、维护的专业人员。一般将程序员分为程序设计人员和程序编码人员,但两者的界限并不非常清楚,特别是在中国。软件从业人员分为初级程序员、高级程序员、系统分析员和项目经理四大类。'
 tr = TextRank(s, 3, 0.85, 700)
 tr.cutSentence()
 tr.createNodes()
 tr.createMatrix()
 tr.calPR()
 tr.printResult()

来源:https://blog.csdn.net/y12345678904/article/details/77855936

标签:python,textrank,关键词
0
投稿

猜你喜欢

  • JavaScript 与 ActionScript 3.0 交互的一些问题

    2008-01-27 12:20:00
  • MYSQL教程:表达式操作符和数据类型转换

    2009-02-27 15:51:00
  • python中matplotlib实现随鼠标滑动自动标注代码

    2023-09-02 10:49:47
  • IE6终极备忘单——策略

    2010-01-13 13:05:00
  • 在CMD命令行中运行python脚本的方法

    2023-08-03 18:54:38
  • 详解Python编程中time模块的使用

    2023-08-29 16:57:08
  • Python使用socket实现组播与发送二进制数据

    2021-05-09 13:44:28
  • Oracle中Union与Union All的区别(适用多个数据库)

    2012-07-21 15:13:27
  • 开发iPhone版校友录

    2009-08-31 16:29:00
  • jQuery点击改变链接的文本

    2010-03-19 18:11:00
  • Hello! 404

    2010-09-06 13:37:00
  • text-indent 隐藏文字时出现的 outline问题

    2007-12-02 17:31:00
  • oracle 字符串转成行

    2009-06-19 17:38:00
  • asp下过滤非法的SQL字符的函数代码

    2011-03-03 11:23:00
  • sqlserver 三种分页方式性能比较[图文]

    2011-09-30 11:16:20
  • 如何修改MySQL密码(方法大总结)

    2009-11-18 11:07:00
  • js与jquery获取父元素,删除子元素的两种不同方法

    2023-10-07 04:08:00
  • ASP连接Access数据库和SQL server数据库的方法

    2007-08-22 13:16:00
  • XML和XSLT结合使网站设计浑然一体

    2008-09-05 17:13:00
  • ASP使用wsImage组件给图片加水印代码

    2010-06-09 19:23:00
  • asp之家 网络编程 m.aspxhome.com