python实现朴素贝叶斯分类器

作者:shelmi 时间:2022-12-05 03:35:50 

本文用的是sciki-learn库的iris数据集进行测试。用的模型也是最简单的,就是用贝叶斯定理P(A|B) = P(B|A)*P(A)/P(B),计算每个类别在样本中概率(代码中是pLabel变量)

以及每个类下每个特征的概率(代码中是pNum变量)。

写得比较粗糙,对于某个类下没有此特征的情况采用p=1/样本数量。

有什么错误有人发现麻烦提出,谢谢。


[python] view plain copy
# -*- coding:utf-8 -*-
from numpy import *
from sklearn import datasets
import numpy as np

class NaiveBayesClassifier(object):

def __init__(self):
   self.dataMat = list()
   self.labelMat = list()
   self.pLabel = {}
   self.pNum = {}

def loadDataSet(self):
   iris = datasets.load_iris()
   self.dataMat = iris.data
   self.labelMat = iris.target
   labelSet = set(iris.target)
   labelList = [i for i in labelSet]
   labelNum = len(labelList)
   for i in range(labelNum):
     self.pLabel.setdefault(labelList[i])
     self.pLabel[labelList[i]] = np.sum(self.labelMat==labelList[i])/float(len(self.labelMat))

def seperateByClass(self):
   seperated = {}
   for i in range(len(self.dataMat)):
     vector = self.dataMat[i]
     if self.labelMat[i] not in seperated:
       seperated[self.labelMat[i]] = []
     seperated[self.labelMat[i]].append(vector)
   return seperated

# 通过numpy array二维数组来获取每一维每种数的概率
 def getProbByArray(self, data):
   prob = {}
   for i in range(len(data[0])):
     if i not in prob:
       prob[i] = {}
     dataSetList = list(set(data[:, i]))
     for j in dataSetList:
       if j not in prob[i]:
         prob[i][j] = 0
       prob[i][j] = np.sum(data[:, i] == j) / float(len(data[:, i]))
   prob[0] = [1 / float(len(data[:,0]))] # 防止feature不存在的情况
   return prob

def train(self):
   featureNum = len(self.dataMat[0])
   seperated = self.seperateByClass()
   t_pNum = {} # 存储每个类别下每个特征每种情况出现的概率
   for label, data in seperated.iteritems():
     if label not in t_pNum:
       t_pNum[label] = {}
     t_pNum[label] = self.getProbByArray(np.array(data))
   self.pNum = t_pNum

def classify(self, data):
   label = 0
   pTest = np.ones(3)
   for i in self.pLabel:
     for j in self.pNum[i]:
       if data[j] not in self.pNum[i][j]:
         pTest[i] *= self.pNum[i][0][0]
       else:
         pTest[i] *= self.pNum[i][j][data[j]]
   pMax = np.max(pTest)
   ind = np.where(pTest == pMax)
   return ind[0][0]

def test(self):
   self.loadDataSet()
   self.train()
   pred = []
   right = 0
   for d in self.dataMat:
     pred.append(self.classify(d))
   for i in range(len(self.labelMat)):
     if pred[i] == self.labelMat[i]:
       right += 1
   print right / float(len(self.labelMat))

if __name__ == '__main__':
 NB = NaiveBayesClassifier()
 NB.test()

来源:https://blog.csdn.net/Incy_1218/article/details/52891209

标签:python,朴素贝叶斯
0
投稿

猜你喜欢

  • python实现的人脸识别打卡系统

    2022-12-01 16:15:21
  • 减少SQL Server死锁的方法

    2009-01-05 13:49:00
  • 在tensorflow以及keras安装目录查询操作(windows下)

    2023-10-31 10:49:21
  • 解决大字段在Form中Post出错的方法

    2008-04-17 14:00:00
  • matplotlib事件处理基础(事件绑定、事件属性)

    2023-02-02 19:34:32
  • 利用Python实现命令行版的火车票查看器

    2021-10-24 13:59:21
  • 如何由Sybase向SQL Server移植数据库

    2009-01-20 15:56:00
  • javascript轻量级库createjs使用Easel实现拖拽效果

    2024-05-22 10:41:16
  • Django添加KindEditor富文本编辑器的使用

    2022-01-06 07:41:17
  • PyCharm 安装与使用配置教程(windows,mac通用)

    2023-08-21 01:15:39
  • jupyter notebook使用argparse传入list参数

    2022-12-25 16:54:03
  • 使用递归遍历对象获得value值的实现方法

    2024-04-10 13:58:53
  • Python中矩阵创建和矩阵运算方法

    2022-12-07 15:45:21
  • 使用Python+selenium实现第一个自动化测试脚本

    2021-01-26 17:52:01
  • 微信公众平台开发入门教程(图文详解)

    2023-06-21 11:10:05
  • 微信公众平台实现获取用户OpenID的方法

    2023-11-17 05:55:56
  • 用FSO操作 xml

    2008-09-03 12:26:00
  • Python统计词频的几种方法小结

    2023-10-22 05:35:41
  • Go语言使用MySql的方法

    2024-01-20 04:09:25
  • MySQL 8.0 驱动与阿里druid版本兼容问题解决

    2024-01-17 06:25:49
  • asp之家 网络编程 m.aspxhome.com