python数据归一化及三种方法详解

作者:AiFool 时间:2023-02-28 01:48:40 

数据标准化(归一化)处理是数据挖掘的一项基础工作,不同评价指标往往具有不同的量纲和量纲单位,这样的情况会影响到数据分析的结果,为了消除指标之间的量纲影响,需要进行数据标准化处理,以解决数据指标之间的可比性。原始数据经过数据标准化处理后,各指标处于同一数量级,适合进行综合对比评价。以下是三种常用的归一化方法:

min-max标准化(Min-Max Normalization)

也称为离差标准化,是对原始数据的线性变换,使结果值映射到[0 , 1]之间。转换函数如下: 

python数据归一化及三种方法详解 

其中max为样本数据的最大值,min为样本数据的最小值。这种方法有个缺陷就是当有新数据加入时,可能导致max和min的变化,需要重新定义。

min-max标准化python代码如下:


import numpy as np

arr = np.asarray([0, 10, 50, 80, 100])
for x in arr:
 x = float(x - np.min(arr))/(np.max(arr)- np.min(arr))
 print x

# output
# 0.0
# 0.1
# 0.5
# 0.8
# 1.0

使用这种方法的目的包括:

1、对于方差非常小的属性可以增强其稳定性;

2、维持稀疏矩阵中为0的条目。

下面将数据缩至0-1之间,采用MinMaxScaler函数


from sklearn import preprocessing  

import numpy as np

X = np.array([[ 1., -1., 2.],

[ 2., 0., 0.],

[ 0., 1., -1.]])

min_max_scaler = preprocessing.MinMaxScaler()

X_minMax = min_max_scaler.fit_transform(X)

最后输出:

array([[ 0.5 , 0. , 1. ],
          [ 1. , 0.5 , 0.33333333], 
          [ 0. , 1. , 0. ]])

测试用例:

注意:这些变换都是对列进行处理。

当然,在构造类对象的时候也可以直接指定最大最小值的范围:feature_range=(min, max),此时应用的公式变为:


X_std=(X-X.min(axis=0))/(X.max(axis=0)-X.min(axis=0))
X_minmax=X_std/(X.max(axis=0)-X.min(axis=0))+X.min(axis=0))

Z-score标准化方法

也称为均值归一化(mean normaliztion), 给予原始数据的均值(mean)和标准差(standard deviation)进行数据的标准化。经过处理的数据符合标准正态分布,即均值为0,标准差为1。转化函数为: 

python数据归一化及三种方法详解 

其中 μμ 为所有样本数据的均值,σσ为所有样本数据的标准差。


import numpy as np

arr = np.asarray([0, 10, 50, 80, 100])
for x in arr:
 x = float(x - arr.mean())/arr.std()
 print x

# output
# -1.24101045599
# -0.982466610991
# 0.0517087689995
# 0.827340303992
# 1.34442799399

来源:https://blog.csdn.net/Datapad/article/details/80174775

标签:python,归一化
0
投稿

猜你喜欢

  • Python入门教程之运算符重载详解

    2021-10-12 20:15:28
  • Python语言实现获取主机名根据端口杀死进程

    2023-07-01 10:05:58
  • XML DOM介绍和例子

    2007-10-15 20:23:00
  • Python基于回溯法子集树模板解决0-1背包问题实例

    2021-02-02 08:57:54
  • 纯CSS3文字渐变内发光投影效果

    2011-08-24 20:15:10
  • 兼容FF的图片切换代码

    2009-09-26 20:15:00
  • 怎样解决MySQL 5.0.16的乱码问题

    2008-10-13 12:47:00
  • 8大措施帮你构筑Access安全防线

    2010-03-11 14:38:00
  • AJAX在GET中文的时候解决乱码的方法

    2007-11-04 13:04:00
  • 简单的自定义php模板引擎

    2023-11-24 02:44:24
  • php字符串过滤strip_tags()函数用法实例分析

    2023-09-04 14:05:00
  • 巧用特殊的空格字符

    2009-04-10 18:32:00
  • asp Driver和Provider两种连接字符串连接Access时的区别

    2011-03-09 11:19:00
  • 在SQL Server中使用索引的技巧

    2009-02-24 17:50:00
  • IE7的web标准之道 Ⅰ

    2008-08-13 12:42:00
  • JavaScript学习心得之如何走出初学困境

    2008-12-24 13:30:00
  • css reset中的list-style:none

    2010-05-26 13:56:00
  • PHP程序员最常犯的11个MySQL错误

    2012-01-05 19:13:02
  • 解决IE6、IE7、Firefox兼容最简单的CSS Hack

    2007-10-14 10:51:00
  • 建立MySQL数据库日常维护规范

    2009-03-20 12:34:00
  • asp之家 网络编程 m.aspxhome.com