Python实现归一化算法详情
时间:2023-02-19 10:53:17|栏目:Python代码|点击: 次
1.前言
归一化算法Normalization
将数据处理成量纲一直的数据,一般限定在[0,1]、[-1,1]
一般在进行建模的时候需要进行数据归一化处理,
原因如下:
- 降低计算难度
- 有可能提高模型的预测精度
- 消除量纲影响
下面介绍三种常见的标准化方法,分别是最大最小值、正态中心化、小数点定标
2.Min-Max方法
2.1 公式
2.2 算法实现逻辑
- 1.找一组数据的最大最小值
- 2.利用公式归一化
- 3.输入结果(为了方便可视化展示,我们设计了代码)
2.3 代码
import numpy as np import pandas as pd import matplotlib.pyplot as plt # 1.最小最大标准化 Data = np.array([[0.2,0.9,29], [0.9,0.1,100], [0.5,0.5,30]]) #最小-最大归一化算法 # 1.1数据转化 def MinMax(data): min = 0 max = 1 C = data[:,2] min = np.min(C) max = np.max(C) for one in data: one[2] = (one[2]-min) / (max-min) print('转化后的矩阵:\n',data) return data # 1.2可视化 def ShowData(Data,ShowD1): length = len(Data) X = np.ones(Data.shape[0]) plt.figure(1) plt.subplot(121) for i in range(length): plt.scatter(X*(i+1),Data[:,i]) plt.subplot(122) for i in range(length): plt.scatter(X*(i+1),ShowD1[:,i]) plt.show() ShowData(Data,MinMax(Data.copy()))
转化后的矩阵:
[[0.2 0.9 0. ]
[0.9 0.1 1. ]
[0.5 0.5 0.01408451]]
2.4局限
- 数据规模过大不适应
- 数据归一化后范围在[0,1],对于一些有负有正数的原始数据慎用
3 Z-score标准化
3.1 公式
3.2 算法实现逻辑
- 输入数据
- 求取数据的均值、方法,在利用中心化公式计算
- 输出结果
3.3 代码
def Zscore(data): x_mean = np.mean(data[:2]) length = len(data[:,2]) vari = np.sqrt((np.sum((data[:2]-x_mean)**2))/length) print('方差:',vari) data[:,2] = (data[:,2]-x_mean)/vari print('Z-score标准化后的矩阵是',data) return data ShowData(Data,Zscore(Data.copy()))
方差: 51.569160680908254
Z-score标准化后的矩阵是 [[0.2 0.9 0.13864876]
[0.9 0.1 1.5154406 ]
[0.5 0.5 0.15804019]]
3.4 局限
- 对样本量少的数据,表现不好
- 标准化后范围在有负有正,范围在[-1,1]
4 小数定标法
4.1 公式
4.2 算法实现逻辑
- 输入数据
- 绝对值化,最大值
- 将每个数除以最大值的数量级
- 输入数据
4.3 代码实现
# 小数定标归一化算法 def Decimals(data): C = np.abs(data[:,2]) max = int(np.sort(C)[-1]) # 按从小到大排序,取最后一位,及最大值 k = len(str(max)) print('绝对值最大的位数:\n',k) data[:2] = data[:,2] /(10**k) print('小数点定标准化后的矩阵:\n',data) return data ShowData(Data,Decimals(Data.copy()))
绝对值最大的位数:
3
小数点定标准化后的矩阵:
[[2.9e-02 1.0e-01 3.0e-02]
[2.9e-02 1.0e-01 3.0e-02]
[5.0e-01 5.0e-01 3.0e+01]]
4.4 局限
- 受到最大值影响较大