微信公众号和网站建设方案,网站链接怎么做二维码,广告设计用什么,怎么弄微信小程序卖东西机器学习#xff1a;基于逻辑回归对某银行客户违约预测分析 文章目录机器学习#xff1a;基于逻辑回归对某银行客户违约预测分析一、实验目的二、实验原理三、实验环境四、实验内容五、实验步骤1.逻辑回归2.业务理解3.读取数据4.数据理解5.数据准备6.逻辑回归模型训练7.模型评…机器学习基于逻辑回归对某银行客户违约预测分析 文章目录机器学习基于逻辑回归对某银行客户违约预测分析一、实验目的二、实验原理三、实验环境四、实验内容五、实验步骤1.逻辑回归2.业务理解3.读取数据4.数据理解5.数据准备6.逻辑回归模型训练7.模型评价总结一、实验目的
1.理解逻辑回归原理
2.掌握scikit-learn操作逻辑回归方法
二、实验原理
机器学习是博大精深的除了我们上一次说的线性回归还有一类重要的回归就是逻辑回归。逻辑回归其实用于二分分类问题用于判断一个离散性的特征得到的标签类型的概率。举个例子你是否喜欢一首歌是通过很多这个歌的特征如节奏、强度等来判断的那么我们的数据集就是各种歌的特征而返回的结果则是一个非1即0不是喜欢就是不喜欢的结果
而机器学习可以做到什么呢它会通过模型形成一个决策面在你喜欢和不喜欢的歌之间划出一条分界线就像这样
用线性回归的拟合线已经无法很好的表示结果了这时候就是使用逻辑回归来分类的时候了而对于Logistic Regression来说其思想也是基于线性回归Logistic Regression属于广义线性回归模型。其公式如下 其中 被称作sigmoid函数我们可以看到Logistic Regression算法是将线性函数的结果映射到了sigmoid函数中。sigmoid的函数图形如下 我们可以看到sigmoid的函数输出是介于01之间的中间值是0.5于是之前的公式 hθ(x) 的含义就很好理解了因为 hθ(x) 输出是介于01之间也就表明了数据属于某一类别的概率例如
hθ(x)hθ(x)0.5 则说明当前数据属于A类
hθ(x)hθ(x)0.5 则说明当前数据属于B类。
所以我们可以将sigmoid函数看成样本数据的概率密度函数
三、实验环境
Python 3.6.1以上
Jupyter
四、实验内容
根据逻辑回归分析银行违约客户的各项特征推测某一客户违约的情况
五、实验步骤
1.逻辑回归
逻辑回归用于二分分类问题回归是一种极易理解的模型就相当于yf(x)表明自变量x与因变量y的关系。最常见问题有如医生治病时的望、闻、问、切之后判定病人是否生病或生了什么病其中的望闻问切就是获取自变量x即特征数据判断是否生病就相当于获取因变量y即预测分类。
2.业务理解
某银行违约客户信息表如下这里只展示了部分数据我们通过银行客户资料违约情况表来做逻辑回归分析其中的年龄、教育、工龄、地址、收入、 负债率、信用卡负债、其他负债就是获取自变量x即特征数据判断是否违约就相当于获取因变量y即预测分类。
3.读取数据
1.编写代码读取数据
import numpy as np
import pandas as pd
data pd.read_excel(rD:\CSDN\数据分析\逻辑回归\loandata.xls)
data.head()4.数据理解
1.查看数据结构
data.shape说明:loandata.xls数据位700行9列 2.查看数据列名称
data.columns说明:loandata.xls中列名称为‘年龄’‘教育’‘工龄’‘地址’‘收入’‘负债率’‘信用卡负债’‘其他负债’’违约‘ 5.数据准备
数据准备就是获得特征数据和预测分类
1.删除’违约‘这一列数据得到特征数据
X_Data data.drop([违约],axis 1)
X_Data.head()2.获取’违约‘这列数据得到预测分类
y_data np.ravel(data[[违约]])
y_data[0:5]6.逻辑回归模型训练
1.创建新的特征矩阵
X2_data data.drop([年龄,教育,收入,其他负债,违约],axis1)
X2_data.head() 2.建立训练数据和测试数据 train_test_split是交叉验证中常用的函数功能是从样本中随机的按比例选取训练数据train和测试数据test 第1个参数所要划分的样本特征 第2个参数所要划分的样本标签 random_state它的用途是在随机划分训练集和测试集时候划分的结果并不是那么随机也即确定下来random_state是某个值后重复调用这个函数划分结果是确定的
from sklearn.model_selection import train_test_split
X_train,X_test,y_train,y_test train_test_split(X2_data,y_data,random_state1)
print(X_train.shape)
print(X_test.shape) 3.进行逻辑训练
#导入逻辑回归包
from sklearn.linear_model import LogisticRegression
# 创建模型逻辑回归
lr LogisticRegression()
#训练模型
lr.fit(X_train,y_train)
4.查看训练模型参数
lr.coef_5.查看截距
#训练模型截距
lr.intercept_ 6.预测数据
使用模型的predict方法对划分的X测试数据可以进行预测得值“违约”情况
lr.predict(X_test) 7.模型评价
1.我们使用“准确率来评估模型
#模型评价的平均正确率
lr.score(X_test,y_test) 得到的结果准确率为0.834 总结
逻辑回归用于二分分类问题回归是一种极易理解的模型就相当于yf(x)表明自变量x与因变量y的关系。最常见问题有如医生治病时的望、闻、问、切之后判定病人是否生病或生了什么病其中的望闻问切就是获取自变量x即特征数据判断是否生病就相当于获取因变量y即预测分类。
