基于随机森林的信用卡满意度模型预测
本文介绍了如何利用机器学习技术构建信用评分模型,以帮助金融机构评估借款人的信用风险并做出贷款决策。文章首先从数据预处理开始,包括数据读取、清洗和特征工程,以确保数据质量和适用性。接着,通过可视化分析了贷款金额、贷款等级和贷款状态等关键特征,以便更好地理解数据。随后,使用随机森林分类器进行模型训练,并评估了模型在测试集上的性能,包括准确率、精确率、召回率和F1值等指标。最终,通过优化模型并展望未来的研究方向,为金融业务的发展提供了重要参考。
1、数据读取: 我们使用 Pandas 库从 CSV 文件中读取数据集,其中包含了个人贷款信息。
def read_data_from_csv():
# 读取数据
data = pd.read_csv("data/new_file.csv").sample(n=20000,random_state=42)
return data
2、数据清洗: 我们删除了一些与建模无关的特征,如 ‘id’、‘url’、‘desc’、‘member_id’ 等。
# 删除无关特征,如id,url等
data.drop(['id', 'url', 'desc', 'member_id'], axis=1, inplace=True)
3、处理缺失值: 我们使用均值填充了数值型特征中的缺失值,并使用线性插值方法填充了剩余的缺失值。
# 处理缺失值
# data.dropna(inplace=True)
# df = data.fillna(data.mean())
# df.replace([np.inf, -np.inf], np.nan, inplace=True)
# df = df.fillna(df.mean())
nan_values = data.isnull().values.any()
print(nan_values)
inf_values = data[data == np.inf].values.any()
print(inf_values)
# 使用均值填充 NaN 值
data.fillna(data.mean(), inplace=True)
# 在数据中估算 NaN 值填充
data.interpolate(method='linear', inplace=True)
4、特征工程: 我们对日期特征进行了处理,计算了贷款发放月份与最早信用账户开设月份之间的差值,并对类别型特征进行了编码。
def data_feature(data):
# 处理日期特征
data['earliest_cr_line'] = pd.to_datetime(data['earliest_cr_line'])
data['issue_d'] = pd.to_datetime(data['issue_d'])
# 创建新特征:贷款发放月份与最早信用账户开设月份之间的差值
data['credit_hist'] = (data['issue_d'] - data['earliest_cr_line']).dt.days
# 删除日期特征
data.drop(['earliest_cr_line', 'issue_d'], axis=1, inplace=True)
# 对类别型特征进行编码
cat_cols = data.select_dtypes(include=['object']).columns
le = LabelEncoder()
for col in cat_cols:
data[col] = le.fit_transform(data[col])
return data
数据可视化与分析
在构建模型之前,我们对数据进行了可视化分析,以更好地理解数据的分布和特征之间的关系。
1、贷款金额的分布可视化: 我们绘制了贷款金额的直方图,以了解贷款金额的分布情况
def loan_amount(df):
# 直方图
plt.figure(figsize=(10, 6))
sns.histplot(df['loan_amnt'], bins=30, kde=True, color='skyblue')
plt.title('Loan Amount Distribution')
plt.xlabel('Loan Amount')
plt.ylabel('Frequency')
plt.show()
2、贷款等级的分布可视化: 我们绘制了贷款等级的柱状图,以了解不同等级贷款的分布情况。
def grade_distribution(df):
# 柱状图
plt.figure(figsize=(10, 6))
df['grade'].value_counts().plot(kind='bar', color='lightgreen')
plt.title('Grade Distribution')
plt.xlabel('Grade')
plt.ylabel('Frequency')
plt.show()
3、不同贷款状态下年收入的箱线图: 我们绘制了不同贷款状态下年收入的箱线图,以了解贷款状态与年收入之间的关系。
def loan_status(df):
# 箱线图
plt.figure(figsize=(10, 6))
sns.boxplot(x='loan_status', y='annual_inc', data=df)
plt.title('Annual Income Distribution by Loan Status')
plt.xlabel('Loan Status')
plt.ylabel('Annual Income')
plt.show()
通过这些可视化分析,我们对数据的特征有了更深入的理解,为后续模型的构建提供了帮助。
使用热力图展示了不同特征之间的相关性强弱,相关性热力图可以帮助我们理解特征之间的线性相关性
def coolwarm(preprocessed_df):
# 热力图
plt.figure(figsize=(12, 8))
corr = preprocessed_df.corr()
sns.heatmap(corr, cmap='coolwarm', annot=False)
plt.title('Correlation Heatmap')
plt.show()
模型训练与评估
在数据预处理和分析之后,我们使用随机森林分类器对数据进行了训练,并评估了模型在测试集上的性能。
def model_train_main(data):
# 划分特征和目标变量
X = data.drop('loan_status', axis=1)
y = data['loan_status']
# 数据标准化
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X_scaled, y, test_size=0.2, random_state=42)
# 模型训练
rf_model = RandomForestClassifier(n_estimators=100, random_state=42)
rf_model.fit(X_train, y_train)
# 预测
y_pred = rf_model.predict(X_test)
# 评估模型
accuracy = accuracy_score(y_test, y_pred)
print("Accuracy:", accuracy)
print("Classification Report:\n", classification_report(y_test, y_pred))
结论与展望
通过本文的介绍,我们完成了一个基于机器学习的信用评分模型的构建与分析过程。该模型可以作为金融机构评估借款人信用风险的重要工具,为贷款决策提供参考。未来,我们可以进一步优化模型,探索更多的特征工程方法和机器学习算法,以提高模型的准确性和稳健性。
如有遇到问题可以找小编沟通交流哦。另外小编帮忙辅导大课作业,学生毕设等。不限于python,java,大数据,模型训练等。