【scikit-learn入门指南】：机器学习从零开始

1. 简介

scikit-learn是一款用于数据挖掘和数据分析的简单高效的工具，基于NumPy、SciPy和Matplotlib构建。它能够进行各种机器学习任务，如分类、回归和聚类。

2. 安装scikit-learn

在开始使用scikit-learn之前，需要确保已经安装了scikit-learn库。可以使用以下命令安装：

pip install scikit-learn

3. 数据预处理

数据预处理是机器学习中的一个重要步骤。在这一部分，我们将讨论如何处理缺失值、标准化数据以及编码类别变量。

缺失值处理

在实际数据集中，经常会遇到缺失值。我们可以使用scikit-learn的SimpleImputer类来填补缺失值。

import numpy as np
from sklearn.impute import SimpleImputer

# 创建一个包含缺失值的数据集
data = np.array([[1, 2, np.nan], [3, np.nan, 6], [7, 8, 9]])

# 使用均值填补缺失值
imputer = SimpleImputer(strategy='mean')
data_imputed = imputer.fit_transform(data)

print("填补后的数据：\n", data_imputed)

结果分析：以上代码用列的均值填补了缺失值，输出的填补后数据如下：

填补后的数据：
[[1. 2. 7.5]
 [3. 5. 6.]
 [7. 8. 9.]]

数据标准化

不同特征的数值范围可能差异很大，为了提高模型的性能，通常需要对数据进行标准化处理。

from sklearn.preprocessing import StandardScaler

# 标准化数据
scaler = StandardScaler()
data_scaled = scaler.fit_transform(data_imputed)

print("标准化后的数据：\n", data_scaled)

结果分析：数据标准化后，各特征的均值为0，标准差为1。

类别变量编码

对于分类变量，需要将其转换为数值型。可以使用OneHotEncoder来进行独热编码。

from sklearn.preprocessing import OneHotEncoder

# 创建一个包含类别变量的数据集
data = np.array([['Male', 1], ['Female', 3], ['Female', 2]])

# 独热编码
encoder = OneHotEncoder(sparse=False)
data_encoded = encoder.fit_transform(data)

print("编码后的数据：\n", data_encoded)

结果分析：独热编码将类别变量转换为二进制特征。

4. 数据集划分

在训练模型前，需要将数据集划分为训练集和测试集。train_test_split函数可以轻松实现这一点。

from sklearn.model_selection import train_test_split

# 创建一个示例数据集
X = np.array([[1, 2], [3, 4], [5, 6], [7, 8], [9, 10]])
y = np.array([0, 1, 0, 1, 0])

# 划分数据集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

print("训练集特征：\n", X_train)
print("测试集特征：\n", X_test)

结果分析：数据集按照80%的比例划分为训练集和测试集。

5. 模型选择与训练

在这部分，我们将介绍几种常用的机器学习模型，并展示如何使用scikit-learn进行训练和预测。

线性回归

线性回归是最简单的回归模型之一。

from sklearn.linear_model import LinearRegression

# 创建线性回归模型
model = LinearRegression()

# 训练模型
model.fit(X_train, y_train)

# 预测
predictions = model.predict(X_test)

print("线性回归预测结果：", predictions)

结果分析：线性回归模型对测试集进行了预测，输出预测值。

逻辑回归

逻辑回归常用于二分类问题。

from sklearn.linear_model import LogisticRegression

# 创建逻辑回归模型
model = LogisticRegression()

# 训练模型
model.fit(X_train, y_train)

# 预测
predictions = model.predict(X_test)

print("逻辑回归预测结果：", predictions)

结果分析：逻辑回归模型对测试集进行了预测，输出预测类别。

K近邻算法

K近邻算法是一种基于实例的学习方法。

from sklearn.neighbors import KNeighborsClassifier

# 创建K近邻模型
model = KNeighborsClassifier(n_neighbors=3)

# 训练模型
model.fit(X_train, y_train)

# 预测
predictions = model.predict(X_test)

print("K近邻预测结果：", predictions)

结果分析：K近邻模型对测试集进行了预测，输出预测类别。

决策树

决策树是一种常见的分类和回归方法。

from sklearn.tree import DecisionTreeClassifier

# 创建决策树模型
model = DecisionTreeClassifier()

# 训练模型
model.fit(X_train, y_train)

# 预测
predictions = model.predict(X_test)

print("决策树预测结果：", predictions)

结果分析：决策树模型对测试集进行了预测，输出预测类别。

6. 模型评估

在这一部分，我们将讨论如何使用交叉验证、混淆矩阵和ROC曲线来评估模型性能。

交叉验证

交叉验证可以帮助我们更稳定地评估模型性能。

from sklearn.model_selection import cross_val_score

# 使用交叉验证评估模型
scores = cross_val_score(model, X, y, cv=5)

print("交叉验证得分：", scores)

结果分析：交叉验证得分展示了模型在不同折中的性能。

混淆矩阵

混淆矩阵用于评估分类模型的性能。

from sklearn.metrics import confusion_matrix

# 计算混淆矩阵
cm = confusion_matrix(y_test, predictions)

print("混淆矩阵：\n", cm)

结果分析：混淆矩阵展示了模型的分类情况，包括正确和错误的分类数量。

ROC曲线

ROC曲线用于评估二分类模型的性能。

from sklearn.metrics import roc_curve, auc
import matplotlib.pyplot as plt

# 计算ROC曲线
fpr, tpr, thresholds = roc_curve(y_test, model.predict_proba(X_test)[:,1])
roc_auc = auc(fpr, tpr)

# 绘制ROC曲线
plt.figure()
plt.plot(fpr, tpr, color='darkorange', lw=2, label='ROC curve (area = %0.2f)' % roc_auc)
plt.plot([0, 1], [0, 1], color='navy', lw=2, linestyle='--')
plt.xlim([0.0, 1.0])
plt.ylim([0.0, 1.05])
plt.xlabel('False Positive Rate')
plt.ylabel('True Positive Rate')
plt.title('Receiver Operating Characteristic')
plt.legend(loc="lower right")
plt.show()

结果分析：ROC曲线展示了模型在不同阈值下的性能，AUC值越接近1表示模型性能越好。