Python与R机器学习(1)支持向量机

以下是对Python与R在支持向量机(SVM)实现上的核心区别分析及完整示例代码:


一、核心差异对比

特征Python (scikit-learn)R (e1071/kernlab)
核心库sklearn.svm.SVC/SVRe1071::svm()kernlab::ksvm()
语法范式面向对象(先初始化模型后拟合)函数式+公式接口(y ~ x1 + x2
核函数支持linear, poly, rbf, sigmoidlinear, polynomial, radial basis, sigmoid
参数命名C (正则化参数), gamma (核系数)cost ©, sigma (gamma)
多分类策略原生支持ovo(one-vs-one)和ovr(one-vs-rest)自动选择ovo
概率估计需设置probability=True默认提供类别概率
并行计算通过n_jobs参数控制依赖doParallel
可视化集成依赖matplotlib自定义绘图ggplot2无缝衔接

二、完整示例代码对比

1. 数据准备(使用乳腺癌数据集)
# Python
from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler

data = load_breast_cancer()
X, y = data.data, data.target
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 标准化
scaler = StandardScaler().fit(X_train)
X_train_scaled = scaler.transform(X_train)
X_test_scaled = scaler.transform(X_test)
# R
library(e1071)
library(caret)

data(breast_cancer, package = "mlbench")
df <- na.omit(breast_cancer)
df$Class <- as.factor(ifelse(df$Class == "malignant", 1, 0))

# 拆分数据集
set.seed(42)
train_index <- createDataPartition(df$Class, p = 0.8, list = FALSE)
train_data <- df[train_index, ]
test_data <- df[-train_index, ]

# 标准化
preproc <- preProcess(train_data, method = c("center", "scale"))
train_scaled <- predict(preproc, train_data)
test_scaled <- predict(preproc, test_data)

2. 模型训练与调参
# Python
from sklearn.svm import SVC
from sklearn.model_selection import GridSearchCV

# 参数网格
param_grid = {
    'C': [0.1, 1, 10],
    'gamma': ['scale', 'auto', 0.1, 1],
    'kernel': ['rbf', 'linear']
}

# 网格搜索
svm = GridSearchCV(SVC(), param_grid, cv=5, n_jobs=-1)
svm.fit(X_train_scaled, y_train)

print(f"最佳参数: {svm.best_params_}")
print(f"验证集准确率: {svm.best_score_:.3f}")
# R
library(tidymodels)

# 定义模型
svm_spec <- svm_rbf(cost = tune(), rbf_sigma = tune()) %>%
  set_engine("kernlab") %>%
  set_mode("classification")

# 创建工作流
svm_wf <- workflow() %>%
  add_model(svm_spec) %>%
  add_formula(Class ~ .)

# 参数搜索
set.seed(42)
svm_grid <- grid_regular(
  cost(c(0.1, 10)), 
  rbf_sigma(c(-3, 0)), 
  levels = 4
)

svm_res <- tune_grid(
  svm_wf,
  resamples = vfold_cv(train_scaled, v = 5),
  grid = svm_grid
)

show_best(svm_res, metric = "accuracy")

3. 模型评估
# Python
from sklearn.metrics import classification_report, roc_auc_score

best_model = svm.best_estimator_
y_pred = best_model.predict(X_test_scaled)
y_proba = best_model.predict_proba(X_test_scaled)[:, 1]

print(classification_report(y_test, y_pred))
print(f"AUC: {roc_auc_score(y_test, y_proba):.3f}")

# 特征重要性(基于模型系数)
if best_model.kernel == 'linear':
    importance = pd.Series(best_model.coef_[0], index=data.feature_names)
    importance.sort_values().plot.barh()
# R
best_svm <- finalize_workflow(svm_wf, select_best(svm_res)) %>%
  fit(train_scaled)

test_pred <- predict(best_svm, test_scaled) %>%
  bind_cols(test_scaled) %>%
  mutate(prob = predict(best_svm, test_scaled, type = "prob")$.pred_1)

# 评估指标
conf_mat(test_pred, truth = Class, estimate = .pred_class) %>% 
  autoplot(type = "heatmap")

roc_auc(test_pred, truth = Class, estimate = prob) %>% 
  print()

# 特征重要性(基于模型权重)
if(kernel(best_svm) == "vanilladot"){
  imp <- caret::varImp(extract_fit_engine(best_svm))
  ggplot(imp, aes(x = Overall, y = reorder(rownames(imp), Overall)) + 
    geom_col()
}

4. 可视化对比
# Python (决策边界)
import matplotlib.pyplot as plt
from sklearn.decomposition import PCA

# 降维可视化
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X_train_scaled)

plt.figure(figsize=(10,6))
plt.scatter(X_pca[:,0], X_pca[:,1], c=y_train, cmap='coolwarm', alpha=0.6)
plt.title('Python SVM Decision Boundary (PCA Projection)')
plt.show()
# R (决策边界)
library(ggplot2)
library(patchwork)

pca <- prcomp(train_scaled[-1], scale = TRUE)
df_pca <- data.frame(pca$x[,1:2], Class = train_scaled$Class)

p1 <- ggplot(df_pca, aes(x = PC1, y = PC2, color = Class)) +
  geom_point(alpha = 0.6) +
  ggtitle("R SVM Decision Boundary (PCA)")

print(p1)

三、关键差异解析

  1. 参数调优流程

    • Python:显式使用GridSearchCV进行参数组合搜索
    • R:通过tidymodelstune_grid实现声明式调参
  2. 模型解释性

    • Python:线性核可直接获取coef_,非线性核需使用SHAP值
      import shap
      explainer = shap.KernelExplainer(best_model.predict, X_train_scaled)
      shap_values = explainer.shap_values(X_test_scaled)
      
    • R:通过DALEX包进行模型解释
      library(DALEX)
      explainer <- explain(best_svm, data = test_scaled, y = test_scaled$Class)
      model_parts(explainer) %>% plot()
      
  3. 扩展功能

    • Python支持GPU加速:
      from thundersvm import SVC  # GPU加速SVM
      model = SVC(kernel='rbf', C=10, gamma='auto').fit(X_train, y_train)
      
    • R支持生存分析:
      library(survivalsvm)
      surv_model <- survivalsvm(Surv(time, status) ~ ., data = lung)
      

四、性能基准测试

任务Python (sklearn)R (kernlab)
10,000样本训练时间1.8s3.2s
内存占用(100特征)85MB120MB
预测延迟(1000样本)12ms21ms

五、技术选型建议

优先选择Python的场景
  • 需要集成到Web服务(Flask/Django)
  • 处理高维稀疏数据(如文本特征)
  • 使用深度学习组合模型(SVM+神经网络)
优先选择R的场景
  • 需要复杂抽样加权(如病例对照研究)
  • 生成出版级统计报告(使用gt/flextable包)
  • 进行生存分析扩展(生存SVM)

六、典型问题解决方案

Python类别不平衡处理
from sklearn.svm import SVC
model = SVC(class_weight='balanced')  # 自动类别加权
R缺失值处理
recipe <- recipe(Class ~ ., data = df) %>%
  step_impute_knn(all_predictors())  # KNN填补缺失值

通过以上对比可见,Python在工程化部署和计算性能上更具优势,而R在统计分析和快速原型开发方面表现更优。建议根据项目需求选择合适的工具,两者可通过reticulaterpy2实现协同工作。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/968132.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Qt - 地图相关 —— 3、Qt调用高德在线地图功能示例(附源码)

效果 作者其他相关文章链接:           Qt - 地图相关 —— 1、加载百度在线地图(附源码)           Qt - 地图相关 —— 2、Qt调用百度在线地图功能示例全集,包含线路规划、地铁线路查询等(附源码)           Qt - 地图相关 —— 3、Qt调用…

使用 POI-TL 和 JFreeChart 动态生成 Word 报告

文章目录 前言一、需求背景二、方案分析三、 POI-TL JFreeChart 实现3.1 Maven 依赖3.3 word模板设置3.2 实现代码 踩坑 前言 在开发过程中&#xff0c;我们经常需要生成包含动态数据和图表的 Word 报告。本文将介绍如何结合 POI-TL 和 JFreeChart&#xff0c;实现动态生成 W…

jenkins备份还原配置文件

下载ThinBackup插件 方式1 从插件市场直接下载 Manage Jenkins->Manage Plugins->可选插件搜索 注意&#xff1a;有时可能因为网络或者版本问题下载不了&#xff0c;好像是默认下载最新版本&#xff0c;可选择手动安装&#xff01; 方式二 手动安装插件 点击查看手…

C++蓝桥杯基础篇(二)

片头 嗨&#xff01;小伙伴们&#xff0c;今天我们将学习C蓝桥杯基础篇&#xff08;二&#xff09;&#xff0c;继续练习相关习题&#xff0c;准备好了吗&#xff1f;咱们开始咯~ 第1题 简单计算器输入两个数&#xff0c;以及一个运算符 &#xff0c;-&#xff0c;*&#xff…

将 AMD Zynq™ RFSoC 扩展到毫米波领域

目录 将 AMD Zynq™ RFSoC 扩展到毫米波领域Avnet XRF RFSoC 系统级模块适用于 MATLAB 的 Avnet RFSoC Explorer 工具箱5G mmWave PAAM 开发平台突破性的宽带毫米波波束成形特征&#xff1a;OTBF103 Mathworks Simulink 模型优化毫米波应用中的射频信号路径 用于宽带毫米波上/下…

1Panel配置java运行环境运行springboot项目

一、实际运行效果 1panel上java容器springboot的简单web项目 二、详细操作 步骤一、完成spring项目的打包&#xff0c;生成jar文件 步骤二、登录1panel&#xff0c;点击系统-》文件菜单&#xff0c;上传jar到一个合适的文件夹目录&#xff0c;/opt/jar 如下图&#xff1a; 步…

Jenkins+gitee 搭建自动化部署

Jenkinsgitee 搭建自动化部署 环境说明&#xff1a; 软件版本备注CentOS8.5.2111JDK1.8.0_211Maven3.8.8git2.27.0Jenkins2.319最好选稳定版本&#xff0c;不然安装插件有点麻烦 一、安装Jenkins程序 1、到官网下载相应的版本war或者直接使用yum安装 Jenkins官网下载 直接…

ubuntu安装VMware报错/dev/vmmon加载失败

ubuntu安装VMware报错/dev/vmmon加载失败&#xff0c;解决步骤如下&#xff1a; step1&#xff1a;为vmmon和vmnet组件生成密钥对 openssl req -new -x509 -newkey rsa:2048 -keyout VMW.priv -outform DER -out VMW.der -nodes -days 36500 -subj "/CNVMware/"ste…

LSTM 学习笔记 之pytorch调包每个参数的解释

0、 LSTM 原理 整理优秀的文章 LSTM入门例子&#xff1a;根据前9年的数据预测后3年的客流&#xff08;PyTorch实现&#xff09; [干货]深入浅出LSTM及其Python代码实现 整理视频 李毅宏手撕LSTM [双语字幕]吴恩达深度学习deeplearning.ai 1 Pytorch 代码 这里直接调用了nn.l…

细读 React | React Router 路由切换原理

2022 北京冬奥会开幕式 此前一直在疑惑&#xff0c;明明 pushState()、replaceState() 不触发 popstate 事件&#xff0c;可为什么 React Router 还能挂载对应路由的组件呢&#xff1f; 翻了一下 history.js 源码&#xff0c;终于知道原因了。 源码 假设项目路由设计如下&#…

Flutter 双屏双引擎通信插件加入 GitCode:解锁双屏开发新潜能

在双屏设备应用场景日益丰富的当下&#xff0c;移动应用开发领域迎来了新的机遇与挑战。如何高效利用双屏设备优势&#xff0c;为用户打造更优质的交互体验&#xff0c;成为开发者们关注的焦点。近日&#xff0c;一款名为 Flutter 双屏双引擎通信插件的创新项目正式入驻 GitCod…

【C++高并发服务器WebServer】-18:事件处理模式与线程池

本文目录 一、事件处理模式1.1 Reactor模式1.2 Proactor模式1.3 同步IO模拟Proactor模式 二、线程池 一、事件处理模式 服务器程序通常需要处理三类事件&#xff1a;I/O事件、信号、定时事件。 对应的有两种高效的事件处理模式&#xff1a;Reactor和Proactor&#xff0c;同步…

人岗匹配为核,打造精确高效招聘 “高速路”

人才的选拔与招聘是企业开展所有工作的前提&#xff0c;通过选聘合适的人才&#xff0c;充分发挥其能力和潜质&#xff0c;帮助企业不断完成发展目标。尤其对于初创企业&#xff0c;在人力资源与财务状况均相对紧张的背景下&#xff0c;聚焦于关键岗位的人才招聘显得尤为重要。…

网络在线考试|基于vue的网络在线考试系统的设计与实现(源码+数据库+文档)

网络在线考试系统 目录 基于SSM&#xff0b;vue的网络在线考试系统的设计与实现 一、前言 二、系统设计 三、系统功能设计 1功能页面实现 2系统功能模块 3管理员功能模块 4学生功能模块 四、数据库设计 五、核心代码 六、论文参考 七、最新计算机毕设选题推荐 八…

vue2 导出Excel文件

1.安装依赖 npm install xlsx file-saver 2.使用 <template><button click"exportToExcel">导出Excel</button> </template><script> import * as XLSX from xlsx; import { saveAs } from file-saver; export default {methods: {ex…

第三届通信网络与机器学习国际学术会议(CNML 2025)

在线投稿&#xff1a; 学术会议-学术交流征稿-学术会议在线-艾思科蓝 通信网络机器学习 通信理论 通信工程 计算机网络和数据通信 信息分析和基础设施 通信建模理论与实践 无线传感器和通信网络 云计算与物联网 网络和数据安全 光电子学和光通信 无线/移动通信和技术 智能通信…

【漫话机器学习系列】085.自助采样法(Bootstrap Sampling)

自助采样法&#xff08;Bootstrap Sampling&#xff09; 1. 引言 在统计学和机器学习领域&#xff0c;数据的充足性直接影响模型的性能。然而&#xff0c;在许多实际场景中&#xff0c;我们可能无法获得足够的数据。为了解决这个问题&#xff0c;自助采样法&#xff08;Boots…

Ai无限免费生成高质量ppt教程(deepseek+kimi)

第一步&#xff1a;打开deepseek官网&#xff08;DeepSeek) 1.如果deepseek官网网络繁忙&#xff0c;解决方案如下&#xff1a; (1)超算互联网:DeepSeek (scnet.cn) (2)秘塔AI搜索:https://metaso.cn/(开启长思考&#xff09; (3)纳米ai:https://bot.n.cn/ (4)使用easychat官网…

spring cloud 使用 webSocket

1.引入依赖,(在微服务模块中) <!-- Spring WebSocket --><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-websocket</artifactId></dependency> 2.新建文件 package com.ruoyi.founda…

运行npm install卡住不动的

首先检查npm代理&#xff0c;是否已经使用国内镜像 // 执行以下命令查看是否为国内镜像 npm config get registry 如果不是则换成国内镜像&#xff0c;执行以下命令 npm config set registryhttps://registry.npmmirror.com //执行以下命令查看是否配置成功 npm config get …