tidyverse数据特征学习

目录

特征缩放

1,标准化-scale

2,归一化-rescale

3,行规范化

4,数据平滑

特征变换

1. 非线性特征

2. 正态性变换

3. 连续变量离散

特征降维


特征缩放

不同数值型特征的数据量纲可能相差多个数量级,这对很多数据模型会有很大 影响,所以有必要做归一化处理,就是将列或行对齐并转化为一致。

1,标准化-scale

标准化也称为 Z 标准化,将数据变成均值为 0, 标准差为 1。(标准差:离均差平方的算数平均数(即:方差)的算数平方根)。所以这里缩放的是数据的标准差,而不是数据的范围。

R里常用scale函数:

scale(x) # 标准化

scale(x, scale = FALSE) # 中心化: 减去均值(中心化后,0 就代表均值,更方便模型解释)

示例:

rm(list = ls())
#生成随机数
set.seed(123)
data <- runif(100, 1, 1000)#在1-1000中间生成100个随机数
data[1:10]
[1] 288.28994 788.51683 409.56794 883.13439 940.52682  46.51094 528.57738
[8] 892.52663 551.88358 457.15812

#标准化
a <- scale(data)
a[1:10]
[1] -0.7402982  1.0166700 -0.3143283  1.3489993  1.5505811 -1.5895088
[7]  0.1036736  1.3819880  0.1855330 -0.1471753
#中心化: 减去均值
b <- scale(data, scale = FALSE) 
b[1:10]
[1] -210.77049  289.45640  -89.49249  384.07395  441.46638 -452.54949
[7]   29.51695  393.46619   52.82314  -41.90231

data[1]-mean(data)#减去均值
[1] -210.7705
2,归一化-rescale

归一化是将数据线性放缩到 [0, 1], 一般还同时考虑指标一致化,将正向指标 (值越大越好)和负向指标(值越小越好)都变成正向。同时还涉及数据缩放。R语言数据缩放-1到1-CSDN博客

rescale = function(x, type = "pos", a = 0, b = 1) {
rng = range(x, na.rm = TRUE)
switch (type,
"pos" = (b - a) * (x - rng[1]) / (rng[2] - rng[1]) + a,
"neg" = (b - a) * (rng[2] - x) / (rng[2] - rng[1]) + a)
}

探索:

rm(list = ls())
library(dplyr)
library(scales)
#生成随机数
set.seed(123)
data <- runif(100, 1, 1000)#在1-1000中间生成100个随机数
data[1:5]
[1] 288.2899 788.5168 409.5679 883.1344 940.5268

#缩放到-1到1之间
a <- rescale(data,to = c(-1, 1))
a[1:5]
[1] -0.4224240  0.5854362 -0.1780724  0.7760722  0.8917068

注意:标准化和归一化是两种不同数据缩放的方法:归一化(Normalization)是指将数据缩放到[0,1]的范围内,公式为:(x - min)/(max - min),其中x为原始数据,min和max分别为数据集中的最小值和最大值。归一化后的数据分布在[0,1]之间,适用于数据分布有明显边界的情况。

标准化(Standardization)是指将数据按照均值为0,标准差为1的方式进行缩放,公式为:(x - mean)/std,其中x为原始数据,mean和std分别为数据集的均值和标准差。标准化后的数据分布在均值附近,标准差为1,适用于数据分布没有明显边界的情况。

区分规范化,归一化,标准化,正则化 - 知乎 (zhihu.com)

3,行规范化

行规范化,常用于文本数据或聚类算法,是保证每行具有单位范数,即每行的 向量” 长度” 相同。想象一下,𝑚 个特征下,每行数据都是 𝑚 维空间中的一 个点,做行规范化能让这些点都落在单位球面上(到原点的距离均为 1)。行规范化,一般采用 𝐿2 范数什么是范数(norm)?以及L1,L2范数的简单介绍-CSDN博客

library(tidyverse)
data <- iris
#前三行 行规范化(去除第5列的物种)
data1 <- iris[1:3,-5] %>%
  pmap_dfr(~ c(...) / norm(c(...), "2"))
# A tibble: 3 × 4
  Sepal.Length Sepal.Width Petal.Length Petal.Width
         <dbl>       <dbl>        <dbl>       <dbl>
1        0.804       0.552        0.221      0.0315
2        0.828       0.507        0.237      0.0338
3        0.805       0.548        0.223      0.0343
4,数据平滑

若数据噪声太多的问题,通常就需要做数据平滑。 最简单的数据平滑方法是移动平均,即用一定宽度的小窗口1滑过曲线,会把 曲线的毛刺尖峰抹掉,能一定程度上去掉噪声还原原本曲线。 窗口宽度越大,平滑的效果越明显。(理解就是使用 平均值代替波动值)

比如五点平滑,用前两点/自身/后两点,共五点平均值代替自身因变量值

rm(list = ls())
library(slider)
library(patchwork)
p1 = economics %>%
  ggplot(aes(date, uempmed)) +
  geom_line()
p2 = economics %>% # 做五点移动平均
  mutate(uempmed = slide_dbl(uempmed, mean,
                             .before = 2, .after = 2)) %>%
  ggplot(aes(date, uempmed)) +
  geom_line()
p1 | p2

特征变换

1. 非线性特征
library(tidymodels)
recipe(hwy ~ displ + cty, data = mpg) %>%
step_poly(all_predictors(), degree = 2,
options = list(raw = TRUE)) %>%
prep() %>%
bake(new_data = NULL)
2. 正态性变换

对数变换或幂变换:对于方差逐渐变大的异方差的时间序列数据,或右偏分布的数据,可以尝试做 对数变换或开根号变换,以稳定方差和变成正态分布。

rm(list = ls())
df = mlr3data::kc_housing
p1 = ggplot(df, aes(price)) +
  geom_histogram()
p2 = ggplot(df, aes(log10(price))) +
  geom_histogram()
p1 | p2

对数变换特别有用,因为具有可解释性:对数值的变化是原始尺度上的相对 (百分比)变化。若使用以 10 为底的对数,则对数刻度上每增加 1 对应原始 刻度上的乘以 10。

3. 连续变量离散

在统计和机器学习中,有时需要将连续变量转化为离散变量,称为连续变量离 散化或分箱,常用于银行风控建模,特别是线性回归或 Logistic 回归模型

例子:使得结果更便于分析和解释。比如,年龄从中年到老年,患高血压比例 增加 25%,而年龄每增加一岁,患高血压比例不一定有显著变化

rbin 包提供了简单的分箱方法:

• rbin_manual(): 自定义分箱,手动指定切分点(左闭右开)

• rbin_equal_length(): 等宽分箱

• rbin_equal_freq(): 等频分箱

• rbin_quantiles(): 分位数分箱

• rbin_winsorize(): 缩尾分箱,不受异常值影响

特征降维

特征降维(主要是PCA的补充)-CSDN博客

PCA利用的是协方差矩阵的特征值分解原理,实现多个特征向少量综合特征(主成分)的转化,每个成分都是多个原始特征的线性组合,且各个成分互补相关,第一主成分用于解释数据变异(
方差)最大的,第二主成分次之,以此类推。

#鸢尾花主成分降维
rm(list = ls())
data <- iris
 
library(recipes)
recipe(~.,data=iris) %>%
  step_normalize(all_numeric()) %>%
  step_pca(all_numeric(),threshold = 0.85)%>%##设置阈值
  prep()%>%
  bake(new_data=NULL)
————————————————
版权声明:本文为CSDN博主「hx2024」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/hx2024/article/details/134402726

结果:

# A tibble: 150 × 3
   Species   PC1     PC2
   <fct>   <dbl>   <dbl>
 1 setosa  -2.26 -0.478 
 2 setosa  -2.07  0.672 
 3 setosa  -2.36  0.341 
 4 setosa  -2.29  0.595 
 5 setosa  -2.38 -0.645 
 6 setosa  -2.07 -1.48  
 7 setosa  -2.44 -0.0475
 8 setosa  -2.23 -0.222 
 9 setosa  -2.33  1.11  
10 setosa  -2.18  0.467 
# ℹ 140 more rows
# ℹ Use `print(n = ...)` to see more rows

感谢张敬信老师的书籍!!!

参考:

张敬信 老师的《R语言编程:基于tidyverse》

为R语言正名之书《R语言编程:基于tidyverse》正式上市! - 知乎 (zhihu.com)

张敬信老师投稿视频-张敬信老师视频分享-哔哩哔哩视频 (bilibili.com)

资源获取introR: 这是一本中文 R 语言入门书,基于最新 tidyverse 包。 (gitee.com)

张敬信-1393页-R语言编程:基于tidyverse-完整课件(带书签).pdf (gitee.com)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/190250.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

【Web】/proc利用相关例题wp

先贴一篇文章一起学习一下 [CTF]proc目录的应用 - CodeAntenna ①[HDCTF 2023]YamiYami 点击Read somethings直接跳转到了百度 从url中发现存在任意文件读取&#xff0c;因为不知道flag在哪&#xff0c;所以考虑读环境变量 payload: ?urlfile:///proc/1/environ 拿到fla…

短视频获客系统成功分享,与其开发流程与涉及到的技术

先来看实操成果&#xff0c;↑↑需要的同学可看我名字↖↖↖↖↖&#xff0c;或评论888无偿分享 一、短视频获客系统的开发流程 1. 需求分析&#xff1a;首先需要对目标用户进行深入了解&#xff0c;明确系统的功能和目标&#xff0c;制定详细的需求文档。 2. 系统设计&#…

Python教程:DataFrame列数据类型的转换

Pandas提供了多种数据类型转换方法。可以使用astype()函数来转换数据类型。例如&#xff0c;可以将字符串类型的列转换为整数类型的列&#xff1a; # Author : 小红牛 # 微信公众号&#xff1a;wdPython import pandas as pd# 创建包含字符串类型列的DataFrame df pd.DataFra…

VBA技术资料MF86:将PPT文件批量另存为PDF文件

我给VBA的定义&#xff1a;VBA是个人小型自动化处理的有效工具。利用好了&#xff0c;可以大大提高自己的工作效率&#xff0c;而且可以提高数据的准确度。我的教程一共九套&#xff0c;分为初级、中级、高级三大部分。是对VBA的系统讲解&#xff0c;从简单的入门&#xff0c;到…

YOLO目标检测——二维码检测数据集下载分享【含对应voc、coco和yolo三种格式标签】

实际项目应用&#xff1a;二维码识别、追踪与管理系统数据集说明&#xff1a;二维码检测数据集&#xff0c;真实场景的高质量图片数据&#xff0c;数据场景丰富标签说明&#xff1a;使用lableimg标注软件标注&#xff0c;标注框质量高&#xff0c;含voc(xml)、coco(json)和yolo…

快速解决Navicat连接数据库报错:10061

目录 问题原因&#xff1a; 错误提示&#xff1a; 解决方案&#xff1a; 问题1&#xff1a;如何进入指定目录&#xff1f; 问题2&#xff1a;若出现&#xff1a;“服务名无效” 将MySQL注册到win服务中 问题原因&#xff1a; mysql服务没有开启&#xff08;可能会在更新windows…

人工智能入门教学——AI代理(AI Agent)

目录 一、简介 二、特征 三、结构 四、工作流程 五、类型 六、应用 一、简介 AI代理 (Artificial Intelligence Agent)是指使用人工智能技术和算法来执行特定任务、解决问题或实现目标的程序或系统。这些代理可以是简单的程序&#xff0c;也可以是复杂的系统&#xff0c…

【强化学习】动态规划算法实践

文章目录 【强化学习】动态规划算法实践一. 实验过程1.1 Environment1.2 Policy Iteration1.3 Policy Evaluation1.4 Policy Improvement1.5 Value Iteration 二. 实验结果与分析2.1 分析Policy Iteration和Value Iteration收敛误差随着迭代次数的分布曲线 【强化学习】动态规划…

Python——常见内置模块

Python 模块&#xff08;Modules&#xff09;1、概念模块函数类变量2、分类3、模块导入的方法&#xff1a;五种4、使用import 导入模块5、使用from……import部分导入6、使用as关键字为导入模块或功能命名别名7、模块的搜索目录8、自定义模块 常见内置模块一、math模块二、rand…

Excel中出现“#NAME?”怎么办?(文本原因)

excel 单元格出现 #NAME? 错误的原因有二&#xff1a; 函数公式输入不对导致 #NAME? 错误。 在单元格中字符串的前面加了号&#xff0c;如下图中的--GoJG7sEe6RqgTnlUcitA&#xff0c;本身我们想要的是--GoJG7sEe6RqgTnlUcitA&#xff0c;但因为某些不当的操作在前面加了号&…

第 373 场 LeetCode 周赛题解

A 循环移位后的矩阵相似检查 模拟 class Solution { public:bool areSimilar(vector<vector<int>> &mat, int k) {int m mat.size(), n mat[0].size();k % n;auto g mat;for (int i 0; i < m; i)if (i & 1)rotate(mat[i].begin(), mat[i].begin() …

实战oj题——用队列实现栈

前言&#xff1a;Leetcode栈和队列的习题&#xff0c;用两个队列实现栈。 【由于我们是用C语言完成这道题&#xff0c;所以我们要将关于队列的实现代码插入到题中&#xff0c;在创建一个栈&#xff0c;栈里包含两个队列。】 思路&#xff1a;我们用两个队列来实现&#xff0c;因…

Sringboot3 讲解

文章目录 前言一、Springboot快速入门1.1 实例1.2 总结&#xff1a;1.2.1 什么是starter启动器1.2.2 SpringBootApplication注解的功效 二、springboot3 统一配置文件1.概述2、属性配置文件使用简单案例3、yaml配置介绍和说明4、批量配置文件的读取5、多环境配置和激活 三、spr…

【详解二叉树】

&#x1f320;作者&#xff1a;TheMythWS. &#x1f387;座右铭&#xff1a;不走心的努力都是在敷衍自己&#xff0c;让自己所做的选择&#xff0c;熠熠发光。 目录 树形结构 概念 树的示意图 树的基本术语 树的表示 树的应用 二叉树(重点) 二叉树的定义 二叉树的五…

2.前端--HTML标签基本概念【2023.11.25】

1.基本语法规范 HTML 标签是由尖括号包围的关键词&#xff0c;例如 <html>。HTML 标签通常是成对出现的&#xff0c;例如 和 &#xff0c;我们称为双标签。有些特殊的标签必须是单个标签&#xff08;极少情况&#xff09;&#xff0c;例如 <br />我们称为单标签。 …

无人零售已成为新兴趋势

无人零售已成为新兴趋势 在新零售浪潮中&#xff0c;必然会涌现新的商业形态&#xff0c;而无人零售则是其中典型代表之一。传统零售受制于人力和场地等限制&#xff0c;消费者体验较差&#xff0c;如长时间排队、缓慢结账、距离过远等问题。而无人零售解决方案&#xff0c;包括…

人力资源管理后台 === 权限应用

目录 1.权限应用-拆分静态路由-动态路由 2.权限应用-根据用户权限添加动态路由 3.权限应用-根据权限显示左侧菜单 4.权限应用-退出登录重置路由 5.权限应用-功能权限-按钮权限标识 6.权限应用-自定义指令应用功能权限 7.其他模块-集成 8.首页-基本结构和数字滚动 9.首页…

【高可用架构】Haproxy 和 Keepalived 的区别

Haproxy 和 Keepalived 的区别 1.负载均衡器介绍2.Haproxy 和 Keepalived 的基本概念和特点2.1 Haproxy2.2 Keepalived 3.Haproxy 和 Keepalived 的区别3.1 功能上的区别3.2 架构上的区别3.3 配置上的区别 4.总结 1.负载均衡器介绍 负载均衡器是一种解决高并发和高可用的常用的…

Linux C语言 22-多进程

Linux C语言 22-进程 本节关键字&#xff1a;进程、exec函数族 相关C库函数&#xff1a;fork、getpid、getppid、getuid、geteuid、getgid、getegid、execl、execlp、execv、execvp、execle、execvpe 什么是进程&#xff1f; 进程是程序的执行过程&#xff1b;进程是动态的&…

vue3+ts mitt的使用

安装mitt :npm i mitt -Smain.ts: import mitt from mittconst Mit mitt();declare module vue {export interface ComponentCustomProperties{$Bus:typeof Mit} } app.config.globalProperties.$BusMit在A组件中使用 <template><div><h1>我是A<…