关于pytorch张量维度转换及张量运算

关于pytorch张量维度转换大全

  • 1 tensor.view()
  • 2 tensor.reshape()
  • 3 tensor.squeeze()和tensor.unsqueeze()
    • 3.1 tensor.squeeze() 降维
    • 3.2 tensor.unsqueeze(idx)升维
  • 4 tensor.permute()
  • 5 torch.cat([a,b],dim)
  • 6 torch.stack()
  • 7 torch.chunk()和torch.split()
  • 8 与tensor相乘运算
  • 9 与tensor相加运算
  • 10 tensor.expand()
  • 11 tensor.narrow(dim, start, len)
  • 12 tensor.resize_()
  • 13 tensor.repeat()
  • 14 unbind()
  • 参考：

tensor 乘
tensor 加
# view()    转换维度
# reshape() 转换维度
# permute() 坐标系变换
# squeeze()/unsqueeze() 降维/升维
# expand()   扩张张量
# narraw()   缩小张量
# resize_()  重设尺寸
# repeat(), unfold() 重复张量
# cat(), stack()     拼接张量

1 tensor.view()

view() 用于改变张量的形状，但不会改变张量中的元素值。
用法1：
例如，你可以使用view 将一个形状是（2，3）的张量变换成（3，2）的张量；

import torch
x = torch.tensor([[1, 2, 3], [4, 5, 6]])
y = x.view(3, 2)

上面的操作相当于，先把形状为**（2，3）的tensor展平，变成（1，6），然后再变成（3，2）.**

用法2：
转换前后张量中的元素个数不变。view()中若存在某一维的维度是-1，则表示该维的维度根据总元素个数和其他维度尺寸自适应调整。注意，view()中最多只能有一个维度的维数设置成-1。

z = x.view(-1,2)

image.png

举例子：
在卷积神经网络中，经常会在全连接层用到view进行张量的维度拉伸：
假设输入特征是BCH*W的4维张量，其中B表示batchsize，C表示特征通道数，H和W表示特征的高和宽，在将特征送入全连接层之前，会用.view将转换为B*(CHW)的2维张量，即保持batch不变，但将每个特征转换为一维向量。

2 tensor.reshape()

reshape()与view()使用方法相同。
image.png

3 tensor.squeeze()和tensor.unsqueeze()

3.1 tensor.squeeze() 降维

（1）若squeeze()括号内为空，则将张量中所有维度为1的维数进行压缩，如将1,2,1,9的张量降维到2,9维；若维度中无1维的维数，则保持源维度不变，如将234维的张量进行squeeze，则转换后维度不会变。
（2）若squeeze(idx)，则将张量中对应的第idx维的维度进行压缩，如1,2,1,9的张量做squeeze(2)，则会降维到1,2,9维的张量；若第idx维度的维数不为1，则squeeze后维度不会变化。
例如：
image.png

3.2 tensor.unsqueeze(idx)升维

在第idx维进行升维，将tensor由原本的维度n，升维至n+1维。如张量的维度维2*3，经unsqueeze(0)后，变为1,2,3维度的张量。
image.png

4 tensor.permute()

坐标系转换，即矩阵转置，使用方法与numpy array的transpose相同。permute()括号内的参数数字指的是各维度的索引值。permute是深度学习中经常需要使用的技巧，一般的会将BCHW的特征张量，通过转置转化为BHWC的特征张量，即将特征深度转换到最后一个维度，通过调用**tensor.permute(0, 2, 3, 1)**实现。
torch.transpose只能操作2D矩阵的转置，而permute()函数可以对任意高维矩阵进行转置；
简单理解：permute()相当于可以同时操作tensor的若干维度，transpose只能同时作用于tensor的两个维度。

image.png

permute和view/reshape虽然都能将张量转化为特定的维度，但原理完全不同，注意区分。view和reshape处理后，张量中元素顺序都不会有变化，而permute转置后元素的排列会发生变化，因为坐标系变化了。

5 torch.cat([a,b],dim)

在第dim维度进行张量拼接，要注意维度保持一致。
假设a为h1w1的二维张量，b为h2w2的二维张量，torch.cat(a,b,0)表示在第一维进行拼接，即在列方向拼接，所以w1和w2必须相等。torch.cat(a,b,1)表示在第二维进行拼接，即在行方向拼接，所以h1和h2必须相等。
假设a为c1h1w1的二维张量，b为c2h2w2的二维张量，torch.cat(a,b,0)表示在第一维进行拼接，即在特征的通道维度进行拼接，其他维度必须保持一致，即w1=w2，h1=h2。torch.cat(a,b,1)表示在第二维进行拼接，即在列方向拼接，必须保证w1=w2，c1=c2；torch.cat(a,b,2)表示在第三维进行拼接，即在行方向拼接，必须保证h1=h2，c1=c2；
image.png

6 torch.stack()

该函数在维度上连接若干个形状相同的张量，最终结果会升维；即若干个张量在某一维度上连接生成一个扩维的张量。 堆叠的感觉。
image.png

7 torch.chunk()和torch.split()

torch.chunk(input, chunks, dim)

**torch.chunk()**的作用是把一个tensor均匀分成若干个小tensor。input是被分割的tensor。chunks是均匀分割的份数，如果在进行分割的维度上的size不能被chunks整除，则最后一份tensor会略小（也可能为空）。dim是确定在某个维度上进行分割。该函数返回的是由小tensor组成的tuple。
image.png

**torch.split()**可以说是torch.chunk()的升级版，它不仅可以按份数均匀分割，还可以按特定的方案进行分割。

torch.split(input, split_size_or_sections, dim=0)

与torch.chunk()的区别就在于第二个参数上面。如果第二个参数是分割份数，这就和torch.chunk()一样了；第二种是分割方案，是一个list类型的数据，待分割的张量将会被分割为len(list)份，每一份的大小取决于list中的元素。
image.png

8 与tensor相乘运算

  • 元素积(element-wise)，即相同形状的矩阵对应元素相乘，得到的元素为结果矩阵中各个元素的值，对应函数为torch.mul()(和*的效果一样)。

image.png

  • 矩阵乘法，对应函数为torch.mm()(只能用于2d的tensor)或者torch.matmul()(和符号@效果一样)。对于torch.matmul()，定义其矩阵乘法仅在最后的两个维度上，前面的维度需要保持一致。如果前面的维度符合broadcast_tensor机制，也会自动扩展维度，保证两个矩阵前面的维度一致。

image.png
image.png

9 与tensor相加运算

遵循下面两点：

  • 当两个tensor的维度相同时，对应轴的值要一样（每个维度的大小相等），或者某些维度大小为1。相加时把所有为1的轴进行复制扩充得到两个维度完全相同的张量，然后对应位置相加即可。
  • 当两个相加的tensor维度不一致时，首先要把维度低的那个张量从右边和维度高的张量对齐，用1扩充维度至和高维度张量的维度一致，然后进行<1>的操作。

image.png

10 tensor.expand()

扩展张量，通过值复制的方式，将单个维度扩大为更大的尺寸。使用expand()函数不会使原tensor改变，需要将结果重新赋值。下面是具体的实例：
以二维张量为例：tensor是1n或n1维的张量，分别调用tensor.expand(s, n)或tensor.expand(n, s)在行方向和列方向进行扩展。
expand()的填入参数是size

image.png

11 tensor.narrow(dim, start, len)

narrow()函数起到了筛选一定维度上的数据作用.

torch.narrow(input, dim, start, length)->Tensor

input是需要切片的张量，dim是切片维度，start是开始的索引，length是切片长度，实际应用如下：

image.png

12 tensor.resize_()

尺寸变化，将tensor截断为resize_后的维度.
image.png

13 tensor.repeat()

tensor.repeat(a,b)将tensor整体在行方向复制a份，在列方向上复制b份

image.png

14 unbind()

torch.unbind()移除指定维后，返回一个元组，包含了沿着指定维切片的各个切片。

torch.unbind(input, dim=0)->seq

image.png

参考：

pytorch中与tensor维度变化相关的函数（持续更新） - weili21的文章 - 知乎
https://zhuanlan.zhihu.com/p/438099006

【pytorch tensor张量维度转换（tensor维度转换）】
https://blog.csdn.net/x_yan033/article/details/104965077

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/112685.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

预处理详解(一)

预处理详解(一)

1 预定义符号 __FILE__ //进行编译的源文件 __LINE__ //文件当前的行号 __DATE__ //文件被编译的日期 __TIME__ //文件被编译的时间 __STDC__ //如果编译器遵循ANSI C&#xff0c;其值为1&#xff0c;否则未定义 这些预定义符号都是…
阅读更多...
Linux纯C串口开发

Linux纯C串口开发

为什么要用纯C语言 为了数据流动加速&#xff0c;实现低配CPU建立高速数据流而不用CPU干预&#xff0c;避免串口数据流多次反复上升到软件应用层又下降低到硬件协议层。 关于termios.h 麻烦的是&#xff0c;在 Linux 中使用串口并不是一件最简单的事情。在处理 termios.h 标头…
阅读更多...
怎么检测开关电源质量的好坏？测试的方法是什么？

怎么检测开关电源质量的好坏？测试的方法是什么？

开关电源的工作原理 开关电源(简称SMPS)是常见的一种电源供应器&#xff0c;是高频化的电能转换装置&#xff0c;可以将电压透过不同形式的架构转换为用户端所需求的电压或电流。具有体积小、功耗小、效率高、高可靠性的特点&#xff0c;被广泛应用在工业、军工设备、科研设备、…
阅读更多...
机器学习---支持向量机的初步理解

机器学习---支持向量机的初步理解

1. SVM的经典解释 改编自支持向量机解释得很好 |字节大小生物学 (bytesizebio.net) 话说&#xff0c;在遥远的从前&#xff0c;有一只贪玩爱搞破坏的妖怪阿布劫持了善良美丽的女主小美&#xff0c;智勇双全 的男主大壮挺身而出&#xff0c;大壮跟随阿布来到了妖怪的住处&…
阅读更多...
Docker compose容器编排

Docker compose容器编排

Docker compose容器编排 1、Docker compose简介 docker-compose是docker的编排工具&#xff0c;用于定义和运行一个项目&#xff0c;该项目包含多个docker容器&#xff0c;在如今的微服务时代&#xff0c;一个项目会存在多个服务&#xff0c;使用docker一个个部署操作的话就会…
阅读更多...
React中的状态管理

React中的状态管理

目录 前言 1. React中的状态管理 1.1 本地状态管理 1.2 全局状态管理 Redux React Context 2. React状态管理的优势 总结 前言 当谈到前端开发中的状态管理时&#xff0c;React是一个备受推崇的选择。React的状态管理机制被广泛应用于构建大型、复杂的应用程序&#xf…
阅读更多...
计算机毕业设计选题推荐-超市售货微信小程序/安卓APP-项目实战

计算机毕业设计选题推荐-超市售货微信小程序/安卓APP-项目实战

✨作者主页&#xff1a;IT研究室✨ 个人简介&#xff1a;曾从事计算机专业培训教学&#xff0c;擅长Java、Python、微信小程序、Golang、安卓Android等项目实战。接项目定制开发、代码讲解、答辩教学、文档编写、降重等。 ☑文末获取源码☑ 精彩专栏推荐⬇⬇⬇ Java项目 Python…
阅读更多...
注册中心ZK、nameServer、eureka、Nacos介绍与对比

注册中心ZK、nameServer、eureka、Nacos介绍与对比

前言 注册中心的由来 微服务架构是存在着很多跨服务调用，每个服务都存在着多个节点，如果有多个提供者和消费者，当提供者增加/减少或者消费者增加/减少，双方都需要感知发现。所以诞生了注册中心这个中间件。 市面上有很多注册中心，如 Zookeeper、NameServer、Eureka、Na…
阅读更多...
OpenCV 笔记(4)：图像的算术运算、逻辑运算

OpenCV 笔记(4)：图像的算术运算、逻辑运算

Part11. 图像的算术运算 图像的本质是一个矩阵&#xff0c;所以可以对它进行一些常见的算术运算&#xff0c;例如加、减、乘、除、平方根、对数、绝对值等等。除此之外&#xff0c;还可以对图像进行逻辑运算和几何变换。 我们先从简单的图像加、减、逻辑运算开始介绍。后续会有…
阅读更多...
企业 Tomcat 运维 部署tomcat反向代理集群

企业 Tomcat 运维 部署tomcat反向代理集群

一、Tomcat 简介 Tomcat服务器是一个免费的开放源代码的Web应用服务器&#xff0c;属于轻量级应用服务器&#xff0c; Tomcat和Nginx、Apache(httpd)、Web服务器一样&#xff0c;具有处理HTML页面的功能不过Tomcat处理静态HTML的能力不如Nginx/Apache服务器 一个tomcat默认并…
阅读更多...
ip划分与私公网ip、ip的传递

ip划分与私公网ip、ip的传递

报文问路&#xff1a;1、不知道跳转默认路由器&#xff0c;2、知道路径&#xff0c;向对应路径发出报文&#xff0c;3、路口路由器&#xff0c;下一步就是目标主机在哪。 想要通信必须同在一个局域网&#xff0c;其实将公网就可以看作一个大型的局域网。 在同一个局域网内发送…
阅读更多...
61. 旋转链表、Leetcode的Python实现

61. 旋转链表、Leetcode的Python实现

博客主页&#xff1a;&#x1f3c6;李歘歘的博客 &#x1f3c6; &#x1f33a;每天不定期分享一些包括但不限于计算机基础、算法、后端开发相关的知识点&#xff0c;以及职场小菜鸡的生活。&#x1f33a; &#x1f497;点关注不迷路&#xff0c;总有一些&#x1f4d6;知识点&am…
阅读更多...
恶意软件防范和拦截： 提供防范恶意软件攻击的策略

恶意软件防范和拦截： 提供防范恶意软件攻击的策略

恶意软件&#xff0c;或者俗称的“病毒”&#xff0c;一直是IT领域的一个严重威胁。这些恶意软件可以窃取敏感信息、损害系统稳定性&#xff0c;甚至对企业和个人造成重大经济损失。在这篇博客文章中&#xff0c;我们将讨论如何防范和拦截恶意软件攻击&#xff0c;包括使用反病…
阅读更多...
【unity/vufornia】Duplicate virtual buttons with name.../同一个ImageTarget上多个按钮失灵

【unity/vufornia】Duplicate virtual buttons with name.../同一个ImageTarget上多个按钮失灵

问题&#xff1a;在同一个ImageTarget上添加多个按钮时无法触发对应按钮的事件。 解决过程&#xff1a; 1.查看报错&#xff1a;“Duplicate virtual buttons with name...”这一行&#xff0c;顾名思义&#xff0c;命名重复。 2.英文搜索到以下文章&#xff0c;应该在inspe…
阅读更多...
算法通过村第十八关-回溯|青铜笔记|什么叫回溯（中篇）

算法通过村第十八关-回溯|青铜笔记|什么叫回溯（中篇）

文章目录 前言回溯的核心问题撤销操作解释总结 前言 提示&#xff1a;阳光好的时候&#xff0c;会感觉还可以活很久&#xff0c;甚至可以活出喜悦。 --余秀华 回溯是非常重要的算法思想之一&#xff0c;主要解决一些暴力枚举也搞不定的问题&#xff08;这里埋个坑&#x1f4a3;…
阅读更多...
Kubernetes 概述以及Kubernetes 集群架构与组件

Kubernetes 概述以及Kubernetes 集群架构与组件

目录 Kubernetes概述 K8S 是什么 为什么要用 K8S K8S 的特性 Kubernetes 集群架构与组件 核心组件 Master 组件 Node 组件 ​编辑 Kubernetes 核心概念 常见的K8S按照部署方式 Kubernetes概述 K8S 是什么 K8S 的全称为 Kubernetes,Kubernetes 是一个可移植、可扩…
阅读更多...
多种方法解决leetcode经典题目-LCR 155. 将二叉搜索树转化为排序的双向链表， 同时弄透引用变更带来的bug

多种方法解决leetcode经典题目-LCR 155. 将二叉搜索树转化为排序的双向链表， 同时弄透引用变更带来的bug

1 描述 2 解法一: 使用list列表粗出中序遍历的结果&#xff0c;然后再依次处理list中的元素并且双向链接 public Node treeToDoublyList2(Node root) {if(rootnull)return root;Node dummynew Node(-10000);List<Node>ansnew ArrayList<>();dfs2(root,ans);Node p…
阅读更多...
Maven本地配置获取nexus私服的依赖

Maven本地配置获取nexus私服的依赖

场景 Nexus-在项目中使用Maven私服&#xff0c;Deploy到私服、上传第三方jar包、在项目中使用私服jar包&#xff1a; Nexus-在项目中使用Maven私服&#xff0c;Deploy到私服、上传第三方jar包、在项目中使用私服jar包_nexus maven-releases 允许deploy-CSDN博客 在上面讲的是…
阅读更多...
stm32中断

stm32中断

目录 简介 什么是NVIC 中断优先级 EXTI 简介 总结 hal库初始化代码 标准库初始化代码 简介 什么是中断&#xff1f;正常情况下&#xff0c;微处理器根据代码内容&#xff0c;按顺序执行指令。执行过程中&#xff0c;如果遇到其它紧急的事件需要处理&#xff0c;则先暂停当…
阅读更多...
在ffmpeg中，如何把h264转换为rgb格式

在ffmpeg中，如何把h264转换为rgb格式

在ffmpeg中&#xff0c;网络视频流h264为什么默认的转为YUV而不是其他格式 文章中介绍了&#xff0c;h264解码的时候是直接解码为yuv的&#xff0c;如果在使用的过程中 需要用到rgb的格式&#xff0c;我们该如何来转换这种格式呢&#xff1f; 在上面的文章中&#xff0c;我们已…
阅读更多...
最新文章

Copyright @ 2022~2023