一文搞懂GPU的概念、工作原理,以及与CPU的区别

中午好,我的网工朋友。

最近GPTs热度很高啊,你们都用上了吗?

ChatGPT到现在热度仍不减,人工智能还在快速发展,这都离不开高性能、高算力的硬件支持。

如果以英伟达A100GPU的处理能力计算,运行ChatGPT将需要使用到30000块英伟达GPU,这些都将用做AI推理和图形计算。

那GPU到底是啥?跟CPU又有什么不一样?今天就给你来篇技术科普文。

今日文章阅读福利:《全国网络工程师交流群(进群名额限时开放)》

想学习更多技术?又或是和大佬交流讨论吗,俱乐部的全国网工交流群限时开放。私信发送暗号“进群”,前30名朋友可获得进群资格。

01 GPU是什么?

图形处理器(Graphics Processing Unit,缩写:GPU),又称显示核心、视觉处理器、显示芯片;

是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上图像运算工作的微处理,是显卡或GPU卡的“心脏”。

01 GPU的工作原理

GPU的工作通俗的来说就是完成3D图形的生成,将图形映射到相应的像素点上,对每个像素进行计算确定最终颜色并完成输出。

GPU的工作原理流程如下:

1. GPU包含多个核心,每个核心都可以独立执行命令。

2. 每个核心具有自己的存储器,用于存储指令和数据。

3. GPU会接收来自CPU的指令,并把它们分发到多个核心中进行处理。

4. GPU会把处理后的数据传输回 CPU,以便CPU可以使用它。

5. GPU的性能取决于其内部的核心数量、时钟频率以及RAM容量。

02 GPU和CPU之间的区别

理解 GPU 和 CPU 之间区别的一种简单方式是比较它们如何处理任务。

CPU 由专为顺序串行处理而优化的几个核心组成,而 GPU 则拥有一个由数以千计的更小、更高效的核心(专为同时处理多重任务而设计)组成的大规模并行计算架构。

CPU是一个有多种功能的优秀领导者。它的优点在于调度、管理、协调能力强,计算能力则位于其次。

而GPU相当于一个接受CPU调度的“拥有大量计算能力”的员工。

GPU可以利用多个CUDA核心来做并行计算,而CPU只能按照顺序进行串行计算,同样运行3000次的简单运算,CPU需要3000个时钟周期,而配有3000个CUDA核心的GPU运行只需要1个时钟周期。

简而言之,CPU擅长统领全局等复杂操作,GPU擅长对大数据进行简单重复操作。CPU是从事复杂脑力劳动的教援,而GPU是进行大量并行计算的体力劳动者。

那么,GPU和CPU的具体区别有哪些呢?网络工程师俱乐部分享

01 计算量比较

CPU:

计算量小,原理:只有4个运算单元;

GPU:

计算量大,原理:有1000个运算单元。

02 计算复杂度比较

CPU:

可计算复杂的运算,比如积分微分,4个运算单元都属于专家级别;

GPU:

只可以计算简单的1+1算术题,不能计算复杂的微分积分,1000个运算单元属于小学生水平。

03 对于单个积分微分的计算速度比较

CPU:

较快。原理:单线程计算(比如机器人运动控制),单个芯片性能强劲,计算能力强,能计算出来。

GPU:

较慢,甚至可能计算不了;原理:单个芯片性能弱,计算能力弱,可能算不出来,或速度很慢。

04 对于多个1+1算术题的计算速度比较

CPU:

速度较慢。因为计算原理是:先算第1题, 再算第2题,总时间为【T1+T2+T3>>>+T1000(也就是1000个算术题消耗时间的累加])】

GPU:

速度很快。因为计算原理是:可同时计算1000道算术题,总时间为【max(T1,T2,T3...T1000)(也就是1000个算术题消耗时间中的最大值)】

05 形象比喻

CPU:

像老教授,积分微分都会算,就是工资高,一个老教授资顶二十个小学生,你要是富士康你雇哪个?GPU就是这样,用很多简单的计算单元去完成大量的计算任务,纯粹的人海战术。

GPU:

计算量大,但没什么技术含量,而且要重复很多很多次。就像你有个工作需要算几亿次一百以内加减乘除一样,最好的办法就是雇上几十个小学生一起算,一人算一部分,反正这些计算也没什么技术含量,纯粹体力活而已。

06 适用场景

GPU:

适合前后计算步骤无依赖性,相互独立的计算场景。很多涉及到大量计算的问题基本都有这种特性,比如你说的破解密码,挖矿和很多图形学的计算。

这些计算可以分解为多个相同的简单小任务,每个任务就可以分给一个小学生去做。网络工程师俱乐部分享

CPU:

适合需要前后计算步骤严密关联的计算场景。这些任务涉及到“流”的问题,必须先计算完第一步,再去计算第二步;

比如你去相亲,双方看着顺眼才能继续发展。总不能你这边还没见面呢,那边找人把证都给领了。

这种比较复杂的问题都是CPU来做的,生活中大部分用的都是CPU,例如武器装备运动控制、个人电脑使用等。

03 全球GPU厂商 Top 30

整理:老杨丨10年资深网络工程师,更多网工提升干货,请关注公众号:网络工程师俱乐部

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/152624.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

kubernetes集群编排——etcd

备份 从镜像中拷贝etcdctl二进制命令 [rootk8s1 ~]# docker run -it --rm reg.westos.org/k8s/etcd:3.5.6-0 sh 输入ctrlpq快捷键,把容器打入后台 获取容器id [rootk8s1 ~]# docker ps 从容器拷贝命令到本机 docker container cp c7e28b381f07:/usr/local/bin/etcdc…

【Java 进阶篇】JQuery 案例:下拉列表选中条目左右移动,打破选择的边界

在前端的舞台上,下拉列表是常见的用户交互元素,但有时候我们想要更多的交互体验。通过巧妙运用 JQuery,我们可以实现下拉列表中选中条目的左右移动功能,为用户提供更加灵活的选择方式。本篇博客将深入研究 JQuery 中实现这一功能的…

vue项目如何防范XSS攻击?

场景: 前后端交互的过程中,前端使用v-html或者{{}}渲染时,网页自动执行其恶意代码,如页面弹窗、跳转到钓鱼网站等 解决方案: 先说解决方式,其原理下文解释. 由于我是vue项目所以用的是vue-dompurify-html这…

PDF文件中更改 PDF 文本颜色的最有效解决方案

PDF 是最常用的文档类型之一,也是商业中使用的首选文档。在工作中,我们经常需要修改PDF的文本内容,转换格式(如PDF转Word,PDF转Excel等),合并PDF,以达到更好的工作效果。 然而&…

统信UOS_麒麟KYLINOS上使用SSH远程工具Termius

原文链接:统信UOS/麒麟KYLINOS上使用SSH远程工具Termius hello,大家好啊,今天给大家带来一篇在统信UOS/麒麟KYLINOS上使用SSH远程工具Termius的文章,Termius是一个功能强大的ssh工具,支持Linux x86平台、windows、maco…

安装包管理工具-Yarn

一、介绍与安装 1.1 介绍 Yarn是一款功能包管理工具,与npm(npm:Node.js 的包管理器 npm,是目前最流行的Node.js 的包管理器。)类似。有着FAST(快速的), RELIABLE( RELIABLE 可信赖的), AND SECURE DEPENDENCY MANAGEMENT(安全依赖关系管理)的特点。 Yarn官网 1.2…

QGIS之二十四安装插件

1、从菜单栏中找到插件 2、搜索插件 从搜索框中搜索插件,如“cesium" 3、安装插件 4、查看插件 安装好的插件从这边可以看到,当然,其它插件可能在其它位置 5、已安装插件 可以查看已安装的插件

【实施】Sentry-self-hosted部署

Sentry-self-hosted部署 介绍 Sentry 是一个开源的错误追踪(error tracking)平台。它主要用于监控和追踪应用程序中的错误、异常和崩溃。Sentry允许开发人员实时地收集和分析错误,并提供了强大的工具来排查和修复问题,研发最近是…

HTML特殊字符对照码(避免字符乱码)

最近做了个vue项目,页面上写大于等于符号,小于等于符号的时候,总是出现乱码。特别让人头疼,后来查了资料,使用特殊字符的方式,能解决掉这个问题。所以将这些HTML 特殊字符对照码列出来,方便日后…

电影《惊奇队长2》观后感

上周看完了电影《惊奇队长2》,可能是最近国片看多了,看看国外电影还是感觉非常不错的,其中就有特效部分。目前来说,国内特效和国外还是有一定差距的,在过年时,备受好评的《流浪地球2》据说也是用的国外特效…

2024清理mac苹果电脑内存免费工具CleanMyMac X4.15

当你使用苹果电脑时,内存的优化和清理变得至关重要。随着时间的推移,我们的电脑内存可能会变得拥挤,导致性能下降。清理内存可以提高电脑的速度和反应能力,并确保它始终在良好状态下运行。本文将向您介绍怎么清理苹果电脑内存的方…

2016Outlook显示正在启动无法进入Outlook

2016Outlook显示正在启动无法进入Outlook 故障现象: 因上次非正常关闭,导致Outlook启动时,一直处于启动界面,无法进入主界面正常工作 故障截图: 故障原因: 数据文件异常导致 解决方案: 1、关…

[模版总结] - 树的基本算法3 - 结构转化

二叉树结构转化 通常将二叉树根据某些要求进行结构重构,比如线性结构转化(链表,数组),序列化等。 常见题型 注:这类题目最基本的解题思路是利用递归分治 (也可以使用迭代方法),在构建树结构的时候,我们通…

有什么进销存软件,比较适合零售行业日常开单要求及库存记录?

本文将为大家总结一下对于进销存软件要求: 基础功能:可以日常开单、退换货处理、出入库进阶功能:电脑、手机数据同步,保障数据安全,可进行数据分析 其实无论是小型创业公司,还是一家大型企业,…

Linux下好玩的指令(持续更新)

适用于centOS下,别的Linux换个指令就行,内容是一样的 centOS有的指令安装不了?试试拓展yum源,再安装基本就OK啦! yum install -y epel-release 下面是作者在centOS环境下亲测可以使用的,如果你是root用户直…

软件测试/测试开发丨掌握未来,引领人工智能测试新潮流!

点此领取人工智能课程 在数字化革命的浪潮中,人工智能软件成为企业创新和成功的关键推动力。为了在这个竞争激烈的市场中脱颖而出,精湛的人工智能软件测试技能变得至关重要。 ChatGPT应用实战: 学员将深入了解 ChatGPT 的实际应用&#xf…

微服务和Spring Cloud Alibaba介绍

1、微服务介绍 1.1 系统架构演变 随着互联网的发展,网站应用的规模也在不断的扩大,进而导致系统架构也在不断的进行变化。从互联网早起到现在,系统架构大体经历了下面几个过程: 单体应用架构 —> 垂直应用架构 —> 分布 式架构—>…

2022年6月 电子学会青少年软件编程 中小学生Python编程 等级考试一级真题答案解析(判断题)

2022年6月Python编程等级考试三级真题解析 判断题(共10题,每题2分,共20分) 26、运行下列python代码后可绘制出下面的半径为50的圆形 import turtle turtle.color(red) turtle.penup() turtle.circle(50) turtle.pendown() 答案:错 考点分析:考查turtle模块的使用,程…

为什么阿里不推荐使用 keySet() 遍历HashMap?

为什么阿里不推荐使用 keySet() 遍历HashMap? HashMap相信所有学Java的都一定不会感到陌生,作为一个非常重用且非常实用的Java提供的容器,它在我们的代码里面随处可见。因此遍历操作也是我们经常会使用到的。HashMap的遍历方式现如今有非常多…

Java爬取哔哩哔哩视频(可视化)

链接:我的讲解视频https://www.bilibili.com/video/BV14e411Q7oG/ 本文仅供学术用途 先上图 代码 爬虫核心 import com.alibaba.fastjson2.JSON; import com.alibaba.fastjson2.JSONObject; import com.gargoylesoftware.htmlunit.*; import org.apache.commons.…