马斯克预言:下一代Grok 3模型将需10万Nvidia H100 GPU进行训练|TodayAI

特斯拉首席执行官兼xAI创始人埃隆·马斯克对人工通用智能(AGI)的发展做出了一些大胆的预测,并讨论了AI行业面临的挑战。他预测,AGI可能在明年或2026年之前超越人类智能,但训练AGI将需要极大数量的处理器,进而需要大量电力,GPU短缺和电力需求成为AI发展的两大障碍。

马斯克的公司xAI目前正在训练其Grok大型语言模型的第二版,并预计将在5月完成下一阶段的训练。Grok版本2模型的训练需求高达2万Nvidia H100 GPU,马斯克预计未来版本将需要更多资源,Grok 3模型大约需要10万Nvidia H100芯片进行训练。

马斯克表示,AI技术的发展目前受到两个主要因素的阻碍:先进处理器(如Nvidia的H100)的供应短缺——因为不容易快速获得10万个这样的芯片——以及电力的可用性。

Nvidia的H100 GPU在全负荷运行时耗电约700W,因此10万个GPU用于AI和HPC工作负载可能会消耗高达70兆瓦的电力。由于这些GPU需要服务器和冷却系统才能运行,可以肯定的是,拥有10万个Nvidia H100处理器的数据中心将消耗约100兆瓦的电力。这相当于一个小城市的电力消耗。

马斯克强调,尽管迄今为止计算GPU供应一直是一个重大障碍,但在未来一两年内,电力供应将变得越来越关键。这一双重限制凸显了扩展AI技术以满足不断增长的计算需求的挑战。

尽管存在挑战,计算和内存架构的进步将使得在未来几年内训练日益庞大的大型语言模型(LLM)成为可能。Nvidia在2024年GTC上揭示了其Blackwell B200,这是一个旨在扩展至拥有数万亿参数的LLM的GPU架构和平台。这将在AGI的发展中发挥关键作用。

事实上,马斯克认为,在未来一两年内,将出现一种比最聪明的人还要聪明的人工智能。“如果你将AGI定义为比最聪明的人还要聪明,我认为可能是明年,最多两年内,”马斯克在X Spaces的一次采访中说。这意味着,看来是时候再次观看《终结者》了,并希望我们未来的AGI统治者会比天网更加友好。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/535467.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

priority_queue的使用以及模拟实现

前言 上一期我们对stack和queue进行了使用的介绍,以及对底层的模拟实现!以及容器适配器做了介绍,本期我们在来介绍一个容器适配器priority_queue! 本期内容介绍 priority_queue的使用 仿函数介绍 priority_queue的模拟实现 什么…

2024年人工智能路线图

今天分享的是人工智能专题系列深度研究报告:《人工智能专题:2024年人工智能路线图》。 秘书制定部门的人工智能战略优先事项和政策,并且是关键的对话者与私营部门、联邦机构、州官员,以及主要的国际同行。这部长在白宫人力资源委员…

C/C++基础----运算符

算数运算符 运算符 描述 例子 两个数字相加 两个变量a b得到两个变量之和 - 两个数字相减 - * 两个数字相乘 - / 两个数字相除 - % 两个数字相除后取余数 8 % 3 2 -- 一个数字递减 变量a:a-- 、--a 一个数字递增 变量a: a 、 a 其中递…

如何在 7 天内掌握C++?

大家好,我是小康,今天我们来聊下如何快速学习 C 语言。 本篇文章适合于有 C 语言编程基础的小伙伴们,如果还没有学习过 C,请看这篇文章先入个门:C语言快速入门 引言: C,作为一门集面向过程和…

精彩回顾 | 「AI 驱动增长,研发数智化升级」分享沙龙成功举办

AI 应用元年,人工智能技术将如何助力企业发展新质生产力,构建增长动能? 日前,LigaAI 与深圳市企业联合会、西云数据联合举办了「AI 驱动增长,研发数智化升级」技术专题沙龙。本次活动围绕「AI」应用实践,邀…

2024-基于人工智能的药物设计方法研究-AIDD

AIDD docx 基于人工智能的药物设计方法研究 AI作为一种强大的数据挖掘和分析技术已经涉及新药研发的各个阶段,有望推动创新药物先导分子的筛选、设计和发现,但基于AI的数据驱动式创新药物设计和筛选方法仍存在若干亟待解决的问题。我们课题组的核心研究…

Kali中间人攻击

中间人攻击 中间人攻击(Man-in-the-Middle Attack,简称MITM)是一种网络安全攻击,其中攻击者插入自己(作为“中间人”)在通信的两个端点之间,以窃取或篡改通过的数据。攻击者可以监视通信&#x…

我为什么选择成为程序员?

前言: 我选择成为程序员不是兴趣所在,也不是为了职业发展,全是生活所迫! 第一章:那年,我双手插兜,对外面的世界一无所知 时间回到2009年,时间过得真快啊,一下就是15年前…

多线程回答的滚瓜烂熟,面试官问我虚线程了解吗?我说不太了解!

Java虚拟线程(Virtual Threads)标志着Java在并发编程领域的一次重大飞跃,特别是从Java 21版本开始。这项新技术的引入旨在克服传统多线程和线程池存在的挑战。 多线程和线程池 在Java中,传统的多线程编程依赖于Thread类或实现Ru…

Green Hills 自带的MULTI调试器查看R7芯片寄存器

Green Hills在查看芯片寄存器时需要导入 .grd文件。下面以R7为例,演示一下过程。 首先打开MULTI调试器,如下所示View->Registers: 进入如下界面,选择导入寄存器定义文件.grd: 以当前R7芯片举例(dr7f7013…

室内定位中文综述阅读

1 室内高精度定位技术总结与展望 [4]柳景斌,赵智博,胡宁松等.室内高精度定位技术总结与展望[J].武汉大学学报(信息科学 版),2022,47(07):997-1008.DOI:10.13203/j.whugis20220029. 1.1.1 WiFi‐RTT定位 2016 年 12 月,随着新版 IEEE802.11 标准的公布&#xff0c…

力扣55. 跳跃游戏

Problem: 55. 跳跃游戏 文章目录 题目描述思路复杂度Code 题目描述 思路 将题目稍作转化:验证最远走到的距离是否超出组数; 1.获取数组nums的长度n,定义int变量farthest初始化为0; 2.从0~n-1循环每次更新farthes的长度farthest …

2024年3月文章一览

2024年3月编程人总共更新了12篇文章: 1.2024年2月文章一览 2.Programming Abstractions in C阅读笔记:p308-p311 3.Programming Abstractions in C阅读笔记:p312-p326 4.Programming Abstractions in C阅读笔记:p327-p330 5.…

查询卖家已卖出的交易数据

要获取淘宝订单详情数据,你需要使用淘宝开放平台的API来获取数据。以下是获取淘宝订单详情数据的步骤: 在淘宝开放平台上创建一个应用,获取到AppKey和AppSecret。 使用OAuth 2.0授权方式,获取到授权码。 第三方公司授权 使用授…

快速排序(单边循环和双边循环)

快速排序 单边循环快排 pv指向分区中最后一个元素,i,j指向分区中第一个元素,j所指向的元素和pv指向的元素比较大小,如果比pv所指大,则j,否则与i所指元素交换位置,i,j;当…

雪亮工程视频联网综合管理/视频智能分析系统建设方案(二)

一、我国雪亮工程当前建设需求 1)加强社会治安防控感知网络建设 加强社会治安防控智能感知网络建设,针对城中村、背街小巷、城乡结合部等重点区域建设安装视频监控设备,减少死角和盲区,与已有感知系统结合,形成高低搭…

树形查找试题(二叉树、红黑树)

一、单项选择题 01.对于二叉排序树,下面的说法中,()是正确的。 A.二叉排序树是动态树表,查找失败时插入新结点,会引起树的重新分裂和组合 B.对二叉排序树进行层序遍历可得到有序序列 C.用逐点插入法构造二叉排序树,若先…

Harmony鸿蒙南向驱动开发-MIPI DSI接口使用

功能简介 DSI(Display Serial Interface)是由移动行业处理器接口联盟(Mobile Industry Processor Interface (MIPI) Alliance)制定的规范,旨在降低移动设备中显示控制器的成本。它以串行的方式发送像素数据或指令给外…

Centos安装MySQL提示公钥尚未安装

一、问题 在Centos7.9使用yum安装MySQL时出现错误,提示:mysql-community-server-5.7.44-1.el7.x86_64.rpm 的公钥尚未安装,如下图所示: 执行命令:systemctl start mysqld也提示错误:Failed to start mysq…