加速您的 AI 开发:NVIDIA AI Workbench 正式发布

加速您的 AI 开发:NVIDIA AI Workbench 正式发布

NVIDIA AI Workbench 是一款面向 AI 和 ML 开发人员的工具包,现已普遍提供免费下载。 它具有自动化功能,可以消除新手开发人员的障碍并提高专家的工作效率。

无论技能水平如何,开发人员都可以体验快速可靠的 GPU 环境设置以及跨异构平台工作、管理和协作的自由。 购买 NVIDIA AI Enterprise 许可证的客户也可以获得企业支持。

AI Workbench 的主要功能包括:

  • 基于 GPU 的开发环境的快速安装、设置和配置。
  • 基于最新模型的预构建、随时可用的生成式 AI 和 ML 示例项目。
  • 使用 NVIDIA API 目录中的云端点或使用 NVIDIA NIM 微服务在本地部署生成式 AI 模型。
  • 直观的 UX 加命令行界面 (CLI)。
  • 跨开发环境的轻松再现性和可移植性。
  • Git 和基于容器的开发环境的自动化。
  • 容器和 Git 存储库的版本控制和管理。
  • 与 GitHub、GitLab 和 NVIDIA NGC 目录集成。
  • 透明地处理凭证、机密和文件系统更改。

自 Beta 版本发布以来,AI Workbench 还具有几个新的关键功能:

  • Visual Studio (VS) Code 支持:直接与 VS Code 集成,在 GPU 环境上编排容器化项目。
  • 基础镜像的选择:用户在创建项目时可以选择自己的容器镜像作为项目基础镜像。 容器镜像必须使用符合基础镜像规范的镜像标签。
  • 改进的包管理:用户可以通过 Workbench 用户界面管理包并将其直接添加到容器中。
  • 安装改进:用户在 Windows 和 MacOS 上有更简单的安装路径。 还改进了对 Docker 容器运行时的支持。

将生成式 AI 引入您的 NVIDIA RTX

生成式人工智能已经爆炸式增长。 AI Workbench 可以通过数亿台现代 NVIDIA RTX 支持的工作站和 PC 上或跨数据中心和云的统一界面,将生成式 AI 开发引入任何支持 GPU 的环境。 Mac 用户可以安装 AI Workbench,并将项目迁移到 NVIDIA 支持的系统,以实现协作和更强的计算能力。

更快上手

除了快速的 GPU 工作站设置之外,AI Workbench 还提供示例项目作为现成的起点,帮助开发人员更快地开始处理他们的数据和用例。 工作台项目汇集了简化跨各种基础设施的工作流程管理所需的所有资源和元数据,同时促进在任何地方的无缝可移植性和可重复性。

NVIDIA 提供了一系列免费的 Workbench Project 示例来帮助用户入门:

  • 使用混合检索增强生成 (RAG) 与您的文档聊天。 在您的系统上运行嵌入模型,将文档存储在私有矢量数据库中。 将推理配置为使用 NVIDIA API 在云中运行,或使用 RTX 系统上的 NIM 推理微服务在本地运行。
  • 定制任意规模的LLM。 从本地运行量化模型到全面微调以优化精度。 微调并在任何地方运行 — 在本地 RTX 系统上或横向扩展到数据中心或云。 在 GitHub 上查看 Llama-2 或 Mistral-7B 项目。
  • 通过在 RTX PC 上本地或在云中运行 Stable Diffusion XL,根据文本提示生成自定义图像。 在您选择的支持 GPU 的环境中轻松重现,以根据图像微调模型。

访问 GitHub 上的 NVIDIA,参考 NVIDIA AI Workbench 项目,可以帮助您更快地获得结果。 NVIDIA API 目录中的某些模型具有关联的工作台项目,可以在推理之前对其进行自定义和微调。

更好的开发者体验

许多因素都会影响开发人员的工作效率。 让我们看一下其中的一些内容,以及 AI Workbench 在提高生产力和开发体验方面所做的工作。

设置和配置

AI Workbench 会自动执行设置目标 GPU 系统的任务,同时为您选择的开发环境配置支持 GPU 的容器。 它确保整个堆栈中兼容组件的正确安装,包括操作系统驱动程序、CUDA 驱动程序和固件。

随时随地自由工作和协作

在不同系统和位置之间无缝迁移工作负载,无需担心出现问题。 迁移到协作、速度、规模和成本方面最佳的平台,无论是本地、数据中心还是公共云; Windows、Linux 或 macOS。 在工作台项目中使用公共云 API、本地微服务、容器和流行存储库。 AI Workbench 可以解决可移植性和可重复性挑战的复杂性,因此开发人员无需这样做。

托管 AI 和 ML 工作流程

AI Workbench 在后台管理开发工作流程,以执行文件版本控制、位置更改和跟踪项目依赖项等任务。 这使得新手和熟练的开发人员都可以专注于执行,而不必担心配置和管理挑战。

获取人工智能工作台

下载适用于 Windows、macOS 和 Ubuntu Linux 的 NVIDIA AI Workbench。 使用 NVIDIA Launchpad,您还可以立即、短期访问以尝试 AI Workbench 示例项目。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/477678.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

使用倒模耳机壳UV树脂胶液制作舞台监听耳返入耳式耳机壳有哪些优点?

使用倒模耳机壳UV树脂胶液制作舞台监听耳返入耳式耳机壳有很多优点,具体如下: 高音质表现:通过倒模工艺制作的耳机壳能够更好地贴合耳朵,减少声音散射和反射,提高声音的清晰度和质感。这对于舞台监听来说非常重要&…

【漏洞复现】福建科立迅通信指挥调度平台down_file.php sql注入漏洞

漏洞描述 福建科立迅通信调度平台 20240318 以及之前版本存在一个严重漏洞,影响了文件 api/client/down_file.php 的一个未知功能。攻击者可以通过操纵参数 uuid 发起 SQL 注入攻击。攻击者可以远程发起攻击。 免责声明 技术文章仅供参考,任何个人和组织使用网络应当遵守…

OpenGL学习笔记【3】—— GLAD配置

一、为什么用GLAD 由于OpenGL驱动版本众多,它大多数函数的位置都无法在编译时确定下来,需要在运行时查询。所以任务就落在了开发者身上,开发者需要在运行时获取函数地址并将其保存在一个函数指针中供以后使用。取得地址的方法因平台而异&…

Redis 大 Key 对持久化有什么影响?

资料来源 : 小林coding 小林官方网站 : 小林coding (xiaolincoding.com) Redis 的持久化方式有两种:AOF 日志和 RDB 快照。 所以接下来,针对这两种持久化方式具体分析分析 大 Key 对 AOF 日志的影响 先说说 AOF 日志三种写回磁盘的策略 Redis 提供了 3…

如何让 string 型的字符串变成 int 型的整数

之前我们讲过了如何裁剪字符串和如何反转字符串&#xff0c;具体情况可以看看我前几期发的博客&#xff0c;今天我们就来讲讲怎么将 string 型的字符串变成 int 型的整数。 我们可以使用在 <bits/stdc.h> 中的 atoi 函数来处理这种形式转变&#xff0c;如下&#xff1a;…

如何使用Android平板公网访问本地Linux code-server

文章目录 1.ubuntu本地安装code-server2. 安装cpolar内网穿透3. 创建隧道映射本地端口4. 安卓平板测试访问5.固定域名公网地址6.结语 1.ubuntu本地安装code-server 准备一台虚拟机,Ubuntu或者centos都可以&#xff0c;这里以VMwhere ubuntu系统为例 下载code server服务,浏览器…

设计模式之单例模式解析

单例模式 1&#xff09;动机 对于软件系统的某些类&#xff0c;无须创建多个实例&#xff0c;如 Windows 系统的任务管理器&#xff0c;重复对象会浪费系统资源。 2&#xff09;概述 1.定义 确保某个类只有一个实例&#xff0c;而且自行实例化&#xff0c;并向整个系统提供…

vue中循环数据,添加展开、收起操作

1.在data中定义变量 expandedIndex&#xff0c;默认展开第一条 expandedIndex:0,2.标题栏展开、收起显示判断&#xff0c;并填加点击事件 toggleVisibility <h5 class"titleLine">{{item.checkPart}} <span click"toggleVisibility(index)">…

【GPT概念04】仅解码器(only decode)模型的解码策略

一、说明 在我之前的博客中&#xff0c;我们研究了关于生成式预训练转换器的整个概述&#xff0c;以及一篇关于生成式预训练转换器&#xff08;GPT&#xff09;的博客——预训练、微调和不同的用例应用。现在让我们看看所有仅解码器模型的解码策略是什么。 二、解码策略 在之前…

【LVGL-按钮按钮矩阵部件】

LVGL-按钮&按钮矩阵部件 ■ LVGL-按钮部件■ 按钮部件&#xff1a; 点击三个按钮一个回调函数修改label值。 ■ LVGL-按钮矩阵部件■ 示例一&#xff1a;按钮换行&#xff0c;和宽度设置。■ 示例二&#xff1a;设置按钮宽度为2倍■ 示例三&#xff1a;获取点击的按钮下标&…

【以图搜图】GPUNPU适配万物识别模型和Milvus向量数据库

目录 以图搜图介绍项目地址Milvuscv_resnest101_general_recognition 代码使用流程结果展示模型部署环境Milvus部署及使用docker安装docker-compose安装Milvus可视化工具Attu进入网页端 Data数据示例点个赞再走呗&#xff01;比心&#x1f49e;️ 以图搜图 • &#x1f916; Mo…

【java】10.面向对象

一、类和对象 1.1 类和对象的理解 客观存在的事物皆为对象 &#xff0c;所以我们也常常说万物皆对象。 * 类 * 类的理解 * 类是对现实生活中一类具有共同属性和行为的事物的抽象 * 类是对象的数据类型&#xff0c;类是具有相同属性和行为的一组对象的集合 * 简单理解&am…

C#、.NET版本、Visual Studio版本对应关系及Visual Studio老版本离线包下载地址

0、写这篇文章的目的 由于电脑的环境不同&#xff0c;对于一个老电脑找到一个适配的vscode环境十分不易。总结一下C#、.NET、Visual Studio版本的对应关系&#xff0c;及各个版本Visual Studio的下载地址供大家参考 1、C#、.NET版本、Visual Studio版本对应关系如下 2、Visua…

使用paddleocr

paddle快速开始 具体安装流程 安装shapely库报错怎么办&#xff1f; 选定下载paddleocr2.2时报错 原因是因为python版本不支持&#xff1a; 之后重新创建新的环境&#xff0c;安装python3.8再来一遍 【重新选取对应whl文件&#xff0c;确认文件名是否可用】 之后是可以了…

ARM Coresight 系列文章 11.1 -- CoreSight Cortex-M33 CTI 详细介绍】

请阅读【ARM Coresight SoC-400/SoC-600 专栏导读】 文章目录 CTI 的工作原理CTI 主要特点CTI的使用场景CTI 的工作原理 CTI 允许不同的调试和追踪组件之间基于特定事件进行交互。例如,当一个断点被命中时,CTI 可以用来触发内存的追踪捕捉或者外部仪器的行为,反之亦然。这种…

C#多态性

文章目录 C#多态性静态多态性函数重载函数重载 动态多态性运行结果 C#多态性 静态多态性 在编译时&#xff0c;函数和对象的连接机制被称为早期绑定&#xff0c;也被称为静态绑定。C# 提供了两种技术来实现静态多态性。分别为&#xff1a; 函数重载 运算符重载 运算符重载将…

iPhone语音备忘录误删?掌握这几个技巧轻松恢复【详】

语音备忘录是一款强大的应用程序&#xff0c;它允许用户使用语音输入功能来快速记录想法、提醒、待办事项等。无论是在行进间、工作中还是日常生活中&#xff0c;语音备忘录都是一个非常实用的工具&#xff0c;可以帮助您随时随地记录重要信息&#xff0c;而无需打字或者手动输…

什么是Vector Database?

此为看完视频What is a Vector Database?后的笔记。 作者首先对数据库做了分类&#xff0c;其中RTweb表示real time web app。 然后对用例做了分类&#xff0c;最后一个就是适合于AI的近似搜索。 好处&#xff0c;包括灵活性&#xff0c;可扩展性和性价比。 本视频最重要的…

数据清洗(一)Excel

一、引言 线上出现问题之后的数据清洗是少不了的&#xff0c;有的可以直接通过接口或者mq补偿&#xff0c;有的写sql更新db就可以&#xff0c;但是在匹配关系比较复杂的时候就需要建立临时表做关联匹配&#xff0c;数据量不大可以直接用excel进行匹配。 二、Excel清洗数据 作者…

Windows系统服务器宝塔面板打开提示Internal Server Error错误

1、cmd运行bt命令 2、尝试输入16修复程序 3、如果不行&#xff0c;输入17升级程序