NVIDIA DeepStream SDK 说明及链接

NVIDIA DeepStream SDK

DeepStream 的多平台支持为您提供了一种更快、更简单的方式来开发视觉AI应用程序和服务。您甚至可以在本地、边缘和云中部署它们,只需单击一个按钮。

开始   在Launchpad上试用


什么是 NVIDIA DeepStream?

NVIDIA 的 DeepStream SDK 是一个基于 GStreamer 的完整流分析工具包,用于基于 AI 的多传感器处理、视频、音频和图像理解。它非常适合视觉 AI 开发人员、软件合作伙伴、初创公司和OEM构建 IVA 应用程序和服务。

您现在可以创建流处理管道,其中包含神经网络和其他复杂的处理任务,如跟踪、视频编码/解码和视频渲染。这些管道可以对视频、图像和传感器数据进行实时分析。

DeepStream 是 NVIDIA Metropolis, 不可或缺的一部分,该平台用于构建端到端服务和解决方案,将像素和传感器数据转化为可操作的见解。

福利

强大灵活的SDK

DeepStream SDK非常适合广泛行业的各种用例。

多种编程选项

使用C/C++、Python或Graph Composer简单直观的UI创建强大的视觉AI应用程序。

实时洞察

了解边缘丰富的多模态实时传感器数据。

托管人工智能服务

在云原生容器中部署AI服务,并使用库伯内特斯编排它们。

TCO降低

通过使用TAO工具包训练、调整和优化模型以及使用DeepStream部署模型来提高流密度。


独特能力

享受从边缘到云的无缝发展

DeepStream为您提供了一种更快、更简单的方式来构建基于AI的视频、音频和图像分析的无缝流媒体管道。它附带40多个hardware-accelerated插件和扩展,以优化前/后处理、推理、多目标跟踪、消息代理等。此外,它还提供了一些世界上性能最好的实时多对象跟踪器。

使用DeepStream的现成容器轻松构建云原生应用程序,这些应用程序可以部署在公共和私有云、由NVIDIA GPU驱动的工作站或NVIDIA Jetson上。其“一次开发,随处部署”方法简化了代码管理并提供了极大的可扩展性。DeepStream Container Builder工具还可以更轻松地使用NVIDIA NGC容器构建高性能、云原生AI应用程序,这些容器可以轻松大规模部署,并使用库伯内特斯和Helm Charts进行管理。

DeepStream REST-API可让您在运行时管理多个参数,简化SaaS解决方案的创建。使用标准REST-API接口,您可以构建用于控制和配置的Web门户,或集成到您现有的应用程序中。

了解更多

构建端到端AI解决方案

通过使用NVIDIA Metcity is构建端到端视觉AI系统,加快整体开发工作并解锁更高的实时性能。从生产质量的视觉AI模型开始,使用TAO Toolkit对其进行调整和优化,并使用DeepStream进行部署。

获得令人难以置信的灵活性——从快速原型设计到完整的生产级解决方案——并选择您的推理路径。通过原生集成到NVIDIA Triton™推理服务r,您可以在PyTorch和TensorFlow等原生框架中部署模型进行推理。使用NVIDIA TensorRT™用于高吞吐量推理,具有多GPU、多流和批处理支持选项,也有助于您实现最佳性能。

PipeTuner 1.0是一种新的开发人员工具,现在可以轻松调整广泛的参数,以优化AI管道以进行推理和跟踪

了解更多

加速视觉AI开发

DeepStream SDK捆绑了30多个示例应用程序,旨在帮助您启动开发工作。大多数示例提供C/C++、Python和Graph Composer版本,并在NVIDIA Jetson和dGPU平台上运行。通过支持Windows Subsystem forLinux(WSL2),您现在可以在Windows环境中进行开发,而无需访问远程Linux系统。

DeepStream Service Maker通过抽象GStreamer的复杂性来简化开发过程,从而轻松构建C++面向对象的应用程序。使用Service Maker只需几行代码即可构建完整的DeepStream管道

DeepStream库由CV-CUDA、NvImageCodec和PyNvVideoCodec提供支持,提供低级GPU加速操作,以优化视觉AI管道的前期和后期阶段。

Graph Composer为DeepStream开发人员提供强大的低代码开发选项,以创建复杂的管道并使用Container Builder快速部署它们。

了解更多

创建下一代人工智能应用程序

严格的调度控制、自定义调度器和高效的资源管理对于与机械臂和自动化质量控制线等确定性系统集成至关重要。

随着图形执行格式(GXF)的引入,与DeepStream管道处理的视觉流传感器相比,可以轻松地与运行在不同时域的控制信号集成。

新的参考应用程序可帮助您快速启动生成式AI应用程序的开发。对传感器融合的新支持BEVFusion增加了激光雷达和雷达输入,可以与相机输入融合,为开发人员带来了一系列新的用例。

了解更多

为Vision AI提供生产就绪的解决方案

DeepStream是英伟达人工智能企业的一部分,英伟达人工智能企业是一个端到端、安全、云原生的人工智能软件平台,经过优化,可将企业加速到人工智能的前沿。
英伟达人工智能企业为英伟达人工智能开源软件提供验证和集成,访问人工智能解决方案工作流程以加快生产时间,在任何地方部署人工智能的认证,以及企业级支持、安全性和应用编程接口稳定性,以降低开源软件的潜在风险。

了解更多


探索多种编程选项

C/C++

用C/C++创建应用程序,直接与GStreamer和DeepStream插件交互,并使用参考应用程序和模板。

了解更多关于C/C++

蟒蛇

DeepStream管道可以使用Gst Python构建,GStreamer框架的Python绑定。绑定和Python示例应用程序的源代码可在GitHub上获得。

了解有关Python的更多信息

Graph Composer

Graph Composer是一个低代码开发工具,增强了DeepStream用户体验。使用简单、直观的UI,处理管道通过拖放操作构建。

了解更多关于Graph Composer

提高准确性和实时性能

Jetson Orin NanoJetson Orin NXJetson Orin AGX™T4A2A10A30A100H100L40L4Quadro(A6000)A4000L4000ARM SBSA
应用型号跟踪器推断分辨率精密GPUGPUDLA1DLA2GPUDLA1DLA2GPUGPUGPUGPUGPUGPUGPUGPUGPUGPUGPUGPU
人检测PeopleNet-ResNet34(v2.3.3)无跟踪器960x544INT8256372175175970329329912610
773181961964292951009122920402936187070113017466233613
PeopleNet-ResNet34(v2.3.3)NvDCF(性能)960x544INT82153151701706253103108665682063280642506103427815632855127714135788
车牌识别TrafficCamNet
LPDNet
LPRNet
NvDCF960x544
640x480
96x48
INT8
INT8
FP16
120180--370--382253107113272150280122807411404788670N/A
3D人体姿态估计PeopleNet-ResNet34 BodyPose3DNvDCF960x544
192x256
INT8
FP16
28-40--76--10167160128151255226200235148104313
动作识别ActionRecognitionNet(3DConv)无跟踪器224x224x3x32FP163451--147--173744505529961270<--atag--37/>8703136383193001910

RTX GPU性能仅针对旗舰产品进行报告。所有SKU都支持DeepStream。

DeepStream SDK可让您将AI应用于流式视频,同时优化视频解码/编码、图像缩放以及转换和边缘到云的连接,以实现完整的端到端性能优化。

要了解有关使用DeepStream的性能的更多信息,请查看留档。

阅读客户故事

优化班加罗尔机场的运营

Industry.AI使用包括DeepStream在内的英伟达大都会堆栈来提高机场的安全性和效率。使用视觉人工智能,它能够跟踪被遗弃的行李,标记长长的乘客队列,并提醒安全团队注意潜在问题。

阅读博客

加强配送中心运营

KoiReader使用包含DeepStream SDK的NVIDIA开发人员工具开发了一种人工智能驱动的机器视觉解决方案,以帮助百事可乐在动态分销环境中实现精度和效率。

了解更多关于KoiReader

扩展人工智能驱动的智能空间

FYMA使用NVIDIA DeepStream和NVIDIA Triton™来改进人工智能驱动的空间分析,帧速率超过以前的基准10倍,准确度提高3倍。

了解更多

一般常见问题

DeepStream是开源的吗?

DeepStream是一个闭源SDK。请注意,所有参考应用程序的源代码和几个插件都可用。

可以使用DeepStream SDK部署哪些应用程序?

DeepStream SDK可用于构建端到端人工智能驱动的应用程序来分析视频和传感器数据。一些流行的用例是零售分析、停车管理、管理物流、光学检测、机器人和运动分析。

哪些平台和操作系统与DeepStream兼容?

请参阅平台和操作系统兼容性表。

我可以使用DeepStream在TensorFlow或PyTorch中本地运行我的模型吗?

是的,现在通过集成Triton推理服务器,这是可能的。还有DeepStream6.1.1,应用程序可以使用gPRC与Triton推理服务器的独立/远程实例进行通信。

如何使用DeepStream从TAO Toolkit部署模型?

DeepStream支持开箱即用的几种流行网络。例如,DeepStream支持MaskRCNN。此外,DeepStream还附带了一个示例来运行流行的活在当下的模型,FasterRCNN、SSD和RetinaNet。

NVIDIA Ampere架构GPU是否支持DeepStream?

是的,DS 6.0或更高版本支持安培架构

DeepStream SDK是否支持音频分析?

是的,DeepStream SDK6.1.1支持音频。要开始使用,请下载软件并查看参考音频和自动语音识别(ASR)应用程序。阅读ASR DeepStream插件了解更多信息

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/705058.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

没有登录微信就不会截图了?这个方法你一定要学会

前言 前段时间小白在指导小伙伴的时候&#xff0c;发现他在电脑没有登录微信的时候就不会截图了。 这个可就难倒他了…… 所以他登录了个微信&#xff0c;然后截了张图&#xff0c;接着把微信退出了。这人可真是谨慎啊&#xff5e; 所以&#xff0c;小伙伴在使用电脑的时候…

linux shell查看24h内修改的文件

执行命令&#xff1a; find /path -type f -mtime 0

【JMeter接口测试工具】第二节.JMeter项目实战(下)【实战篇】

文章目录 前言一、接口弱压力测试二、高并发、高频率三、生成图形化报告总结 前言 一、接口弱压力测试 场景举例&#xff1a; 场景1:模拟半小时之内 1000 个用户访问服务器资源&#xff0c;要求平均响应时间在3000ms内&#xff0c;且错误率为0 实现步骤&#xff1a; 步骤一&am…

创新共享经济:探索Web3对新商业模式的启迪

随着Web3时代的到来&#xff0c;我们正在见证着一场数字经济的革命。在这个革命中&#xff0c;区块链技术作为一种基础设施&#xff0c;正为创新的共享经济模式提供新的契机。本文将深入探讨Web3对新商业模式的启迪&#xff0c;以及如何借助区块链技术构建更加开放、公平、高效…

go context 源码刨析(一)

Context 上下文context.Context 是用来设置截止时间、同步信号&#xff0c;传递请求相关值的结构体。 context.Context 定义了四个需要实现的方法&#xff1a; Deadline: 返回 context.Context 被取消的时间。Done: 返回一个 Channel&#xff0c;这个 Channel 会在当前工作完…

从零开始手把手Vue3+TypeScript+ElementPlus管理后台项目实战九(整体布局02)

使用el-menu和el-sub-menu及el-menu-item导航 src/layout目录下新增components目录&#xff0c;components目录下新增PageSidebar.vue 代码基本思想为&#xff1a;读取router中定义的routes数组&#xff0c;渲染绑定到el-menu。 el-menu和el-sub-menu及el-menu-item的区别&…

RNA-seq上下游分析snakemake流程

学习完snakemake后写的第一个流程是RNA-seq上游定量和下游的质控和差异分析。 使用fastp处理fastq文件&#xff0c;在使用START比对到基因组同时得到raw count&#xff0c;使用非冗余外显子长度作为基因的长度计算FPKM、TPM&#xff0c;同时也生成了CPM的结果。 非冗余外显子…

【单片机毕业设计选题24003】-基于STM32和阿里云的家庭安全监测系统

系统功能: 此设计采用STM32单片机采集环境温湿度,烟雾浓度和一氧化碳浓度显示在OLED上&#xff0c;并将这些信息上报至阿里云平台。 1. 上电连接手机热点后自动连接阿里云&#xff0c;可通过阿里云平台收到系统上报的温湿度&#xff0c;烟雾 浓度&#xff0c;一氧化碳数据以…

BGW总结

Java基础 Java概述 面向对象和面向过程的区别 面向过程性能比面向对象高&#xff0c;因为类调用时需要实例化&#xff0c;开销比较大 面向对象有封装、继承、多态性的特性&#xff0c;可以设计出低耦合的系统&#xff0c;使系统更加灵活、更加易于维护 三大特性 ①封装&a…

地面自动气象站的工作原理

TH-CQX10地面自动气象站是一种部署在地面上&#xff0c;用于监测和记录气象要素的自动化设备。能够自动观测、储存和发送气象数据的设备。它能够实时监测和记录温度、湿度、风速、风向、气压等多种气象参数&#xff0c;为气象监测、气候研究、农业生产、环境监测等领域提供准确…

C++中的结构体——结构体案例1_2

案例描述 学校正在做毕设项目&#xff0c;每位老师指导5名学生&#xff0c;总共有3名老师&#xff0c;需求如下 设计学生和老师的结构体&#xff0c;其中在老师的结构体中&#xff0c;有老师的姓名和一个存放5名学生的数组作为成员 学生的成员有姓名、考试分数&#xff0c;创…

Python写UI自动化--playwright(安装)

Playwright是微软推出的开源自动化测试工具&#xff0c;专为跨浏览器端到端测试设计。Playwright可以在多个浏览器引擎上运行测试&#xff0c;包括基于Chromium的浏览器&#xff08;如Chrome、Edge&#xff09;、Firefox和WebKit&#xff08;Safari的技术基础&#xff09;。支持…

信息收集---网站目录和CMS指纹识别

一. 网站目录收集 1. 常见网站敏感文件 网站的备份文件/数据库备份文件 wwwroot.zip Db.zip 后台登陆的目录 manage login 安装包&#xff08;源码&#xff09; 上传的目录uploads mysql的管理界面 phpmyadmin 程序的安装路径 2. Dirb 工具 工具介绍 dirb 是一款用…

【Spine学习06】之IK约束绑定,制作人物待机动画,图表塞贝尔曲线优化动作

引入IK约束的概念&#xff1a; 约束目标父级 被约束骨骼子集 这样理解更好&#xff0c;约束目标可以控制被约束的两个骨骼运作 IK约束绑定过程中呢&#xff0c;如果直接绑定最下面的脚掌骨骼会发生偏移&#xff0c;所以在开始处理IK之前&#xff0c;需要先设置一个ROOT结点下的…

自定义类型:枚举(enum)+联合体(union)

枚举联合体 一.枚举1.枚举类型的声明2.枚举类型的优点3.枚举类型的使用 二.联合体1.联合体类型的声明2.联合体的特点3.相同成员的结构体和联合体对比4.联合体大小的计算5.联合体的练习&#xff08;判断大小端&#xff09;6.联合体节省空间例题 一.枚举 1.枚举类型的声明 枚举…

HTML制作一个日蚀的动画特效

大家好&#xff0c;今天制作一个日蚀动画特效&#xff01; 先看具体效果&#xff1a; 使用一个逐渐扩大的圆形阴影来模拟月亮遮挡太阳的效果。使用了CSS的keyframes动画和border-radius属性来创建一个简单的圆形阴影效果。 HTML <!DOCTYPE html> <html lang"e…

Linux构建本地时间同步ntp

环境介绍&#xff1a; 主机名 IP地址 系统发行版 环境 Node01 192.168.100.102 Centos 7.4 可联网、已关闭防火墙selinux Node02 192.168.100.103 Centos 7.4 已关闭防火墙selinux 1.主节点同步阿里云标准时间 在保证连接外网的情况下&#xff0c;同步阿里服务器的…

Rust 实战丨SSE(Server-Sent Events)

&#x1f4cc; SSE&#xff08;Server-Sent Events&#xff09;是一种允许服务器向客户端浏览器推送信息的技术。它是 HTML5 的一部分&#xff0c;专门用于建立一个单向的从服务器到客户端的通信连接。SSE的使用场景非常广泛&#xff0c;包括实时消息推送、实时通知更新等。 S…

Linux2(文件类型分类 基本命令2 重定向)

目录 一、文件类型分类 二、基本命令2 1. find 帮助查询 2. stat 查看文件的信息 3. wc 统计文本 4. 查看文本内容 4.1 cat 4.2 more 4.3 less 4.4 head 4.5 tail 5. cal 显示日历 6. date 显示时间 7. du 文件大小 8. ln 链接 软链接 硬链接 区别 9. histo…

如何解除内存卡的写保护并格式化为exFAT文件系统

最近有客户提问内存卡提示写保护&#xff0c;且无法格式化为exFAT格式的问题&#xff0c;可能是由于多种原因引起的。以下是一些可能的解决方法&#xff1a; 1. 检查物理写保护开关 一些SD卡和MicroSD卡适配器上有一个小的物理开关&#xff0c;可以启用或禁用写保护。确保这个…