1、简介
DeepStream 本质是 GStreamer 的插件,基于GStreamer的管道,实现高效的视频流分析。
DeepStream 将来自 USB/CSI 摄像头的流数据、来自文件的视频或通过 RTSP 的流作为输入,并使用人工智能和计算机视觉从像素中生成AI结果。
DeepStream SDK 可以成为许多视频分析解决方案的基础层,DeepStream框架及底层调用关系如下图所示:
2、硬件加速
DeepStream SDK包含多个硬件加速器插件,这些插件使用VIC、GPU、DLA、NVDEC和NVENC等加速器。
这些加速器可以实现并行计算、密集型计算,因此DeepStream 实现的视频分析应用程序可以达到最高性能。
DeepStream 构建在 CUDA-X 堆栈中的多个 NVIDIA 库之上,例如 CUDA、TensorRT、NVIDIA Triton推理服务器和多媒体库。 TensorRT 可加速 NVIDIA GPU 上的 AI 推理。 在 DeepStream 插件中抽象了这些库,使开发人员可以轻松构建视频分析管道,而无需学习所有单独的库。
DeepStream 针对 NVIDIA GPU 进行了优化;该应用程序可以部署在运行 Jetson 平台的嵌入式边缘设备上,也可以部署在更大的边缘或数据中心 GPU(如 T4)上。 DeepStream 应用程序可以使用 NVIDIA 容器运行时部署在容器中。
3、插件
DeepStream 本质是 GStreamer 的插件&