视频结构化 AI 推理流程

阅读原文时间：2023年07月08日阅读：3

「视频结构化」是一种 AI 落地的工程化实现，目的是把 AI 模型推理流程能够一般化。它输入视频，输出结构化数据，将结果给到业务系统去形成某些行业的解决方案。

换个角度，如果你想用摄像头来实现某些智能化监控、预警等，那么「视频结构化」可能就是你要用到的技术方案。

不过，也不一定需要自己去实现，因为各个芯片厂商可能都提供了类似的流程框架：

以上个人没用过，简单看了下，都受限于只能用厂商自家的芯片。个人经验来说，一般硬件还是需要多家可选的，自己实现一套「视频结构化」还是有必要的。

本文将介绍「视频结构化」的实现思路、技术架构，以及衍生的一些工作。

有一个 AI 模型与一段视频，如何进行推理呢？

以上是最基础的推理流程，完成得不错

简单任务，这样满足要求就行。但实际任务，可能：

以上流程一般称为「视频结构化」：输入多路视频，进行实时分析，最后输出结构化数据，给到业务系统。

该流程，这里把它分为了输入、推理、输出，都是一个个任务节点，整体采用 Pipeline 方式来编排 AI 推理任务。输入输出时，一般会用 RPC 或消息队列来与业务系统通信。

「视频结构化」整体架构，如下：

管道 Pipeline 这块是主要部分，其实现都是一个个节点：

节点就是个生产消费者，用个阻塞队列很快就能实现。节点间组成一个树，也就是任务编排的结果。节点会有输入输出差异，要约定清楚或分几个类型。

节点流程：消息队列有任务，取出执行，结果进结构化数据，最后发给下一节点的消息队列。

节点的线程数、队列上限，都可做配置。依据耗时分析，可以优化调整。

GStreamer 的 pipeline + plugin 的技术架构值得学习。个人没深入了解，所以不好具体评价，倒见过在输入做插件化解码。NVIDIA DeepStream 直接就基于 GStreamer 开发的。

结构化数据，在整个 Pipeline 里是不断追加完善的过程，最后输出时一般 JSON 化推送。

它的内容约定，是最主要的。会有：

它会用作节点的输入，例如获取人脸特征，依赖前一目标检测节点的人脸 boxes 信息。

「视频结构化」用 C++ 实现，主要以下几点：

FFmpeg 编解码（CPU）
OpenCV 前后处理（CPU）
芯片生态库，硬件加速：编解码与前后处理
- 如 Nvidia: video codec, npp, nvjpeg; 昇腾 dvpp 等
基础库，选择主流的就好，如：
- Log：gabime/spdlog, google/glog
- JSON: nlohmann/json
- RPC: grpc/grpc, apache/incubator-brpc

更详细的技术栈，可见该分享：https://zhuanlan.zhihu.com/p/362711954 ，思维导图很详细。

「视频结构化」实现有些要看自己的权衡：

一个项目怎么支持多个硬件？
- 编译自动区分环境，编译不同代码，最终会产生多套部署
  - 需要抽象推理、前后处理等硬件相关功能
- 也可以考虑插件实现，管理好插件配置
视频流要不要用流媒体框架？
- 简单点直接 FFmpeg，不引入 GStreamer
图像与结果怎么优化同步？
- 只是图像显示，存储提供链接进结果（注意 IO 瓶颈）
- 本身视频显示，直接绘制结果进图像，编码进流
  - 或预览端自己实现，流数据包携带结果