用modelbox server启动流程图，暴露Restful接口

背景

假设你已经搭建了modelbox开发容器，能够使用webUI构建流程图。如果没有请参考昇腾npu上构建modelbox webUI开发容器教程。

现在，本文会说明，如何在终端用命令的方式将流程图暴露为服务，并能够在本地用postman访问。

本文参考ModelBox运行的"通过modelbox命令启动"一节

主要流程

首先，假设我们编写了如图的程序，其中foobar阶段会固定输出一个字符串。

foobar.py内容如下，固定会输出"Hello world!"

import _flowunit as modelbox

class FoobarFlowUnit(modelbox.FlowUnit):
    # Derived from modelbox.FlowUnit
    def __init__(self):
        super().__init__()

    def open(self, config):
        # Open the flowunit to obtain configuration information
        return modelbox.Status.StatusCode.STATUS_SUCCESS

    def process(self, data_context):
        # Process the data
        # input data
        in_data = data_context.input("in_data")
        # output data
        out_data = data_context.output("out_data")

        # Example process code.
        # Remove the following code and add your own code here.
        for buffer in in_data:
            add_buffer = modelbox.Buffer(self.get_bind_device(), "Hello world!")
            out_data.push_back(add_buffer)

        return modelbox.Status.StatusCode.STATUS_SUCCESS

    def close(self):
        # Close the flowunit
        return modelbox.Status()

    def data_pre(self, data_context):
        # Before streaming data starts
        return modelbox.Status()

    def data_post(self, data_context):
        # After streaming data ends
        return modelbox.Status()

mnist_response.py的代码逻辑也很简单，固定输出上一步骤的字符串，内容如下：

import _flowunit as modelbox
import numpy as np
import json

class MnistResponseFlowUnit(modelbox.FlowUnit):
    def __init__(self):
        super().__init__()

    def open(self, config):
        return modelbox.Status.StatusCode.STATUS_SUCCESS

    def process(self, data_context):
        in_data = data_context.input("in_data")
        out_data = data_context.output("out_data")

        for buffer in in_data:
            add_buffer = modelbox.Buffer(self.get_bind_device(), buffer.as_object())
            out_data.push_back(add_buffer)

        return modelbox.Status.StatusCode.STATUS_SUCCESS

    def close(self):
        return modelbox.Status()

    def data_pre(self, data_context):
        return modelbox.Status()

    def data_post(self, data_context):
        return modelbox.Status()

    def data_group_pre(self, data_context):
        return modelbox.Status()

    def data_group_post(self, data_context):
        return modelbox.Status()

然后，在项目路径内graph/下的.toml文件内，修改暴露的端口，如下文显示端口暴露在8190

…
digraph mnist_sample {
node [shape=Mrecord]
httpserver_sync_receive [ type=flowunit flowunit=httpserver_sync_receive device=cpu time_out_ms=“5000” endpoint=“http://0.0.0.0:8190” max_requests=“100” ]
…

那么，如何不用webUI，将流程图启动暴露为Restful服务呢？

  1. 进入modelbox开发容器

  2. 进入目录/root/modelbox-service/conf

  3. 编辑modelbox.conf配置文件。把flow_path 属性指向你的项目的graph目录，比如在本文的mnist项目，流程图存储在/root/projects/mnist/src/graph目录下。内容如下：

    [server]
ip = "0.0.0.0"
port = "1104"
flow_path = "/root/projects/mnist/src/graph/"

# 后续略...

  4. 执行modelbox -c ./modelbox.conf -fV。

然后，能看到终端输出日志：

[root@devserver-com conf]$ modelbox -c ./modelbox.conf -fV
[2023-12-06 20:35:17,711][ INFO][          main.cc:385 ] modelbox config path : ./modelbox.conf
[2023-12-06 20:35:17,711][ INFO][        server.cc:129 ] plugin list:
[2023-12-06 20:35:17,711][ INFO][        server.cc:131 ]  /usr/local/lib64/modelbox-plugin.so
[2023-12-06 20:35:17,711][ INFO][        server.cc:131 ]  /usr/local/lib64/modelbox-plugin-editor.so
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:68  ] create modelbox plugin
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:51  ] modelbox plugin init
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:61  ] run modelbox plugin on http://0.0.0.0:1104
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:73  ] modelbox plugin register handlers
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:74  ] regist url : /v1/modelbox/job
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:148 ] create local job
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:192 ] Create local job /root/projects/mnist/src/graph//CMakeLists.txt
[2023-12-06 20:35:17,712][ERROR][          flow.cc:473 ] read config from  toml:/root/projects/mnist/src/graph//CMakeLists.txtfailed, err :Load config file failed, detail: [error] toml::parse_key_value_pair: missing key-value separator `=`
 --> /root/projects/mnist/src/graph//CMakeLists.txt
    |
 16 | cmake_minimum_required(VERSION 3.10)
    |                       ^--- should be `=`
[2023-12-06 20:35:17,712][ERROR][           job.cc:65  ] flow init failed: code: Fault, errmsg: Load config file failed, detail: [error] toml::parse_key_value_pair: missing key-value separator `=`
 --> /root/projects/mnist/src/graph//CMakeLists.txt
 ...
 [2023-12-06 20:35:18,824][ INFO][ editor_plugin.cc:126 ] create modelbox editor plugin
[2023-12-06 20:35:18,824][ INFO][ editor_plugin.cc:104 ] modelbox editor plugin init
[2023-12-06 20:35:18,824][ INFO][ editor_plugin.cc:119 ] run editor on http://0.0.0.0:1104
[2023-12-06 20:35:18,824][ INFO][        server.cc:59  ] app server start
[2023-12-06 20:35:18,825][ INFO][   http_helper.cc:438 ] Start listen at 0.0.0.0:1104

然后用postman访问那个服务器IP的8190端口，并按预定的接口填写参数，即可发出Restful请求。如下图所示，返回了字符串，与预期一致。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/232736.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

二分查找|双指针:LeetCode:2398.预算内的最多机器人数目

二分查找|双指针:LeetCode:2398.预算内的最多机器人数目

作者推荐 本文涉及的基础知识点 二分查找算法合集 滑动窗口 单调队列：计算最大值时，如果前面的数小，则必定被淘汰，前面的数早出队。 题目 你有 n 个机器人，给你两个下标从 0 开始的整数数组 chargeTimes 和 runnin…
阅读更多...
java学习part41泛型

java学习part41泛型

164-泛型-泛型的理解及其在集合、比较器中的使用_哔哩哔哩_bilibili 1.泛型 泛型可以加，加了不用也可以 2.例子 2.1List泛型 2.2Map泛型 新特性var 类似c的auto，可以根据后面赋值推断类型，在这种类型很复杂的时候可以提高可读性 3.自定义泛型…
阅读更多...
什么是TDR（威胁检测与响应）

什么是TDR（威胁检测与响应）

网络安全是被动和主动方法的混合体。过去，企业往往局限于被动的方法，随着合规性和安全策略越来越受到重视，主动方法也越来越受到关注。与其他行业相比，网络安全是高度动态的，网络安全团队采用任何可以帮助他们优化的新…
阅读更多...
大数据技术5：OLAP引擎对比分析

大数据技术5：OLAP引擎对比分析

前言：数据仓库建设，初级的理解就是建表，将业务数据、日志数据、消息队列数据等，通过各种调度任务写入到表里供OLAP引擎使用。但要想建好数仓也是一个复杂、庞大的工程，比如要考虑：数据清洗、数据建模&#…
阅读更多...
联邦多任务蒸馏助力多接入边缘计算下的个性化服务 | TPDS 2023

联邦多任务蒸馏助力多接入边缘计算下的个性化服务 | TPDS 2023

联邦多任务蒸馏助力多接入边缘计算下的个性化服务 | TPDS 2023 随着移动智能设备的普及和人工智能技术的发展,越来越多的分布式数据在终端被产生与收集，并以多接入边缘计算(MEC)的形式进行处理和分析。但是由于用户的行为模式与服务需求的多样,不同设备上的数据分布…
阅读更多...
【2023传智杯-新增场次】第六届传智杯程序设计挑战赛AB组-DEF题复盘解题分析详解【JavaPythonC++解题笔记】

【2023传智杯-新增场次】第六届传智杯程序设计挑战赛AB组-DEF题复盘解题分析详解【JavaPythonC++解题笔记】

本文仅为【2023传智杯-第二场】第六届传智杯程序设计挑战赛-题目解题分析详解的解题个人笔记，个人解题分析记录。 本文包含：第六届传智杯程序设计挑战赛题目、解题思路分析、解题代码、解题代码详解 文章目录 一.前言二.赛题题目D题题目-E题题目-F题题目-二.赛题题解D题题解-…
阅读更多...
thinkphp6入门（12）-- 一对一关联模型

thinkphp6入门（12）-- 一对一关联模型

定义一对一关联，例如，一个用户都有一个个人资料。 一、两表 1.用户表:user 2.工作经验表：work_experience user表的id关联work_experience表的user_id。 注意看，user_id1的有2条工作经验 二、数据模型 主表模型：…
阅读更多...
求导公式，求导的四则运算，复合函数求导

求导公式，求导的四则运算，复合函数求导

求导公式 求导的四则运算 复合函数求导
阅读更多...
目标检测、目标跟踪、重识别

目标检测、目标跟踪、重识别

文章目录 环境前言项目复现特征提取工程下载参考资料 环境 ubuntu 18.04 64位yolov5deepsortfastreid 前言 基于YOLOv5和DeepSort的目标跟踪 介绍过针对行人的检测与跟踪。本文介绍另一个项目，结合 FastReid 来实现行人的检测、跟踪和重识别。作者给出的2个主…
阅读更多...
swing快速入门（一）

swing快速入门（一）

注释很详细，直接上代码 涉及内容 1. 默认布局方式BorderLayout 2. 设置窗口位置和大小 3. 设置窗口可见性 4. panel对象（面板容器） 5. 文本和按钮组件的创建 6. 组件和容器的嵌套 import java.awt.*;public class Main{public static …
阅读更多...
MN316 OpenCPU丨HTTP使用介绍

MN316 OpenCPU丨HTTP使用介绍

HTTP（Hyper Text Transfer Protocol）即超文本传输协议，是一个简单的请求-响应协议，通常运行在TCP之上，它指定了客户端可能发送给服务器消息类型以及得到什么类型响应。HTTPS（Hyper Text Transfer Protoc…
阅读更多...
二维码智慧门牌管理系统升级：社区关怀

二维码智慧门牌管理系统升级：社区关怀

文章目录 前言一、系统的工作原理二、系统功能与关怀服务三、社区关怀的意义 前言 随着科技的发展，生活日益智能化，门牌系统也随之发展。近日，一种新型的二维码智慧门牌管理系统正在崛起，以创新的方式将社区关怀融入到每一个家庭…
阅读更多...
STM32F407-14.3.9-02输出比较模式

STM32F407-14.3.9-02输出比较模式

输出比较模式 输出比较模式生成波形时 当采用上升沿或下降沿计数时，更改ARR的值可改变周期； 更改CCRx的值会影响到生成波形的相位。波形的占空比永远50% 当采用中心对齐模式时， 更改ARR的值可以改变周期，更改CCRx的值可以改…
阅读更多...
动态规划（dp）初步学习案例讲解

动态规划（dp）初步学习案例讲解

问题（来源：leetcode300）： 给你一个整数数组 nums ，找到其中最长严格递增子序列的长度。 子序列 是由数组派生而来的序列，删除（或不删除）数组中的元素而不改变其余元素的顺序。例如&a…
阅读更多...
HarmonyOS--ArkTS(1)--基本语法(1)

HarmonyOS--ArkTS(1)--基本语法(1)

目录 基本语法概述 声明式UI描述 自定义组件 创建自定义组件 自定义组件的结构--struct ，Component，build()函数 生命周期 基本语法概述 装饰器： 用于装饰类、结构、方法以及变量，并赋予其特殊的含义。如上述示例中Entry、C…
阅读更多...
TypeScript基本语法

TypeScript基本语法

想在自己电脑上快速演示下方代码？点击ts官方演练场：https://www.typescriptlang.org/play 变量声明：TypeScript 在 Javascript的基础上加入了静态类型检查功能，因此每一个变量都有固定的数据类型。 //string: 字符串，…
阅读更多...
GPT-4 变懒了？官方回复

GPT-4 变懒了？官方回复

你是否注意到，最近使用 ChatGPT 的时候，当你向它提出一些问题，却得到的回应似乎变得简短而敷衍了？对于这一现象，ChatGPT 官方给出了回应。 译文：我们听到了你们所有关于 GPT4 变得更懒的反馈！我…
阅读更多...
智能优化算法应用：基于蜉蝣算法3D无线传感器网络(WSN)覆盖优化 - 附代码

智能优化算法应用：基于蜉蝣算法3D无线传感器网络(WSN)覆盖优化 - 附代码

智能优化算法应用：基于蜉蝣算法3D无线传感器网络(WSN)覆盖优化 - 附代码 文章目录 智能优化算法应用：基于蜉蝣算法3D无线传感器网络(WSN)覆盖优化 - 附代码1.无线传感网络节点模型2.覆盖数学模型及分析3.蜉蝣算法4.实验参数设定5.算法结果6.参考文献7.MA…
阅读更多...
区块链实验室(30) - 区块链期刊:Distributed Ledger Technologies: Research and Practice

区块链实验室(30) - 区块链期刊:Distributed Ledger Technologies: Research and Practice

区块链涉及多学科及技术，众多期刊接收区块链文章。Distributed Ledger Technologies: Research and Practice是ACM出版集团的一本期刊。 Distributed Ledger Technologies: Research and Practice创刊历史很短，始于2022年，出版期数也不多。 载…
阅读更多...
FastAPI之Hello World

FastAPI之Hello World

世界上最著名的程序 from fastapi import FastAPIapp FastAPI()app.get("/") async def root():return {"message": "Hello World"}app.get("/hello/{name}") async def say_hello(name: str):return {"message": f"…
阅读更多...
最新文章

Copyright @ 2022~2023