icraft_tutorial

35 downloads 4 likes on ModelScope updated

Model card

# ICRAFT TUTORIAL

本仓库主要介绍基于icraft进行模型部署的使用方法。

3.6.2

3.6.2版本开始对tutorial进行了细分,包括:快速开始,icraft编译用法,运行时api用法,计时相关,profiler相关用法等。

3.7.1

3.7.1版本的tutorial则进一步扩充了:icraft性能分析及优化教程、icraft硬算子教程、问题自助排查教程、FAQ等内容。

  • 3.7.1 分支下 examples 目录内容:
示例 内容
Example1_compile 编译示例(config/fmodel/qtset)
Example2_quick_start_python 快速开始 Python(yolov5 soft/hard、sim/socket/axi、detpost、snapshot)
Example3_quick_start_C++ 快速开始 C++
Example4_basic_C++ 基础运行时工程 C++
Example5_basic_python 基础运行时工程 Python(pyrt)
Example6_psin_C++ 仿真(psin) C++
Example7_psin_Python 仿真(psin) Python
Example8_snapshot_C++ 快照生成与使用
Example9_networkSegmentation_sub_C++ 复杂网络切分·子网版
Example10_networkSegmentation_view_C++ 复杂网络切分·视图衔接版(yolov5s 分片 no_mmu)
Example11_plin_C++ plin(Linux 部署)例程 yolov5s_plin
Example12_time_analysis 耗时分析
Example13_plddr_in plddr_in 部署
Example14_plin_warpaffine plin + warpaffine 硬算子

3.31.0

3.31.0版本的tutorial扩充了:新增环境准备教程、linux系统下的编译教程、imk功能升级及使用示例;本版本提供丰富的示例教程:

  • 3.31.0 分支下 examples 目录内容:
示例 内容
Example1_compile 编译示例(config/fmodel/qtset)
Example2_quick_start_python 快速开始 Python(yolov5 soft/hard、sim/socket/axi、detpost、snapshot)
Example3_quick_start_C++ 快速开始 C++
Example4_basic_C++ 基础运行时工程 C++
Example5_basic_python 基础运行时工程 Python(pyrt)
Example6_psin_C++ 仿真(psin) C++
Example7_psin_Python 仿真(psin) Python
Example8_snapshot_C++ 快照生成与使用
Example9_networkSegmentation_sub_C++ 复杂网络切分·子网版
Example10_networkSegmentation_view_C++ 复杂网络切分·视图衔接版(yolov5s 分片 no_mmu)
Example11_plin_C++ plin(Linux 部署)例程 yolov5s_plin
Example12_time_analysis 耗时分析
Example13_plddr_in plddr_in 部署
Example14_plin_warpaffine plin + warpaffine 硬算子
Example15_Usage_in_Linux Linux 系统下使用示例工程
Example16_plin+psin_C++ plin+psin 组合例程
Example18_psin_Python_for_sint16 sint16 量化数据的 psin Python 例程

3.33.1

3.33.1版本的tutorial:新增基于ZG架构(如30TAI)的使用教程。使用教程按后端拆分为 BY(BUYI/100TAI) 与 ZG(ZHUGE/30TAI) 两类。

BY(BUYI/100TAI) 示例:demo_for_icraft_by

示例 内容
Example1_compile 编译示例(含 customop 自定义激活注册、TensorFlow2Onnx yolov3 导出等)
Example2_quick_start_python 快速开始 Python(yolov5 soft/hard、sim/socket/axi、detpost、snapshot_demo)
Example3_quick_start_C++ 快速开始 C++(build_win/build_arm、cfg/yolov5s.yaml、src/yolov5s.cpp)
Example4_basic_python 基础运行时工程 Python(pyrt,yolov5s_sim/socket.py)
Example5_basic_C++ 基础运行时工程 C++(yolov5s_sim/socket.cpp)

ZG(ZHUGE/30TAI) 示例:

模型仓 内容
yolov5_demo_for_icraft_zg yolov5 ZG 全流程工程:compile/(config/yolov5s_ZG.toml、fmodel、qtset、imodel)+ deploy/(含 cfg/yolov5s_psin.yaml、pyrt/yolov5_psin.py、src/yolov5s_psin.cpp 的 psin 仿真)+ modelzoo_utils/ + lib/aarch64-linux-gnu/ 运行时库
runtime_demo_for_icraft_zg_py Python(PYRT) 运行时工程:yolov5_socket.py(socket 仿真)、yolov5_axi.py(上板,含 calctime)、preprocess/postprocess/visualize、imodel/yolov5s
runtime_demo_for_icraft_zg_cpp C++(CRT) 运行时工程:socket/(yolov5s_psin.cpp 仿真,build_win)+ axi/(上板工程,build_arm),含 PicPre/postprocess_yolov5.hpp

版本分支指引

模型库指引

更多模型与示例可关注icraft模型库:

modelzoo-icraft v3.31及之前版本

modelzoo-icraft v3.33及之后版本