一、前言 TVM是通过Relay进行模型计算图IRModule的构建，并且可以使用不同的优化策略（即Pass）对IRModule进行优化，最终编译成特定后端可执行的代码（co...
发简信
IP属地：广东
-
【TVM系列十一】Relay可视化
-
【TVM系列九】FFI注册机制
一、前言 TVM通过PackedFunc机制实现了Python与C++之间的相互调用，即FFI(Foreign Function Interface)，整体流程与原理可以参阅...
-
【TVM系列七】TVMC介绍
一、前言 TVMC是TVM python包提供的一个工具，可以通过命令行的方式执行auto-tuning，编译，性能profiling以及模型运行。本文将根据TVM官网的指导...
-
【TVM系列六】PackedFunc原理一、前言 在TVM中，PackedFunc贯穿了整个Stack，是Python与C++进行互相调用的桥梁，深入理解PackedFunc的数据结构及相应的调用流程对理解整个TV...
-
【TVM系列五】添加Relay自定义算子
一、前言 本文以实现一个axis_abs的自定义算子为例介绍如何在tvm中添加新的relay算子，该算子实现的功能是以输入的3维tensor取某一维度的指定切片取绝对值。 二...
-
【TVM系列四】模型编译与运行过程一、前言 针对神经网络模型的编译，TVM封装了非常简洁的python接口，如下： 在上一篇文章中介绍了模型的算子转换与Relay IR Module的流程，当TVM将Rela...
-
【TVM系列三】算子转换调用流程一、前言 本文将从源码分析一个算子在TVM中是如何从前端到后端的转换过程。首先来看一下keras模型编译推理的一个示例：通过pip安装好keras和tensorflow，按照...
-
【TVM系列二】TVM介绍一、TVM的工作流程 TVM主要由两个部分组成： （1）TVM编译器：负责编译和优化模型 （2）TVM runtime：提供目标设备上运行模型的API 1、整体流程 如图所示...
-
【TVM系列一】开发环境搭建一、前言 众所周知，深度学习的计算量庞大，在追求效率与实用性的工业界，深度学习所面临的一个最大的问题就是如何在不影响模型精度的前提下将算法模型部署到目标硬件平台上进行高效的前...