参考文档

  1. http://mxnet.incubator.apache.org/install/index.html mxnet官方install手册
  2. http://nnvm.tvmlang.org/how_to/install.html NNVM官方安装指导手册
  3. http://tvmlang.org/2018/01/16/opt-mali-gpu.html Optimizing Mobile Deep Learning on ARM GPU with TVM
  4. https://www.96boards.org/blog/nnvm-tvm-on-hikey960/ NNVM/TVM on HiKey960，讲解了针对ARM硬件的编译安装流程
  5. https://apt.llvm.org/ LLVM下载地址

本文档针对的目标器件为Firefly-RK3399

因为NNVM编译器依赖于TVM和TOPI，所以要考虑软件的依赖关系，我们应该下面的顺序来进行编译：

  1. 编译MXNet(host版本)

  2. 安装LLVM

  3. 编译TVM(host版本)

  4. 编译NNVM(host版本)

  5. 编译安装TVM runtime(target版本)

编译MXNet(host版本)

因为我们暂时测试的NNVM前端模型是MXNet模型，所以进行编译模型之前要先安装host版本的MXNet。这里我们最简单的通过python-pip的方式进行安装

更新python和pip
sudo apt-get update
sudo apt-get install -y wget python gcc
wget https://bootstrap.pypa.io/get-pip.py && sudo python get-pip.py
安装MXNet
pip install mxnet
验证安装是否成功安装
python
# 进入python运行空间，然后输入以下python代码进行验证
>>> import mxnet as mx
>>> a = mx.nd.ones((2, 3))
>>> b = a * 2 + 1
>>> b.asnumpy()
array([[ 3.,  3.,  3.],
       [ 3.,  3.,  3.]], dtype=float32)
# 如果上述代码执行正确则表示MXNet host版本已经正确安装
>>> exit()

编译TVM(host版本)

安装LLVM

如下图所示TVM对于ARM后端的支持是基于LLVM编译器实现的，TVM对于的LLVM版本的最低要求为4.0

添加llvm相关的apt-get源

为了保险起见，我们安装LLVM的稳定版本5.0

deb http://apt.llvm.org/trusty/ llvm-toolchain-trusty-5.0 main
deb-src http://apt.llvm.org/trusty/ llvm-toolchain-trusty-5.0 main

上面的脚本只适用于Ubuntu14.04添加LLVM 5.0，如果你使用的是其他的操作系统和LLVM版本可以参考这里。

安装llvm
apt-get install clang-5.0 lldb-5.0

编译TVM

下载软件
git clone --recursive https://github.com/dmlc/nnvm
cd nnvm/tvm
cp make/config.mk .
修改config.mk
LLVM_CONFIG = llvm-config-5.0
编译
make

如果编译正常完成之后，会在tvm目录的lib下面生成一些库文件。

安装TVM python package

在安装之前先在/etc/bash.bashrc中设置PYTHONPATH环境变量

export PYTHONPATH=/path/to/tvm/python:/path/to/tvm/topi/python:${PYTHONPATH}

重启命令行以重新加载PYTHONPATH

通过setup.py安装TVM python package

# 安装tvm python package
cd python
python setup.py install
# 安装tvm topi python package
cd ../topi/python
python setup.py install
cd ../..

编译NNVM(host版本)

cd nnvm # nnvm对应的路径
cp make/config.mk .
make

如果编译正常完成之后，会在nnvm目录的lib下面生成一些库文件。

安装NNVM python package

在安装之前先在/etc/bash.bashrc中设置PYTHONPATH环境变量

export PYTHONPATH=/path/to/nnvm/python:${PYTHONPATH}

重启命令行以重新加载PYTHONPATH

通过setup.py安装NNVM python package

# 
cd python
python setup.py install

编译安装TVM runtime(target版本)

重新复制一份TVM到另外的文件夹，保证不和TVM的host版本冲突

设置交叉工具链相关的环境变量

屏蔽掉config.mk中的LLVM_CONFIG = llvm-config-5.0

make runtime

编译成功后lib文件夹会生成libtvm_runtime.so

results matching ""

    No results matching ""