Skip to content
TkCoder666Public

About

No description, website, or topics provided.

Resources

Stars

3 stars

Watchers

2 watching

Forks

Latest commit

 

History

49 Commits

Folders and files

Repository files navigation

TinyML 项目:在树莓派 4b 上运用多种方式对 CNN 进行推理过程加速

通过远程方式连接树莓派(记录),也可以通过虚拟机模拟(记录)。

剪枝

参照教程实现了MNN的三种剪枝方法,可运行下列命令进行剪枝。

python Pruner/SIMDOCPruner/mnn_prune.py 

测试了Pruning Filter in Filter的代码实现,具体代码可参考论文提供仓库

量化

首先按照教程安装MNN的python和cpp版本,并且安装相应的库。 接着直接用以下的命令进行训练量化:

python Quantizer/LSQQuantizer/LSQquan.py #启动LSQ量化

TVM

首先需要在宿主机上安装 TVM(记录),在树莓派上安装 TVM Runtime,并通过 RPC 连接(记录)。

在宿主机上测试、微调:

python tvmc_host.py   # 编译优化与微调
python tvm_host.py    # 仅编译优化

在树莓派上测试、微调:

python tvmc_rasp.py   # 编译优化与微调
python tvm_rasp.py    # 仅编译优化

About

No description, website, or topics provided.

Resources

Stars

3 stars

Watchers

2 watching

Forks

Releases

Packages

Contributors

Languages