在PYNQ-ARM环境中基于ONNX运行神经网络
创始人
2024-06-03 15:35:42
0

ONNX是什么

ONNX(Open Neural Network eXchange,开放神经网络交换)是一种针对机器学习所设计的开放式的文件格式,用于存储训练好的模型。它使得不同的人工智能框架(如Pytorch, TensorFlow)可以采用相同格式存储模型数据并交互。 ONNX的规范及代码主要由微软,亚马逊 ,Facebook 和 IBM 等公司共同开发,以开放源代码的方式托管在Github上。
相关网站:【1】https://onnx.ai/ 【2】https://onnxruntime.ai/index.html

开发板与镜像

  • 这里使用的是正点原子的7020小系统板。
  • 镜像版本为2.6。
  • 理论上在其他开发板上的PYNQ环境中也能跑通。

PYNQ-ARM 🔳

  • 这里研究的是怎么在PYNQ中的ARM(带操作系统)上安装与部署ONNX。下述的安装与部署均是基于Python。
  • 因为在PYNQ-ARM上一般仅执行推理,所以仅需安装运行时环境:onnxruntime,选择1.4版本。
  • 研究PYNQ-ARM端的部署并非是完全抛弃PYNQ上的FPGA,而是根据需求来选择由ARM还是FPGA来负责算法的推理,或者是两者结合。
  • PYNQ的ONNX安装与部署都存在一定的“坑”,并不是一条安装指令就能解决!注意下面的说明。

环境安装

  • PYNQ本身就自带了完整的Python3.6和pip的环境,除了pynq包还有众多的第三方包。所以Python本身不需要做什么改动。
  • 从https://github.com/nknytk/built-onnxruntime-for-raspberrypi-linux/tree/master/wheels/buster下载whl包 : **onnxruntime-1.4.0-cp36-cp36m-linux_armv7l.whl, **并上传至开发板。
  • 注意,这里直接pip3 install这个whl包是无法安装成功的!!!会遇到两个问题:
    • 自动下载的依赖包protobuf版本过高,会提示只有Python3.7才能兼容。这时千万不要尝试升级Python至3.7以上,否则可能会导致核心工具pynq不可用!这时只需单独安装protobuf,指定版本号3.19.3:
pip3 install protobuf==3.19.3
  • 自动下载的依赖包numpy过高,导致与自带的Cython版本不匹配无法编译。因为onnxruntime需要的numpy版本至少要1.16.6,自带的numpy1.13.3不能满足需求,所以会下载最新版本,但是又太新了,导致不能编译与安装!这时也需要单独安装numpy 1.16.6(可能时间会很长,耐心等待完成):
pip3 install numpy==1.16.6
  • 完成上述两步后再安装onnxruntime的whl包, 在该whl包所在的目录下:
pip3 install onnxruntime-1.4.0-cp36-cp36m-linux_armv7l.whl
  • 至此,onnxruntime包的安装已经完成,可以在控制台中启动python并import onnxruntime,发现没有报错。

模型推理示例 🔆

  • 分别使用PyTorch和TensorFlow.Keras搭建了一个1维的CNN,并分别将其转化为onnx文件(其中Keras需要额外依赖第三方包tf2onnx,pip安装即可),并使用onnxruntime运行。
  • 具体代码文件:
    在这里插入图片描述

工程地址:https://github.com/Aiwiscal/pynq-onnx-demo** **
喜欢麻烦给个star,感谢~~~~~~~~~~~

注意

不能保证所有的用户模型都能顺利转换并运行,其各版本对各算子的支持情况需要注意。

相关内容

热门资讯

汽车加装安卓系统卡住,探究原因... 你有没有遇到过这样的尴尬情况:汽车加装了安卓系统,结果屏幕突然卡住了,就像被施了魔法一样,怎么也动弹...
电量壁纸安卓系统下载,打造个性... 手机电量告急,是不是又得赶紧找充电宝了?别急,今天就来给你安利一款超实用的电量壁纸,让你的安卓手机瞬...
iPhonex里面是安卓系统,... 你有没有想过,那个我们每天都离不开的iPhone,里面竟然可能是安卓系统?是的,你没听错,就是那个以...
ios系统比安卓系统好在哪里,... 你有没有想过,为什么有些人对iOS系统情有独钟,而有些人却对安卓系统爱不释手呢?今天,就让我带你从多...
安卓系统跟踪设置大小,跟踪设置... 你知道吗?现在智能手机几乎成了我们生活的必需品,而安卓系统作为全球最受欢迎的操作系统之一,它的跟踪设...
在线迎新系统下载安卓,轻松开启... 你有没有想过,开学季的到来,就像一场盛大的狂欢,而在这个狂欢中,有一个小助手,它默默地守护着你的入学...
安卓系统怎么申请微信号,一键申... 你有没有想过,在安卓手机上申请一个微信账号,竟然也能变得如此简单?没错,就是那个我们每天离不开的社交...
安卓手机系统里怎么清理,轻松优... 手机里的东西越来越多,是不是感觉安卓手机系统越来越慢了呢?别急,今天就来教你怎么清理安卓手机系统,让...
安卓系统改定位地址软件,轻松掌... 你是不是也和我一样,有时候想换个角度看世界,但又不想真的搬家?别急,今天就来给你揭秘一个神奇的小工具...
安卓10系统里的Google,... 你有没有发现,自从你的安卓手机升级到了10系统,Google的功能好像变得更加贴心了呢?今天,就让我...
安卓app刷量留存系统,高效策... 你有没有想过,那些在手机上下载的安卓应用,它们是如何吸引你的注意,又是如何让你一刷再刷的呢?今天,就...
安卓app答题系统功能数据,全... 你有没有想过,手机里那些答题APP,它们是怎么做到让你在轻松愉快的氛围中学习新知识的呢?今天,就让我...
安卓系统iso镜像下载地址,轻... 你有没有想过,想要给你的安卓设备来个焕然一新的变身?那就得来点技术活儿——下载一个安卓系统的ISO镜...
微软安卓系统删除不了,删除操作... 你有没有遇到过这种情况?手机里突然多了一个微软安卓系统,怎么也删不掉,真是让人头疼啊!这不,最近就有...
安卓系统能查隐私吗,隐私查询与... 你有没有想过,你的安卓手机里藏着多少秘密?是不是好奇过,有没有什么方法可以窥探这些隐私呢?今天,就让...
安卓系统的掌上炫舞,安卓平台上... 你有没有发现,最近你的手机里多了一个新伙伴?没错,就是安卓系统的掌上炫舞!这款游戏可是风靡一时,让无...
安卓系统怎么删除小红标,安卓系... 手机里的小红标是不是让你觉得有点碍眼呢?别急,今天就来教你怎么轻松地把它从安卓系统中删除掉,让你的手...
安卓系统播放路由器,打造无缝网... 你有没有想过,家里的安卓系统设备想要畅快地享受网络,其实只需要一个小小的助手——那就是路由器!今天,...
基于安卓系统的人脸识别,人脸识... 你有没有想过,在手机解锁的时候,只需轻轻一瞥,就能瞬间解锁?这就是基于安卓系统的人脸识别技术的魅力所...
1km安卓系统下载,高效便捷的... 你有没有想过,手机系统升级竟然也能成为一场说走就走的旅行?没错,今天就要带你领略如何轻松下载1km安...