11

AI老铁 · 2020年08月06日

海思AI芯片方案学习(二十七)python3引起darknet模型转换caffe失败的原因分析

本系列为华为海思海思AI芯片(Hi3519A/3559A)方案学习系列之二十七,系列文章请关注海思AI芯片方案学习
作者:ltshan139

前言

首先申明,该问题是我的一位群友发现的。我这里只是把他的结论加以验证并总结在这里。

问题描述

在海思学习系列中,我们已经写了一篇文章来介绍如何将darknet模型转换成caffe model。但是因为环境平台的原因,尤其是python2和python3语法有些不同的原因还是会在实际转换过程中会遇到各种各样的问题。

下面这个问题就是由于python2和python3语法差别而引起的。首先看现象:

20200111215313230.png

上面的错误log很容易被认为是protobuf的原因,其实关键点是: Expected integer。

再看看生成的prototxt文件,里面的pad值为float型,如下所示。

20200111215743531.png

再看看将cfg转换成prototxt的对应脚本代码

20200111221515975.png

后来才知道,对于python2来说,除法‘/ ’两边都是整数的话,其结果也是整数;而对于python3而言,无论除法两边为整数还是浮点数,其结果都为浮点数。

回到上面代码中的红框部分,如果上面代码用python2来运行的话,pad参数值为整数;反之,如果用python3来运行的话,则变成浮点数了。而caffe的prototxt中参数值是不可能为浮点数的。

要想用python3运行模型转换脚本来避开这个坑,可以将 '/'改成 '//'。



海思AI芯片系列文章



更多海思AI芯片方案学习笔记欢迎关注海思AI芯片方案学习

推荐阅读
关注数
867
内容数
40
海思AI芯片(Hi3519A/3559A)方案学习系列笔记,欢迎关注。
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息