小白Liz · 2019年11月11日

Winograd(6x6 3x3) Tengine没用吗?6新有精度损失吗?

Winograd(6x6 3x3) Tengine没用吗?6新有精度损失吗?

1 个回答 得票排序 · 时间排序
JackLi · 2019年11月11日

Tengine目前优先实现winograd F(4,3), 后续会考虑实现F(6,3), 目前F(4,3)的float32和float16没有明显的精度损失,具体数据可以参考Winograd分享PPT的第27页

你的回答
关注数
1
收藏数
0
浏览数
3638
JackLi
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息