腾讯优图团队正式开源了深度学习推理框架 TNN,而腾讯之前就有一个知名的推理框架ncnn,而ncnn当前应该是世界上所有推理框架里面Github星星最多的一个框架了。作为ncnn的核心作者的 nihui,他给了一番什么评价呢?
作者:元峰
来源:AIZOO
腾讯又开源了TNN框架,但众所周知,腾讯在2017年就开源了ncnn深度学习端侧推理框架,该框架凭借良好的社区维护,在Github上是在所有的推理框架中 star 数目最多的。下表是各大推理框架的 star 数(截止到2020年6月10日,数字为百分位四舍五入),可以看到 ncnn 还是非常有竞争力的。
虽然在亲兄弟 TNN 的评测中,ncnn 的速度性能是不及阿里的 MNN 的,但奈何 ncnn 的社群实在活跃,大家对它的认可度是最高的。
作为 ncnn 最主要的作者 nihui (他个人的提交数目1115,占 ncnn 总提交的 78%,基本上可以说一己之力扛起了 ncnn 的大旗),那么,他是如何评价兄弟产品 TNN 的呢?
请注意,下方后浪体来了,前方高能。
如何评价腾讯开源新一代推理框架TNN?
作者:nihui
那些口口声声,
抱怨ncnn跑得慢的人,
应该看着TNN,像我一样。
我看着你们,满怀羡慕。
人类优化了几十年的性能,
所有的winograd、量化、bf16和异构计算,
像是专门为你们准备的礼物。
operator繁荣、assembly繁茂、shader繁华,
现代推理框架的成果被层层打开,可以尽情地享用。
自由开发一套人脸识别,
学习一种OCR,
欣赏一篇zhihu教学文章,
去遥远的地方提issue。
很多人,从小你们就在自由探索自己的兴趣,
很多人,在童年就能跑通全套insightface,
不惑于自己喜欢什么,
不喜欢什么。
人与人之间的壁垒被打破,
你们只凭相同的关键字,
就能在github搜索到千百个值得clone的项目。
你们拥有了我们曾经梦寐以求的权利,白嫖的权利。
你所热爱的就是你的人工智能!
你们有幸遇见这样的TNN,
但是TNN更有幸遇见这样的你们。
我看着你们,满怀敬意。
向你们的专业态度致敬!
你们正在把训练的变成推理的,
把V100的变成A53的,
把BLAS的变成NPU的,
把ncnn模型变成TNN的。
你们把自己的核心技术,
变成了一个和成千上万的人分享快乐的开源项目。
向你们的自信致敬!
弱小的人,才害怕转NHWC模型与后处理,
内心强大的人,从不畏惧9维tensor与自定义op。
向你们的大气致敬!
小白同而不和,大佬美美与共,和而不同。
更年轻的身体,容得下更多元的代码缩进、注释和HACK。
有一天我终于发现,
不只是我们在教你们如何在QQ群问问题,
你们也在启发我们怎样去更好的做开源项目。
那些抱怨tf转不了ncnn的人,
应该看看TNN,就像我一样。
我看着你们,满怀感激。
因为你们这个世界会更喜欢开源的推理框架,
因为一个社区最好看的风景,
就是这个社区的伸手党。
因为你们这世上的文档、博客、专栏所表现的话题,
就不再是编不过、速度慢,
而是良好的社区支持、众多的demo、全面超越的速度、大佬们好看的jpg,
是心里有ctrl-v,眼里有ctrl-c。
不用活成我们想象中的样子,
我们这一代人的想象力不足以想象你们的未来。
如果你们依然需要我们的祝福,
那么,奔涌吧,TNN!
我们在同一条奔涌的河流。
相关文章
关于作者
我是元峰,互联网+AI领域的创业者,欢迎在微信搜索“AIZOO”关注我们的公众号AIZOO。
如果您是有算法需求,例如目标检测、人脸识别、缺陷检测、行人检测的算法需求,欢迎添加我们的微信号AIZOOTech与我们交流,我们团队是一群算法工程师的创业团队,会以高效、稳定、高性价比的产品满足您的需求。
如果您是算法或者开发工程师,也可以添加我们的微信号AIXZOOTech,请备注学校or公司名称-研究方向-昵称,例如“西电-图像算法-元峰”,元峰会拉您进我们的算法交流群,一起交流算法和开发的知识,以及对接项目。
关注元峰微信号“AIZOOTech”
更多算法模型相关请关注AIZOO专栏