旷视研究院 · 6月15日

旷厂练习生Vol.6 I CVPR网红作者,超高产paper收割机

首发:旷视研究院
作者:旷妹&丁同学

12.jpg

姓名:丁同学

所属:旷视研究院 Basemodel组实习生

背景:清华大学软件学院 94年在读PhD

两年旷厂炼丹生活,直博四年累计发表七篇顶会论文

练习生档案

自信、坚定、聪明,且对学术富有极强的passion,这是丁同学在一个小时的对话中给旷妹留下的印象(偷偷告诉你们,其实在此之前,旷妹也有耳闻旷厂这位2021投中两篇CVPR的网红作者)。作为一名直博四年级的学生,他自博一开始接触CV领域,博二结束后进入旷厂实习,至今已在CV和ML领域的顶级会议上发表了七篇论文,包括RepVGG、ACNet等,值得一提的是他在进入旷厂实习之前就已经发表过五篇论文,堪称“paper收割机”。本期旷厂练习生就跟旷妹一起探访这位网红作者的旷厂(paper)练(fa)习(biao)生(mi)活(ji)吧。

13.jpg

01

学术吸引,开启旷厂炼丹之旅

2019年7月进入旷厂实习,炼丹生活至今已将近两年。谈起初入旷厂实习的原因,他坦言是学术的吸引,虽然之前因为对CV领域的关注,对旷厂也有了解,却没想过会有一天进入旷厂实习,但是命运有时候又总是很神奇的。2019年6月,他在美国的国际顶会上遇见了祥雨,二人学术研究旨趣相似,一拍即合,源于学术的吸引,回国后7月份随即进入旷厂Basemodel组跟随mentor祥雨实习。

02

什么是 Basemodel?

产研互动,如切如磋,如琢如磨

作为江湖上流传已久的学术大佬带领的”神秘”小组之一,旷妹一直很好奇这是一个什么样的小组。他也毫不吝啬地与我们分享起Basemodel组以及自己正在组内做的研究,正如组名“base”所称,这是一个研究怎样提高通用模型性能的组,大量训模型、做模型设计的组,也是一个会给其他组提供学术支持的组,比如之前的RepVGG通用模型即出自他们组。

即使是做通用模型的小组,组里每个人做的东西也有所不同,自己在组内的任务主要以学术为主。组内每周会有两次paper reading,每个人都要轮流做pre,祥雨会去做点评,大家互相切磋,交流idea。值得一提的是,每周例会祥雨还会带着大家去不断地回顾学习一些计算机视觉的基础教材。温故而知新,开卷有益,想来这次CVPR组里一共中了十一篇就是最好的证明了吧

提起mentor祥雨,他说:“祥雨是一个能够在研究上提供motivation和关键指导的引路人,会给我们一个方向和启发,然后我们去行动。比如有一次,祥雨提到简单的模型在工业上特别友好,试一下什么办法可以提高简单模型的性能,也就促成了后来的RepVGG那篇文章。这种方向感和启发是至关重要的。”

16.jpg

03

劳逸结合,效率翻倍

作为一名paper收割机,旷妹也很好奇他是如何做到短时间内如此高产的,“一直在写paper?”“不存在的!”劳逸结合,效率更高哦!在日常充实的学术生活之外,他也是一名魔兽世界的业(gao)余(ji)玩家,此外在日常生活中也会打篮球、跑步等,“其实学术也是一种职业,工作也有生活也有,工作做完了就自然去休息、放松了。”

04

坚定选择,积极行动

转眼进入旷厂实习已经快两年了,两年的炼丹生活给了他更多学术上的训练和支持,也提高了他的科研品位。问及两年来的成长和变化,明年博士毕业的他坦诚说道:“两年时间不知不觉就过去了,科研的品位和能力的确提高了许多,现在的我对于什么是值得做的,什么是不值得做的有了更好的判断,对自己的期望也提高了。”

虽然探索之路上也曾有挫折,但是现在的他对于学术依然是坚定且乐观的。他说,除了提供安身立命的基础之外,做学术的魅力就在于知道了某个前人未曾知道的事情的成就感,以及参与拓展人类知识边界的使命感,这种精神上的愉悦使得他乐于享受学术研究,坚定地在CV领域不断探索。

后记 Q&A

作为一名paper收割机,您有没有什么paper发表的独家秘笈分享呢?

多读、多看、多训练、常思考

作为一名坚定的CV领域探索者,您对有志愿从事CV领域的小朋友们有什么建议呢?

要找到值得做并且可以做下去的方向,心之所向,风雨兼程。从我本身经历来讲,我本科是软件工程专业,对CV领域仅有所了解,当时直博,导师方向是CV,了解之后觉得这是值得做的东西,就深入下去了。

四年七篇顶会论文,您是如何做到如此高产的?

只看这个数字,很多同学会觉得我命中率很高,但是过程没有这么顺利。我经常有好多拍脑袋的idea,然后写代码做实验去验证。这些idea中有很大一部分是完全不work的,也有一部分是做了很久以后觉得不值得发表的,最终发表的比例并不高。所以这只能说明我尝试的比较多,有的时候运气比较好吧。

您刚刚提到会有很多拍脑袋的idea,如何理解这个“拍脑袋”呢?

的确有时脑袋里会冒出很多的想法,比如博一的时候在连续的几天里,晚上骑车回宿舍的路上一共冒出了4个idea,两个work,两个不work的都淘汰了~(旷妹觉得,与其说是灵感乍现,倒不如说是日常文献的积累和学术素养的积淀,九层之台起于垒土,拍脑袋有价值的idea背后是厚厚的paper阅读和不断地思考推断)。

专栏文章推荐

欢迎关注旷视研究院极术社区专栏,定期更新最新旷视研究院成果
加入旷视:career@megvii.com
1 阅读 353
推荐阅读
0 条评论
关注数
2042
内容数
105
专注旷视研究院学术论文解读推送,涵盖计算机视觉,文字识别等
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
Arm中国学堂公众号
关注Arm中国学堂
实时获取免费 Arm 教学资源信息
Arm中国招聘公众号
关注Arm中国招聘
实时获取 Arm 中国职位信息