在新世界里，你的任何事都可以被坏人神不知鬼不觉地迫害。
作者 | 甲小姐 刘杨楠
编辑 | 九月
当我们谈论“安全”时，我们在谈论什么？
在马斯洛需求理论模型中，“安全需求”（safety need）位于倒数第二层，指人们对于稳定、被保护、有秩序等方面的需求。
如今，时代赋予了“安全”更高阶的含义。
5G、移动互联网、大数据中心等新型基础设施和云计算、AI等信息技术快速发展，将人们迅速拉入了一个庞大的数字世界。中国信通院的数据显示，2020年，经测算的47个国家，数字经济占GDP比重高达43.7%。数据已成为“新时代的石油”，正在改变人类生活方式、经济增长路径乃至全球发展格局。
当虚拟与现实的边界不再清晰，传统的“安全”定义正在被新世界重写，数据安全风险也不断蔓延，全球都将“数字安全”放在了至关重要的位置。
中国的《数据安全法》《关键信息基础设施安全保护条例》《个人信息保护法》等法规接连颁出，欧盟颁布“史上最严数据保护法”《通用数据保护条例》。据Gartner预测，2023年，全球80%以上的公司将面临至少一项以隐私为重点的数据保护法规，到2024年，每年由隐私驱动的数据保护和合规技术支出将在全球突破150亿美元。
但中国的数字安全保护仍在早期。“我用两个词来描述人们对数字安全的理解——恐慌、混乱。”360集团副总裁&首席安全官杜跃进告诉「甲子光年」。
杜跃进是国内网络安全圈的老兵，曾历任阿里巴巴集团技术副总裁和首席安全专家、网络安全应急技术国家工程实验室主任、APCERT（亚太地区计算机应急响应组织）副主席、中国网络空间安全协会副理事长等职位，2019年加入360集团。从互联网公司到体制内，再到网络安全公司，他敏锐感知数字安全市场水温的变化。
今天，甲小姐对话杜跃进。他提到，数字安全即将进入革命期，挑战和机遇并存。
1.谈定义：“安全正在成为所有行业发展最关键的阻碍，没有之一”
甲小姐：当我们谈论安全的时候，我需要你用最精炼的方式给所有人一个关于安全的定义。
杜跃进：安全可以分为两种。一种是“safety”，按照马斯洛需求层次理论，安全需求在倒数第二层，是物理世界的安全，包括所有涉及人的生命、健康的问题；另一种是“security”，是人与人对抗带来的安全问题，是在人与人沟通中围绕信息本身的攻防。
我经常讲，safety是牛顿定律的事，security是《孙子兵法》的事。过去两者是分开的，现在安全行业到了一个全新的阶段，两者已经无法区分了。
甲小姐：大数据、AI和安全三者是什么关系？
杜跃进：安全关系着一切，任何一个词都可以加上“安全”二字。大数据有大数据的安全，人工智能有人工智能的安全。一个越来越明显的趋势是，安全正在成为所有行业发展最关键的阻碍，没有之一。
甲小姐：我曾在「甲子引力」大会上提到，我们已经从一个纯粹的“发展”模式走向了一个“发展+治理”的模式。人工智能时代，左手是智能，右手是安全，两只手要同步并举，否则会出现很大问题。这个过程中，任何一个行业、任何一个机构的决策者，都得建立对安全生产的基础认知，对吗？
杜跃进：对。
甲小姐：16年AlphaGo战胜李世石后，人工智能被大众认知，当时我和一些从业者沟通发现，一边是熊熊燃烧的AI之火，另一边的安全好像是聚光灯外的东西。如今6年过去，作为一个从业者，你觉得人工智能和安全的市场水温在过去几年发生了哪些变化？
杜跃进：我觉得人工智能和大数据的安全必须放在一起看。
2016年，数字安全领域也有一个标志性的悲剧事件：当时，一个叫徐玉玉的山东女孩儿考上了大学，她的个人信息通过一个小网站泄露，被精准诈骗9900元。她家里条件不太好，心里无法承受，最终离世了。这件事之后，国家成立四部委联合机制打击反诈，直到今天。
2016年，大家确实对人工智能安全的讨论还不多。我看到一个数据，2018年起，国外有一个机构连续三年分析全球前100位人工智能创新公司。一个有意思的现象是，从18年起，全球人工智能创新最大的赛道是安全，无论是人工智能用于安全还是人工智能本身的安全。但另一个现象是，中国虽然在人工智能创新领域排在最前，但在最大的安全赛道里，中国公司数量为0。18年的时候，中国是忽视人工智能安全的。
甲小姐：某种意义上，追求安全是人类天性所在，但为什么过去企业不重视？
杜跃进：因为一些企业对“安全”的认知还停留在过去。
过去企业会重视传统的safety，比如防火；security是防盗，但是过去大家觉得security跟自己没什么关系，这是警察的事情，有了网络之后，觉得是计算机的事情。事实上，现在这两个概念已经不分彼此，关系到每个人、每个企业。
甲小姐：如果让你用最简练的话，和一个小学一年级的小朋友讲清楚“数据、智能、安全”三者的关系，你会怎么说？
杜跃进：在新世界里，你的任何事都可以被坏人神不知鬼不觉地迫害。
甲小姐：小朋友会有心理阴影的，能说得不那么可怕些吗？
杜跃进：安全就是挺可怕的。
甲小姐：你说的“新世界”是指数智时代吗？今天数智时代已经不是说说而已，我们每天打开手机那一刻，就已经在数智系统里了。
杜跃进：是的。其实可以用三个词来概括这个时代的安全隐患：
第一是“无死角”，我们正在走向一个在任何地方都可以被人攻击的世界；第二是“跨时空”，对方可以在任何地方触达任何死角，做任何事情；第三是“极隐蔽”，就是我刚才说的神不知鬼不觉。
甲小姐：普通人听到这些瞬间一定会带有一些悲观情绪。
杜跃进：大家可能会对安全失去信心。
甲小姐：我记得很多年前，安全市场还没有起来，有个做安全的朋友毫不讳言地说，他们跟一家公司谈生意的时候就用黑客攻击一下，让客户知道自己的安全能力有多差，单子很快就能谈下来。这是一个正确的做法吗？
杜跃进：如果他经得客户同意，这是很好的方法，否则是不正确的。
甲小姐：这有点像一个压力测试。
杜跃进：对，其实是一个真实的压力测试，但是要控制好风险。比如你不能在一架飞机正在行驶的时候，去测试它的系统是否安全。
甲小姐：安全的重要性目前在整个行业被高估还是被低估？
杜跃进：普通老百姓是低估的，有调查为证。比如以前大家老觉得有病毒，但现在觉得没病毒了，为什么还要装杀毒软件？是真的没病毒了吗？其实不是。过去的病毒会展现自己，让你的机器出故障。现在它更会隐藏自己，目的是偷窥你，所以你感知不到。
2.谈隐私：“我们为什么要害怕一个软件？”
甲小姐：前不久青藤云创始人用一个下午的时间和我聊了一件事，就是数据安全的概念似乎存在于每一个人的脑海中，但行业里还没有人定义清楚什么是“数据安全”，你有同感吗？
杜跃进：我用两个词来描述人们对数据安全的理解——恐慌、混乱。这个现状已经从2018年持续到现在，没有本质改变。其中，“混乱”就包括大家依然没有定义清楚什么是数据安全。
甲小姐：现在有大量数据安全相关的法律或政策出台，一些曾经的巨头一夜之间被打入低谷。现在似乎正处于一个“人人都想要数据安全，但人人都不知道什么是数据安全，更不知道怎么做数据安全”的局面。
杜跃进：这个话题太大，我举一个大家听得懂的案例，有一个误区是，我们总是担心手机App太了解自己，能精准推送，怎么比我还懂我自己。但我们为什么要害怕一个软件？
古代如果人有个秘密，不吐不快，又不敢说给别人，就会告诉树洞，因为你不担心树洞会泄露你的隐私；后来我们把秘密写在日记本上，因为我们可以给日记本上锁；现在我们写在计算机里，为什么就要担心一个软件会泄露隐私？
这是错误的理解。我们其实在担心软件背后有人看到我不想让他看到的事情，有人在操纵算法来危害我，这才是我们关心的数据安全。但我们现在却简单地理解为不采集数据就会安全，这等同于不吃饭就不会吃到细菌。这是对数据安全的一个典型误解。
本质上看，数据安全不应该关注采集了什么，更应该关注采集的数据是怎么用的，怎么保护的。这显然更难。
甲小姐：现实或许是，很多人会因为1%的风险而放弃99%的价值。
杜跃进：这是大家对安全的另一个误解。
第一，没有绝对的安全；第二，安全本质上是风险的控制。
我们需要考虑的是，当安全做到99%之后，我们如何弥补剩下的1%。比如有人信用卡被盗刷，银行就会给他补上相应数额的钱，这就是风险兜底。
甲小姐：360有保险业务吗？
杜跃进：没有。保险是个很好的概念，安全圈一直在探索。但保险不是唯一的路，除了用钱规避风险外，我们还可以做一些备用系统等等。
甲小姐：尽管如此，老百姓在选择某些科技产品的时候还是会担心隐私是否会被泄露。
杜跃进：其实不用那么担心。首先，我们不可能脱离现实世界，也无法逆转技术发展的趋势；第二，安全是一个总体的风险控制问题，你不用担心每一个细节，找靠谱一点的产品就好了。
这次的“3·15”非常关注信息安全，会上曝光了一种低配儿童手表，因为安全做得太差，孩子们的个人信息很容易被黑客监视。但大品牌会好一些，至少出了问题你找得到人帮你解决。
甲小姐：说白了，对于老百姓而言，第一是不要过于恐慌，第二是相信大品牌。
杜跃进：对。不过我们还是要呼吁行业内的厂商们，要重视安全，不要回避问题，要不断提高自己的产品安全。
3.谈行业：“安全行业自我革新的速度有点慢”
甲小姐：从产业成熟度来讲，在0-100分范围内，如果移动互联网是90分，人工智能和安全是多少分？
杜跃进：这个问题有点难，我觉得要分行业。人工智能技术在有些领域可能已经到七八十分，但在我们这个行当里，可能连三四十分都不到。
甲小姐：我换一个问法，每个产业的发展都有自己的周期曲线，互联网的曲线在过去20年是不断上扬的，安全作为一个技术或产业赛道，现在处于哪一个发展阶段？
杜跃进：安全和人工智能不一样，人工智能可以用Gartner技术成熟度曲线判断，但安全要断代。因为安全是人类发展早期就有的需求，从古战场那里就开始有。这里的“安全”是指，比如历史上两军对垒时，要确保战场上的指令不被对手看到，也不被对手篡改。
现在到了一个全新的阶段，20年前安全被重新定义，就是刚才说的，无法再区分safety还是security。
甲小姐：在整个行业中，你感受到的大数据、AI和安全的晴雨表是什么？
杜跃进：首先，数据安全至少已经被热捧5年，未来很长一段时间内依然可能是最热的方向。但产业上还没有大的数据安全公司，目前处在创新、探索的阶段。
人工智能安全在国外比较热，国内还没有看到很多。安全大赛道本身也在被热捧，大家都知道安全太重要了，但安全行业自我革新的速度有点慢，还有点停留在传统阶段。
甲小姐：如果让你依次给安全领域的政策制定者、从业者、投资者、学者、行业巨头提建议，你会怎么提？
杜跃进：给政策制定者提建议是最复杂的，很难用一两句话说清楚。总结两点，第一，政策制定要贴近产业，贴近产业才有可能做出更有效的政策；第二，安全是为了发展。
甲小姐：安全一定不是蹩马腿，而是在拉缰绳。那对投资者呢？
杜跃进：安全是个很好的赛道，但它非常复杂。所以对投资者来说，不要轻易跟这个概念，更多要看内在逻辑。
甲小姐：给从业者、企业家或者创始人什么样的建议？
杜跃进：对从业者的建议很明确——“安全”已经被重新定义了，必须尽快跟上。
甲小姐：你们会在行业里发布一些重新定义安全的声音吗？
杜跃进：会的。我们把现在的安全定义成“数字安全”。去年11月份乌镇世界互联网峰会上，国家提出“数字素养”“筑牢数字安全的屏障”等话题。未来物理世界和虚拟世界双向打通，所有的威胁双向渗透。数字安全则是一个将人工智能、数据安全与传统安全三者融合的新概念。
甲小姐：你会给学者或学生什么建议？
杜跃进：眼下有大好机会留给学术研究。因为“人工智能、大数据、安全”的交叉地带有太多新问题可以做。比如在数字城市、智能制造、工业互联网这些领域都可以开放脑洞，大展拳脚。
甲小姐：最后，你会对360说什么？
杜跃进：我觉得我们承担责任的时候到了。我对未来的数字安全很有信心，因为我们已经意识到了数字安全的重要性，现在唯独需要带领更多同行去迎接全新的安全生产。
甲小姐：相比于PC时代的辉煌，移动互联网时代的360似乎相对落后。现在看来感觉你们错过了一个时代，但是下一个时代有一个更大的舞台。
杜跃进：我们无所谓是否在移动互联网时代落后。我们的主线一直是安全，这条主线让我们积累了许多珍贵的数据，数字安全离不开大数据和人工智能，现在都是可以挖掘价值的数据资产。
4.谈未来：“安全会进入革命期，挑战和机遇并存”
甲小姐：能否给出几条围绕“大数据、人工智能和安全”未来发展的趋势判断？
杜跃进：安全会进入革命期，挑战和机遇并存。
大数据会进入拐点期——如果数据安全搞不好，大数据的发展会严重受阻；搞好的话，大数据将爆发更大的潜力。
人工智能安全受到大数据影响，可能也会进入拐点期。现在各国都有大量关于人工智能伦理的研究，他们的研究成果可能在未来1-2年内开始产生影响，那个时候才会看到安全究竟如何影响人工智能。
甲小姐：我觉得今天和一个世纪前相比，科技的不同之处在于——100年前技术在解决效率问题，它让人类“更高、更快、更强”；但今天的技术可以改变我们的软性环境，影响我们每天听什么，学习什么，甚至可以改变人的硬件，比如基因编辑、器官移植、脑机接口或者纳米植入等等。总的来看，人类已经可以用技术定义人类未来的走向，而这个定义权原本在“进化”手中。原来的进化是自然选择，现在变成了人的选择。
所以未来的科技从业者肩上扛的不仅是一个技术或商业议题，而是我们子孙后代将会生活在一个什么样的文明当中。你会有这样的危机感吗？
杜跃进：绝对有啊。
现在很多人对人工智能的恐惧不无道理。人类社会是一个很复杂的系统，我曾提出过人工智能的“七宗罪”，其中，“第七宗罪”就是人工智能技术在人类社会过于简单化的应用，比如我们随便想象出来的技术就能启动。
技术的变化可能会在社会中产生蝴蝶效应，同时，所有技术都可能被坏人恶意利用，那将会产生灾难性后果。
甲小姐：我的感受是，一些科技工作者有时候对自己手中的武器没有客观认知，最怕会有自以为是造物主的工程师，因为“0”和“1”的代码是无法复刻现实世界的。我曾经采访过《哥德尔、艾舍尔、巴赫：集异璧之大成》的作者，他关于“复杂系统”的理念彻底改变了我原先数理的思维模式。数理模式的人认为“1+1=2”，但复杂系统中“1+1”远不等于2，这才有了蝴蝶扇动翅膀就可能掀起一场风暴。
杜跃进：技术世界本身就是一个复杂系统。人类在用各种各样的科技创造一个新世界，但我们创造的是一个复杂系统。从安全的角度来说，这个新的复杂系统有可能存在一个被人点击鼠标就能击垮的地方。
甲小姐：什么是AI的“七宗罪”？
杜跃进：很多人可能只关注到AI算法本身，其实AI是一种链条。我把AI的安全分成七个领域，分别是硬件、软件、双方通话的协议、数据、算法、AI的应用领域以及AI在社会治理中的使用。
首先从硬件来看，当一个普通硬件变成智能硬件，就需要考虑更多的安全问题。比如一个普通的麦克风收到人的声音会自动公放，可它接收不到超声波；但当一个麦克风变成智能语音接收器，在接收指令后就会通过算法执行，这个指令可能是给汽车开门，给别人转账或者播放一首歌曲。但是，也可能有人用超声波冒充你的声音把你的钱转走——这是已经被证实的漏洞。
甲小姐：很多时候是百密一疏，开发者如何保证能够考虑周全？
杜跃进：对，安全就是这样，安全没有周全的那一天。安全是在总体上达到相对的风险可控，没有绝对的安全。
软件也比较好理解，现在全世界使用最多的开源框架有很多大家不知道的漏洞，这样的开源框架有上亿的下载量。这意味着我们写好的人工智能软件是有漏洞的，黑客可以直接控制，而人工智能又是不可解释的。
甲小姐：深度学习本质上是一个黑盒逻辑，暴力计算。比如一个抖音的程序员也无法让他的家人看到更想看的东西，因为抖音的推荐机制是一个巨量数据训练出来的、谁也说不清道不明的黑盒子，就像我们的大脑一样，没人知道我们不开心的时候是大脑哪根筋不开心。你会担心AI黑盒吗？
杜跃进：很多人很恐慌，我倒是觉得人工智能必然会是一个黑盒。但有一个前提是，不能允许黑盒里使用的数据是被人污染过的。
5.谈个人：“搞安全的人大多是逆向思维”
甲小姐：安全行业从业者和AI公司的程序员之间画风好像非常不同。
杜跃进：不一样，搞安全的人大多是逆向思维。正向是这样设计的，搞安全的程序员都先想象“我不这么做会怎样”，寻找各种各样的安全漏洞。
甲小姐：做AI的人都很绽放自我，他们似乎更愿意彰显自己的智慧，但你给我的感觉更加沉静。
杜跃进：搞安全的人有些也很绽放，不都是我这样的。
甲小姐：你现在如何分配自己的时间？
杜跃进：你的问题好像都挺难回答。我的助理可能比我更清楚我的时间分配。
甲小姐：你是响应式的吗？
杜跃进：也不是。我确定大方向后，会有各种各样的团队往前推，推进过程中遇到问题，就需要我响应，但不是所有人都跟着我走。
甲小姐：你觉得现在是忙还是闲？
杜跃进：非常忙。昨天我正在开会的时候有一个人给我打电话，我说你一小时之后再给我打，我就那一小时之后有十几分钟的时间，但一小时之后他没给我打，他再打给我的时候，我说你错过时间了，4:15再给我打。但他4点刚过就打给我了，我说我还没结束，我只有4:15-4:30有时间。真的非常忙。
甲小姐：突然感觉我今天很幸运，占用你这么久的时间。
杜跃进：今天是事前列入计划的，而且我愿意花时间在这种事情上。
甲小姐：你会做安全的布道者吗？
杜跃进：我愿意做安全的布道者。过去的20多年，我平均每年公开演讲近40场。背后支持我的理念是，影响别人是一件很重要的事，也是我们搞安全的人肩上的一种责任。
甲小姐：你最终的受众是谁？
杜跃进：多种人，包括普通老百姓、企业决策者和政策制定者等等。
甲小姐：感觉我们算同行，但我更多是不断去发问。
杜跃进：你更主动一些。影响别人这件事上我是被动的，可能有人找我的时候，我会愿意花时间在上面。
