“技术的善恶取决于人的认知，如果你的认知在不断提升，你作恶的可能性就会减小。”
作者 | 甲小姐
今日对话的关键词，是一个时下越来越多被讨论的问题：“科技向善”（tech for good）。
过去一年，技术和善恶的关系与日俱深。
一方面，疫情期间，科技企业不遗余力驰援疫区，互联网巨头也纷纷以另一种面貌示人——美团的“春风行动”，京东的“星星之火”，微信的“烟火计划”，拼多多的“摆摊神器”，这场轰轰烈烈的“道义比赛”正取代战略比拼成为巨头竞赛的全新着力点；
另一方面，随着AI算法等新一代技术应用趋于成熟，并开始对用户、从业者、中小企业的生存发展产生直接影响，数据隐私安全、平台经济垄断、AI算法歧视、信息茧房等伦理挑战也更频繁地触及大众关注面。
自古以来，人类用技术改造世界，也反被技术改造。那么，技术究竟是中立的还是善恶有别的？人与技术谁是善恶结果的“主人”？什么是技术爆发时代的创新边界和纠偏机制？以深度学习为代表的“黑盒”技术会走向失控吗？如果不会，假如“科技向善”终可实现，其实现路径是什么？
本文为“甲小姐对话徐井宏”第6篇，也是本系列最后一篇。
1.“向善”的主语是谁？
甲小姐：你身边有很多关心技术的人，你对技术的理解和他们有什么不同？
徐井宏：技术当然很重要，可以说是人类社会进化的主要手段，但我觉得也不用把技术的作用过分夸大，更无需神秘化或绝对化。技术只是在解决一件事：让人性的需求得到更大限度的满足。
甲小姐：你的意思是，技术永远是人性的配角？
徐井宏：可能存在不和人性相关的技术，但只有满足人性的，才得以在市场中广泛应用。一切技术都应首先为人类更加幸福而努力——至少人要这么想，老虎可以不这么想。
甲小姐：人性千百年来几乎没变，可技术层出不穷。技术迭代的速度早已快于人性演进的速度。
徐井宏：我不这么认为。比如互联网，当年我直接问雷军，到底什么叫“互联网思维”？他说就那七个字——专注、极致、口碑、快，我说难道原来不这样吗？
甲小姐：你怎么理解“科技向善”？
徐井宏：所谓“科技向善”，就是一切技术都应该服务于使得整个人类更加幸福的目标，同时还要与自然界和谐友好。
甲小姐：无论是Google的“Don't be evil”还是腾讯的“科技向善”，当一个企业把发展愿景和技术善恶直接挂钩，是更容易被挑战的——因为很多人认为“技术是中性的”，不承载伦理和道义问题，技术的使命是“更快更高更强”，而不是“更善良”，也做不到“更善良”。
徐井宏：技术当然有好坏。比如生物武器的研究，我觉得是反人类的，应该禁止。再比如一些所谓的金融科技产品，坏在一种恶意引导，引导你在没有消费能力的时候去消费，所以我不喜欢，也从来不用，它打着方便人的旗号，本心就是割韭菜赚钱，这就叫恶。
甲小姐：如何区分什么是“旗号”，什么是“本心”？
徐井宏：你的本心是什么自己不知道吗？我前阵子在昆仑学堂讲课，一个孩子问我，老师，你老讲企业必须诚信，必须为善，但很多企业没诚信、没有善，但也赚了钱，是不是我也可以这么干？我说，我就问你一件事，当你用这种你自己都认为不好的手段做事，你会踏实吗？如果你睡不好觉，会不舒服，即使法律不惩罚你，你不是天天在惩罚自己吗？
我始终相信，所有非价值创造的所得，一定在另一个时间点以一个更大的代价为结果来报应你。比如有的人割了韭菜，挣了钱，但今天不敢回国，这个失去不是比所得要大的多吗？
甲小姐：绝对的善和绝对的恶是较容易区分的，但比“有意作恶”更可怕的是“无意作恶”，甚至是“无主之恶”。
比如去年的爆款文章《外卖骑手，困在系统里》写到，平台系统限定的送餐时间越来越短，外卖骑手为此付出了巨大代价——层出不穷的交通意外和伤亡事故。是王兴故意想让外卖小哥倒在路上吗？并不，可当算法工程师们的目标是更快、更便捷地服务于用户时，恶的后果就发生了；
还有一些海外案例，当年Google Photos使用的图像分类器将一名黑人女性称为“大猩猩”（Gorillas）；亚马逊创建的AI招聘工具招聘的女性人数明显少于男性。这些是“无意之恶”——并非工程师有意为之，但算法的偏见和伤害还是发生了；
再比如，几年前的儿童邪典视频“艾莎门”中，流量经济和智能推荐算法成了侵害儿童的帮凶，尽管促进恶发生和传播的机制最初被设计时是中性甚至是出于好意的。这是“无主之恶”——可怕的不是敌人太强大，而是找不到一个明确的敌人。
徐井宏：这取决于人类哪天对科技本身失去控制，也取决于整个人类智慧的进一步提升。历史就是这样在善与恶的博弈中波浪式前进的，但我相信最终会是善战胜恶。
甲小姐：如果当下技术爆炸会放大“无意之恶”和“无主之恶”，是否大谈“科技向善”就变成一种盲目的乐观？
徐井宏：我相信今天有大批科学家在研究这件事，这件事取决于人的认知——如果你的认知在不断提升，你作恶的可能性就会减小。
我个人坚信的是，对于人类来讲，世界会越来越美好——这个意义是我赋予它的，是我选择相信的。
人类最初使用工具就是一种科技创新，后来无论蒸汽机、电、还是今天的算法，科技是顺着人性走的，人性有善的一面，也有恶的一面，但我总体相信善的力量会战胜恶的力量，且我愿意为此和很多人一起努力，推动科技向善。
甲小姐：你的意思是，科技顺应人性，推动“科技向善”就是推动“人性向善”？
徐井宏：从我的角度来看，人性分为三部分。
第一部分叫天性，和其他动物没有太大区别，我不认为人之初性本善或性本恶。人之初，就是在混沌中出生的一个婴儿，无论从生物学还是心理学角度看，都只具有天性。
第二部分叫德性。人的善与恶、心灵的美与丑，更多和后天相关，是人在教育、磨炼、修养中逐渐形成的。这需要每个人不断通过后天修行来修炼德性，以成为真正有别于其他生物的物种。
第三部分叫神性。其实我还没太想明白这个词是什么意思，可冥冥之中还有一些没有发现的因素在影响着人，比如我一直坚信善有善报、恶有恶报，因为在这个世界上的我们，不是一个个单一的人，每个个体都和万事万物发生着关系，在这样一个关系网中，我始终相信“头顶三尺有神明，不畏人知畏己知”，人还是要有敬畏之心。
所以我推崇这个世界需要美德，我极力推崇人应该为善社会——你去看历史，为善和为恶的人分别是什么样的结果。这个世界不可能绝对公平，但我真的觉得冥冥之中有一种力量，这种力量我们没有发现，也许今天的科技发现不了，但我相信这种力量。
我虽然不信奉任何宗教，但我认为人还是要有信仰的。中华文化倡导“慎独”，所谓神性可能和老子讲的“道”有关，“人法地，地法天， 天法道， 道法自然”，当我们不去遵循大道，无论整个人类还是个人都不会有好的结果。
我相信这个世界上有着我们人类还没有发现的物质或其他因素存在——在《西游记》里，“顺风耳”、“千里眼”就是神，但今天科技已经帮助人类实现了“顺风耳”、“千里眼”。从这一点看，技术和宗教在人类历史上发挥着相似的作用。
甲小姐：换句话说，宗教和技术的使命都是帮助“个体的人”更靠近集体的“大道”？
徐井宏：绝大多数流传下来的宗教都在鼓励和引导人去修炼、形成后天的德性，科技也应如此。所谓科技向善，根本上取决于人性向善。
2.技术带来的不平等如何解决？
甲小姐：我们先假设科技向善就是人性向善，随之而来的一个难处是人性本身的众口难调——对一部分人好的技术，对另一部分人可能不好，那怎么定义善恶？
徐井宏：咱们先定义恶。把自己的快乐建筑在他人的痛苦之上，把自己的所得建立在他人失去之上，此为恶也。比如偷东西就是恶。
甲小姐：但技术本身不一定可以做到“帕累托改进”。比如互联网，成为一部分人的工具，却让另一部分人成为工具，为一部分人节省时间，也诱导另一部分人消磨时间，如果技术反过来拉大了人和人的差距，怎么办？
注：“帕累托改进”，一般指帕累托优化，以意大利经济学家帕累托（Vilfredo Pareto）命名，指在没有使任何人境况变坏的前提下，使得至少一个人变得更好。
徐井宏：公平问题不是技术的问题，不是企业的问题，是治理的问题。
治理能力完全靠企业是不行的，“唯利是图”是企业的天性。当然大家可以用道德标准去评价企业，但道德是非强制的，是解决不了根本问题的；我们即使今天把互联网巨头骂死也没意义，真正制约住他们才有意义，这个问题的解决，应该靠社会治理。
为什么一个社会要有法律，要有秩序？就是因为人的天性既有善的一面，也有恶的一面。怎么通过社会治理，让恶的一面发挥不出来，让善的一面发挥得更好，这是社会治理的巨大课题。
我们现在最大的问题，是对于违背规则的处理极其轻。比如证券违规，如果罚到倾家荡产，对方就不干了，下一家也不敢做了；如果某个人由于违背规则挣了1000万，你只罚了50万，你罚完他还干。所以我认为，面对违背规则的企业，国家要敢于去管。
现在的治理问题是，第一，对“恶”的惩罚不够；第二，对“非恶”的保护也不够。到底是良币驱逐了劣币，还是劣币驱逐了良币？这是摆在国家面前的一个重要课题。
甲小姐：今年反垄断大力推行，出现了面向阿里等企业的巨额罚款，是否是我们治理能力的明显进步？
徐井宏：今年年初，我对整个国家的政策有了一些新的认识。国家政策是为什么服务的呢？是为使得整个社会的“大多数”更满意一些来服务。
甲小姐：群众路线。
徐井宏：国家永远要在效率和公平间寻找平衡。过去改革开放，强调了效率，也使得两极分化增大，整体民众虽然都受益了，但受益的程度差距太大了。去年总理说中国个人月可支配收入1000元以下有6亿人，后来北师大发布了一个数字，说月可支配收入在2000块钱以下的还有3亿——也就是说，中国个人月可支配收入2000元以下的有9亿人。这是一个巨大的问题。你想，国内大循环怎么循环？需要将百姓的消费能力激发出来，可如果今天老百姓越来越舍不得花钱，越来越有危机感，现在怎么刺激他们花钱？没钱花啊。
甲小姐：去年开始好多人主动“消费降级”，现在拼多多的日活用户数已经超过了淘宝。
徐井宏：我也用拼多多。我前两天用拼多多买了一套《鲁迅全集》，花了108块。
甲小姐：我在京东上买了一套，花了四百多。果然还是应该用拼多多。
徐井宏：如果那6亿人的人均可支配收入可以从1000提升到2000块，那6亿人一年就是12000亿。但这个问题是不是企业能担得住？企业已经负担过重了。国家得想招去解决。抓公平，一定会影响效率，这对矛盾太难解决了，那么今天这个阶段，是否在中国，公平的矛盾已高于效率的矛盾？我现在还没想清楚。
甲小姐：官方说法是，“当今我国社会的主要矛盾已经转化为人民日益增长的美好生活需要和不平衡不充分的发展之间的矛盾”。
徐井宏：但这种“不平衡不充分”问题的解决，可能是以效率的牺牲为代价的，效率牺牲了，就会对增速产生影响，所以把它解决好很难很难，但如果解决好了，这个国家才会走向更加美好。
甲小姐：基于我们刚才的讨论，回归企业的责任本身，你认为，什么是好的企业家的标准？
徐井宏：我从未把自己定义为“企业家”，我觉得“企业家”是个非常神圣的称谓，应该是对整个世界的更加文明和人类的更加幸福做出了非常大的贡献才可以称“家”。
商人和企业家最大的区别，就是商人是做生意，而企业家应该充满着对社会的使命感、对社会进步和人类幸福的使命感，才可以叫“家”。不只是企业家，包括作家、包括科学家，只要你敢称“家”，你一定要对社会的更加美好和人类的更加幸福做出实质的贡献。
3.以智能算法为核心的新一代技术
是否会走向“失控”？
甲小姐：我们回到科技向善的讨论。在刚才的讨论里，技术一直是人性的配角，可如果某一天，技术打破人类的认知边界、控制边界和治理边界怎么办？
徐井宏：你为什么会这么问？
甲小姐：之前看过一种描述，说人有“三商”：智商、情商、机器商。在这个描述中，智商泛指个人能力；情商指人组织调度他人协作的能力；机器商是指人使用和掌控技术的能力。随着文明演进，人类对世界的改造，越来越依赖“机器商”，智商和情商是有边界的，但机器商可能是突破边界的。
徐井宏：机器商不过是科技在符合人性的条件下被利用。
甲小姐：机器商意味着人对技术的依赖性与日俱增——技术的角色正从工具属性开始“接管”更多：不仅仅是做事搬砖的能力，甚至包括资源分配权和决策权，这点在算法推荐机制下尤为明显。
徐井宏：我认为技术永远起的是辅助作用。当然我儿子的观点和我鲜明不同，他悲观的时候说人可能要被机器完全代替。
甲小姐：你为什么会认为技术永远是辅助作用？
徐井宏：今天的智能是什么？就是0和1。今天人类对于大脑的认知还不到15%。我到今天仍觉得机器永远不会有想象力和天然的情感，而人的伟大正在于人丰富且用之不竭的想象力和情感。
甲小姐：“想象力”和“情感”也许是可算的。
徐井宏：你可以把一切都归结为数学问题吗？
甲小姐：你可以把一切都归结为人性问题吗？
也许有一天你发现，“人性”并不特殊，不过是一堆粒子“计算”的产物，技术会逐渐蚕食那些原本只属于人性的宝贵部分。比如一个杀伐决断的、富有才华魄力和社会责任感的企业家的权利，也许某天可被比特级地还原成算法，到那时，“善恶”可能也只是计算。
深度学习本质上是个“只知其然，不知其所以然”的算法黑盒。比如抖音，基于深度神经网络模型的推荐算法极其复杂，它根据大量特征刻画用户行为，每个特征维度有非常多可能的取值，总特征数在百亿到千亿规模，这些特征的不同组合方式更是天文数字。
而机器学习模型一旦跑起来，没有人能“理解”——假如一个推荐出了问题，即便你是抖音的算法工程师，你可能也不会知道这个黑盒内部的精密结构和零部件哪里出了问题。有报道说抖音“内部很多人实际上在和算法做对抗。有些部门看起来挺有权限的，但是在算法面前，算法最大”。
把这个例子推演至极致，不是人类驯化了技术，可能是技术反过来驯化了人类。也许以智能算法为核心的新一代技术在人类文明发展史上具有这种特殊性，因为算法是黑盒的，而且是在进化的。当技术的“黑盒”进入社会运转的角角落落，超出人性的理解和能力范围，其结果的善恶，究竟由谁负责？一旦失控了怎么办？
徐井宏：这确实是一个需要思考的重大课题，也是对人类文明的巨大考验，其实根本还是在于人性善与恶的博弈。当年希特勒的一番鼓噪，激起多少人的疯狂，引起的是惨烈的战争和千万人的伤亡，核武器也是在那样的背景下产生的。但至少70多年过去了，核战争还没有发生，善的力量在起着作用。机器是人发明的，无论算法多么先进，我相信人类还是会有智慧控制它的，只要在这一过程中，善与恶的力量对比不发生本质变化，如果未来某一天人类灭亡了，根本上不是机器消灭了人类，而是人类自己消灭了自己。
甲小姐：假如技术不会失控，“科技向善”的实现路径是什么？
徐井宏：人类自己总体走向更加文明。越来越多的人和组织在研究和推进第四次工业革命的包容性，让科技的发展更加普惠，更加与宇宙自然及人类本身和谐共生。我认为比科技进步更重要的是同步推动人文进步，这既取决于教育和文化的改进与提升，也取决于全球社会治理的进展。
这确实很难，现实情况也确实堪忧。不过我真的相信，你也可以说我选择性相信，人类社会在相当长的时间里，总方向是朝着更加美好的方向。我更相信的是，后浪一定比前浪更智慧，就像你虽然是90后，可对某些问题的认知比我这个60后还深刻，希望在于你们。我很喜欢罗曼·罗兰的一句话：“世界上只有一种英雄主义，那就是认清生活真相之后依然热爱生活。”
