中国信通院发布《可信人工智能产业生态发展报告（2022年）》

来源：中国信息通信研究院

随着人工智能的爆发式增长，对可信品质的关注度也提升到了前所未有的高度，各界均在不断探索将更多的可信理念从基础能力、算法技术、应用场景和产品设备等不同层面进行融合实践，人工智能可信赖程度逐步提升。

2022年9月1-3日，世界人工智能大会于上海举办。在9月1日举办的可信AI论坛上，中国信息通信研究院联合京东探索研究院等近30家政产学研单位共同发布《可信人工智能产业生态发展报告（2022年）》。

报告对人工智能产业融合可信要素的发展态势进行总体分析，研判发展趋势并提出措施建议，希望能为社会各界提供借鉴和参考，助力可信人工智能产业生态发展。

报告主要观点

政策发布上，全球持续探索人工智能立法，推动可信人工智能范式法制化。自2021年以来，从欧盟发布人工智能领域的第一份综合性法案《人工智能法案》，到美国推出《2022算法问责法案》，再到中国深圳、上海等各地方相继推动人工智能立法条例。各国针对人工智能算法的监测、人工智能应用的审查的相关监管法规不断增加，人工智能治理已进入建章立制阶段。

技术研究上，提升人工智能系统稳定性、隐私保护技术占据可信人工智能技术研究主流，可解释性、公平性等技术研究紧随其后。当前以对抗训练、梯度屏蔽为代表的人工智能系统稳定性技术稳步发展；以同态加密、多方安全计算、差分隐私等为代表的隐私安全技术发展迅速；可解释性增强技术研究当前仍处于初期阶段，科技巨头推出多个AI可解释性工具及服务；提升人工智能公平性主流方法为通过构建完整异构数据集及引入公平决策量化指标算法，以减轻决策偏差。

标准研制上，行业组织成为可信人工智能标准重要推进者，涵盖多个可信人工智能领域。国际标准化组织和国际电工委员ISO/IEC布局最早，涉及AI系统偏差、风险管理、AI系统质量模型、神经网络鲁棒性等；电气和电子工程师协会（IEEE）主要以隐私、可解释为突破点；中国人工智能产业发展联盟牵头制定了《可信AI操作指引》和《可信AI示范区管理办法》，开展可信AI测试工具征集和可信AI试评估等落地实践。

产业生态上，伦理、法律研究进一步深入，在硬件、技术、应用及支撑体系等层面蓬勃发展，形成兼顾稳定性、可解释性、隐私保护和公平性，涵盖基础硬件、技术平台、产品设备、应用场景等多元化产业生态。其中，基础能力方面为可信AI提供可信能力、数据安全、平台系统等服务。理论与技术方面主要围绕计算机视觉、自然语言处理、智能语音等垂直领域，在隐私保护、数据标注、精准识别、噪声处理等方面不断提升算法公平性、稳定性与可解释性水平，有效赋能各类产业应用。产品与设备方面目前已逐步渗透至机器人、汽车、医疗器械、智能终端、AR/VR设备等领域，以“安全专网”“地图引擎”“终端感知”等形式打造兼具稳定性、合规性、可解释性等特征的功能体系。应用场景方面目前已涌现出面向隐私安全保护、风险识别与控制、数据传输与共享等领域的诸多案例，并已在金融、医药、教育、制造等环节深入开展商业化应用，加速全产业链的可信生态形成。标准测试与咨询设计方面目前已形成较为完善的可信AI标准与评测体系，覆盖国际、国内、行业、团体标准四大类，并且在可信人工智能总体框架、可解释AI发展与实践等领域陆续发布了一系列研究成果。

报告目录

一、可信人工智能发展背景
（一）基本内涵
（二）发展意义

二、可信人工智能发展态势
（一）总体发展
（二）政策规划
（三）技术进展
（四）标准建设

三、可信人工智能生态分析
（一）基础能力
（二）算法技术
（三）应用场景
（四）产品设备

四、可信人工智能前景展望
（一）未来发展趋势
（二）产业发展建议

报告下载链接或直接点击下方附件下载：http://www.caict.ac.cn/kxyj/qwfb/ztbg/202209/t20220906_408553.htm

版权声明：本报告版权属于中国信息通信研究院，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院”。违反上述声明者，编者将追究其相关法律责任。

联系人：
张冉
中国信息通信研究院华东分院
18516231077
zhangran1@caict.ac.cn