1日在上海举办的2022世界人工智能大会(WAIC)可信人工智能(AI)论坛上，中国信息通信研究院联合京东探索研究院等近30家政产学研单位共同发布《可信人工智能产业生态发展报告》认为，可信人工智能产业生态正加快形成。业界建议，加强要素协同、前瞻布局研究、健全标准体系、强化可信流程管理、推动产业交流合作。

“当前，人工智能技术加快演进，深刻改变人们的生产生活方式，随之而来的数据隐私、算法歧视、安全风险等人工智能治理问题也引起各方的共同关注。”上海市政府副秘书长尚玉英表示，发展可信人工智能，推动人工智能透明可释、安全可控、多元包容已经成为全球共识，融合可信要素的人工智能产业生态成为新时代人工智能发展的必由之路。

(相关资料图)

中国信通院总工程师魏然亦分析，随着人工智能的应用的广度和深度的不断拓展，类似大数据杀熟、技术黑箱、算法偏见等风险也在逐渐凸显。面对人工智能发展中遇到的这些信任焦虑，如何构建可信的人工智能体系，将成为全球关注的热点。

在此背景下，中国信息通信研究院等提出：“‘可信’反映了人工智能系统、产品和服务在安全性、可靠性、可解释、可问责等一系列内在属性的可信赖程度。”

报告介绍，全球可信人工智能发展态势向好。人工智能监管向立法执法拓展，欧盟发布《人工智能法案》，美国推出《2022算法问责法案》，中国人工智能地方立法相继落地；稳定性、隐私保护成为热点，可解释性、公平性等研究正逐步开展；标准层面，行业组织、企业和研究机构共同推进，全力打造可信AI标准体系。

同时，可信人工智能产业生态加快形成。可信人工智能伦理、法律研究进一步深入，在硬件、技术、应用及支撑体系等层面蓬勃发展，形成兼顾稳定性、可解释性、隐私保护和公平性，涵盖基础硬件、技术平台、产品设备、应用场景等多元化产业生态。

其中，产品与设备方面，目前已逐步渗透至机器人、汽车、医疗器械、智能终端、AR/VR设备等领域，以“安全专网”“地图引擎”“终端感知”等形式打造兼具稳定性、合规性、可解释性等特征的功能体系。应用场景方面，目前已涌现出面向隐私安全保护、风险识别与控制、数据传输与共享等领域的诸多案例，并已在金融、医药、教育、制造等环节深入开展商业化应用，加速全产业链的可信生态形成。

报告展望，可信人工智能将向着形成产业共识、突出理念落地、优化技术布局、注重动态平衡、强化多元主体发展。

报告建议，从加强要素协同、前瞻布局研究、健全标准体系、强化可信流程管理、推动产业交流合作等方面推动深入落地。协调制度、技术、人员整体推进；前瞻布局技术研究，将可信理念融入全流程管理；健全标准评估体系，系统性推进更多领域可信落地；强化产业交流合作，共同打造可信产业生态朋友圈。

当日，中国信通院华东分院联合京东探索研究院成立可信人工智能联合实验室，加快打造AI算法可信评估能力，构建可信AI应用生态。这一实验室将构建人工智能算法与平台安全测试评估的方法、技术、规范和工具集，围绕AI应用管理、AI算法模型、平台系统与硬件产品等建立体系化可信评估规范，携手开展算法模型检测与标准研究，引导企业参与可信人工智能的研究与发展。

魏然表示，中国信通院紧跟实践发展形势和国家战略部署，启动“可信AI”评测体系建设，在产品服务能力、应用成熟度和可信风险控制等方向全面布局，积极推进相关研究和实践，在加强人工智能潜在风险研判、防范等领域持续发挥作用。

（文章来源：新华财经）