9月1日，2022世界人工智能大会分论坛活动之一“可信AI论坛”在徐汇西岸分会场举行。全球20余位人工智能专家和行业代表围绕“可信AI，共建共治”这一主题展开探讨，展望共建安全、可靠、可控、公平的未来智能世界。

　　人工智能技术不断加快演进，正深刻改变人们的生产生活方式，随之而来的数据隐私、算法歧视、安全风险等人工智能治理问题，也引发了社会各方的关注。为此，中国信通院华东分院、中国信通院云计算与大数据研究所、京东探索研究院等共同牵头编写了《可信人工智能产业生态发展报告(2022)》于论坛发布，对人工智能产业融合的“可信要素”进行分析研判，并提出建议。

　　根据报告，2021年以来，随着人工智能领域第一份综合性法案《欧盟人工智能法案》(EU Artificial Intelligence Act)发布，美国推出了《2022算法问责法案》，国内的深圳、上海等城市也相继推动了人工智能立法，世界各地对人工智能算法监测、应用审查的关注日益加强，人工智能治理已进入“建章立制”阶段。人们对人工智能“可信品质”的关注也到了前所未有的高度。

　　记者在报告中发现，目前可信AI技术研究的主流领域涵盖提升人工智能系统稳定性、提升隐私保护技术等。具体来看，当前以对抗训练、梯度屏蔽为代表的人工智能系统稳定性技术正稳步发展；以同态加密、多方安全计算、差分隐私等为代表的隐私安全技术也发展迅速；可解释性增强技术研究当前仍处于初期阶段，部分科技巨头已推出多个AI可解释性工具及服务。

　　在可信AI的标准制定方面，国际标准化组织和国际电工委员会ISO/IEC布局最早，涉及AI系统偏差、风险管理、AI系统质量模型、神经网络鲁棒性等；电气和电子工程师协会(IEEE)主要以隐私、可解释为突破点制定行业标准；中国人工智能产业发展联盟牵头制定了《可信AI操作指引》和《可信AI示范区管理办法》，开展了可信AI测试工具征集和可信AI试评估等落地实践。

　　在产业生态上，可信AI的相关产品与设备目前已涉及机器人、汽车、医疗器械、智能终端、AR/VR设备等领域；应用场景方面已涌现出面向隐私安全保护、风险识别与控制、数据传输与共享等领域的诸多案例，在金融、医药、教育、制造等环节深入开展了商业化应用，加速AI全产业链的可信生态形成。

　　论坛现场，中国信通院华东分院和京东探索研究院共同创建的“可信AI联合实验室”正式揭牌。实验室将构建人工智能算法与平台安全测试评估的方法、技术、规范和工具集，围绕AI应用管理、AI算法模型、平台系统与硬件产品等建立体系化的评估规范，开展算法模型检测与标准研究，构建可信AI应用生态。

（文章来源：上观新闻）