可信 AI 究竟该如何发展

人工智能 深度学习
当前全世界各国都高度重视可信人工智能的发展,发展可信人工智能是我们真正最终能够释放出人工智能的前景,能够造福于全球我们人民的发展,这是一个关键的基础。

[[410884]]

当前,人工智能应用的广度和深度不断拓展,正在成为信息基础设施的重要组成。但在此过程中,人工智能也不断暴露出一些风险隐患,诸如算法安全、数据歧视、数据滥用等,如何确保人工智能的安全、可信和公平成为业内关注的重点问题。

“当前全世界各国都高度重视可信人工智能的发展,发展可信人工智能是我们真正最终能够释放出人工智能的前景,能够造福于全球我们人民的发展,这是一个关键的基础。”中国信通院院长余晓晖在“2021 世界人工智能大会”期间的“可信 AI 论坛”上提到。

在论坛期间,众多院士、可信 AI 领域专家学者,政府及行业协会、AI 企业代表等就这一关乎人工智能长远发展的重要议题展开探讨。

可信 AI 技术是帮助 AI 实现可信的基础

“可信人工智能技术是帮助人工智能实现可信的基础。”京东探索研究院院长、澳大利亚科学院院士陶大程博士发表了自己对于可信 AI 的看法。


“从技术角度来说,可信人工智能的研究可以归结为稳定性、可解释性、隐私保护及公平性四个方面,从以上四点出发研究可信人工智能,首要任务是找到合适的方法来定量分析、量化人工智能算法、模型和系统在稳定性、可解释性、隐私保护及公平性方面的能力。”陶大程讲到。

目前,稳定性可以通过各类攻击算法的攻击成功率或攻击性能来衡量;可解释性中的泛化能力,可以通过泛化误差上界来描述;隐私保护能力常通过差分隐私法来刻画,也能通过各类隐私攻击算法的攻击成功率或攻击性能来评估;公平性则使用一系列公平决策指标来进行衡量,这些指标主要分为个体公平性及群体公平性两大类。

同时他强调,这四个方面内部存在着深层次联系,彼此之间并不孤立。因此,在开展可信人工智能研究时,不能仅从单一维度出发,而需要从整体综合考虑不同因素之间的影响。这样,才能更好地进行相关研究,从而推动可信人工智能的进一步发展。

陶大程进一步表示,不管欧盟的 GDPR 也好,还是中国的隐私保护条例也好,都说明用户对数据使用要更谨慎,说明了用户对个人信息的保护,是有相当的权利的。“只有将上述四个能力综合后,做到明确的责任,才能找到合适的方式度量可信人工智能。”

未来可信 AI 一体化研究将是重要趋势

中国信通院云计算和大数据研究所所长何宝宏表示:“我们已经针对可信赖的人工智能形成了一些共识,但是整体来看还处于一个初期的探索阶段,很多还是碎片化的,理论还不够,还需要学术界、产业界、政府主管部门等共同努力。”

在可信 AI 论坛上,中国信通院联合京东探索研究院发布了《可信人工智能白皮书》,白皮书认为,可信人工智能已经不再仅仅局限于对人工智能技术、产品和服务本身状态的界定,而是逐步扩展至一套体系化的方法论,涉及到如何构造“可信”人工智能的方方面面。

在陶大程看来,未来可信 AI 一体化研究将是重要趋势,而可信能力评测也将成为人工智能产业落地过程中的重要一环。从理论与实践层面持续开展可信 AI 研究,将推动人工智能产业新浪潮,帮助人工智能实现可信,将充分释放人工智能的潜力,并更好地造福人类社会。

促进可信人工智能发展的四点倡议

值得一提的是,在论坛上,中国信通院、中国科学院自动化研究所中英人工智能伦理与治理研究中心、京东探索研究院、蚂蚁集团等联合发布了《促进可信人工智能发展倡议》(以下简称“倡议”)。

“倡议”基于当前人工智能技术的高速发展现状,对人工智能伴随的风险和挑战,以及可信人工智能合规化发展的深度思考,旨在倡导政产学研各界加快形成国际协同治理共识,促进社会对可信 AI 的理解和重视,充分挖掘人工智能的产业和社会价值。


倡议号召人工智能行业同仁积极响应以下四点倡议:

一是坚持技术向善,确保可信 AI 造福人类。加快可信人工智能技术研究,前瞻布局可信通用人工智能,打造可控可靠、透明可释、隐私安全、责任明确、多元包容的人工智能系统;聚焦技术设计、研发测试、运营使用全流程,坚持以人为本、技术向善,构建技术、社会、文化、价值融合共生的良性发展环境。

二是坚持权责共担,推广可信 AI 价值理念。广泛宣传可信人工智能价值,推动人工智能监管者、研发者、制造者和受用者参与不断完善和践行可信理念;明确个人、企业、行业各主体责任、权益,在可信人工智能的总体框架和基本原则指导下,构建相互协调、共建共享的敏捷可信机制。

三是坚持健康有序,推动可信 AI 行业实践。持续推动可信人工智能安全/伦理研究,构建可信人工智能标准体系,完善人工智能可信体系建设;培育人工智能可信评估和管控能力,探索人工智能产品应用保险机制,推动建立相互影响、相互支持、相互依赖的健康有序发展生态。

四是坚持多元包容,凝聚可信 AI 国际共识。支持多元主体共铸合力、协调互动,共同构建企业自治、行业自律、社会监督、政府监管的人工智能治理体系;推动全球化沟通交流、开展协同化合作研究,在深度对话、寻求共识的基础上,构建可信人工智能全球治理合作框架,和衷共济应对人类共同挑战。

 

责任编辑:姜华 来源: 飞象网
相关推荐

2021-07-13 09:42:32

可信AI人工智能AI

2023-12-08 13:11:58

2014-07-08 13:12:14

开源微软开放

2014-11-06 10:00:34

App开发开发者

2011-08-19 12:11:56

2022-09-08 09:23:36

人工智能AI

2015-09-15 09:50:02

CIO ITaaSIT即服务

2019-05-28 08:43:27

DBA

2012-07-16 00:51:36

程序员效率

2020-01-05 23:28:51

MQ消息进程

2019-05-20 13:00:00

人脸识别人工智能AI

2014-09-18 08:48:26

太一星晨负载均衡

2014-09-01 15:27:48

FTTH

2012-02-24 09:31:52

2019-10-29 19:56:42

人工智能技术软件

2017-10-16 15:41:13

SDN路由器NFV

2017-12-29 10:51:35

AI芯片初创

2020-04-23 13:33:31

新冠人工智能AI

2020-03-09 15:18:34

人工智能AI芯片前景
点赞
收藏

51CTO技术栈公众号