人工智能如何做到可信、可用?专家热议:把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态,是人工智能技术能做到可知、可信、可控、可用。而在现实中,人工智能技术手段虽然非常强大,但是离完美、完善仍有相当的距离。从技术角度和技术应用角度,人工智能的发展如何做到扬长避短?
近日,在2022人工智能合作与治理国际论坛上,专家围绕该话题进行了讨论。
![](http://i2.chinanews.com.cn/simg/cmshd/2022/12/11/d2c9571aa2094304909f6035af1a4f5a.jpg)
中国工程院院士、鹏城实验室主任高文认为,现阶段很多技术还处于发展的过程中,如果过早地说这个不能用、那个不能用,可能会抑制技术本身的发展。但反过来,如果什么都不管,也不行。
“因此,现在更多还是从道德层面多进行引导。同时,做技术的人,也要尽量把一些可能的风险、抑制工具,即约束风险的工具,尽快想明白。自己也做,同时号召大家做,两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为,我们要保证能够创新,但同时不能让创新对我们的生活产生破坏性的影响,最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时,社会也要进行集体的监督,发布某个产品或技术,要能够召回、撤销。在创新和监管之间,当然是需要平衡的,但归根结底,还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道,在技术可解释性方面,需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型,或者更加可解释的AI应用。
“但我们真正想落地的时候,会发现每个人想要的可解释性完全不一样。比如:模型层面的可解释,可能从研发人员角度觉得已经很好了,但是从用户的角度是看不懂的,这需要一些案例级的解释,甚至通过替代模型等方式进行解释。因此,在不同领域,需要不同的可解释能力,以及不同的可解释级别,这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中,现在是不是时候?
高文认为,人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对,可能带来危害,要么召回,要么撤销。
高文说,应用的开发者,系统提交或者最终用户让他去调整的时候,他应该有责任。如果开发者发现已经踩线了,应该给他一个保护机制,他可以拒绝后面的支持和维护,甚至可以起诉。“不能只说哪一方不行,光说是开发者的责任,他可能觉得冤枉,因为他只提供工具,但有时候是有责任的,只是说责任怎么界定。”
“在人工智能的发展过程中,一方面要建立一些红线。”田天建议,比如,对于人工智能的直接滥用,造假、个人隐私泄露,甚至关联到国家安全、生命安全的,这些领域一定要建立相关红线,相应的惩罚规定一定要非常清晰,这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上,对于处于模糊地带的,希望能留有更多空间。不光是从限制角度,也可以从鼓励更加重视伦理的角度,促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
构建数据基础制度体系的有力举措****** 作者:江小涓(中国行政管理学会会长)、白京羽(国家发展和改革委员会创新驱动发展中心主任) 习近平总书记指出:“数据基础制度建设事关国家发展和安全大局,要维护国家数据安全,保护个人信息和商业秘密,促进数据高效流通使用、赋能实体经济,统筹推进数据产权、流通交易、收益分配、安全治理,加快构建数据基础制度体系。”近日印发的《中共中央国务院关于构建数据基础制度更好发挥数据要素作用的意见》(以下简称“数据二十条”),明确了数据要素市场制度建设的基本框架、前进方向和工作重点,对于构建数据基础制度、推进数据要素市场建设、更好发挥数据要素作用具有重要意义。 把数据作为继土地、劳动力、资本、技术之后新的重要生产要素,是数字经济发展的必然要求。首先,数据的爆炸式增长和大规模流通应用,推动大数据中心、移动基站等基础设施投资规模持续增长,激发电商、社交、娱乐等数字消费提质增效,促进产业互联网、智能产业等数字生产提速放量,加快数字贸易发展,为稳住宏观经济大盘、促进经济持续增长提供强劲动力。其次,数据要素的高效利用,能够汇聚海量信息并进行智能匹配,克服资源配置中的信息壁垒,形成供需互促、产销并进的良性互动,有利于用好国际国内两个市场、两种资源。再次,数据大规模流通应用,能够产生常规条件下难以获得的新信息、新能量,有利于促进颠覆性创新,催生出新技术新产品新业态新模式。最后,与传统生产要素不同,数据可以被多次复制共享,这决定了数据要素在市场化应用的同时也可以大量应用于公共服务的多个场景,提升公共服务的可及性、普惠性、均等化水平,促进经济发展成果普惠共享。 与传统生产要素相比,数据要素具有产权复杂性、交易多元化、技术依赖性强等特征。“数据二十条”既把握数据同其他生产要素的共性,又把握数据要素的特性,提出了有针对性的措施。 处理好数据产权和使用权的关系。数据参与生产、交换、消费、分配,所有权是绕不开的问题。这主要是因为数据尤其是有价值的大数据,其产生过程往往伴随着多个主体,导致确定数据产权的问题较为复杂。“数据二十条”并不回避数据要素的复杂产权问题,同时更强调使用权,提出“探索数据产权结构性分置制度”,要求“根据数据来源和数据生成特征,分别界定数据生产、流通、使用过程中各参与方享有的合法权利”,从而在总体框架上采用结构性分置,具体操作上采用分类分级确权授权使用,创造性提出建立数据资源持有权、数据加工使用权和数据产品经营权“三权分置”的数据产权制度框架,构建中国特色数据产权制度体系。这既符合社会认知基础、数据要素特点、事物发展规律,也为今后继续探索留下足够空间。 处理好场内交易和场外交易的关系。目前市场上的数据交易方式,既有数据交易所形式的场内交易,也有企业与企业之间直接发生数据交互的场外交易。场内交易一定程度上利于监管,但需付出额外成本;场外交易虽灵活多样,却易出现违规行为。对此,“数据二十条”提出“完善和规范数据流通规则,构建促进使用和流通、场内场外相结合的交易制度体系,规范引导场外交易,培育壮大场内交易”,并在完善数据全流程合规与监管规则体系、统筹构建规范高效的数据交易场所、培育数据要素流通和交易服务生态等方面提出指导意见,为探索建立合规高效、场内场外结合的数据要素流通和交易制度指明了前进方向,也有利于探索更优的数据交易方式。 处理好数据共享和数据安全的关系。公共数据体量巨大、价值含量高,无论是社会治理还是产业发展,都迫切需要使用公共数据。“数据二十条”对公共数据的开发利用作出规定,主基调是坚持开放共享,强调“推进实施公共数据确权授权机制”,鼓励公共数据在保护个人隐私和确保公共安全的前提下,按照“原始数据不出域、数据可用不可见”的要求,以模型、核验等产品和服务等形式向社会提供,对不承载个人信息和不影响公共安全的公共数据,推动按用途加大供给使用范围。也要看到,可以无条件开放的公共数据是有限的,大部分公共数据具有一定敏感性。在这方面,“数据二十条”要求“依法依规予以保密的公共数据不予开放,严格管控未依法依规公开的原始公共数据直接进入市场,保障公共数据供给使用的公共利益”。这些规定为在确保数据安全的前提下,最大限度促进公共数据的高效利用和要素价值释放提供了有力制度保障。 还要看到,数据的大规模流通应用对数据安全相关技术创新发展提出了更高要求。近年来,市场上已经出现了一些维护数据安全的技术,如隐私保护计算和区块链技术等,为解决数据安全与数据流通之间的矛盾提供了可能选项。“数据二十条”高度重视数据安全相关技术创新发展,鼓励探索数据流通安全保障技术、标准、方案;支持开展数据流通相关安全技术研发和服务,促进不同场景下数据要素安全可信流通;提出以“揭榜挂帅”方式支持有条件的部门、行业加快突破数据可信流通、安全治理等关键技术。这对于实现以数据安全技术保障数据合理使用、以数据使用促进数据安全技术持续发展具有重要推动作用。 每日彩票地图 |