百方网
当前位置: 首页 » 行业资讯 » 行业热点 » 正文

人工智能需要“懂规矩”

http://news.byf.com   2018-10-07  来源:百方网 
新闻纠错
      2018年9月11日,加拿大多伦多大学法学和战略管理教授Gillian Hadfield在TechCrunch网站发表文章,Safe artificial intelligence requires cultural intelligence(安全的人工智能需要文化智能)。文章说:

按照英国记者Miles Kington的说法,所谓知识,就是知道西红柿属于水果;所谓智慧,就是知道在制作水果色拉时千万不要把西红柿放进去。

任何人工智能(AI)显然都需要掌握许多知识,但我们若想在全社会普遍应用AI,则必须要求机器既聪明,又有智慧。

建造能完成任何一种认知任务的智能机器,就意味着AI不仅能学会关于西红柿的生物学知识,还了解有关拿西红柿做什么的多变的规范体系。

 

人类生活遵循着各种规范,从如何吃,如何穿,如何说话,到如何分享信息,如何相互对待,如何追求目标。

AI要想真正地强大,智能机器就得理解:不同群体的规范有非常大的差异,差异大到似乎不存在什么规范了,但是,在一个具体社区中不遵守规范是万万不行的。

对于英国人,水果色拉里放西红柿很荒唐,但对于韩国人或是烹饪先锋派却无不可。同样,上菜的方式似乎无关紧要,但对于特定的客人,上菜方式错了也许会引起这位客人的困惑、厌恶甚至愤怒。

规范不仅涉及食物怎么搭配,还涉及社区觉得非常重要的其他事项:谁能娶谁,该怎么对待孩子,谁该拥有权力,企业如何提供产品和服务,如何定价,什么时候(及如何)可以当众批评人,等等。

成功的、安全的AI不仅需要理解物质系统的行为,还需要理解人类规范体系的行为。规范并非环境的固定特征,而是动态的、响应性的结构,我们每天都在生产和再生产这种结构,比如,当我们决定是否告诉某人以及何时告诉某人“我们做事的方式就是这个样子的”时候。

我们依赖这些规范体系来应对挑战,以确保我们的社区、单位和社会环境中的人们的行为方式符合我们的要求。只有对身边人的行为方式心中有数,我们才愿意相互信任、相互投资、友好相处。

那么,确保AI的行为方式符合我们的期望,这一点也并非过分的要求。正如我们培养自己的孩子成为我们的规范体系中的胜任参与者一样,我们也需要将智能机器训练得同等胜任。只是充分把握自然界中的事实是不够的,胜任力强的AI还需要有足够的智慧,知道在这个群体(而不是那个群体)里就有这样的规矩。如果无视这个规矩,不仅会使这个群体不高兴,而且他们也许因此而恐惧以至抵制AI。

归根结底,生命3.0的成功取决于能否理解生命1.0。这就是AI研究面临的最大挑战。

博主:

关于生命3.0的概念,可参见汪婕舒的译著《生命3.0》(浙江教育出版社,2018年6月出版)。

2016年,Gillian Hadfield教授在牛津大学出版了专著,Rules for a Flat World: Why Humans Invented Law and How to Reinvent It for a Complex Global Economy(扁平世界的规则:人类为什么发明了法律,如何再造法律以应对复杂的全球经济)。可见,这位法学教授很重视规则、规矩、规范,所以他才提出,智能机器要想获得大规模应用,就得提高其“文化智商”,使其“懂规矩”。

百方网微信
免责声明:本网站所收集的部分公开资料来源于互联网,转载的目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议,文章内容仅供参考。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
40.5K电气行业新闻、技术文章投稿QQ:179005781 邮箱:zw@byf.com
本文相关关键词: 人工智能 文化智能 追求目标
行业热点
11月18-20日,EP上海国际电力展,与您相约上海新国际博览中心

11月18-20日,EP上海国际电力展,与您相约上海新国际博览中心

由中国电力企业联合会及国家电网主办、香港雅式展...[详细]

聚焦网红重庆:“第25届立嘉国际智能装备展览会”将于5月13-16日举行

聚焦网红重庆:“第25届立嘉国际智能装备展览会”将于5月13-16日举行

然而,重庆的魅力远不止于此。“渝车出海”“百团...[详细]

五月宁波照明展即将召开,抢先预登记尊享多重礼遇

五月宁波照明展即将召开,抢先预登记尊享多重礼遇

在线上,百度、抖音、微信朋友圈、新浪微博等平台...[详细]

关于我们 | 广告服务 | 会员服务 | 隐私申明 | 友情链接 | 联系我们 | 法律顾问 | 网站地图 | 管理制度 (c)2008-2021 BYF All Rights Reserved