研究人员要求AI自我解释
- AIUST.COM
- 2020-08-20 22:49
我们许多人在童年时期遇到的一个问题是:“你为什么这样做?” 随着人工智能(AI)开始做出影响我们生活的重大决定,我们也希望这些机器能够回答这个简单而深刻的问题。毕竟,我们为什么还要信任AI的决定?
对令人满意的解释的渴望促使美国国家标准技术研究院(NIST)的科学家提出了一系列原则,通过这些原则,我们可以判断AI的决定的可解释性。他们的出版物草案《可解释人工智能的四项原则》(草案NISTIR 8312)旨在激发人们对我们对决策设备的期望值的讨论。
该报告是NIST广泛努力的一部分,旨在帮助开发可信赖的AI系统。NIST的基础研究旨在通过了解这些系统的理论能力和局限性,以及提高它们的准确性,可靠性,安全性,鲁棒性和可解释性来建立对这些系统的信任,这是本最新出版物的重点。
作者要求公众提供有关该草案的反馈,并且由于该主题涉及的范围很广,涉及工程,计算机科学,心理学和法学等领域,因此,他们希望进行广泛的讨论。
NIST电子工程师乔纳森·菲利普斯(Jonathon Phillips)说:“人工智能正在介入高风险的决策,没有人希望机器在不理解其原因的情况下做出决策。” “但是,使工程师满意的解释可能不适用于具有不同背景的人。因此,我们希望以多种观点和意见来完善草案。”
理解AI系统输出背后的原因可以使输出所涉及的每个人受益。例如,如果AI有助于贷款批准决策,则这种理解可能会帮助软件设计人员改善系统。但是,申请人可能还希望深入了解AI的理由,以了解为什么拒绝她,或者如果她被批准,则可以帮助她继续以保持良好信用等级的方式行事。
作者认为,可解释AI的四项原则是:
人工智能系统应为所有输出提供随附的证据或理由。
系统应提供对单个用户有意义或可以理解的解释。
该说明正确反映了系统生成输出的过程。
系统仅在设计时或在其输出达到足够的置信度的条件下运行。(其想法是,如果系统对其决策没有足够的信心,则不应向用户提供决策。)
虽然这些原则从表面上看很简单,但Phillips表示,个人用户通常使用不同的标准来判断AI在满足它们方面是否成功。例如,第二条原则(解释的意义)对不同的人意味着不同的事情,这取决于他们的角色和与AI所做工作的联系。
菲利普斯在谈到《星际迷航》中的角色时说:“想想柯克和史波克,以及每个人如何交谈。” “使用AI来帮助诊断疾病的医生可能只需要Spock解释为什么机器会推荐特定的治疗方法,而患者可能没事,但技术细节较少,但想要Kirk掌握其与生活的关系的背景。”
菲利普斯和他的合着者调整其解释的AI的概念,相关前期工作的人工智能,但他们也比较我们的机器explainability我们地方的需求,以我们的同胞,我们的那些地方。我们是否符合我们要求的AI标准?在根据报告的四项原则探讨了人的决定后,作者得出结论:“破坏者警觉”我们没有。
他们援引几个例子写道:“人为地解释我们自己的选择和结论是不可靠的。” “在没有意识的情况下,人们会将无关的信息纳入从个性特征判断到陪审团决定的各种决策中。”
但是,我们对这种明显的双重标准的认识最终可以帮助我们更好地了解自己的决定,并创造一个更安全,更透明的世界。
Phillips说:“随着可解释性AI的发展,我们可能会发现AI系统的某些部分比人类更能满足社会的期望和目标。”他的过去研究表明,人类与AI之间的合作比要么一个人工作。“了解AI系统和人类的可解释性为寻求结合各自优势的实施方法打开了大门。”
菲利普斯说,目前,作者希望他们收到的评论能促进对话。
他说:“我认为我们还不知道什么是可解释性的正确基准。” “最终,我们不会试图回答所有这些问题。我们正在努力充实这一领域,以便使讨论富有成果。”
相关文章
资讯
- 1天前
东南亚传统保险领投TakaChain Insurance,开启创世挖矿
- 5天前
眼控科技赋能车辆通行证办理便民、智能、高效
- 1个月前
EIZO推出基于NVIDIA Turing的图形和GPGPU卡
- 1个月前
Inertial Labs发布了IMU/数字倾斜传感器
- 1个月前
LWIR摄像机的USB集成板发布
- 2020-12-28
国产大飞机研制取得重大进展 民营航空企业迎来发展新机遇
- 2020-12-07
双十二好物推荐,一款超能打的智能教育笔记本
- 2020-11-26
用技术驱动企业采购模式升级,京东企业购助力中小企业数字化转型
- 2020-11-03
守卫平安保障,提防保险“代理全额退保”诸多风险危害
- 2020-10-30
工厂里的“新面孔”,进博“大家伙”这样助力中国制造提质升级
- 2020-10-28
2021第五届中国上海国际车轮及轮胎展览会暨嘉年华活动
- 2020-10-28
2021中国上海国际汽车底盘及制动系统展览会
- 2020-10-19
京东企业业务发布技术服务品牌“电解智” 用“+服务”的综合性解决方案保障技术产品落地
- 2020-10-13
财富健康双保障 平安人寿“金瑞人生21”重磅上市
- 2020-09-29
《小马宝莉之彩虹音爆》全球首站,在成都正式开演!
原创
荐读
-
智能手机竞争中失败,日本在联网汽车领域举步维艰
据外媒报道,在制造带有数字联网服务的汽车的竞争中,丰田汽车和日产汽车面临着被本土市场拖累的风险。与美国和欧洲的汽车消费者不同的是,日本消费者不愿意为这些联网功能和服务买单。结果就是:日本只有10%的汽车...
-
2020年河南省将推广应用3万台工业机器人
到2020年,推广应用3万台工业机器人,建设1000条智能生产线、300个智能车间、150个智能工厂……4月16日,在2018两岸智能装备制造郑州论坛上,河南省工信委发布了《2017年河南省智能制造白皮书》,河南智能制造的2020...
-
全国首个获批建设国家技术标准(贵州大数据)创新基地
近日,国家标准委复函批准 , 同意贵州省建设国家技术标准 ( 贵州大数据 ) 创新基地,标志着贵州成为全国首个获批建设大数据国家技术标准创新基地的省份。按照国家标准委批复要求,国家技术标准 ( 贵州大数据 ) 创新...