研究人员要求AI自我解释

智能
  • AIUST.COM
  • 2020-08-20 22:49

我们许多人在童年时期遇到的一个问题是:“你为什么这样做?” 随着人工智能(AI)开始做出影响我们生活的重大决定,我们也希望这些机器能够回答这个简单而深刻的问题。毕竟,我们为什么还要信任AI的决定?

对令人满意的解释的渴望促使美国国家标准技术研究院(NIST)的科学家提出了一系列原则,通过这些原则,我们可以判断AI的决定的可解释性。他们的出版物草案《可解释人工智能的四项原则》(草案NISTIR 8312)旨在激发人们对我们对决策设备的期望值的讨论。

该报告是NIST广泛努力的一部分,旨在帮助开发可信赖的AI系统。NIST的基础研究旨在通过了解这些系统的理论能力和局限性,以及提高它们的准确性,可靠性,安全性,鲁棒性和可解释性来建立对这些系统的信任,这是本最新出版物的重点。

作者要求公众提供有关该草案的反馈,并且由于该主题涉及的范围很广,涉及工程,计算机科学,心理学和法学等领域,因此,他们希望进行广泛的讨论。

NIST电子工程师乔纳森·菲利普斯(Jonathon Phillips)说:“人工智能正在介入高风险的决策,没有人希望机器在不理解其原因的情况下做出决策。” “但是,使工程师满意的解释可能不适用于具有不同背景的人。因此,我们希望以多种观点和意见来完善草案。”

理解AI系统输出背后的原因可以使输出所涉及的每个人受益。例如,如果AI有助于贷款批准决策,则这种理解可能会帮助软件设计人员改善系统。但是,申请人可能还希望深入了解AI的理由,以了解为什么拒绝她,或者如果她被批准,则可以帮助她继续以保持良好信用等级的方式行事。

作者认为,可解释AI的四项原则是:

人工智能系统应为所有输出提供随附的证据或理由。

系统应提供对单个用户有意义或可以理解的解释。

该说明正确反映了系统生成输出的过程。

系统仅在设计时或在其输出达到足够的置信度的条件下运行。(其想法是,如果系统对其决策没有足够的信心,则不应向用户提供决策。)

虽然这些原则从表面上看很简单,但Phillips表示,个人用户通常使用不同的标准来判断AI在满足它们方面是否成功。例如,第二条原则(解释的意义)对不同的人意味着不同的事情,这取决于他们的角色和与AI所做工作的联系。

菲利普斯在谈到《星际迷航》中的角色时说:“想想柯克和史波克,以及每个人如何交谈。” “使用AI来帮助诊断疾病的医生可能只需要Spock解释为什么机器会推荐特定的治疗方法,而患者可能没事,但技术细节较少,但想要Kirk掌握其与生活的关系的背景。”

菲利普斯和他的合着者调整其解释的AI的概念,相关前期工作的人工智能,但他们也比较我们的机器explainability我们地方的需求,以我们的同胞,我们的那些地方。我们是否符合我们要求的AI标准?在根据报告的四项原则探讨了人的决定后,作者得出结论:“破坏者警觉”我们没有。

他们援引几个例子写道:“人为地解释我们自己的选择和结论是不可靠的。” “在没有意识的情况下,人们会将无关的信息纳入从个性特征判断到陪审团决定的各种决策中。”

但是,我们对这种明显的双重标准的认识最终可以帮助我们更好地了解自己的决定,并创造一个更安全,更透明的世界。

Phillips说:“随着可解释性AI的发展,我们可能会发现AI系统的某些部分比人类更能满足社会的期望和目标。”他的过去研究表明,人类与AI之间的合作比要么一个人工作。“了解AI系统和人类的可解释性为寻求结合各自优势的实施方法打开了大门。”

菲利普斯说,目前,作者希望他们收到的评论能促进对话。

他说:“我认为我们还不知道什么是可解释性的正确基准。” “最终,我们不会试图回答所有这些问题。我们正在努力充实这一领域,以便使讨论富有成果。”


来源:AIUST.COM

作者:原创编译

编辑:leilei

图片来源:

本文链接: https://www.aiust.com/article/20200820/1211.html

声明:除非注明,本站文章均为AIUST.Com原创或编译,转载时请注明文章作者和“来源:AIUST.Com”,AIUST.Com尊重行业规范,每篇文章都标有明确的作者和来源。文章为作者观点,不代表AIUST.Com立场。部份图片来自网络,如有侵权,请联系我们删除!

相关文章

资讯

原创

荐读

  • 智能手机竞争中失败,日本在联网汽车领域举步维艰 智能手机竞争中失败,日本在联网汽车领域举步维艰

    据外媒报道,在制造带有数字联网服务的汽车的竞争中,丰田汽车和日产汽车面临着被本土市场拖累的风险。与美国和欧洲的汽车消费者不同的是,日本消费者不愿意为这些联网功能和服务买单。结果就是:日本只有10%的汽车...

  • 2020年河南省将推广应用3万台工业机器人 2020年河南省将推广应用3万台工业机器人

    到2020年,推广应用3万台工业机器人,建设1000条智能生产线、300个智能车间、150个智能工厂……4月16日,在2018两岸智能装备制造郑州论坛上,河南省工信委发布了《2017年河南省智能制造白皮书》,河南智能制造的2020...

  • 全国首个获批建设国家技术标准(贵州大数据)创新基地 全国首个获批建设国家技术标准(贵州大数据)创新基地

    近日,国家标准委复函批准 , 同意贵州省建设国家技术标准 ( 贵州大数据 ) 创新基地,标志着贵州成为全国首个获批建设大数据国家技术标准创新基地的省份。按照国家标准委批复要求,国家技术标准 ( 贵州大数据 ) 创新...

热门标签