AI研究人员:当算法出错时我们需要更多的力量反击
- cnBeta
- 2018-12-09 21:34
据外媒报道,虽然政府和私营企业正在快速部署AI系统,但公众却缺少在这些系统出现故障时追究其责任的工具。这是AI Now最新发布的一份报告的结论之一。AI Now是一家面向微软、谷歌等科技公司的研究机构,同时它隶属于纽约大学。
AI Now在报告中审视了AI和算法系统的社会挑战,它将问题聚焦于研究人员所称的“问责缺口”。对此,他们提出了十项建议,包括呼吁政府对面部识别进行监管以及对AI产品制定“广告真实法”,让企业不能简单地利用该技术的声誉来销售其服务。
现在许多大型科技公司都开始发现自己正处于AI的淘金热中,于是它们大举进入从招聘到医疗保健等多个市场并出售自己的服务。但是,正如AI Now的联合创始人、谷歌Open Research Group负责人Meredith Whittaker所说的那样,这些公司许多关于利益和效用的主张并没有得到公开的科学证据支持。Whittaker举了IBM沃森系统的例子,据了解,该系统在斯隆凯特林癌症中心进行实验诊断时给出了“不安全且不正确的治疗建议”。对此,Whittaker表示:“他们(IBM)的营销部门对近乎神奇的特性所做的断言从未得到过同行评论研究的证实。”
AI Now最新报告的作者们指出,这一事故只是涉及AI和算法系统的一系列“连锁丑闻”的其中一件,另外还有Facebook协助促成了缅甸的种族灭绝、谷歌Maven项目对美国军方制造无人机AI工具的帮助以及剑桥分析公司数据丑闻等等。
在所有这些案例中,既出现了来自公众的强烈抗议也有来自硅谷最具价值的公司内部的不同意见。这一年,谷歌员工因五角大楼的合同辞职、微软员工向该公司施压要求其停止与移民和海关执法局的合作以及谷歌、Uber、eBay和Airbnb为抗议涉及性骚扰而展开的罢工运动。
Whittaker指出,这些抗议活动得到了劳工联盟和像AI Now等这样的研究机构的支持,这已经成为了一股意想不到、令人欣慰的公众问责力量。
但报告的目的很清楚,那就是公众需要的更多。当涉及到政府采用自动决策系统(ADS)时对公民正义的威胁尤为明显。报告的作者们指出,通常情况AI系统被引入这些领域则是为了降低成本和提高效率,然而结果往往是系统作出了说不通或无法上诉的决定。
Whittaker和另外一位AI Now联合创始人、微软研究员Kate Crawford指出,将ADS整合到政府服务中已经超过了他们审计这些系统的能力范围。不过他们表示可以采取一些具体的步骤来解决这一问题,比如要求向政府出售服务的技术供应商放弃贸易保密保护从而让研究人员可以更好地去检查它们的算法。
另外他们还提到了另外一个需要立即立即采取行动的领域--面部识别和情感识别。现在全球已经有多个国家的警察开始使用前者。例如为奥兰多和华盛顿县警方部署的亚马逊Rekognition系统,尽管测试显示该软件在不同种族中的表现不同,但在一项用Rekognition识别国会议员的测试中白人议员的错误率只有5%而非白人议员的错误率却有39%。在情感识别方面,这家公司声称他们的技术可以通过扫描一个人的面部来读取其性格甚至意图。对此,AI Now的看法是企业们经常都在兜售伪科学。
尽管面临不少的挑战,但Whittaker和Crawford表示,2018年的情况已经表明,当AI问责和偏见问题被曝光时,技术员工、立法者和公众愿意采取行动而不再是默许。
- 算法
- AI
相关文章
资讯
- 5天前
半导体产业高质量发展大会在南京成功举办
- 5天前
新希望乳业连续五年荣膺“中国卓越管理公司” 摘得中国乳企首个BMC金奖
- 3周前
打造原生创新人才新高地 上海交通大学携手华为成立鲲鹏昇腾科教创新卓越中心
- 3周前
年轻员工猝死频发:沃民高科AI引擎驱动带来前瞻解决方案
- 4周前
跨境电商下南洋,已被验证的赢家哲学
- 4周前
AI 创想未来|京东校园携手 AMD 助力艺术学子灵感飞速落地
- 4周前
嘉楠科技勘智K210芯片持续助力STEM AI 教学
- 4周前
Moka Ascend 2024|势在·人为,技术创新,激发企业管理内在效能
- 1个月前
引领高校原生人才新生态 北京大学鲲鹏昇腾科教创新卓越中心正式成立
- 1个月前
浙江大学 鲲鹏昇腾科教创新卓越中心正式成立,推动高校原生创新加速
- 1个月前
万数汇海,同创共赢,openGauss Developer Day 2024圆满举办
- 1个月前
开启原生创新引擎,中国科学技术大学 鲲鹏昇腾科教创新卓越中心正式成立
- 1个月前
AI绘本CEO天猫618入淘首秀,创业初心源自对女儿的爱
- 1个月前
《黑神话:悟空》官宣携手拯救者,AIPC助力玩家化身“天命人”
- 1个月前
COMPUTEX 2024展会联发科惹围观,AI加持超丰富设备齐上阵
原创
荐读
-
5G+AR加持 晨星机器人掀起“智能化+人机交互”制造新趋势
2021世界制造业大会于11月22日在合肥落下帷幕。为期四天的大会中,作为向世界展示智能制造全面能力的窗口,联想展示了一系列让人惊喜的创新产品。现场展示的ThinkPad X1 Fold整体重量仅有1公斤,折叠起来之后的厚度大约为24毫米。当保持半开状态时,可以像拿本书一样握住,并且能同时运行两个应用程序。使用固定在中间的键盘之后,瞬间变...
-
智能手机竞争中失败,日本在联网汽车领域举步维艰
据外媒报道,在制造带有数字联网服务的汽车的竞争中,丰田汽车和日产汽车面临着被本土市场拖累的风险。与美国和欧洲的汽车消费者不同的是,日本消费者不愿意为这些联网功能和服务买单。结果就是:日本只有10%的汽车...
-
2020年河南省将推广应用3万台工业机器人
到2020年,推广应用3万台工业机器人,建设1000条智能生产线、300个智能车间、150个智能工厂……4月16日,在2018两岸智能装备制造郑州论坛上,河南省工信委发布了《2017年河南省智能制造白皮书》,河南智能制造的2020...