AI研究人员:当算法出错时我们需要更多的力量反击
- cnBeta
- 2018-12-09 21:34
据外媒报道,虽然政府和私营企业正在快速部署AI系统,但公众却缺少在这些系统出现故障时追究其责任的工具。这是AI Now最新发布的一份报告的结论之一。AI Now是一家面向微软、谷歌等科技公司的研究机构,同时它隶属于纽约大学。
AI Now在报告中审视了AI和算法系统的社会挑战,它将问题聚焦于研究人员所称的“问责缺口”。对此,他们提出了十项建议,包括呼吁政府对面部识别进行监管以及对AI产品制定“广告真实法”,让企业不能简单地利用该技术的声誉来销售其服务。
现在许多大型科技公司都开始发现自己正处于AI的淘金热中,于是它们大举进入从招聘到医疗保健等多个市场并出售自己的服务。但是,正如AI Now的联合创始人、谷歌Open Research Group负责人Meredith Whittaker所说的那样,这些公司许多关于利益和效用的主张并没有得到公开的科学证据支持。Whittaker举了IBM沃森系统的例子,据了解,该系统在斯隆凯特林癌症中心进行实验诊断时给出了“不安全且不正确的治疗建议”。对此,Whittaker表示:“他们(IBM)的营销部门对近乎神奇的特性所做的断言从未得到过同行评论研究的证实。”
AI Now最新报告的作者们指出,这一事故只是涉及AI和算法系统的一系列“连锁丑闻”的其中一件,另外还有Facebook协助促成了缅甸的种族灭绝、谷歌Maven项目对美国军方制造无人机AI工具的帮助以及剑桥分析公司数据丑闻等等。
在所有这些案例中,既出现了来自公众的强烈抗议也有来自硅谷最具价值的公司内部的不同意见。这一年,谷歌员工因五角大楼的合同辞职、微软员工向该公司施压要求其停止与移民和海关执法局的合作以及谷歌、Uber、eBay和Airbnb为抗议涉及性骚扰而展开的罢工运动。
Whittaker指出,这些抗议活动得到了劳工联盟和像AI Now等这样的研究机构的支持,这已经成为了一股意想不到、令人欣慰的公众问责力量。
但报告的目的很清楚,那就是公众需要的更多。当涉及到政府采用自动决策系统(ADS)时对公民正义的威胁尤为明显。报告的作者们指出,通常情况AI系统被引入这些领域则是为了降低成本和提高效率,然而结果往往是系统作出了说不通或无法上诉的决定。
Whittaker和另外一位AI Now联合创始人、微软研究员Kate Crawford指出,将ADS整合到政府服务中已经超过了他们审计这些系统的能力范围。不过他们表示可以采取一些具体的步骤来解决这一问题,比如要求向政府出售服务的技术供应商放弃贸易保密保护从而让研究人员可以更好地去检查它们的算法。
另外他们还提到了另外一个需要立即立即采取行动的领域--面部识别和情感识别。现在全球已经有多个国家的警察开始使用前者。例如为奥兰多和华盛顿县警方部署的亚马逊Rekognition系统,尽管测试显示该软件在不同种族中的表现不同,但在一项用Rekognition识别国会议员的测试中白人议员的错误率只有5%而非白人议员的错误率却有39%。在情感识别方面,这家公司声称他们的技术可以通过扫描一个人的面部来读取其性格甚至意图。对此,AI Now的看法是企业们经常都在兜售伪科学。
尽管面临不少的挑战,但Whittaker和Crawford表示,2018年的情况已经表明,当AI问责和偏见问题被曝光时,技术员工、立法者和公众愿意采取行动而不再是默许。
- 算法
- AI
相关文章
资讯
- 6天前
《给孩子们的大师讲堂》首次走进香港
- 3周前
性价比提升30%+,火山引擎第三代AMD实例 ECS g3a邀测上线
- 1个月前
列入全国科普日专项行动,腾讯科学小会给青少年普及AI编程
- 1个月前
EAI科技与小米逐“梦”相遇
- 1个月前
张磊:做好“三件事”,开启AI时代数字安全新范式 | ISC 2023
- 2个月前
大模型看北京!2023全球数字经济大会人工智能高峰论坛成功举办
- 2个月前
2023全球数字经济大会“新品成果”将于7月7日发布
- 3个月前
PICO斩获618 XR品类销量榜冠军
- 3个月前
达闼GDC 2023全球开发者大会暨海睿AGI平台发布会成功举办
- 3个月前
监管机构出手,谷歌暂缓在欧盟推出聊天机器人Bard
- 3个月前
亚马逊利用生成式AI总结产品评价,帮助用户筛选合适产品
- 3个月前
Spectrum仪器为数字化仪和任意波形发生器提供数字脉冲发生器功能
- 3个月前
登场即控场 | 北岸控股初次登台2023数博会看点十足
- 4个月前
未来智能全新录音降噪会议耳机iFLYBUDS Nano系列发布
- 4个月前
用眼睛刷牙, usmile笑容加可视化电动牙刷Y10全新首发
原创
荐读
-
5G+AR加持 晨星机器人掀起“智能化+人机交互”制造新趋势
2021世界制造业大会于11月22日在合肥落下帷幕。为期四天的大会中,作为向世界展示智能制造全面能力的窗口,联想展示了一系列让人惊喜的创新产品。现场展示的ThinkPad X1 Fold整体重量仅有1公斤,折叠起来之后的厚度大约为24毫米。当保持半开状态时,可以像拿本书一样握住,并且能同时运行两个应用程序。使用固定在中间的键盘之后,瞬间变...
-
智能手机竞争中失败,日本在联网汽车领域举步维艰
据外媒报道,在制造带有数字联网服务的汽车的竞争中,丰田汽车和日产汽车面临着被本土市场拖累的风险。与美国和欧洲的汽车消费者不同的是,日本消费者不愿意为这些联网功能和服务买单。结果就是:日本只有10%的汽车...
-
2020年河南省将推广应用3万台工业机器人
到2020年,推广应用3万台工业机器人,建设1000条智能生产线、300个智能车间、150个智能工厂……4月16日,在2018两岸智能装备制造郑州论坛上,河南省工信委发布了《2017年河南省智能制造白皮书》,河南智能制造的2020...