打破偏见:人工智能 (AI) 为何需要多元、平等与包容

点赞本文
Rating Unavailable
个累积点赞

美光科技高管洞察

Sharawn Connors

美光科技多元、平等与包容项目副总裁

设想一下您尝试使用Alexa却无法听到她的声音,或者是肤色不同、比您更健康的一些人仅因算法规则而比您提前接受医院护理

人工智能(AI)行业所带来的发展潜力常使我们急于创造新的应用程序,以至于有时忽略了从中受益的人,或者那些因我们利用数据打造应用程序时未考虑多元、平等和包容 (DEI) 而被排除在外的人。

AI结果的准确度,反映了输入数据的准确度。最近的一项研究显示,人脸识别技术实现了以99%的准确度识别白种男性,但是对于有色人种女性,准确率则下降至35%。为什么? 因为在设计阶段测试用例时并未考虑该人群。

奥克兰地区曾试行一种软件,预测高犯罪率地区。但实际上,该算法追踪的是少数族裔占比较高的地区,而没有考虑犯罪率。

这些都是随处可见的不公平案例,它们被技术所放大。

在 AI 和软件设计中,创新时考虑到每一个人极为关键,否则我们将会因助长持续并有损害性的刻板印象而感到内疚——即便并非出于本意。因此,我们会错失 AI 为人们日常生活带来的额外益处,并且阻碍AI真正的发展潜力。

在美光,我们对此问题进行了深入调查。去年,Micron Gives 公布了“Advancing Curiosity”项目,为研究AI给社会带来福祉的杰出高校研究团体和非营利组织提供了100万美元。

这一承诺包括支持 UCLA 项目(该项目旨在识别和打破 AI领域中的偏见),并促进机器学习的透明度(通过制定严格的计算方法来帮助识别偏见)。为了促进AI领域的多元化,我们还支持AI4All 及其夏令营,该组织侧重于促进培养AI和机器学习领域的兴趣,尤其面向弱势群体。

我们必须全面看待多元化,不局限于种族和性别。几乎所有的AI助手都基于语音,而听障或失聪人士由于无法使用语音功能而无法使用这些工具。“Advancing Curiosity”项目正与罗切斯特理工学院一起开发备选的 AI 辅助技术,从而在设计阶段就将听障用户纳入考虑范围。此举可确保该解决方案真正对用户有用。

Sharawn Connors
Sharawn Connors, VP of Diversity, Equality and Inclusion (left) onstage at Techonomy 19 speaking about the importance of diversity in the workplace.

显然,为了给 AI 提供优质数据,项目开发人员和机构必须思考我们的真实世界。如果我们看到美国人口中有 7% 的残障人士,那么这一比例应该被反映在职场环境中。在设计与开发应用程序的过程中考虑多元化和包容性,我们将获得有价值的AI。

想法的多元化也要被纳入考虑。打造一个包容的环境同样重要,让每个人都愿意自由分享想法。如果有多元化团队,但团队成员却不献言献策,那么这种多元化便没有价值。

如今,我们处在一个拐点,周边有大量的 AI 数据集合正在被创造。我们必须去考虑我们的数据是否能完全代表我们希望服务和帮助的人群。为此,我们必须营造这样的职场环境:最出色的解决方案、最佳的创新和最闪亮的想法都可以脱颖而出——无论它们来自哪里。

我所在的团队专注于打造多元、平等和包容(DEI),我为自己身处其中而感到激动不已。我们绝非完美,但我认为我们有意志和动力,并且我们认识到了多元、平等和包容(DEI)为文化、创新和竞争力所带来的价值。详细了解美光科技在多元、平等和包容(DEI)方面所作的努力,并阅读我们最新的 DEI 报告。

+
+