偏差在人工智能中的作用

文章 (25) 2021-03-26 11:18:23

人工智能(AI)已从无人驾驶车辆发展到家庭语音自动化,呈指数级发展,不再只是科幻书籍和电影中的术语。人工智能的未来比未来的《少数派报告》电影中的预测要早。人工智能将在未来几年内成为我们生活中必不可少的一部分,其程度已超过了超越人类分析能力的超级智能计算机。想象一下,通过靠近汽车或通过无人机将产品运送到您的地方来打开汽车;人工智能可以使这一切成为现实。

但是,有关算法偏差的最新讨论反映了“如此完美”的AI系统中的漏洞。由计算机系统的性能引起的缺乏公平性是算法偏差。在算法偏见中,提到的缺乏公正性以不同的方式出现,但可以基于特定的类别区分将其解释为一个群体的偏见。

人的偏见是一个已经在心理学上进行了多年研究的问题。它来自隐式关联,反映了我们不知道的偏见以及它如何影响事件的结果。在过去的几年中,社会已经开始努力应对这些具有严重后果的人类偏见可以通过人工智能系统找到多少方法。当许多公司希望部署AI解决方案时,深刻意识到这些威胁并寻求将其最小化是当务之急。AI系统中的算法偏见可以采取多种形式,例如性别偏见,种族偏见和年龄歧视。

要问的关键问题是:在AI系统中引入偏差的根本原因是什么,如何避免?偏差可能会以多种形式渗透到算法中。即使排除敏感变量(例如性别,种族或性身份),人工智能系统也会学会根据训练数据做出决策,而训练数据可能包含错误的人类决策或代表历史或社会不平等现象。

AI系统在我们社会中的隐蔽使用对于边缘化人群而言可能是危险的。因此,人们没有选择退出这些AI系统偏向监视的选择。美国和中国等国家/地区已部署了数千个摄像头,而具有AI功能的摄像头可在未经其同意的情况下跟踪人员的活动。它破坏了受歧视的人们,也可以减轻个人参与经济和文化的意愿。

通过促进不信任并提供扭曲的结果,它降低了AI在行业和社会中的潜力。公司和企业高管需要确保通过他们使用的AI技术来增强人的决策能力。他们负责支持可将AI偏差降至最低的科学进步和标准。

THE END

发表评论