首页   生活常用   语言文字   商务办公   图片视频   网络技术   程序开发   站长工具   在线游戏   娱乐搞笑   范文格式   APP 登录/注册 联系/合作
   
 
如何结束互联网算法中的性别偏见

关于我们经常与之互动的互联网算法是否存在性别偏见,已经写了无数长篇大论,你需要做的就是进行一个简单的搜索,亲眼看看。

然而,根据一项旨在就此事得出结论的新研究背后的研究人员表示,“到目前为止,辩论还没有包括任何科学分析。” 这篇由跨学科团队撰写的新文章提出了一种解决该问题的新方法,并提出了一些解决方案,以防止数据中的这些偏差及其带来的歧视。

越来越多地使用算法来决定是授予贷款还是接受申请。随着人工智能 (AI) 用途范围的扩大,其能力和重要性也在增加,评估与这些操作相关的任何可能的偏见变得越来越重要。

研究人员表示:“虽然这不是一个新概念,但在很多情况下这个问题都没有得到检验,因此忽略了潜在的后果,”他们的研究发表在算法杂志上,主要关注性别偏见AI的不同领域。

这种偏见会对社会产生巨大影响:“偏见会影响所有被歧视、排斥或与刻板印象相关的事物。例如,性别或种族可能会在决策过程中被排除在外,或者简单地说,某些行为可能由于一个人的性别或一个人的肤色而被假定,”该研究的首席研究员 Juliana Castañeda Jiménez 解释说,她是加泰罗尼亚奥伯塔大学 (UOC) 的一名工业博士生,在 Ángel A. Juan 的监督下,瓦伦西亚理工大学和加泰罗尼亚理工大学的 Javier Panadero。

根据 Castañeda 的说法,“算法过程可能会因性别而受到歧视,即使被编程为对该变量‘视而不见’也是如此。”

该研究团队还包括互联网跨学科研究所 (IN3) 的性别和 ICT (GenTIC) 研究小组的研究人员 Milagros Sáinz 和 Sergi Yanes,以及萨里亚慈幼大学 Assumpta Jover 学院的 Laura Calvet Universitat de València 和 Ángel A. Juan——用一些例子来说明这一点:一个著名的招聘工具更喜欢男性而不是女性申请人的情况,或者一些信贷服务对女性提供的条件不如男性.

“如果使用旧的、不平衡的数据,你可能会看到关于黑人、同性恋甚至女性人口统计的负面条件,这取决于数据来自何时何地,”Castañeda 解释说。

科学是男孩的,艺术是女孩的

为了了解这些模式如何影响我们处理的不同算法,研究人员分析了以前的工作,这些工作确定了四种 AI 的数据处理中的性别偏见:那些描述自然语言处理和生成、决策管理、语音识别和面部识别的应用程序。认出。

总的来说,他们发现所有算法都能更好地识别和分类白人男性。他们还发现,他们重现了关于应该根据生理性别、种族或文化背景或性取向来定义某人的身体属性的错误信念,并且他们还建立了将男性与科学联系起来、女性与艺术联系起来的刻板印象。

图像和语音识别中使用的许多程序也基于这些刻板印象:相机发现更容易识别白人面孔,音频分析存在较高音调的问题,主要影响女性。

最有可能遇到这些问题的案例是那些算法是建立在分析与特定社会背景相关的现实生活数据的基础上的案例。“一些主要原因是女性在人工智能产品和服务的设计和开发中的代表性不足,以及使用带有性别偏见的数据集,”研究人员指出,他认为问题源于文化环境,其中他们是发达的。

“一种算法,当用有偏见的数据训练时,可以检测出社会中隐藏的模式,并在操作时重现它们。因此,如果在社会中,男性和女性的代表性不平等,那么人工智能产品和服务的设计和开发就会表现出性别偏见”

我们怎样才能结束这种情况?

性别偏见的许多来源,以及每种给定类型的算法和数据集的特殊性,意味着消除这种偏差是一项非常艰巨的挑战——尽管并非不可能。

“设计师和参与其设计的其他所有人都需要被告知存在与算法逻辑相关的偏差的可能性。更重要的是,他们需要了解可用于尽可能减少潜在偏差的措施,并实施以便他们不会发生,因为如果他们意识到社会中发生的歧视类型,他们将能够确定他们开发的解决方案何时会重现这些歧视,”Castañeda 建议。

这项工作具有创新性,因为它是由不同领域的专家开展的,包括社会学家、人类学家以及性别和统计专家。“该团队的成员提供了一种超越与算法相关的自主数学的视角,从而帮助我们将它们视为复杂的社会技术系统,”该研究的首席研究员说。

“如果你将这项工作与其他工作进行比较,我认为它是为数不多的从中立的角度提出算法偏差问题的工作之一,强调社会和技术方面,以确定为什么算法可能会做出有偏见的决定,”她说总结。由加泰罗尼亚奥伯塔大学 (UOC) 提供
最新文章:
所有文章资讯、展示的文字、图片、数字、视频、音频、其它素材等内容均来自网络媒体,仅供学习参考。内容的知识产权归属原始著作权人所有。如有侵犯您的版权,请联系我们并提供相应证明,本平台将仔细验证并删除相关内容。
工具综合排行榜
TOP 1
随机密码生成 随机密码生成
随机生成安全复杂的密码,自由设置密码长度及复杂度
TOP 2
推算几天后的日期 推算几天后的日期
推算从某天开始,增加或减少几天后的日期
TOP 3
日期转中文大写 日期转中文大写
把数字日期转成中文大写,是财务或商务合同常用的工具
TOP 4
推算孩子的血型 推算孩子的血型
根据父母的血型推测子女的血型
TOP 5
顶级域名后缀 顶级域名后缀
列出各种顶级域名后缀大全
TOP 6
世界时间 世界时间
世界时区查询时差计算器
TOP 7
放假安排时间表 放假安排时间表
哪些日子休息,哪些日子上班
TOP 8
IP地址坐标查询 IP地址坐标查询
IP地址查询
TOP 9
外汇率 外汇率
今日汇率查询表
TOP 10
中文拆字 中文拆字
中文拆字偏旁、部首、字根
热门内容       日期转中文大写       推算几天后的日期       时区转换器       高校分数线       顶级域名后缀       换底色抠图工具       进制在线转换器       高校查询       周公解梦大全
首页 生活常用工具大全
语言文字工具大全
商务办公工具大全
网络技术工具大全
范文格式大全
程序开发工具大全
图片视频工具大全
站长工具大全
在线游戏大全
娱乐搞笑大全
登录/注册
联系我们
  用户咨询/建议
kf@ss3316.com


商务合作/推广
hz@ss3316.com

微信公众号

访问手机版网站
使用本平台必读并同意:任何内容仅供谨慎参考,不构成建议,不保证正确,平台不承担任何责任,同意用户协议隐私政策   
BaiduTrust安全认证签章
© 达轻科技 版权所有 增值电信业务经营许可证 ICP备 沪B2-20050023-3