如何结束互联网算法中的性别偏见

关于我们经常与之互动的互联网算法是否存在性别偏见，已经写了无数长篇大论，你需要做的就是进行一个简单的搜索，亲眼看看。

然而，根据一项旨在就此事得出结论的新研究背后的研究人员表示，“到目前为止，辩论还没有包括任何科学分析。” 这篇由跨学科团队撰写的新文章提出了一种解决该问题的新方法，并提出了一些解决方案，以防止数据中的这些偏差及其带来的歧视。

越来越多地使用算法来决定是授予贷款还是接受申请。随着人工智能 (AI) 用途范围的扩大，其能力和重要性也在增加，评估与这些操作相关的任何可能的偏见变得越来越重要。

研究人员表示：“虽然这不是一个新概念，但在很多情况下这个问题都没有得到检验，因此忽略了潜在的后果，”他们的研究发表在算法杂志上，主要关注性别偏见AI的不同领域。

这种偏见会对社会产生巨大影响：“偏见会影响所有被歧视、排斥或与刻板印象相关的事物。例如，性别或种族可能会在决策过程中被排除在外，或者简单地说，某些行为可能由于一个人的性别或一个人的肤色而被假定，”该研究的首席研究员 Juliana Castañeda Jiménez 解释说，她是加泰罗尼亚奥伯塔大学 (UOC) 的一名工业博士生，在 Ángel A. Juan 的监督下，瓦伦西亚理工大学和加泰罗尼亚理工大学的 Javier Panadero。

根据 Castañeda 的说法，“算法过程可能会因性别而受到歧视，即使被编程为对该变量‘视而不见’也是如此。”

该研究团队还包括互联网跨学科研究所 (IN3) 的性别和 ICT (GenTIC) 研究小组的研究人员 Milagros Sáinz 和 Sergi Yanes，以及萨里亚慈幼大学 Assumpta Jover 学院的 Laura Calvet Universitat de València 和 Ángel A. Juan——用一些例子来说明这一点：一个著名的招聘工具更喜欢男性而不是女性申请人的情况，或者一些信贷服务对女性提供的条件不如男性.

“如果使用旧的、不平衡的数据，你可能会看到关于黑人、同性恋甚至女性人口统计的负面条件，这取决于数据来自何时何地，”Castañeda 解释说。

科学是男孩的，艺术是女孩的

为了了解这些模式如何影响我们处理的不同算法，研究人员分析了以前的工作，这些工作确定了四种 AI 的数据处理中的性别偏见：那些描述自然语言处理和生成、决策管理、语音识别和面部识别的应用程序。认出。

总的来说，他们发现所有算法都能更好地识别和分类白人男性。他们还发现，他们重现了关于应该根据生理性别、种族或文化背景或性取向来定义某人的身体属性的错误信念，并且他们还建立了将男性与科学联系起来、女性与艺术联系起来的刻板印象。

图像和语音识别中使用的许多程序也基于这些刻板印象：相机发现更容易识别白人面孔，音频分析存在较高音调的问题，主要影响女性。

最有可能遇到这些问题的案例是那些算法是建立在分析与特定社会背景相关的现实生活数据的基础上的案例。“一些主要原因是女性在人工智能产品和服务的设计和开发中的代表性不足，以及使用带有性别偏见的数据集，”研究人员指出，他认为问题源于文化环境，其中他们是发达的。

“一种算法，当用有偏见的数据训练时，可以检测出社会中隐藏的模式，并在操作时重现它们。因此，如果在社会中，男性和女性的代表性不平等，那么人工智能产品和服务的设计和开发就会表现出性别偏见”

我们怎样才能结束这种情况？

性别偏见的许多来源，以及每种给定类型的算法和数据集的特殊性，意味着消除这种偏差是一项非常艰巨的挑战——尽管并非不可能。

“设计师和参与其设计的其他所有人都需要被告知存在与算法逻辑相关的偏差的可能性。更重要的是，他们需要了解可用于尽可能减少潜在偏差的措施，并实施以便他们不会发生，因为如果他们意识到社会中发生的歧视类型，他们将能够确定他们开发的解决方案何时会重现这些歧视，”Castañeda 建议。

这项工作具有创新性，因为它是由不同领域的专家开展的，包括社会学家、人类学家以及性别和统计专家。“该团队的成员提供了一种超越与算法相关的自主数学的视角，从而帮助我们将它们视为复杂的社会技术系统，”该研究的首席研究员说。

“如果你将这项工作与其他工作进行比较，我认为它是为数不多的从中立的角度提出算法偏差问题的工作之一，强调社会和技术方面，以确定为什么算法可能会做出有偏见的决定，”她说总结。由加泰罗尼亚奥伯塔大学 (UOC) 提供