议论

人员管理策略应该使用人工智能吗?

2021年10月8日 安娜·吉内斯

Anna Ginès警告说,具有复杂算法的技术正在成为人力资源部门做出就业决策的流行工具,但它并不能消除偏见

人工智能(AI)在人员管理中的应用正变得越来越流行,这是一种使用机器学习系统进行自动决策的复杂算法。从商业角度来看,人工智能技术具有明显的优势:决策过程变得快速高效;通过应用数学,决策变得客观。还是他们?

不幸的是,人工智能和数学算法本身并不能消除偏见。事实上,如果不采取适当的行动,它们会在危及工人权利的同时,复制和扩大偏见。但这是如何发生的呢?我们怎样才能防止它的发生呢?

首先,在收集数据以设计人员管理策略中的算法时,我们面临着侵犯隐私权的风险。例如,在招聘过程中,在面试期间使用社交媒体跟踪系统或面部识别系统越来越普遍。这些工具有助于获取关于候选人的信息,还可以访问属于个人私人领域的数据,例如他们的政治观点或性取向,或他们的心理状态。

这些信息不仅可以通过第一手数据获得,也可以通过从其他主要目标数据中推断,如照片、事件或他们访问的网页。另一方面,许多员工不知道他们的哪些信息正在被收集,哪些配置文件正在被创建,这与数据保护冲突。

在平等和不歧视方面,许多算法是在没有少数群体应有代表性的情况下创建的,或者是在传统上受到歧视的情况下创建的——比如妇女、少数民族背景的人——这会导致错误的预测或决策。

例如,一家公司可能会设计一种算法,丢弃拼写错误的简历。原则上,这是一个客观参数,但它可能会根据人们的出身而歧视他们——这将自动排除母语不同的人。也许在某些工作中,如新闻或教学,这是一项基本要求,但在许多其他工作中,这可能是一个歧视性的过程。因此,无论在设计算法时要求看起来多么合理和客观,都应始终记住可能的副作用。

最后,许多公司使用“现成”算法,这些算法是由第三方设计的,并且已经准备好并经过培训。公司有可能躲在这样一个“黑匣子”后面,为不公平的决定辩护,从而逃避责任。

除了纯粹的技术解决方案外,还可以采取一些措施来帮助开发更好的算法和保护工人的权利。这些措施包括:

  • 促进少数群体参与数据收集和算法设计。此外,现在或许是时候解决有关算法配额的争论了。
  • 法律上要求所有算法都是可审计的,这样它们就可以接受定期评估,分析它们产生的效果。
  • 确保算法的透明度,并允许员工访问其数据,包括从中推断出的数据。
  • 让工人代表不仅能了解用于做出雇佣决策的变量,还能了解这些决策的影响——一种内部审计

简言之,这不是拒绝技术的问题,而是在积极意义上充分利用创新潜力的问题。公司需要能够依靠有效的算法来帮助他们做出最佳决策,而这只有在正确的数据系统到位的情况下才能实现。

Anna Ginès是Esade商学院的教授

组织发展和人才主管

组织发展和人才主管

敏捷-默西塞德郡威拉尔

67558英镑至70647英镑

维拉尔委员会

人力资源顾问

人力资源顾问

东安格利亚

45-52000英镑pa+福利

备份

人力资源业务伙伴

人力资源业务伙伴

汤姆林斯科特学校,弗里姆利,坎伯雷GU16 8PY

£46,368 - £54,176

前景信托

查看更多作业

浏览相关文章