摘要： 就自动化雇佣决策工具导致的歧视、压榨和误判等损害劳动者权益的情形，应该公法私法联合发力，提供多种救济渠道

　　随着劳动世界的日益数字化，自动化决策工具在雇佣实践中的应用也愈发普及。在招聘阶段，为了提高效率，使用简历自动化筛选软件的公司不在少数，还有部分公司甚至引入了人工智能面试系统，通过在视频面试中以智能问答的形式分析应聘者的语音、用词、表情和动作，来考察应聘者是否具备公司所需要的素质。劳动关系建立之后，也有用人单位使用智能手环等可穿戴设备实时监控劳动者，再由系统基于收集的信息判断劳动者的出勤情况、工作效率并做出奖惩决定。甚至有报道称，已有公司使用人工智能系统监控员工是否在“摸鱼”，对于达不到工作任务指标或者效率低下的员工，系统都会自动生成警告并在几次警告后实现“自动解雇”。

　　劳动用工中的自动化决策可能带来歧视、压榨、误判等风险。首先，已有相关研究指出，在用人单位使用自动化决策工具对劳动者做出行为数字化、画像预测与评估的三个阶段，由于输入算法的数据本身可能就是歧视性选择的结果，系统设定的挑选特征和评估标准也容易带有歧视，人类社会的偏见被带入算法模型中，从而造成难以觉察和证实的歧视后果。 其次，如果任由用人单位使用人工智能系统对劳动者进行全方面监控，运用算法分析收集到的个人信息，再配合以相应的考核、奖惩来引导操控劳动者的行为，可能导致劳动强度不断增加、酬受到影响、安全生产难以保证。

　　曾经刷屏的“外卖骑手，困在系统里”报道中提到，平台的“实时智能配送系统”在全面收集骑手数据的基础上极力挖掘其潜能，不断缩短同一距离的外卖订单最长配送时间，由于超时将导致投诉和罚款，骑手们为了准时送达订单经常违反交通规则。 最后，现实生活中纷繁复杂的因素并非都能转换成算法可读的数据和程序，系统是依据冰冷且一成不变的计算逻辑做出决策，而人类又是具备反思能力、拥有七情六欲的主体，其行为也不是完全可预测。 所以自动化雇佣决策也可能出现错误判断。

　　2021年12月11日，纽约市议会通过了一项《纽约市行政法典》的修正案，增加了有关自动化雇佣决策工具的规定。根据该规定，“自动化雇佣决策工具”是指通过机器学习、统计建模、数据分析以及人工智能将问题简化输出的计算过程，输出的内容包括评分、分类及推荐，这个过程实质性地帮助甚至替代裁量性决策，作出影响自然人的雇佣决策。该法要求雇主或就业代理机构证明自动化雇佣决策工具在使用之前的一年内通过了独立第三方的偏见审计，雇主或就业代理机构应当部署该软件之前在网站上公布审计报告的内容摘要。该法还要求，雇主或就业代理机构为了决定招聘或者晋升职位之目的而使用评估或者评价工具之前，应当告知应聘者或待晋升雇员将使用自动化雇佣决策工具并允许其申请替代性的选拔程序，同时还告知该工具评估应聘者或雇员时使用的职位资格或者特征信息。违反上述规定的，将被处以行政罚款。

　　前述纽约市立法是针对雇佣中使用自动化决策工具的专门性立法，对我国人工智能立法有一定启发意义，但是它也有一定的局限性。首先，该法的适用仅限于招聘、晋升环节，并不涉及用工奖惩、降职和解雇，然而实践中劳动合同签订、履行、解除或终止环节中都可能使用自动化决策工具。其次，就自动化雇佣决策工具可能带来的歧视和不透明问题，该法设定了进行偏见审计的义务和告知义务，但是并不能解决算法控制下劳动者被压榨、算法误判导致不公正结果的问题。最后，该法就用人单位违反规定的法律责任只规定了事后的行政罚款，没有规定其他的纠错路径和救济渠道，比如引入自动化雇佣决策工具前是否应听取工会等职工利益代表机构的意见，劳动者权益因为自动化决策受到损害的能否索赔？

　　在自动化雇佣决策的应用中，劳动者的言语、行为和情感都被暴露在无孔不入的系统下，原本生动个体的品格、能力和特性都会被转化成机器可读的数据，再由算法根据统一的标准和程序来评判，形成一个个分数和排名。某种程度上劳动者变成了纯粹的客体，系统做出的决策影响着劳动者生存发展的机会，其人格和尊严不可避免地面临减损。所以，立法应该对自动化雇佣决策工具的应用采取相当谨慎的态度，尤其是其运行建立在对敏感个人信息处理的基础上时，比如人工智能面试系统涉及AI面部分析，原则上应该禁止。在具体的制度设计上还有以下几点应该注意：

　　首先，将来我国立法应该对“雇佣决策”做广义理解，从而覆盖从招聘到解雇的用工全流程。甚至不应该严格地以存在劳动关系为适用前提，而是采取功能性定位，保护实习生、退休和超龄人员、网约工等不被认可劳动者身份的人员，因为他们与用工主体之间同样存在着不平等的算法控制与信息处理关系。

　　其次，《个人信息保护法》第24条主要是针对消费者保护设计的，其第二款聚焦了信息推送和商业营销场景，对于劳动关系的适用性很有限。虽然劳动者可以依据其第一款要求用人单位保证决策过程的透明度和结果的公平、公正，其第三款也赋予了劳动者针对自动化决策要求用人单位予以说明的权利和拒绝权，有益但是作用有限，因为单个劳动者处于弱势地位，往往不敢冒着丢工作的风险主张前述权利。

　　但是，将来可以加大职工集体利益代表的话语权，把引入自动化雇佣决策工具认定为《劳动合同法》第4条意义上的直接涉及劳动者切身利益的重大事项，要求用人单位向全体职工或者职工代表大会说明自动化雇佣决策工具的功能设计、逻辑假设、挑选标准、风险影响等，与工会或者职工代表平等协商确定是否引入等相关事项，并将结果公示和告知劳动者。

　　再次，在保护机制方面还可以借鉴在投入使用前对自动化雇佣决策工具进行审计的要求。虽然用人单位利用劳动者个人信息进行自动化决策，按照《个人信息保护法》第55条也要进行个人信息保护影响评估，但是该规定还需要细化和补充。通过独立的第三方进行审计从伦理角度考察算法，确保劳动者保护的理念被写入程序，倒逼设计者在源头上重视自动化决策可能造成的歧视、压榨和误判风险。

　　比如，2021年7月26日出台的《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》要求各平台不得将“最严算法”作为考核要求，而是通过“算法取中”等方式合理确定订单数量、在线率等考核要素，适当放宽配送时限，将来应坚持并推广此立场。

　　最后，就自动化雇佣决策工具导致的歧视、压榨和误判等损害劳动者权益的情形，应该公法私法联合发力，提供多种救济渠道。除了可以由网信部门追究责任外，还应该在劳动者愿意主动维权时给予制度支持。比如可以规定，用人单位使用自动化雇佣决策工具做出不予录用、降职、解雇等对劳动者不利的决策引发争议的，劳动仲裁和诉讼中应举证证明该工具已经通过审计且引入前已经完成民主协商和公示程序，就具体决策本身的合理性也要负有举证责任。

　　热门评论网友评论只代表同花顺网友的个人观点，不代表同花顺金融服务网观点。

　　投资者关系关于同花顺软件下载法律声明运营许可联系我们友情链接招聘英才用户体验计划涉未成年人违规内容举报算法推荐专项举报

　　不良信息举报电话举报邮箱：增值电信业务经营许可证：B2-20090237