ag真人国际官网

前言

人工智能技术的迅猛发展正深刻重塑全球产业格局，而劳动用工领域作为人工智能应用落地的核心场景之一，面临着算法决策透明性、数据伦理与权利边界等多重挑战。根据联合国经社文组织（UNESCO）统计，全球已有超过30个国家制定了有关人工智能的法律。^[1]应该说，从欧盟首部综合性人工智能立法的严格风险分级，到美国联邦与州立法间的割裂，再到亚洲经济体兼顾技术创新与监管的探索，全球主要经济体正通过立法构建人工智能应用的“安全阀”。从近些年人工智能立法情况来看，虽然呈现出碎片化、区域化差异的特征，但先发布的法案对后发布的法案仍有着较高的参考价值，特别是在基本原则和重要价值上呈现出相当的相似性。在此基础上，对于中国企业而言，人工智能相关监管规则将直接对其合规经营，特别是国际化和产供链管理产生重要影响。本文简要介绍当前全球人工智能立法框架，聚焦劳动用工场景的适用，分析潜在法律风险，尝试为企业合规管理提供初步的系统性建议。

一、全球主要经济体人工智能监管规定概况

人工智能对社会、经济、文化等各领域影响重大，监管机制的设计与执行取决于科技与经济发展、政治与社会生态以及国际竞争格局等多重因素。总体而言，主要包括以下监管方法：^[2]

确定原则：侧重为相关方提供人工智能的道德、责任和以人为本的指导性原则。

设立标准：通过标准化组织的技术标准指导强制规则的解释和执行。

立足敏捷和试验主义：通过灵活监管框架下的合规沙盒或其他测试平台，允许相关组织在监管下测试新的商业模式、方法、基础设施以及工具。

营造便利和赋能的环境：鼓励所有利益相关方参与开发和使用负责任的、道德的以及尊重人权的人工智能系统。

协调现行法：修改特定行业（如健康、金融、教育、司法等）和横向规则（如信息保护法、劳动法等），以改进现行监管框架。

获取信息和透明度授权：要求部署透明度工具，确保相关方可以获取人工智能系统的基本信息。

评估风险：根据对特定背景下部署和使用人工智能工具相关风险的评估，确定义务和要求。

保护基本权利：设定保护个人权利和自由的义务或要求。

分配责任：为不当使用人工智能系统分配责任和制裁。

截至目前，在全球主要经济体中，以欧盟和韩国为代表，通过了综合性的人工智能监管法律，而其他国家和地区则主要以专门或分散性规定为主。下面，我们选取部分境外国家和地区以及我国的相关情况进行简要介绍。

（一）境外国家和地区

1.欧盟

2024年3月13日，欧洲议会极具开创性地通过了世界上第一部专门针对人工智能的横向集中式法规——《欧盟人工智能法》，并在2024年8月1日正式生效。该法案以强调监管，保护健康、安全以及基本权利（民主、法治和环境保护）为核心逻辑，^[3]将人工智能系统划分为五个类别，即：

具有不可接受风险的人工智能系统，主要指侵害基本权利的人工智能系统；

高风险的人工智能系统；

具有透明度义务的特定人工智能系统；

通用人工智能模型；

最小风险类人工智能系统。

在前述分类基础上，根据不同风险级别对人工智能系统的供应商、开发商和部署主体规定了不同的义务，设定了差异化的监管要求，主要包括：

除此之外，人工智能系统因其内容、应用场景、相对方以及影响等，还可能适用其他监管规定。其中，鉴于数据是人工智能系统的关键基础，包括《通用数据保护条例》（GDPR）在内的数据与隐私保护的相关规定，是欧盟人工智能系统监管的重要依据之一。

2.韩国

2024年12月26日，韩国国民议会通过《促进人工智能发展和建立信任基本法》，成为全球第二部综合性人工智能立法，并将于2026年1月正式实施。相较于《欧盟人工智能法》，该法内容较少，主要对人工智能系统的事前认证、透明度保障措施、安全性保障措施、高影响人工智能运营者特殊要求及影响评估等作出了规定，并对人工智能伦理原则、安全可靠性认证、透明度、安全性、高影响人工智能系统确认、境外人工智能服务方义务等作出解释。^[6]

总体而言，作为促进人工智能发展为基础的法案，该法案更侧重提高人工智能领域的国际竞争力，营造值得信赖的人工智能使用环境。

3.美国

美国联邦层面目前暂未出台综合性的人工智能监管法律。2025年1月，美国总统特朗普签署《消除美国人工智能领导地位的障碍》行政令，撤销之前关于人工智能监管的部分政策和指令（如拜登政府颁布的《关于安全、可靠和可信地开发和使用人工智能的行政命令》），放松人工智能监管，以巩固美国在全球人工智能技术竞争中的优势，将加速美国人工智能技术的创新突破作为优先选项。

但在地方层面，美国各州已进行多项人工智能监管立法。例如：

此外，英国2023年发布《促进人工智能监管创新》（Pro-innovation to AI Regulation）提案，明确将主要依赖现有法律对人工智能进行审慎监管，以促进而非阻碍人工智能发展。在此基础上，明确相关方应当遵循的原则包括安全、保障和稳健，适当的透明度和可解释性，公平，问责和治理，以及可抗辩性和补救措施等。^[7]

（二）中国

近年来，我国人工智能领域发展迅速，且位居全球领先地位，但尚未出台专门的人工智能法。为了保障产业发展和相关方权益，相关部门自2021年起陆续发布多个针对人工智能的监管规定。例如：

实践中，除前述规定外，《个人信息保护法》《民法典》等有关规定，也是我国监管人工智能系统的重要依据。

二、人工智能在工作场所的应用及其监管风险

人工智能在工作场所的运用比例正在快速上升。通过对法国、德国、意大利、西班牙和美国超6000家企业的调查发现，人工智能在多数欧美国家已广泛应用。其中，美国和欧洲国家的使用率已经分别达90%和79%。^[8]而在我国，目前约55%的雇主在整个招聘过程中使用人工智能。^[9]

在此背景下，虽然我国暂未发布专门的人工智能监管法律，但在近些年的实践中，因人工智能而产生的有关劳动争议、隐私权侵权争议的数量已经不断上升。随着DeepSeek等应用推广，工作场所有关的人工智能相关争议数量将会持续增长。

（一）人工智能监管规定在劳动用工领域的体现

基于前述第一部分的分析，有关人工智能监管规定在劳动用工领域，主要体现为直接限制和间接限制。其中，直接限制指的是将劳动用工场景直接规制于规定中，而间接限制则是针对伦理、透明度、披露以及反歧视等通用型义务加以限制，通过通用的规则适用于劳动用工场景。例如：

（二）人工智能在工作场所应用可能引发的主要风险

从前述人工智能监管规定来看，反歧视、招聘与选拔、绩效评估、伦理、透明度披露等是与工作场所联系最紧密的内容，也反映了实践中人工智能应用可能引发的劳动用工主要风险，包括但不限于：

1.招聘

人工智能辅助招聘已经成为趋势，但不少该等人工智能系统是根据之前成功员工的简历或历史表现组成的历史数据进行训练，可能倾向于在新候选人中识别与企业成功员工的相同特征，容易引发基于数据的社会性偏见，如偏好男性或特定性格的女性等。^[14]而从劳动法律法规的角度，招聘员工的标准应围绕工作岗位本身的客观需要，即便特定企业的历史数据表明具备某类特质的员工更可能获得成功，但基于人工智能的“明星员工”模型直接进行候选人筛选，排除其他客观上符合岗位条件但历史数据表现相对弱势的群体，很大程度将构成就业歧视。

2.绩效评估

通过人工智能对员工的工作能力及表现进行评价，进而确定岗位调整、劳动关系变更和薪资报酬也是越发常见的做法。然而，当缺乏对劳动用工场景的深刻洞察时，人工智能应用容易出现失真或片面的问题。例如，人工智能数据分析某员工在工作时间浏览私人邮件和与工作无关的网站的时间比重较大，从而直接认定该员工不胜任，但却没有考虑该员工工作效率很高或因为企业工作安排忙闲不均等，导致在人工智能统计的特定时间内呈现出私人活动较多的情况。^[15]而根据现行劳动法律法规规定和司法实践，证明员工不胜任需要明确的岗位条件、工作职责以及员工不能满足前述条件的客观事实依据，仅仅依靠人工智能的统计数据，除非可以充分说明统计标准的合理性和客观性，否则将无法得到法律认可。

3.监控与员工隐私

传统的监控设备通常安装在员工人身之外的工作场所之中，而近年来部分企业依托人工智能推广的智能手环、头盔、徽章等可穿戴设备，则直接附着于人体之上，并以“合规培训”“效率优化”等名义，实时采集处理相关人员的生物特征（如骑手人脸识别）、行为轨迹（如仓储人员动作捕捉），甚至情绪数据（如客服语音情感分析）等。对此，《个人信息保护法》和《民法典》等明确规定了保护个人（包括员工）的隐私和个人信息。企业和相关主体基于比例原则、最低限度原则，以及合法、正当、必要原则等，可以在人力资源管理或履行合同所必需的范围内处理相关个人信息；对于敏感个人信息，还应取得个人信息主体的单独同意。因此，前述通过人工智能对员工实施监控，如不符合法定要求，则将引发民事侵权责任等风险。

三、工作场所人工智能应用合规管理框架的初步建议

应该说，全球人工智能监管总体尚处于起步阶段，但完善监管举措已成为各国共识。2024年10月17日，第149届各国议会联盟（Inter-Parliamentary Union, IPU）大会全体一致通过了题为《人工智能对民主、人权和法治的影响》的决议，就人工智能立法重点达成一致。其中，可能涉及工作场所及劳动用工领域的主要包括：

通过制定标准，要求公司披露其在人工智能应用中的数据使用和决策过程，提高人工智能部署的透明度和问责机制；

通过内容审核、可及和有效的报告机制、非法内容删除程序以及女性人工智能能力建设等，消除数字性别障碍、暴力与歧视；

法律框架明确使用人工智能系统的透明度和信息要求，确保使用人工智能系统的公共或私人实体的问责机制，并为人工智能技术受害者提供追索权；

避免训练数据和算法偏见导致的歧视；

解决不可接受的人工智能实践导致的信息隐私侵犯问题。

在此基础上，企业可以考虑优先从如下方面构建合规管理框架：

（一） 制定人工智能应用政策

鉴于近年来各法域关于人工智能的立法不断更新，企业可以考虑在综合评估工作场所人工智能使用场景及潜在风险的基础上，进行全面的顶层设计，将人工智能合规治理嵌入组织架构，编制并持续更新内部人工智能应用政策和合规使用指南。进一步而言，将企业业务可能涉及的最新人工智能标准及时纳入内部政策，依托跨部门乃至多法域的法律专业团队主动响应高风险场景（如招聘算法、绩效评估、监控考勤）的各项要求，确保人工智能应用从立项、部署到退出的全过程都有据可依。

（二） 搭建分类分层管理体系

为实现精细化管理，企业应考虑搭建人工智能应用的分类分层风险评估与管理体系。例如，参考《欧盟人工智能法》标准，对工作场所应用的人工智能进行分类分层并标签管理，匹配人力资源管理及相关流程的差异化合规义务。其中，对于确定为高风险场景的，如招聘算法、工时监控等，实施强制性技术文档备案、内部影响评估乃至必要的第三方审计；对有限风险场景，如工作聊天机器人等，则严格执行透明度告知义务；对最小风险可通过设置数据访问权限、操作日志留痕等轻量化措施实现风险可控。

（三） 完善披露与透明度机制

披露以及透明度要求义务是人工智能监管的重点。对此，企业在人工智能部署前应注意向员工、候选人或其他相关方披露算法用途、决策逻辑及数据来源，确保所有受影响方知情并获得必要同意；同时保留“人机协同”复核机制与独立申诉通道，让员工对不利决策提出复议，并将此类流程纳入定期审计与报告，打通“透明度—信任—问责”闭环，从而平衡透明带来的信任红利与潜在信息过载风险，进而增强组织内部认同感与外部法律合规性，更为未来潜在劳动争议风险提供可解释性证据。

从过去几年的立法趋势来看，有关人工智能监管的综合性法律在持续推进，立法者在不断努力在技术创新红利与社会价值保护之间寻找动态平衡点，而适用劳动用工场景人工智能法律体现出两种不同的处理路径——在传统上强调基本人权保护和监管的法域更可能会持续推出专项法律加以规制，然而在更习惯于适用通用性原则加以规制的亚洲地区是否会推出专项规定仍然存在疑问。对于企业而言，两种路径的立法均将对企业提出更高的合规要求，值得持续关注。

*律师助理周昊对本文亦有贡献。

注释：

[1] 参见UNESCO, Consultation Paper on AI Regulation: Emerging Approaches Across the World。

[2] 同引用1。

[3] 参见《欧盟人工智能法案》第一条。

[4] 参见《欧盟人工智能法案》第五条。

[5] 参见《欧盟人工智能法案》第八到二十七条。

[6] 参见《促进人工智能发展和建立信任基本法》。

[7] 参见Policy paper: A pro-innovation approach to AI regulation,

[8] 参见OECD Artificial Intelligence Papers : Algorithmic management in the workplace, 

[9] 参见AI Recruitment And Tight Budgets; Emerging Human Resources Trends For China In 2024

[10]  参见《欧盟人工智能法案》附件三第四项。

[11] 参见《人工智能视频面试法》。

[12] 参见《人工智能发展和建立信任基本法》第二十九条。

[13] 参见《生成式人工智能服务管理暂行办法》第四条第二项。

[14] 参见AI Recruitment Systems and Open Competitions: An Impossible Conjugation?, Silvia Zinolli,

http://global-workplace-law-and-policy.kluwerlawonline.com/2024/11/13/ai-recruitment-systems-and-open-competitions-an-impossible-conjugation/#respond。

[15] 参见田野：《劳动法遭遇人工智能：挑战与因应》，载《苏州大学学报》2018年第6期。