【光明云说法】数据未经授权被滥用，算法监控劳动过程……AI蒸馏技术潜藏哪些法律风险？

近日，光明过程AI开源工具“同事.skill”引发广泛关注，云说开发者通过收集、法数法律风险提取离职员工的据未经授监控技术聊天记录、工作文档、权被潜藏沟通习惯等数据，滥用劳动借助AI蒸馏技术生成具备特定人格特征、算法可替代人工完成工作任务的蒸馏智能模型。

北京市第一中级人民法院表示，光明过程依托数据提取、云说人格复刻、法数法律风险能力迁移等特性，据未经授监控技术AI蒸馏技术快速落地，权被潜藏类似“同事.skill”等未经授权复刻他人人格与工作能力的滥用劳动项目不断涌现，不仅严重侵害自然人的算法人格权、损害劳动者合法权益，还扰乱数字空间公序良俗，衍生出一系列现实法律风险。

数据未经授权被滥用，人格权保护面临严峻挑战

AI蒸馏技术多以自然人肖像、声音、聊天记录、影像等人格要素为核心训练素材，通过数字化提取、特征固化、模型复刻等方式对人格利益进行实质性利用。实践中，大量开发者未经权利人同意，擅自抓取并使用个人数据，甚至对逝者实施“数字复活”，严重侵害自然人人格权益。

例如，北京某法院2023年4月审结的殷某诉北京某智能科技有限公司人格权纠纷中，配音师殷某曾为科技公司录制有声读物，科技公司利用AI技术将殷某声音训练成文本转语音产品并对外出售，相关AI配音短视频广泛传播。法院认为声音属于人格权客体，录音著作权不能替代人格权授权，企业即便享有录音版权，未经许可将他人声音用于AI蒸馏仍构成声音权侵权，判决公司赔礼道歉并赔偿殷某25万元。

算法监控劳动过程，损害劳动者身心健康

AI蒸馏可将劳动者工作习惯、沟通方式、经验技能、行为模式转化为可复用的AI模型，企业通过蒸馏员工数据，优化派单、考核、薪酬全链条算法，全程用硬性数据指标管控劳动者工作行为，倒逼劳动者被动贴合算法标准，损害劳动者的身心健康和休息权益。

例如，北京某法院2024年7月审结的孙某诉北京市某商贸有限公司、某科技有限公司劳动纠纷中，外卖骑手孙某在送餐途中发生交通事故致骨折，商贸公司以“众包非劳动关系”、平台企业以“仅提供技术服务、不直接用工”为由，均拒绝支付伤残赔偿。法院认为，平台算法是核心管理工具，对骑手工作行为、劳动强度、收入分配具有绝对控制权，算法强制派单、压缩时效、高强度派单，直接倒逼骑手疲劳、赶单、分心作业，是导致事故受伤的重要诱因。最终平台企业与孙某达成调解协议，支付孙某生活保障费1.3万元。

算法黑箱导致举证不能，权利救济与司法认定困难

AI蒸馏的训练数据、模型逻辑、调用过程均由技术方掌控，形成典型算法黑箱。被侵害的自然人通常无法获取数据来源、授权记录、算法规则、蒸馏过程等核心证据，在维权中处于明显弱势，易因举证不能导致诉求难以支持。

例如，北京某法院2023年6月审结的唐某某诉某科技有限公司网络服务合同纠纷中，科技公司运营的平台将唐某某发布的内容判定为“包含AI生成内容但未标识”的违规情况，将该内容隐藏并将用户禁言一天，唐某某向平台申诉失败后将科技公司诉至法院。案件审理中公司未对其使用算法决策依据和结果进行适度的解释和说明，法院认为，网络内容服务平台在即时性创作文本场景下对使用算法自动化决策结果承担适度说明义务，判决公司展开折叠的回答并删除相关后台记录。

法官提示

强化人格权授权与保护

企业使用自然人数据开展AI模型蒸馏相关工作，必须依法征得书面明示同意，提前明确数据使用的具体用途、有效期限和适用范围边界，严禁企业未经许可擅自采集、固化、永久留存劳动者人格特征与工作经验信息，防止以AI智能化升级、岗位优化替代为由，违法解除劳动关系，变相胁迫员工签署数据授权文件。

全面强化劳动者专项权益保护

在AI智能排班、算法考核、数字化管理等用工场景中，全面规范企业用工行为，严格保障劳动者劳动报酬、休息休假、岗位安全、社会保障等各项法定基本权益，坚决防范算法歧视、智能压榨、差异化对待等各类隐形侵权问题。

严格适用举证责任倒置规则

针对职场算法不透明、后台规则隐蔽等算法黑箱突出问题，统一由AI模型使用方举证数据来源合规、人员授权真实、全程算法合规，切实降低劳动者与人格权权利人取证压力，大幅减轻维权实操难度。（作者：北京市第一中级人民法院法警支队陈境峰 光明网见习记者 刁慈整理）

来源： 光明网