员工问"为什么"，系统不能只回一个分数

图｜封面

这一周，关于"AI 和信任"的信号，比"AI 和效率"更值得 HR 关注。

10 月 23 日，国办印发 AI 就业新政，明确提出要治理因滥用算法造成的就业歧视、虚假招聘、侵犯隐私和休息权等乱象，要求企业在推广 AI 时为受影响劳动者留缓冲、提供转岗支持。往前推两周，人社部等七部门就新就业形态劳动者权益保障办法征求意见，直接把底线写进条文：停止派单、封禁账号等涉及劳动者重大利益的决定，不得仅由算法自动作出，必须经人工审核；算法要可解释；劳动者提出异议，企业要在 48 小时内人工答复。

图｜本周双热点

两条政策指向同一个问题：AI 可以参与管理，但不能把人关在规则外面。当一个员工拿到排班、看到薪资、收到预警，问了一句"为什么"，系统如果只回一个分数、一个结论、一个无法追溯的标签——那不是智能，那是黑箱。

01

很多公司把 AI 用成了"看不见的考官"

智能体进 HR 系统后，最容易长出一种暗病：它越来越能决定，却越来越不解释。

· 排班为什么这么排，系统给不出理由，只给结果；

· 算薪为什么有差异，员工看到一条数字，看不到计算口径；

· 合同为什么标红，HR 收到预警，但背后是哪条规则触发，要翻三层后台；

· 绩效为什么掉档，模型说"综合评分下降"，但综合怎么来、权重怎么设，没人讲得清。

图｜黑箱考官

这时候 AI 就像一个不露面的考官：它打分、它调度、它标红，但凡涉及"凭什么"，它就沉默。短期看是效率，长期看是信任崩塌——员工发现找店长问，店长说"系统这么算的"；找 HR 问，HR 说"模型这么标的"。最后没人负责，只剩一个黑箱背锅。新规里"算法可解释"这四个字，戳的就是这件事：你不能让员工对着一个结论发呆。

02

企业级 AI 的第一标准：可解释，不是可炫技

胡萝卜 AI 一直有个偏执：智能体出的每一个关键结论，都应该能翻译成人话。

图｜可解释

不是"模型输出概率 0.82"，而是"该员工连续夜班已触红线，建议调休或换班"；不是"薪资金额已生成"，而是"本月按新城市基数调整，高温津贴按 3 天计入"；不是"合同风险高"，而是"兼职实际管理强度接近全日制，建议复核协议类型"。

讲清数据从哪来

用了哪些字段、套了哪条政策、参照了哪段历史，不藏私。员工问起来，AI 能调出依据，不是"我猜的"。

讲清逻辑怎么走

为什么排这个班、为什么标这个异常、为什么给这个提醒。规则可以复杂，但路径要可回溯。

讲清谁还能改

AI 不是终点，是草稿。人点确认、人改参数、人推翻结论，系统留痕：原来怎么算、现在怎么改、谁改的、为什么改。这一步做好了，AI 才不是"看不见的考官"，而是"看得见的副官"。

03

透明不是暴露算法，是把责任还给人

有人会误解：可解释就是要让员工看懂代码、看懂模型权重？不是。

图｜责任归人

规则透明

排班红线、薪酬口径、合同标准、请假逻辑，先有统一底稿，不藏在系统深处。员工不用背条文，但想知道时能查到"公司按什么标准来"。

过程透明

智能体跑完，留中间结果。不是只给"最终班表"，而是标出"为什么这家店多排了兼职、那家店控了夜班"。HR 和店长能复盘，员工能追问。

责任透明

涉及调岗、扣薪、违纪、解除，AI 只整理材料，不替公司签字。系统里每一步都有"谁复核过、谁确认过"的痕迹。出事能找到人，不是甩给算法。新规要求 48 小时人工答复、要求算法可解释、要求人工审核重大决定，本质上都在做同一件事：把责任从系统拉回人身上。胡萝卜 AI 要的是反过来的结构：系统越自动，人越在台前；AI 越沉默跑流程，人越大声做解释。

04

透明用工，反而让管理更轻

很多管理者担心：什么都解释，会不会太重？会不会员工天天来扯？真实情况相反。

图｜透明更轻

黑箱系统才会引发无休无止的扯皮——因为员工不相信，所以每次结果都要重算、每笔薪资都要复核、每个排班都要店长口头再解释一遍。系统省了十分钟，人花两小时补信任。

透明系统把扯皮前置消化掉：排班草稿附带"合规 + 成本 + 到岗率"说明，店长一看就懂，员工问起来有话可说；薪资本月异动自动出对照，哪几项变了、为什么变，一行字讲清；合同预警附风险点代码和依据，HR 不用自己翻法条，直接拿底稿沟通；员工有异议，系统留入口、留记录、留人工答复时限，不靠微信群吵。

用工字典里 300+ 风险点，不是拿来吓人的，是让每一次判断都有底稿。AI 把底稿翻出来，人把底稿讲成人话。信任就这样一点点长出来。

05

从"管人系统"升级成"组织镜子"

再往深一层，AI 在用工里的角色，不该只是执行工具，还可以是"组织镜子"。

图｜组织镜子

黑箱系统只告诉你想看的结果：谁迟到、谁超工时、谁成本低。透明系统会照出你没注意的结构性问题：为什么某家店总在周中缺人？是排班逻辑没适配客流，还是兼职到岗率在掉？为什么某类岗位离职高？是算薪口径不透明，还是员工觉得"干多干少系统说了算"？为什么管理者总在救火？是规则没沉淀，还是异常从来只标红不复盘？

AI 把重复跑完，把数据摊开，把异常讲清楚，人才能看见组织真正的问题。这时候智能体不是来"管人"的，是来帮管理者看见"人怎么被管理"的。国办文件讲"就业友好型"，不是让企业少用电，是让技术用得有分寸。透明，就是分寸感。

06

判断一套企业 AI 值不值得信，问三个问题

不看模型多大、功能多全，只看它敢不敢被看见。

图｜透光AI

第一，员工问"为什么"，系统给不给得出依据？只给结论不给依据，再准也别用。

第二，HR 想改一次规则，能不能改得动、留得下痕？改不动是黑箱，改了不留痕是裸奔。两者都不是企业级。

第三，出错了能追溯到哪一步、谁复核、按什么口径？追溯不到，AI 再快也是风险；追溯得到，AI 才是可治理的副官。

三句都过关，才叫透明用工。否则只是把 Excel 换成了会聊天的黑箱。

这一周的政策信号，其实在合力说一件事：AI 进用工，信任比效率先到岗。算得准很重要，但员工要的不仅是准，是"我知道你按什么准"；跑得快很重要，但管理者要的不仅是快，是"出了事我讲得清、兜得住"。胡萝卜 AI 想做的，不是更聪明的黑箱，是更敞亮的用工方式：智能体跑重复，把过程摊开；人做判断，把责任接住；规则被看见，信任才回来。最好的企业 AI，不藏在后台替你决定，而是站在台前帮你解释。技术越深，越要透光。

AI 跑流程，人做判断。
混合用工，让人回到人该在的位置。

胡萝卜AI · 用工观察 ｜ 官网 hrrobot.ai

往期推荐

›福特把裁掉的人又招回来了，本周HR圈......

›好的工具，是让使用者成为主角

›个人AI遍地都是，为什么企业还需要"企业级AI"？