AI时代的「信任账户」——老板假装扫了500次付款码,被戳穿;而AI撒谎时,你根本看不出来
微博热榜上有一条:「老板假装扫了500余次付款码」。老板做生意,遇到付不起钱的顾客,就假装扫了码——不收钱,但给对方留面子。做了五百多次,最后被发现了。
大家讨论的是「善意」还是「作秀」。我关注的是另一个角度:这五百次假动作,为什么能持续这么久?
因为收款这事有物理反馈。顾客扫完码,手机界面、语音播报、老板的表情,全是信息。时间长了,破绽一定会漏。这条新闻能上热搜,恰恰因为它是「被抓到」的善意。
现在把场景换一下:如果给你汇报的不是老板,是AI呢?
一、AI的谎和人的谎,性质完全不同
人撒谎,你能看到痕迹。眼神躲闪、前后矛盾、细节对不上、语气变了。这些是几万年进化出来的检测机制。
AI撒谎,你看不到任何痕迹。它的语气是平的,细节是完整的,逻辑是自洽的,甚至比真话更像真的。
这就是我要说的核心判断:AI不是让人更容易被骗,是让「被骗」这件事变得无法察觉。
我做过一个很简单的测试,你可以试:给自己的AI一个不存在的前提,让它去分析。它会顺着这个假前提,非常认真地给你推演出一个完整的、看起来专业的结论。不提醒你前提有问题,不问你这数据哪来的。
二、组织里最贵的成本,是「看不见的错误」
过去组织里的错误,大多有摩擦音。一个人传错了话,第二个人会问一句「你确定吗」,第三个人会发现对不上。这些摩擦很烦,但它们构成了组织的纠错机制。
AI把摩擦音抹掉了。现在一份报告、一个分析、一份方案,从AI出来就是完稿级别的。谁去问那句「你确定吗」?
我观察到的普遍情况是:越好看的AI输出,越没人质疑。因为质疑需要成本,而AI给的东西看起来不需要。于是组织里出现了一个新现象:大量高质量格式的错误,在流水线上畅通无阻。
这就是我理解的AI时代最隐蔽的成本:不是AI做错了,而是没人有能力验证它做对了没有。
你的组织能发现错误的速度,决定了你用AI的上限。发现得慢,AI就是加速你犯错;发现得快,AI才是加速你成长。
三、赌局:为什么大多数人现在还在赌
这里有个很现实的博弈。
用AI出方案,快、省事、领导满意。如果AI对了,功劳是你的;如果AI错了,你可以说「这是AI生成的」。
而认真验证呢?慢,费劲,还可能因为「太挑剔」被认为不合群。
理性人一定选前者。所以现在的很多组织,实际上是在赌——赌AI出错的那一天,别落在自己头上。
这个赌局撑不了多久。因为AI出错不是小概率事件,是大规模、系统性的。当所有人都用同一批模型、同一批数据,错误会高度相关:十个人犯的是同一个错,只是没人先发现。
四、解法:给组织建一个「信任账户」
我的解法不是「让AI更可靠」,而是把信任变成需要持续充值的东西。
第一层:给AI输出定「信任额度」
不同场景,AI的信任额度应该不一样。可以定得很粗,但要有:
- 低风险(内部草稿、头脑风暴、格式转换)——高额度,直接可用;
- 中风险(对外材料、方案初稿、数据分析)——中额度,必须有人抽验;
- 高风险(人事决策、财务判断、客户承诺)——零额度,AI只做输入,不做结论。
关键在于,这个额度要写下来、公示出来。没有额度的组织,就是所有人默认满额度。
第二层:设一个「前提检查」动作
不用复杂。要求所有用AI产出的关键材料,必须回答三个问题:
1)我给它喂了什么前提,这个前提是真的吗?
2)它给我的结论,有没有依赖我不能验证的东西?
3)如果这个结论是错的,错在哪里最可能?
三句话,两分钟。这个动作的价值不在于找到错误,在于让人从「生成者」变回「判断者」。
第三层:给「发现问题」发奖,而不是给「产出多」发奖
这一条最反常识,也最重要。
大部分公司的激励,奖励的是产出:做了多少方案、写了多少报告、发了多少内容。AI让产出变得极便宜,于是产出类奖励迅速贬值。真正稀缺的,是那个在流水线上按停按钮的人。
建议直接改考核:谁的方案被验证出问题,谁记一笔「发现分」。一个季度下来,发现分高的人,才是你组织里最值钱的人。
五、说句大实话
那位老板假装扫了五百次码,最后被发现了。这个故事的善意之处在于,它的破绽是可见的——时间会让人看见真相。
但AI不会。它不会脸红,不会前后矛盾,不会在第五百次露出马脚。它会一直很平静地给你漂亮的答案,直到某个真实世界的后果把它撞破。
那时候你会发现,问题从来不在AI。问题在于,你的组织里,没有人被安排去问那句「你确定吗」。
所以,别急着给团队配更好的模型。先问一句:我们上一次成功推翻了AI的结论,是什么时候?
如果一次都没有,那不是AI太强,是你的组织已经不会怀疑了。