你有没有想过一个问题:你写的东西,AI 真的“看懂”了吗?
最近圈里有个事,挺有意思,也挺吓人。
简单说就是:现在很多公司都在搞“AI 自动干活”——让 AI 自己调用你的系统、查数据库、发退款、改订单。听起来很酷对吧?
但问题来了:AI 不是人。
它看你的说明书,跟你以为的“看”,根本不是一回事。
你写的说明书,AI 在“猜”
咱们先想一个场景。
你写了一个工具,比如“退款功能”。你给这个工具取名叫 `refund_invoice`,然后写了一段说明:“这个功能用来退款,金额不能超过余额。”
你觉得,写得挺清楚了吧?
但 AI 看到这段说明,它不会像你同事那样,看完不懂还能问你一句:“哎,金额上限是多少?”
它会直接猜。
它从你的工具名、描述、参数列表里,自己形成一个“理解”,然后就直接干了。而且,它可能一小时就干几百次。
你写的每一句模糊的话,在 AI 眼里,就是一个“自由发挥”的空间。
人犯错,叫“bug”;AI 犯错,叫“灾难”
以前,你写一个 API 接口,给程序员用。程序员看不懂,会去翻文档、会去测试环境试一下、会发邮件问你“这个 409 错误是啥意思”。
但 AI 不会。
它看不懂,就直接上手。错了,就自己再试一次。试错了,再试。直到把你的系统搞崩,或者把数据搞乱。
最可怕的是:AI 犯错,不会告诉你它错了。
它只会默默执行,然后给你一个“成功”的结果——但那个结果,可能根本不是你要的。
举个例子:你写了一个退款工具,参数里有个“金额”,你写的是“整数,单位是分”。但 AI 可能理解成“整数,单位是元”。结果一笔 100 元的退款,它给你退了 10000 元。
你以为是 bug?不,是 AI 理解错了你的说明书。
那怎么办?给 AI 写“合同”,不是写“说明书”
这个问题,现在有了一个很直接的答案。
你不能指望 AI 变聪明。你能做的,是把你的说明书,写得像“合同”一样严谨。
什么叫合同?
就是每一条都写死,不留任何模糊空间。
比如,你写一个退款工具,参数里别只写“金额:整数”。你要写:
-
金额范围:1 到 500000(单位是分) -
必须小于等于该发票的剩余可退金额 -
如果超了,直接返回错误码:`REFUND_EXCEEDS_BALANCE`
你看,这样 AI 就没法“自由发挥”了。它要么按规矩来,要么直接报错。
更狠的一招:给 AI 一个“试运行”模式。
比如,你设计一个退款工具,先让 AI 在“试运行”模式下跑一遍,看看它会退多少钱、退给谁。确认没问题了,再给它一个“确认码”,让它真正执行。
这样一来,AI 就算理解错了,最多也就是“试运行”报个错,不会真的搞出乱子。
一个残酷的真相:AI 的“理解”,是你写的
这事最扎心的地方在于:你写的每一行说明,都在决定 AI 会怎么“理解”你的系统。
你以为你写的是“说明”,其实你写的是 AI 的“行为准则”。
你写得模糊,AI 就乱来。你写得清晰,AI 就听话。
你写的不是代码,是 AI 的“信仰”。
所以,别再觉得“AI 会自己理解”了。它不会。它只会按照你写的东西,去“猜”。
你猜对了,它干得漂亮。你猜错了,它干得离谱。
最后一句
AI 不是你的同事,它是你的合同乙方。合同写多细,它就有多靠谱。
---
你觉得,你写的说明书,AI 能看懂吗?评论区聊聊。

