你发一句“Hi”,它读到的远不止这句|Agent 内部 01

#Agent 内部发生了什么#AI 产品#Agent

打开任意一个 AI 产品,在输入框里打一个 “Hi”,发送。它回你一句得体的招呼。再普通不过的一步。

但如果你换几个产品,都只发一个 “Hi”,会发现它们的反应差得很远:一个像一本正经的客服,一个像贫嘴的朋友,一个开口就问”今天想做点什么”。

可它们底层,很可能是同一个大模型(LLM,就是 ChatGPT、Claude 这类东西)在答——很多产品并没有自己的”大脑”,用的都是这几家的同一个模型。同一个模型,为什么一句 “Hi” 能聊出这么多种性格?

因为模型收到的,根本不是一个 “Hi”。

一句话前面,系统先垫了一大段

每次你发消息,你所用产品背后的系统,都会在你这句话前面,悄悄垫上一段你看不到的内容,再一起发给模型。

这段东西平时是藏起来的,外人看不到。所以下面我用自己做的 Tenon 举例——它不是聊天框,是个能边写边问 AI 的笔记工具,但你不用管它具体长什么样;我挑它,只因为它是我做的,能把平时藏起来的那段,原样掏出来给你看。

你在它的输入框里打一个 “Hi”,模型这一轮真正读到的,大致是这样分块的一叠(具体内容做了简化):

① 指令(System Prompt)—— 你看不到
   你是 Neva,一个帮用户把想法理清楚的助手。
   用中文回答,简洁;拿不准的事先查清楚,不要编。

② 环境信息(每轮自动塞进来的一段隐藏文字)—— 你看不到
   当前时间:2026-06-16 周二,时区 Asia/Shanghai
   用户正打开的文档:「本周计划」
   用户此刻在看:摊开到了「本周目标」这一段

③ 你的输入(User Message)—— 你只打了这一行
   Hi

真正出自你手的,只有第 ③ 块那一行;前面两块,都是 Tenon 替你垫上的。

① 写给模型的指令,业界叫 System Prompt(系统提示词)。 它规定了模型扮演谁、守什么规矩、用什么语气、能做什么不能做什么。Tenon 把模型设定成”Neva”这个角色,要求它简洁、不许瞎编。换一个产品,这段换了,模型表现出的”性格”和分寸就完全不同——它不是天生懂某个产品的调性,是这段话每一轮替它定调。

② 一些环境信息(也叫环境上下文)。 模型是个离线训练出来的引擎,对”此时此地”一无所知。所以 Tenon 每一轮都塞进一段隐藏文字(它给这段起了个名字,叫 <system-reminder>):当前几点、你打开的是哪份文档,甚至你屏幕上此刻正摊开着哪些内容。模型并不是”看得见”你的屏幕——是 Tenon 每轮拍一张快照、写成文字垫给它。

日期这件事尤其能说明问题:模型默认根本不知道今天是哪天。Tenon 的做法是每轮把日期写进 <system-reminder>;也有产品反过来——干脆不写,只给模型一个”查时间”的小工具,要用时自己查。但无论哪种,结论一样——日期不是模型知道的,是系统喂给它的。

所以你发的不是 “Hi”

把上面拼起来,你按下发送时,模型真正读到的是:

[System Prompt:Neva 的角色和规则] + [环境上下文:今天几号、你在看哪份文档] + [你的输入:"Hi"]

你只看到最后那两个字母,它读到的是全部。

产品越专门,这段垫的越多:Tenon 垫的是你正在看的笔记,换成写代码的 AI 助手,垫的就成了你打开了哪个文件夹、最近改过哪些文件。但道理都一样——你看到的是自己那一行,它读到的是一大叠。

带不带这段,回答差在哪

把这段垫的东西全拿掉,让模型只收到光秃秃一个 “Hi”,它会怎么答?

它不知道自己在哪个产品里、该说中文还是英文、对面的人正在干嘛。能给的,大概只是一句放之四海皆准的客套:

你好!有什么可以帮你的吗?

再把 Tenon 真实的那叠垫回去——Neva 的设定、今天的日期、你正摊开着「本周目标」——同一个模型、同一句 “Hi”,回答就成了:

嗨,看你正盯着「本周目标」——要我帮你把它拆成几条今天就能动手的吗?

两句话出自同一个模型,差的不是一个字。前一句什么都不知道,只能客套;后一句知道你是谁、在看什么,于是能直接接上你的活。模型没有变聪明,变的只有一件事——这一轮,它眼前摆着的东西不一样。任何一个用起来”懂你”的 AI 产品,靠的都是这件事。

这还不是 agent,只是个聊天机器人

不过得说清楚:到这里为止,我们拆的还算不上一个 agent。

你发一句、它答一句,一来一回——这是一个**聊天机器人(chatbot)**做的事。前面垫的那叠东西再丰富,整件事的形状还是「读完输入 → 吐出回答」,一轮就结束了。

一个 agent 比这多一样本事:它不只是回答,还能自己动手——去查一下、读个文件、改点东西,看到结果,再决定下一步。它会在你这一句话之后,自己转上好几圈,而不是张口就答。这一步,才是聊天机器人和 agent 的分界线。

所以这是”Agent 内部发生了什么”系列的第一篇,我们先把最底下那个聊天机器人看清楚。下一篇,就动手给它装上”自己做事”的能力,看一个最简单的 agent 是怎么转起来的。

但无论往后拆到哪一层,大概都会回到这一篇的这句话:

你发给它的,从来不是它读到的全部。

← 返回文章列表