理解语言模型的输出：四级阶梯

Who is Karpathy

Andrej Karpathy（安德烈·卡帕西）

斯洛伐克裔加拿大 AI 研究者，1986 年生于布拉迪斯拉发，15 岁移居多伦多。他是那种"既做得出顶会论文、又讲得清给高中生听"的人——这也是他这篇帖子值得细读的原因：他一直在思考人类怎样更好地理解 AI 的输出。

看懂这个人，再看他的四级阶梯：一个亲手训过最大模型、又亲手教过最多学生的人，关心的不再是"模型更强"，而是"人怎样接住模型的输出"。

The thesis

原帖开门见山：今后我们将花更多时间来理解语言模型的输出结果。

Karpathy 的判断分两层：

1. 模型越来越能自主完成基础性工作——写代码、查资料、跑流程这些"体力活"，LLM 自己就能干了。
2. 人的工作上移到更高层次的抽象——不再是亲手做，而是监督和理解：判断输出对不对、好不好、能不能用。

然后他给了四个"理解输出"的具体抓手，一级比一级更好——这就是四级阶梯：

四级阶梯示意图（本页自制）：从受控写作，到图表，到交互网页，再到量身定制的讲解视频。

Writing in ASD-STE100

第一级：写作。Karpathy 分享了一个行之有效的方法：让 LLM 用 ASD-STE100 来解释某个概念。

ASD-STE100 是什么？全称 ASD Simplified Technical English（简明技术英语），是一种受控语言规范，最初为航空航天维护文档开发。你可以把它理解成"给技术写作立的法"：哪些词能用、句子怎么写，全部有明确规定，目的是让全世界的维修工程师都不会误读。

它由两大部分组成：

• 第一部分：写作规则——9 节，管单词、名词串、动词、句子、程序步骤、描述性写作、安全指令、标点字数、写作习惯。
• 第二部分：词典——约 900 个批准词，每个词只允许一个词性、一个意思。批准词用大写表示，未批准词用小写并给出替代词。

几条最有代表性的规则（细节拉满）：

• 一词一义一词性：CLOSE 只能是动词"关闭"，不能当形容词表示"接近的"（要用 NEAR）；TEST 只能是动词"测试"。
• 句子字数上限：程序句最多 20 个词，描述句最多 25 个词；一个段落最多 6 句；名词串最多 3 个词（如 "hydraulic reservoir"）。
• 时态大清洗：禁用进行时（is closing ✗）、完成时（has closed ✗）、程序中的被动语态（must be closed ✗）；只用祈使句、一般现在/过去/将来时。
• 主动语态：程序步骤必须用主动语态；复杂内容用垂直列表；一段只讲一个主题。
• WARNING vs CAUTION：WARNING = 有受伤风险，CAUTION = 有设备损坏风险，不能混用。

看 B 板的改写例子，感受一下"受控"前后：

复制改写前（未批准词标红）：
It is imperative that the operator ensures the hydraulic
reservoir is replenished prior to commencing operation.

改写后（ASD-STE100）：
Make sure that the hydraulic reservoir is full
before you start the operation.
(13 words, limit 20)

Karpathy 的使用技巧：熟悉这种语言的 LLM，生成的文本在写作风格上受到严格约束，而他往往觉得这种风格可读性更高。有时他会稍微放宽——比如要求"达到 ASD-STE100 标准的 80%"，因为该规范相当严格。

直接可用的提示词模板：

复制用 ASD-STE100 简明技术英语解释，要求：
- 只用批准词表中约900词范围内的常用词，一词一义
- 程序性句子不超过20词，描述性句子不超过25词
- 用主动语态和祈使句，避免进行时与被动语态
- 先给 WARNING/CAUTION 式的安全提示（如适用），再分步骤说明

Diagrams over prose

第二级：图表 / 图片。Karpathy 说：与其自己写，不如让 LLM 生成一个图表。这些图表往往更容易处理、解析和理解。

注意他的原话是"但更好的是"——图表胜过纯文字。为什么？

• 结构一眼可见：流程的先后、概念的从属、数字的对比，图比段落更快进入大脑。
• 可解析：一张标注清楚的图，你可以指着某一块追问"这里为什么这样"，文字则需要先定位。
• 省脑力：人脑处理图像是并行通道，读长段落是串行通道——图的信息密度更高。

让 LLM 画好图的提示词技巧：

复制把画成一张信息图，要求：
- 用 SVG/HTML 单文件输出，深色背景
- 分"输入-过程-输出"三栏，箭头标明物质流向
- 每个环节标注关键数字（如 6CO2 + 6H2O）
- 右下角留 3 行中文图注，解释怎么看这张图

HTML pages

第三级：网页。Karpathy 说：要求以 HTML 格式输出，即可获得美观且交互性强的网页。LLM 在前端开发方面已日趋精进，能够打造出精美的用户体验、动画效果等。

"但更棒的是"——网页胜过静态图表。为什么 HTML 是理解输出的神器？

• 可交互：折叠、翻卡、自测、步骤器——读者动手点，理解比被动看深得多。
• 可定制："给高中生讲""加 5 道自测题""深色主题"，一句话改版。
• 可丢弃：为一个问题专门生成一个页面，看完即弃，零心理负担——这是以前"不值得"做的事，现在随手可得。

实用的 HTML 输出提示词：

复制把做成一个单文件 HTML 交互页，要求：
- 深色主题，左侧目录导航，顶部阅读进度条
- 包含：生活例子类比、可调参数的 F=ma 演示滑块
- 8 张术语翻卡（点击翻面）、5 道自测题（点击展开答案）
- 所有文字高中生能读懂，公式推导步骤不省略

Bespoke explainer videos

第四级：讲解视频——Karpathy 最看好的输出格式：针对任意主题生成的完全定制、量身打造的讲解视频。

他给出的具体指令是这样的：

复制"制作一个关于 X 的 3b1b 风格讲解视频。
使用我的 ElevenLabs API 密钥进行语音旁白。"

拆开看每个关键词（细节拉满）：

• 3b1b 风格：指 3Blue1Brown——Grant Sanderson 的数学可视化频道，以"把抽象概念画成优雅动画"闻名。它的御用动画库叫 manim（Mathematical Animation Engine），LLM 现在能直接写 manim 代码生成这类动画。
• ElevenLabs：AI 语音合成服务，旁白自然度接近真人；用 API 密钥让 LLM 直接调用它配音。
• "使用我的 API 密钥"：后者需要 API 密钥——Karpathy 也留了退路：你可以让 LLM 帮你找免费替代方案，或利用本地计算资源。

Karpathy 的原话是："这实际上已经开始奏效了！"——不是未来畅想，是现在进行时。评论区就是证据：

• @IntuitMachine 用 Opus 5.5 做了一支"递归式自我提升"的讲解视频；
• @omarsar0 测试 GPT-6 Astra 可视化热门 AI 论文——从一篇《Transformer》论文的精美交互版开始，"为探索研究开辟了新的途径"；
• @EricBuess 更进一步：他现在"所有的电脑工作都是通过语音完成的"，并预言最终形态是"在恰当的时机、基于你的具体情境量身打造的体验"——视频只是中间站，终点是自适应的个性化体验。

Takeaways

Karpathy 在帖末总结了两句话，值得逐字记住：

1. 随着 LLM 的不断进步，它们将越来越能自主完成基础性工作，而我们的工作将更多地转向更高层次的抽象层面，即监督和理解。
2. 幸运的是，LLM 在这方面也能提供帮助：随着智能和代码日益丰富，你可以请求生成大型、定制化且可丢弃的软件产物（例如网页应用、视频讲解），而这些在以前根本没有必要去创建。在这方面大胆尝试，你会大吃一惊。

Notable replies

Key terms — 点击卡片翻面

点击卡片翻面看解释。

Quiz — 点题目展开答案