片中的三个错误,都不是“模型笨”

看错病人:21 床
模型拿到的信息就是错的。给对上下文,比换一个更大的模型更重要。

漏掉青霉素过敏
它没去查。要让它能调用工具读取过敏史,并且有核对步骤兜底。

凭空写出剂量
模型擅长“写得像”。护栏要求它引用依据,关键医嘱必须由医生确认。
不需要编程基础。会用 AI 写病历、查资料,或者医院正在引入 AI 工具,都适合。
动画约 2 分半;讲解 15 分钟;互动和讨论 15 分钟。
① Agent = 模型 + Harness;② Harness 的六个部件;③ 评估一个临床 AI 工具时该问什么。
英文配音,中文字幕。点击下方章节按钮,可以直接跳到对应画面讲解。


模型拿到的信息就是错的。给对上下文,比换一个更大的模型更重要。

它没去查。要让它能调用工具读取过敏史,并且有核对步骤兜底。

模型擅长“写得像”。护栏要求它引用依据,关键医嘱必须由医生确认。
Harness 原意是马具:缰绳、挽具、马车。在 AI 领域,它指模型之外的一切:给它看什么、让它用什么工具、记住什么、哪些事不许做、怎么检查结果、怎么留下记录。
一次提问怎么问。像口头交代一句话。
决定模型能看到哪些信息。像交给他哪份病历。
设计模型周围的整套系统。像医院的整套制度和流程。
这三层的划分参考了 O’Reilly 与 Databricks 2026 年的文章;“Agent = Model + Harness”的说法见 LangChain 与 Martin Fowler 网站上的文章(来源附在页末)。
给它对的病人的病历和最新指南,不多也不少。
医院类比:交接时递过去的那份病历。
能查检验、查药典,但每个工具都有权限:只读,还是能写?
医院类比:不同岗位不同的 HIS 权限。
跨对话、跨班次保留关键信息,换班不丢事。
医院类比:交班本、护理记录。
划清哪些事不许做、哪些事要人批准:医嘱须医生签字,高危药品双人核对。
医院类比:处方权限、高警示药品管理。
每一步都对照标准检查,不通过就退回重做。
医院类比:手术安全核查表。
它查了什么、改了什么、为什么,全部留痕,方便复盘和上报。
医院类比:麻醉记录单、不良事件上报。

打开或关闭左边的部件,看看哪些风险被拦住了。(教学示意,非真实系统数据)
医院要引入 AI 写病历、做随访或回答患者问题时,可以拿这张表去问厂商或信息科。
已勾选:0 / 8
得分:0 / 5
你所在科室,哪项工作最适合交给 AI 起草?它需要读取哪些信息?
如果 AI 要参与给药相关的工作,你会设置哪些“必须人工确认”的节点?
科室现有的哪些制度(核查表、交班、双人核对)可以直接变成 AI 的 Harness?

片中病例、床号与剂量均为虚构示意,不构成任何用药建议。