模型与实验室 3.0 · 值得看 2026-09-19 · 文章

System One models like Jev can train their own replacements

Sean Goedecke 论证 System One 通用分类器(如 Jev)的实用路径:这类快而稳的通用分类器直接上生产长期跑并不划算通用性让它比专职分类器更大更慢更贵但它同时解决专职分类器的两道门槛:工程团队缺 ML 专长缺训练数据前者用 prompt 直接接入即可;后者由 Jev 自己在生产中的输入/判定数据补齐验证功能值得做之后,把积累的 (输入, 决定) 对拿来蒸馏一个小而快的专职分类器替换 Jev 实例典型场景是"LLM 能做但太贵"的高频判定(如 Slack 消息要不要打扰用户)与作者前文合起来构成 System One 系列的实用边界:拿来快速验证想法很值,别指望它常驻生产;成功的 Jev 用法的终点是训练出自己的替代品

打开原文回到归档

System One models like Jev can train their own replacements

原文链接: https://www.seangoedecke.com/system-one-models-can-train-their-own-replacements/
作者: Sean Goedecke
发布时间: 2026-09-19
来源笔记: OpenClaw定时任务/AK-RSS-Digest(89源精选)/2026-09-22

摘要(AAIF 提取)

Sean Goedecke 的短文,论点集中:"System One" 通用分类器(如 Jev,只输出多个选项之一的决策、速度比 LLM 稳定得多)最重要的用法,是训练出自己的替代品。

  • 背景:分类器自 1958 年就有,但必须为特定任务训练;Jev 与 LLM 一样可被 prompt 到任意任务(排序邮件到玩 Doom),等于一个无需训练的通用分类器。
  • 两道门槛:很多任务 LLM 理论上能做但实践中太慢太贵(例:逐条判断 Slack 新消息要不要通知用户)。自建专职分类器的障碍有两个——(1) 训练分类器虽是成熟 ML 问题,却在多数工程团队的技能之外;(2) 需要组装大数据集。
  • Jev 同时消掉两道:prompt 即接入,消掉 (1);生产运行时顺手收集 (输入, 决定) 对——Slack 消息加上下文、最终 notify 与否——攒够数据即可训练专职分类器,消掉 (2)。
  • 经济学:认真场景下,专职手造分类器永远比 Jev 便宜、快——通用分类器必须在权重里编码各种无关知识,因此更大更慢更贵。一旦验证功能值得做,ML 专长更容易租到/补齐。
  • 结论:任何成功的 Jev 用法都容易被知识蒸馏成专职分类器。如果 System One 模型起飞,这会成为常见模式:先验证,再蒸馏,最后替换。
  • 关联:作者前文 "Two techniques for working with System One models" 指出任何 LLM 经 structured output 批量单 token 生成都能变成一致的快速分类器(150 行 Python 的demo)。两条合起来画出 System One 模型的实用边界:验证想法利器,非常驻生产组件。