Jev:面向生产环境的 System One 模型

Latent Space4 天前

Jev 为什么引发关注

Jev 是 TypeSafe AI 推出的新模型,由 Diogo Almeida 参与主导。Almeida 曾是 InstructGPT 论文作者之一,也长期批评当前 API 可用的前沿模型在对齐、拒答、可靠性等方面走向了过于单一的路线:ChatGPT 的成功让行业几乎只剩下自回归、聊天调优的大语言模型这一种主流范式。

Jev 发布后迅速在 AI 社区传播。根据文中数据,其发布视频观看量约 4000 万次。围绕 Jev 的讨论集中在几个方向:

  • 高速交互场景:游戏、电脑控制、语音加浏览器控制、Doom 演示、游戏中的自动驾驶等。
  • 编程代理:官方提供了面向 coding agents 的指南,也有人尝试将其用于 lint、压缩工具调用等任务。
  • 软件和数据工作流:分析回放、用户旅程复盘、实体解析、自然语言搜索等。
  • “智能软件”:让模型能力像正则表达式一样融入后台,而不是以聊天机器人形式占据前台。
  • 模型评估与裁判:有人尝试把 Jev 用作 judge。

文章强调,Jev 不应只被理解为又一个 API 形态的模型,而应放在 TypeSafe AI 对“可组合、可编程、面向自动化的 AI”的整体设想中理解。

从 RLHF 到 RLCD

Diogo Almeida 熟悉 RLHF 的发展脉络。他将相关路线追溯到三个阶段:

  1. Christiano 等人在 2017 年关于从人类偏好中学习的工作;
  2. Stiennon 等人在 2020 年关于学习摘要的工作;
  3. Ouyang 等人在 2022 年的 InstructGPT 工作。

在他看来,后续许多创新——从函数调用、结构化输出到推理模型——都像是在“基于字符串的序列到序列预测范式”上继续打补丁。

Almeida 认为,把大语言模型放在软件系统核心位置时,关键问题不是“更像人类助手”,而是可靠性。他曾在 2023 到 2024 年间尝试训练能解决这一核心问题的模型,但受个人和组织层面的低估影响,并未成功。

Jev 的核心方法被称为 RLCD:Reinforcement Learning for Calibrated Decisions,即“用于校准决策的强化学习”。文中称这是一种尚未公开发表的新技术,其目标是让模型在 System One 类型任务上给出“带有认知诚实概率的答案”。

这与两类主流路线形成对比:

  • RLHF:依赖人类评分反馈,文中认为它可能导致幻觉、迎合以及对人类反馈的长期依赖。
  • RLVR:依赖程序化可验证输出和评分规则,适用于某些可验证问题,但文中认为它会加剧“锯齿状智能”,也不易与其他软件系统整合。

为什么校准很重要

Jev 关注的不是让模型输出更长、更会聊天的回答,而是让它在可自动化的软件任务中给出可校准的判断。

所谓校准,核心在于模型的置信度应与实际正确率相匹配。对于软件系统来说,这一点很关键:如果模型不知道自己何时不确定,或者错误地表现出高度自信,就很难被稳定地组合进更大的自动化流程。

文中提到,过去一代“训练有帮助的 AI 助手”的目标,可能并不适合“为自动化训练可组合、可编程 AI”的目标。Jev 的定位正是试图从后者出发。

“最苦涩的一课”:任务与数据胜过算力

文章还讨论了 Almeida 关于 “The Bitterest Lesson” 的观点。与传统“苦涩的教训”强调通用方法和算力扩展不同,文中呈现的重点是:在某些模型路线中,任务定义和数据可能比单纯增加算力更关键。

这也解释了为什么 TypeSafe AI 试图探索与大型实验室不同的路径:不完全依赖数十亿美元级别的算力投入,而是围绕具体任务、数据和校准目标来构建模型能力。

Jev 的实际含义

Jev 的理念可以概括为:

不是为“像神一样回答一切”而设计,而是为“在生产环境中可靠决策”而设计。

这也是标题中 “for Prod, not God” 的含义:Jev 更关心生产系统中的确定性、可组合性和可控性,而不是成为一个包办所有问题的通用聊天模型。

对开发者而言,Jev 更值得探索的方向可能不是简单复刻 API 或做低成本基准测试,而是寻找适合校准决策模型的真实工作流,例如:

  • 高速人机交互;
  • 编程代理中的局部判断;
  • 用户行为分析;
  • 暗数据处理;
  • 自然语言检索;
  • 嵌入后台的软件智能。

文章没有给出 Jev 的完整技术细节,也指出 RLCD 仍是未公开发表的方法。因此,目前更稳妥的理解是:Jev 代表了一种不同于聊天式大模型的产品和研究方向,即把模型作为软件系统中的可靠组件,而不是把聊天助手作为唯一入口。

评论

请登录后发表观点

暂无数据