好文集ChatGPT Plus¥119

如何花 17 美元训练你自己的 Jev

花 17 美元训一个自己的 Jev

作者:Hassan(@nutlope,Together AI)

一句话:Together AI 开源了一套完整的 recipe,让你能微调出自己的 Jev 类分类模型,并把成本压到 17 美元。

他们同时发布了一个可以直接用的模型:together/Tev1-4B-experimental,基于 Qwen3.5 4B。

一、先说 Jev 到底解决什么问题

作者的定义很干净:

Jev 已经迅速成为 AI 领域最受关注的模型发布之一。它是一个强大的分类模型,既快又极其便宜。

给 Jev 一段状态加上预定义的问题,它会很快返回一个结果——分数、布尔值、或者多选答案。

这类模型有大量真实应用:电商网站评估自动退货、给机器学习论文分类、或者给一段文本打情感分。

二、为什么这件事值得做

定价是关键:自己在 serverless 平台上跑 Tev1,输入 $0.042/1M token,输出免费——和 Jev 官方定价一致。

也就是说,你不用等 TypeSafe 的开权限,也不用绑在它的 API 上,今天就能拥有一个能本地部署、能自己改、成本可控的决策模型。

三、完整步骤

第一步:拿到代码

git clone https://github.com/togethercomputer/tev1

仓库是 MIT 许可,9 月 23 日刚建。

第二步:装依赖

uv sync --locked

第三步:配置 API key

cp .env.example .env

在新建的 .env 里填上你的 TOGETHER_API_KEY。作者特意交代:JEV_MODEL 先别填,留空。

第四步:准备数据

用 Qwen3.5 4B 作为基础模型,配上几个 Hugging Face 上托管的数据集做微调。

第五步:部署

训完之后,你会得到一个部署好的模型,带一个可以直接集成进任何软件的 API 端点。

四、它训出来的模型长什么样

文章给的例子很具体——一个客服工单分类:

客户留言:你好,我查了账单,你们公司对我的 10 月订阅重复扣款了两次。

两笔都是同一天的 19.99 美元。我没有改过套餐。

下列哪个支持意图最匹配这条客户留言?

A. 客户报告被重复扣款。

B. 客户想结束或降级订阅。

C. 客户报告一笔付款失败或被拒。

D. 以上意图都不匹配。

这就是那类「你其实不需要一个会写作文的模型」的任务。 你需要的是一个快速、便宜、每次都给出同一个答案的判断。

五、我的判断

这条最有价值的地方,是把「训一个决策模型」这件听起来很重的事,变成了一份能跟着走的清单。

之前我们写过 Jev 是什么、写过 25 行 Python 复现它的机制、写过有人把开源决策模型做到 4,000 星。这一条补上的是最后一块:如果我想让自己的模型学会我的领域,该怎么做。

三个具体优势:

  • 成本可预期:17 美元,不是「看用量」

  • 数据不出门:训完可以自己部署,不用把 state 发到第三方

  • 可改:Qwen3.5 4B 是开权重,你想怎么调都行

一个要留意的边界:17 美元这个数字依赖 Together 的微调服务定价,是当前价格。而且文章没细说数据集的具体组合和训练超参——要完整复现,得把仓库读一遍。

链接

推文(Hassan / Together AI):https://x.com/nutlope/status/2102881280115249597

仓库(MIT):https://github.com/togethercomputer/tev1

模型:https://huggingface.co/together/Tev1-4B-experimental

#Jev #微调 #Agent工程

全文完
查看原文

沿着这个主题继续读

从一篇文章,找到相关的教程、经验和阅读路径。

JevJev 入门与使用方法,从任务表达、结果评价到 Codex 和 Claude Code 接入。