Jeff!Jev开源平替!0.8B本地随便跑!
发表于|更新于|模型
闭源 API 按毫秒卖钱的决策模型,有老哥自己烧卡训了个 0.8B 的开源平替:二十几毫秒出结果,还分文不收。这就是 Jeff,上线 10 天 GitHub 就攒了 1400 多颗星。
它对标的就是最近大火的 TypeSafe 那个闭源收费的 Jev——参数不公开,官方演示一次调用要 100 多毫秒。而 Jeff 连请求格式都跟 Jev 对齐,当平替接过去就能用,不用改客户端。
玩法是把大模型留着干重活,杂活全丢给它:比如这条评论是不是垃圾、客户这句话想干嘛、Agent 该调哪个工具。它直接给带概率的答案,没把握就转给大模型,最多能吃 254 个选项。
消费级显卡、自己电脑就能跑。相对于之前跟大家介绍过的拉雅(Laya),它不会选项一多就掉链子。想省推理成本的,可以先挑业务里最烧钱的那类高频判断换上去试一试。
相关推荐

2026-09-21
Laya大模型!Jev开源平替!本地轻松部署!
Jev 的平替就这么被开源了,兄弟们。看一下 GitHub 上这个叫 Laya 的项目:上线三天,4000 多颗星,pip 一行装上就能用。 用法是把它当决策层用:把邮件、工单这类原文倒进去,再用 choice、score、noul 这三种题型把要问的事情写清楚——比如这封邮件应该转给哪个部门?客户有多急?客户是不是想要退款?这条 prompt 是不是越狱注入?30 毫秒左右,所有答案一起回来。它不生成文字,所以你不用像调用大模型那样拿代码去解析结果,它也没法编点什么出来。 作者还拿它跟 Jev 对着测:Laya 答对了 76.6%,Jev 自己公布的是 72.7%,高那么一点点;速度就差得比较多了——Jev 200 多毫秒,而它 30 毫秒。同时 Jev 是个闭源接口,按调用量来收钱;Laya 你下载回来自己跑,不花钱。 作者在页面上也写清楚了哪儿不行:比如选项超过 20 个,它就不如 Jev 了;想更准确一点,得自己去训练一遍,脚本和教程作者都给了,免费显卡跑个四五小时就搞定了。而协议用的是 Apache 2.0,所以可以商用。 做工单分流、内容审核、AI 网办的兄弟,...

2026-09-20
Jev大模型是怎么玩游戏的?实现原理浅析!
上几集分享了几个最近全球大火的 Jev 决策大模型的视频,然后有粉丝说想看一下它是怎么自动玩游戏的。首先这里声明下,这个模型不是个聊天模型,它只是个决策模型——你输入当前的状态,它来做决策。你可以把它封装成一个函数,接受状态输入作为参数,然后返回决策结果,但是状态的获取和决策后下一步真要怎么移动,是其他代码或者工具要做的事情。 就以我们现在做的这个 Jev 玩贪吃蛇游戏的 Demo 来举例子。每一步输入的状态就是当前地图的大小、蛇头所在坐标、蛇身每个方块所在坐标、食物所在坐标、当前方向等,然后要 Jev 来根据这些信息决策下一步应该是上下还是左右。这些输入的状态,如果你没有源码的话,要看你的游戏有没有 API 或者什么方法获取到。 另外一个方法就是截屏,通过接入 VLLM(多模态大语言模型),把截屏发送给 VLLM 获取到整个游戏当前的状态,通过文字形式发送回来。然后我们的代码将这个信息发送给 G5 或 OpenRouter 上托管的 Jev 大模型,让它来决策下一步应该怎么做。Jev 说应该向左,那么我们的代码就可以直接调用游戏的 API 或者 Playwright 这些...

2026-10-08
GPT-6-Luna-Decisions!OpenAI版Jev决策模型!
OpenAI 也下场做决策模型了。Decisions API 这两天开公测,价格倒是 Jev 的两倍多。 三个问法几乎是照着 Jev 搬过来的。Jev 那边叫 noul、choice、score,OpenAI 这边叫 predicate、choice、score —— 换了个名字接着用。你把要判断的东西喂进去,文字、JSON 都行;OpenAI 这边多吃一样:图片。 出来直接就是数。是还是不是,给你一个 0 到 1 的概率;几个候选你选哪个,把每个的概率列出来;按档位打分,还给个加权分 —— 三档 0、1、2,它返你一个 1.1,意思是卡在两档中间。 答案旁边带着信心值。比如丢一张商品照片问有没有磕碰,它返 0.816,你就可以定条线:超过 0.8 转人工。一次请求最多塞 200 个问题。 官方说它比同一个模型走普通的 Responses API 快 10 倍。价钱摊开看:Jev 100 万输入 token 收 0.042 美元,它收 0.1 美元;但 Jev 只认文字,图片接不了。另外现在能跑的模型也只有 GPT-6 Luna 一个,还是公开测试版,输出那个数不单独收费。...

2026-10-04
Jev Chat Jarvis!聊天界的开源贾维斯!
当前大火的 Jev 决策模型,撞上我们日常用的手机聊天工具,会擦出什么样的火花?这个开源项目直接把火花烧进了聊天框——它就是 Jev Chat Jarvis,GitHub 上已经攒了七千多颗星。用起来很简单:装上 APK,开好无障碍和悬浮窗权限,填上自己的模型 API key 就能跑。 它的工作方式是先读屏再递话。它会读出屏幕上正在聊的这一屏对话,先判断对方真实意图和危险等级、这消息该不该马上回,然后给出 3 条排好序的候选回复。你点一下就能填进输入框——但发不发永远你说了算,它不会替你按发送。QQ、飞书等常用聊天软件都能跑。 落到具体场景就很实用:客户半夜发来一句「在吗」、相亲对象突然冷淡、老板在群里点你名,它都能先帮你掂量一下再递话,把该怎么接的台阶先铺好。 比较难得的是它在隐私上的克制。它不碰你的账号密码,也不篡改聊天软件本身,工作原理跟手机自带的读屏功能一样,只看屏幕上显示的这一屏;转账、红包一概不碰,截图也只在本机识别、不上传。它还能给联系人存档案、写备注,让生成的回复贴合你的实际情况,不会跟真实处境打架。 模型接口自己配就行,OpenRouter、DeepSee...

2026-09-19
Jev模型究竟是个什么鬼?凭什么海外爆火?
Jev 最近红透半边天——不止海外火了,国内也火得一塌糊涂。它到底是个什么鬼?简单说,它不是聊天模型。用法非常朴素:丢一段文本进去,再给一组带类型的问题,它一个字都不写,直接回概率。问题只有三种:choice 给几个选项让它挑一个,score 按你的量表打分,布尔判断则返回「是」的概率。 这恰恰是我们过去一直用 JSON 硬凑的东西。大模型吐出的那个 0.9 只是个字符,不是真概率;而 Jev 给的是校准过的真概率——它说 90%,就真有九成概率会答对。这让人想起几年前跟着吴恩达学深度学习时最早学的监督学习:训练一个分类器,分辨哪些邮件是垃圾邮件、哪些评论是负面评论。区别在于,传统分类器每换一个任务就得重新训练,标签也是焊死的;Jev 一个模型通吃,工单归哪类、评论正不正、消息急不急,同一套接口全扔给它,还不用人标数据训模型。 速度和成本是它爆火的直接原因。实测走 OpenRouter,输入每百万 token 4.2 美分,输出免费——因为根本没有逐字生成这回事。官方给出的端到端延迟是 70 到 500 毫秒。有开发者把 20 个任务串起来跑完,成本刚过一美分的十二分之一。...

2026-09-25
Laya server!一键部署Laya!Jev开源平替!
前几天分享了当下大火的决策模型 Jev,以及它的开源平替 Laya。但 Laya 本身的问题也很直接:它就是一个 Python 库——Torch 要自己装,权重还得自己去 Hugging Face 拉。 GitHub 上这个新的开源项目 Laya Server 把这些活全干了:一条 Docker run 命令就能全部搞定,而且离线也能跑。它提供了一个网页控制台,你可以自己在上面创建 API Key,也自带 Playground 可以直接玩。 更关键的是,它对外暴露的是一个 HTTP RESTful API,调用方式和直接调用 Jev 几乎没有任何差别。改个地址,就能从云端切回自己的机器;挂个域名做反向代理,就能直接给团队用。 访问入口
公告







