Laya server！一键部署Laya！Jev开源平替！
前几天分享了当下大火的决策模型 Jev，以及它的开源平替 Laya。但 Laya 本身的问题也很直接：它就是一个 Python 库——Torch 要自己装，权重还得自己去 Hugging Face 拉。
GitHub 上这个新的开源项目 Laya Server 把这些活全干了：一条 Docker run 命令就能全部搞定，而且离线也能跑。它提供了一个网页控制台，你可以自己在上面创建 API Key，也自带 Playground 可以直接玩。
更关键的是，它对外暴露的是一个 HTTP RESTful API，调用方式和直接调用 Jev 几乎没有任何差别。改个地址，就能从云端切回自己的机器；挂个域名做反向代理，就能直接给团队用。
微信赞赏
相关推荐
2026-09-21
Laya大模型！Jev开源平替！本地轻松部署！
Jev 的平替就这么被开源了，兄弟们。看一下 GitHub 上这个叫 Laya 的项目：上线三天，4000 多颗星，pip 一行装上就能用。 用法是把它当决策层用：把邮件、工单这类原文倒进去，再用 choice、score、noul 这三种题型把要问的事情写清楚——比如这封邮件应该转给哪个部门？客户有多急？客户是不是想要退款？这条 prompt 是不是越狱注入？30 毫秒左右，所有答案一起回来。它不生成文字，所以你不用像调用大模型那样拿代码去解析结果，它也没法编点什么出来。 作者还拿它跟 Jev 对着测：Laya 答对了 76.6%，Jev 自己公布的是 72.7%，高那么一点点；速度就差得比较多了——Jev 200 多毫秒，而它 30 毫秒。同时 Jev 是个闭源接口，按调用量来收钱；Laya 你下载回来自己跑，不花钱。 作者在页面上也写清楚了哪儿不行：比如选项超过 20 个，它就不如 Jev 了；想更准确一点，得自己去训练一遍，脚本和教程作者都给了，免费显卡跑个四五小时就搞定了。而协议用的是 Apache 2.0，所以可以商用。 做工单分流、内容审核、AI 网办的兄弟，...
2026-09-20
Jev大模型是怎么玩游戏的？实现原理浅析！
上几集分享了几个最近全球大火的 Jev 决策大模型的视频，然后有粉丝说想看一下它是怎么自动玩游戏的。首先这里声明下，这个模型不是个聊天模型，它只是个决策模型——你输入当前的状态，它来做决策。你可以把它封装成一个函数，接受状态输入作为参数，然后返回决策结果，但是状态的获取和决策后下一步真要怎么移动，是其他代码或者工具要做的事情。 就以我们现在做的这个 Jev 玩贪吃蛇游戏的 Demo 来举例子。每一步输入的状态就是当前地图的大小、蛇头所在坐标、蛇身每个方块所在坐标、食物所在坐标、当前方向等，然后要 Jev 来根据这些信息决策下一步应该是上下还是左右。这些输入的状态，如果你没有源码的话，要看你的游戏有没有 API 或者什么方法获取到。 另外一个方法就是截屏，通过接入 VLLM（多模态大语言模型），把截屏发送给 VLLM 获取到整个游戏当前的状态，通过文字形式发送回来。然后我们的代码将这个信息发送给 G5 或 OpenRouter 上托管的 Jev 大模型，让它来决策下一步应该怎么做。Jev 说应该向左，那么我们的代码就可以直接调用游戏的 API 或者 Playwright 这些...
2026-09-21
Jev模型新手入门指南！手把手教你接入和使用！
快速跟大家说下怎么接入当前最火的 Jev 决策模型。总的来说两种方式：一种是官方接入，昨天还要排队，今天已经放开了，且当前可以免费用；另外一种是我之前几个视频用的 OpenRouter，这里一并给大家介绍，方便刚接触的同学。 第一种方式，先到 typesafe.ai 官网，左边可以看到 API keys 的菜单，点击进去就可以创建自己的 key 了。当前是不需要付费的，反正我自己没有付费。免费额度多少或者免费到什么时候我没有去查，因为我给大家演示不需要多大的量，且我在 OpenRouter 上付费了，用 OpenRouter 就够了。 创建好 key 后，大家根据自己操作系统的情况把 key 保存到环境变量。如果这个不清楚的自己问下 DeepSeek 就好了。跟着大家可以看一下我这个完整的示例，自己截个图然后叫豆包之类的把代码解析出来，保存成 JavaScript 文件就好了。整个代码非常简单。 这里快速跟大家过一遍：首先从环境变量中取到我们刚才保存到环境变量的 API key，然后开始构建要发送到 Jev 的结构体。body 中的 model 就是模型，state 就是我...
2026-10-12
Microsoft-Decision-1！微软版Jev！基于 Qwen3.5-9B！
一个只会做选择题的 AI，让微软和硅谷创业公司当场翻了脸。事情得从上周说起：硅谷创业公司 TypeSafe AI 靠一个只拍板、不聊天的决策模型 Jev，三周估值干到了 75 亿美元。微软转头就发布了自己的版本，叫 Microsoft Decision-1。 它的用法很直接：把业务场景和几个备选方案一起喂进去，它直接吐出每个方案的得分和概率，该自动执行还是转人工，一眼就能定。速度是 GPT-6 Sol 的 35 倍，36 项盲测的准确率全部排在第一。像客服工单该派给谁处理、用户咨询该路由到哪个组、内容该不该打风险标这类每天成千上万次的小判断，它都是毫秒级出结果，而且不太会抽风——同一句话换个说法再问，结论翻转率只有 1.3%。 价格也很狠：输入每百万 token 只要 4 美分，输出不要钱。微软内部拿 Xbox 的反馈处理跑过一轮，质量跟 GPT-6 Sol 打平，成本却砍到了 1/200。现在在微软 Foundry 上就能调用，OpenRouter 也已经接进去了。 最让国内开发者破防的是它的底座是阿里的 Qwen 3.5 9B。做智能体、做工作流、做自动化的兄...
2026-09-21
千问办公实战（27）！Jev办公邮件分类实战！
Jev 这个决策模型有多火，相信地球人都知道。上个视频跟大家说了开发怎么接入和使用，这个视频跟大家说下普通办公人员怎么接入到千问办公中使用。 首先我们来到 Jev 母公司 TypeSafe AI 的 console，点击左边的 API keys，先创建好一个 Jev 的 API key。然后我们打开千问办公，输入下面这段提示词，叫它帮忙装上 Jev 的官方 skill，完了后它会提醒我们提供 API key，直接提供就好了。到这里 Jev Skill 就安装好了。 下面给大家演示一下怎么使用。我这里演示的一个场景是叫 Jev 帮忙判断我们哪些邮件必须今天回复。因为我们平时邮箱都是一大堆邮件的，有真正有价值的，也有些毫无价值的营销邮件，我们一个个去看太麻烦，叫大语言模型去分析，邮件太多太长的话又太耗 tokens 太烧钱，这正是 Jev 的用武之地了。 这里我们先点击下千问办公左边菜单中的连接器，找到 Microsoft 365 这个连接器，然后把它连接上，中间需要授下权的，我这里是之前已经连接上的了。连接好后大家先看下我当前的邮件状态，可以看到我这里今天有几封邮件：一封是微...
2026-10-07
Jeff！Jev开源平替！0.8B本地随便跑！
闭源 API 按毫秒卖钱的决策模型，有老哥自己烧卡训了个 0.8B 的开源平替：二十几毫秒出结果，还分文不收。这就是 Jeff，上线 10 天 GitHub 就攒了 1400 多颗星。 它对标的就是最近大火的 TypeSafe 那个闭源收费的 Jev——参数不公开，官方演示一次调用要 100 多毫秒。而 Jeff 连请求格式都跟 Jev 对齐，当平替接过去就能用，不用改客户端。 玩法是把大模型留着干重活，杂活全丢给它：比如这条评论是不是垃圾、客户这句话想干嘛、Agent 该调哪个工具。它直接给带概率的答案，没把握就转给大模型，最多能吃 254 个选项。 消费级显卡、自己电脑就能跑。相对于之前跟大家介绍过的拉雅（Laya），它不会选项一多就掉链子。想省推理成本的，可以先挑业务里最烧钱的那类高频判断换上去试一试。 访问入口
