Laya server！一键部署Laya！Jev开源平替！
前几天分享了当下大火的决策模型 Jev，以及它的开源平替 Laya。但 Laya 本身的问题也很直接：它就是一个 Python 库——Torch 要自己装，权重还得自己去 Hugging Face 拉。
GitHub 上这个新的开源项目 Laya Server 把这些活全干了：一条 Docker run 命令就能全部搞定，而且离线也能跑。它提供了一个网页控制台，你可以自己在上面创建 API Key，也自带 Playground 可以直接玩。
更关键的是，它对外暴露的是一个 HTTP RESTful API，调用方式和直接调用 Jev 几乎没有任何差别。改个地址，就能从云端切回自己的机器；挂个域名做反向代理，就能直接给团队用。
微信赞赏
相关推荐
2026-09-21
Laya大模型！Jev开源平替！本地轻松部署！
Jev 的平替就这么被开源了，兄弟们。看一下 GitHub 上这个叫 Laya 的项目：上线三天，4000 多颗星，pip 一行装上就能用。 用法是把它当决策层用：把邮件、工单这类原文倒进去，再用 choice、score、noul 这三种题型把要问的事情写清楚——比如这封邮件应该转给哪个部门？客户有多急？客户是不是想要退款？这条 prompt 是不是越狱注入？30 毫秒左右，所有答案一起回来。它不生成文字，所以你不用像调用大模型那样拿代码去解析结果，它也没法编点什么出来。 作者还拿它跟 Jev 对着测：Laya 答对了 76.6%，Jev 自己公布的是 72.7%，高那么一点点；速度就差得比较多了——Jev 200 多毫秒，而它 30 毫秒。同时 Jev 是个闭源接口，按调用量来收钱；Laya 你下载回来自己跑，不花钱。 作者在页面上也写清楚了哪儿不行：比如选项超过 20 个，它就不如 Jev 了；想更准确一点，得自己去训练一遍，脚本和教程作者都给了，免费显卡跑个四五小时就搞定了。而协议用的是 Apache 2.0，所以可以商用。 做工单分流、内容审核、AI 网办的兄弟，...
2026-09-20
Jev大模型是怎么玩游戏的？实现原理浅析！
上几集分享了几个最近全球大火的 Jev 决策大模型的视频，然后有粉丝说想看一下它是怎么自动玩游戏的。首先这里声明下，这个模型不是个聊天模型，它只是个决策模型——你输入当前的状态，它来做决策。你可以把它封装成一个函数，接受状态输入作为参数，然后返回决策结果，但是状态的获取和决策后下一步真要怎么移动，是其他代码或者工具要做的事情。 就以我们现在做的这个 Jev 玩贪吃蛇游戏的 Demo 来举例子。每一步输入的状态就是当前地图的大小、蛇头所在坐标、蛇身每个方块所在坐标、食物所在坐标、当前方向等，然后要 Jev 来根据这些信息决策下一步应该是上下还是左右。这些输入的状态，如果你没有源码的话，要看你的游戏有没有 API 或者什么方法获取到。 另外一个方法就是截屏，通过接入 VLLM（多模态大语言模型），把截屏发送给 VLLM 获取到整个游戏当前的状态，通过文字形式发送回来。然后我们的代码将这个信息发送给 G5 或 OpenRouter 上托管的 Jev 大模型，让它来决策下一步应该怎么做。Jev 说应该向左，那么我们的代码就可以直接调用游戏的 API 或者 Playwright 这些...
2026-09-21
Jev模型新手入门指南！手把手教你接入和使用！
快速跟大家说下怎么接入当前最火的 Jev 决策模型。总的来说两种方式：一种是官方接入，昨天还要排队，今天已经放开了，且当前可以免费用；另外一种是我之前几个视频用的 OpenRouter，这里一并给大家介绍，方便刚接触的同学。 第一种方式，先到 typesafe.ai 官网，左边可以看到 API keys 的菜单，点击进去就可以创建自己的 key 了。当前是不需要付费的，反正我自己没有付费。免费额度多少或者免费到什么时候我没有去查，因为我给大家演示不需要多大的量，且我在 OpenRouter 上付费了，用 OpenRouter 就够了。 创建好 key 后，大家根据自己操作系统的情况把 key 保存到环境变量。如果这个不清楚的自己问下 DeepSeek 就好了。跟着大家可以看一下我这个完整的示例，自己截个图然后叫豆包之类的把代码解析出来，保存成 JavaScript 文件就好了。整个代码非常简单。 这里快速跟大家过一遍：首先从环境变量中取到我们刚才保存到环境变量的 API key，然后开始构建要发送到 Jev 的结构体。body 中的 model 就是模型，state 就是我...
2026-09-19
Jev大模型API接入和测评报告！
Jev 这两天的风头可谓无两。上一期我们介绍过它是个什么鬼——一个只做分类和判断、不写字的模型，能有这样的热度着实难能可贵。这一期就来解决实际问题：它到底该怎么用，以及它和普通大语言模型相比，性能究竟差多少。 接入本身并不复杂。准备好 API key 后，可以直接照着 OpenRouter 上的示例调用，我这里做了一层简单封装。要记住它不是聊天模型，而是一个决策模型，决策类型只有三种：choice 做选择、score 判断得分、noul 做是非题。代码里的 state 就是你的测试用例，比如「用户抱怨被重复扣款两次」；questions 里放的是模型需要做出的判断类型和标准。我把三种类型都塞了进去：choice 按 criteria 标准判断这条陈述该归哪个部门处理，noul 判断用户是否有退款诉求，score 打分判断这件事有多紧急。 跑出来的结果很直观。重复扣款那一条，它判定应该由 billing 计费部门处理；退款意向的 noul 测试，它认为用户有 90% 的概率要求退款；工单紧急度打分 1.46，归档结论是「要尽快处理，但还没到阻塞用户的程度」——每个结果都还附带...
2026-09-20
UltraFast！Jev控制浏览器实战！BrowserUse开源力作！
前几天给大家分享的 Browser Use，这次结合当前最火的 Jev 决策大模型，开源了一个叫 UltraFast 的新项目。 它要做的事情很简单：让 Browser Use 像装上火箭引擎一样，快速替你翻网页。点按钮、填表单，机票查询搜出苏黎世到伦敦的航班，7 秒钟给你翻出来；百科词条 3 秒不到就点开；酒店搜索筛选不到 2 秒。上线才几天，GitHub 上就有 1 万多人点了星。 快在哪？浏览器调用次数从原来的 1000 多次直接砍到 100 出头。它不截图，而是把页面上的按钮、输入框列成一份编号清单，一次请求就把「干什么」和「点哪个」两个决定一起问回来，所以决策和动手之间几乎没有等待。 你要做的就三件事：clone 下来跑个 uv sync，填上 Jev 和一个大语言模型（如 DeepSeek）的 key，然后丢给它一个需要操作浏览器才能完成的目标就完了。大语言模型随便换，DeepSeek、Kimi、千问、GLM 都兼容，用的就是本机 Chrome，核心一共 6 个文件。 做浏览器自动化、RPA 还是 Agent 开发的兄弟建议收藏，先丢一个平时 RPA 太耗时的任...
2026-09-19
Jev模型究竟是个什么鬼？凭什么海外爆火？
Jev 最近红透半边天——不止海外火了，国内也火得一塌糊涂。它到底是个什么鬼？简单说，它不是聊天模型。用法非常朴素：丢一段文本进去，再给一组带类型的问题，它一个字都不写，直接回概率。问题只有三种：choice 给几个选项让它挑一个，score 按你的量表打分，布尔判断则返回「是」的概率。 这恰恰是我们过去一直用 JSON 硬凑的东西。大模型吐出的那个 0.9 只是个字符，不是真概率；而 Jev 给的是校准过的真概率——它说 90%，就真有九成概率会答对。这让人想起几年前跟着吴恩达学深度学习时最早学的监督学习：训练一个分类器，分辨哪些邮件是垃圾邮件、哪些评论是负面评论。区别在于，传统分类器每换一个任务就得重新训练，标签也是焊死的；Jev 一个模型通吃，工单归哪类、评论正不正、消息急不急，同一套接口全扔给它，还不用人标数据训模型。 速度和成本是它爆火的直接原因。实测走 OpenRouter，输入每百万 token 4.2 美分，输出免费——因为根本没有逐字生成这回事。官方给出的端到端延迟是 70 到 500 毫秒。有开发者把 20 个任务串起来跑完，成本刚过一美分的十二分之一。...
