2026年9月25日星期五

Laya 开源决策模型上线一周获 2 万 Star,支持本地部署与 Jev API 兼容

Laya 是开源非自回归决策模型,上线一周获近 2 万 Star,只做结构化判断,支持 pip 安装、Docker、CPU 与 CUDA GPU 部署,Mac 本地版内存占用不到 1GB,可微调并兼容 Jev API 格式。

Tags:

Jev 模型国外火完国内火,最近到处都在聊它。

这是 TypeSafe AI 推出的一个决策模型。

Laya 开源决策模型上线一周获 2 万 Star,支持本地部署与 Jev API 兼容

这个模型不能聊天、不会写文章、不会写代码,只下判断。

你给它一段文本和几个问题,它几十毫秒就能返回结构化的答案和概率。快,还省钱。

下面这几个网站收集了各种 JEV 模型的实超案例。
不了解 JEV 模型的,可以直接看真实的使用案例。就能很好的体会这个模型到底是怎么个情况。
Laya 开源决策模型上线一周获 2 万 Star,支持本地部署与 Jev API 兼容

render.qmuse.pub/p/muse/8079593307628562/index.html

还可以通过下面这个链接,了解一下哪些开源的项目在应用 Jev 模型。
Laya 开源决策模型上线一周获 2 万 Star,支持本地部署与 Jev API 兼容

logicrw.github.io/awesome-jev-projects/

回到正题。

AI 时代的 GitHub 定律:今天有一个叫 xxx 的东西刷屏,明天一定有一个叫 Openxxx 的登上开源热搜。
当初 Manus 刚爆火,开源复刻就来了。Claude Design 也是。
Muse 火了,一定会有 OpenMuse 除了。
Jev 也没逃过这个规律。有一个叫 Laya 的开源项目就是开源版的 Jev 模型。

01

开源版决策模型 Laya

Laya 是一个开源的非自回归决策模型,和 Jev 一样不做文本生成,只做结构化判断。

名字来自梵文"लय",意思是消融。

一段文本输入进去,经过模型后坍缩成一个判断结果,挺形象的。

Laya 开源决策模型上线一周获 2 万 Star,支持本地部署与 Jev API 兼容
地址:https://github.com/NandhaKishorM/laya

这个项目上线一周左右拿到了将近 2 万个 Star。

有意思的是,Laya 的研究其实比 Jev 更早。

作者在 2025 年 3 月就发了第一篇论文,同年 9 月又发了第二篇。

比 Jev 早了将近一年半。

只是当时做的是垂直场景,没引起广泛关注。Jev 把同样的思路做成了通用水平产品,一下子就出圈了。

相比月 Jev,Laya 宣称在精度、速度、校准、多语言覆盖和成本五个维度全面优于 Jev。

整体可以看这个图。

Laya 开源决策模型上线一周获 2 万 Star,支持本地部署与 Jev API 兼容

02

大家都在用 Laya 做什么

Laya 开源时间不长,社区已经出现了不少周边项目。

Laya-MLX:Mac 本地版,用贪吃蛇秀操作

@mizorewww 把 Laya 搬到了 Apple 的 MLX 框架上,让 Mac 用户可以直接在本地跑。

不用装 PyTorch 啥的乱七八糟的东西。

比如用 Laya-MLX 玩贪吃蛇。

模型每秒做 60 次决策,实时判断,每一步都根据当前画面状态决定蛇往哪个方向走。

Laya 开源决策模型上线一周获 2 万 Star,支持本地部署与 Jev API 兼容
项目地址:https://github.com/mizorewww/laya-mlx

给浏览器 Agent 装一个快速判断

浏览器 Agent 在操作网页时需要做大量小决策:点哪个元素、填什么内容、当前页面状态是什么。

以前这些决策要么交给大模型就比较慢。

有一个开发者把 Laya 微调成了浏览器 Agent 的决策头。

在约 45 个候选元素中选对目标的成功率从 0.10 提升到 0.66。

真实任务成功率从 0% 到 62%,每步只要 17-23 毫秒。

Laya 开源决策模型上线一周获 2 万 Star,支持本地部署与 Jev API 兼容
项目地址:https://huggingface.co/cklxx/laya-browser

03

如何部署

Laya 的部署方式挺灵活的,从一行命令到完整的服务化都有。

最快的方式,装个 Python 环境,一行命令搞定:

pip install laya

装好后可以直接用命令行试试:

laya "我被重复扣款了,请退款。"

想跑 HTTP 服务也支持:

pip install "laya[serve]"LAYA_DEVICE=cuda LAYA_PRELOAD=1 laya-serve

这样会在本地起一个 FastAPI 服务,暴露 POST /v1/systemone 接口,和 Jev 的 API 格式兼容。

如果你的系统已经在用 Jev,把请求地址从 Jev 的 API 换成本地地址就行。

支持用环境变量控制设备、预加载哪些模型、线程数等。

想用 Docker,项目提供了 Compose 配置:

docker compose -f compose.yaml -f compose.http.yaml up --build laya-serve

支持 CPU 和 CUDA GPU。第一次启动会下载模型权重,之后就很快了。

想在 Mac 上本地跑,社区版 Laya-MLX 不需要 PyTorch,原生 MLX 运行:

pip install laya-mlx

内存占用不到 1GB,M 系列芯片上延迟只要几毫秒。

想微调,项目提供了 Kaggle Notebook,在免费 2xT4 GPU 上大约 4-5 个小时就能完成完整流程:构建数据集、RLCD 训练、温度拟合、评估、推送到 Hub。

在自己的领域数据上微调后,效果会比基础版好很多。

04

点击下方卡片,关注逛逛 GitHub

这个公众号历史发布过很多有趣的开源项目,如果你懒得翻文章一个个找,你直接关注微信公众号:逛逛 GitHub ,后台对话聊天就行了:

Laya 开源决策模型上线一周获 2 万 Star,支持本地部署与 Jev API 兼容

没有评论:

发表评论

2026淘宝联盟年度榜单揭晓 两类新玩家正在改写淘客格局

本文解读淘宝联盟2026年度优秀合作伙伴榜单,重点拆解手机厂商流量型与广告媒体投流型两类新玩家,剖析其资源迁移打法与头部格局变化。对想入局淘客的新人,建议结合所在城市的产业圈子选赛道,并重视自身流量资源与能力的长期积累。 Tags: 淘宝联盟 淘客榜单 手机厂商流量 ...