【开源】让本地 AI 在 K3 上玩贪吃蛇:Laya 离线推理 Demo

刚把 Laya 模型和一个开源贪吃蛇游戏接到了 SpacemiT K3 上,整理成了可以安装、复现的 Demo,分享给大家体验。

这个项目不需要 API Key,模型下载完成后就可以离线运行。打开终端,看着蛇一步步找食物、绕开自己的身体,背后每一步都会调用本地模型进行推理。

项目仓库: https://github.com/JiongLab/laya-snake-k3

这条蛇是怎么“思考”的?

它不是让模型直接看游戏画面,也不是接入聊天大模型后不断问“下一步往哪走”。

游戏规则层会先描述各个方向的情况,例如碰撞风险、是否安全、食物方向等,再由 Laya 为方向选项给出概率,经过安全保护检查后执行移动:
k3-screen-20260921-48s-58s

当前棋盘 → 方向描述 → 本地模型推理 → 安全检查 → 移动一步

这里保留了上游的环路安全保护。保护层介入时,界面会明确显示 SHIELD,区分模型选择和保护层接管,不把规则兜底算成模型自身的能力。

我做了哪些适配?

游戏规则和保护机制主要来自开源项目 mizorewww/laya-mlx,模型使用 Laya,ONNX 版本来自社区转换。这次主要做的是把它们接到 K3 上,并整理好运行和安装流程:

  • 接入 K3 推理后端:将原来的 Apple MLX 推理接入改为本地 ONNX,默认使用 FP16,通过 SpaceMIT 后端调用 AI Core。

  • 自动配置工作线程:4 个 AI 工作线程自动绑定到 Core 8、10、12、14,不需要每次手动设置。

实际运行效果

2026 年 9 月 21 日,在 K3 / 8 GB 内存 / Bianbu 4.0.7 上,通过已安装的 v0.1.0 入口进行了 1,200 步测试:

项目 本次实测
平均推理耗时 约 110 ms/步,排除首步 (这里很惊喜,原项目使用 M3 Max 也仅做到了 11 步/s,K3 可以做到 6 步/s)
稳定运行内存 进程 RSS 约 1.88 GiB
运行结果 零死亡、零保护介入,运行记录校验通过

这些数据只对应本次固定配置,不代表所有输入和运行模式。桌面显示、后台负载以及开启更多辅助指标都会影响表现;启动加载时间也不包含在每步推理耗时中。

详细方法和统计边界见仓库的 资源实测记录

怎么体验?

请先阅读仓库中的 完整复现指南,按指南准备锁定版本的 Bianbu 系统依赖,再从 Releases 下载 .debSHA256SUMS,完成校验后安装:

sudo apt install ./laya-snake-k3_0.1.0_riscv64.deb
laya-snake-k3-setup
laya-snake-k3

初始化和游戏启动请使用普通桌面用户,后两条命令不要加 sudo。首次初始化需要联网下载约 1.33 GB 的模型文件,建议至少预留 5 GB 可用磁盘空间,之后模型推理可以离线进行。

终端建议至少 104 列 × 35 行

  • 空格:暂停。

  • R:重开。

  • Q:退出。

默认模式下两项辅助指标显示 NOT COMPUTED 属于正常现象。

当前进度与交流

欢迎有 K3 的朋友试跑,也欢迎一起交流本地模型推理、ONNX 算子适配和 AI Core 的使用经验。遇到问题可以在楼下回复或提 Issue,附上系统版本、启动命令和报错日志,方便定位。

也感谢 Layamizorewww/laya-mlx社区 ONNX 转换项目 提供的开源基础。

1 个赞

:+1::+1::+1::+1:好玩