正在整理你需要的资料…
聊天模型、ComfyUI 和游戏抢同一张卡,谁先谁就把对方挤爆显存。Go 写的 Berth 让这些程序轮流租显卡:按优先级排队,把权重挪进内存续跑,NVIDIA cuda-checkpoint 下 23.1 GB 模型恢复约 3.3 秒、重新加载要 14 秒;另配一个 OpenAI 兼容网关按需拉起引擎。目前是 alpha,Intel 与苹果卡还不支持。
适合只有一张大显存卡、想同时跑本地模型和 ComfyUI 又不想互相爆显存的人;Intel 与苹果卡目前还不支持。
berth
聊天模型、ComfyUI 和游戏抢同一张卡,谁先谁就把对方挤爆显存
下面是把仓库 README 逐节读完后归纳出的中文要点。
说明工具作用:让电脑上的各个程序轮流使用显卡显存,避免互相挤爆导致崩溃,并指出当前是谁占着;程序通过租约申请显卡,单个 Go 程序即可运行,不需要云账号
解释调度流程:引擎通过 berth run 或网关申请显卡,按优先级排队,等持有者卸载、驱动确认显存空闲后才放行;没申请却占着显存的进程会被标为 stowaway
详述能力:引擎轮流用同一张卡,低优先级请求会等到并给出原因而不直接 OOM;容器内引擎也纳入调度,切换时可把权重卸载到内存暂存以缩短加载时间,并提供停止、恢复、回收与排队位置的查看方式
说明服务安装方式:Linux 上用 systemd 用户服务,Windows 上是不需要管理员权限的登录计划任务,harbor 默认监听本机 9798 端口
说明预览内容:前两张截图是 harbor 网页界面用内置演示数据展示的 CARD 页与高级模式下的 Engines 页,第三张是真实节点在 iPhone 上看到的 CARD 页
介绍安装方式:用一条命令把守护进程与 harbor 装成用户服务;从二进制安装则要对照 SHA256SUMS 校验,另有手动步骤、配置文件与卸载说明
curl -fLO https://github.com/T-Crypt/berth/releases/latest/download/berth-linux-amd64
curl -fLO https://github.com/T-Crypt/berth/releases/latest/download/SHA256SUMS
sha256sum --check --ignore-missing SHA256SUMS
install -Dm755 berth-linux-amd64 ~/.local/bin/berth| 主要语言 | Go | 许可 | Apache-2.0 |
|---|---|---|---|
| 创建时间 | 2026-10-11 | 最近提交 | 2026-11-08 |
| 站内采集 | 2026-11-06 起,连续观察 4 天 | 最近一次 | 2026-11-09 |
最近 4 次采集
2026-11-06 287 ★ → 2026-11-09 290 ★ (累计 +3)
数据来自 GitHub 公开接口的每日采集快照,star 数为采集当时读到的值, 与 GitHub 页面上显示的实时数字可能有几分钟的差距。 项目名点击可回到 本页。