正在整理你需要的资料…
增量榜看的是「这段时间里涨了多少 star」,不是 star 总数。 快照每天记一次,所以历史越长,窗口越准。
总榜 · 当前 star 总数 · 数据日期 2026-11-18 · 共 3 个项目
第 58 名DeepInfer 是 DeepSeek 生产服务在用的那个高性能推理框架,这次直接开源:MoE 专家并行、批不变推理、确定性采样、结构化输出全在内核里,目前支持 DeepSeek-V4.1-Flash。环境要求 Linux GCC 13.0 以上、Python 3.12、CUDA 13。
第 105 名图像与视频生成要跑得快、要省显存,英伟达把模型和推理引擎放进一个仓库:SANA 出图,最高 4K,官方称比 Flux-12B 小 20 倍、快 100 倍;SANA-Video 2.0 做 720p 视频,SANA-Streaming 实时改视频,Sol-RL 管强化学习,Sol 引擎在 GB200 上把 33B 模型提速 3.95 倍。Apache-2.0 协议,基于 PyTorch。
第 120 名vLLM 原本只管文本自回归生成,想把视频、语音、图像模型摆进同一套推理栈,就得换一套框架。vLLM-Omni 把文本、图像、音频、视频、动作统一到一个运行时对外服务,也纳入了非自回归的 DiT 这类并行生成模型,输出可以是文字、多模态或动作。Apache-2.0 协议。
名次按 star 总数排。数据来自 GitHub 公开接口每天的采集快照,只收录被采集到的项目。