正在整理你需要的资料…
增量榜看的是「这段时间里涨了多少 star」,不是 star 总数。 快照每天记一次,所以历史越长,窗口越准。
总榜 · 当前 star 总数 · 数据日期 2026-11-18 · 共 2 个项目
第 58 名DeepInfer 是 DeepSeek 生产服务在用的那个高性能推理框架,这次直接开源:MoE 专家并行、批不变推理、确定性采样、结构化输出全在内核里,目前支持 DeepSeek-V4.1-Flash。环境要求 Linux GCC 13.0 以上、Python 3.12、CUDA 13。
RTX 4090 跑 AI 时,FP16 和 BF16 的算力被官方驱动锁在 FP32 累加的半速上。gpu-unlock 在开机、驱动加载前把限速解掉,张量吞吐最高 2 倍,官方给的最高提升:LLM 预填充 55%、微调 50%、图像生成 55%;不用打补丁驱动、不用刷 VBIOS,NVIDIA 发新驱动也不用重做。
名次按 star 总数排。数据来自 GitHub 公开接口每天的采集快照,只收录被采集到的项目。