GitHub Trending Rank Radar

GitHub 开源项目趋势榜单 · 每日双快照 · 十一种榜单 · 日 / 月 / 年历史回看

GitHub

独立采集 · 开源数据

独立追踪 GitHub 星标的每一次脉动

每日两次快照,用差值还原真实增长——不是又一份热榜镜像。

浏览今日榜单 →
Star 范围 – k

2026-11-16 · #llm-inference · 10 个仓库 · 按 star 排序repos · by stars

1
C++★ 77,341⑂ 8,259👁 693● 2,226⑃ 1,207▤ 38
GPT4All: Run Local LLMs on Any Device. Open-source and available for commercial use.
★ 77,341
2
C★ 12,133⑂ 1,876👁 105● 19⑃ 96▤ 4
A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.
★ 12,133
3
C++★ 9,887⑂ 619👁 101● 205⑃ 80▤ 0
High-speed Large Language Model Serving for Local Deployment
★ 9,887
4
Python★ 8,941⑂ 1,065👁 80● 1,186⑃ 4,312▤ 195
The easiest way to serve AI apps and models - Build Model Inference APIs, Job queues, LLM apps, Multi-model pipelines, and more!
★ 8,941
5
Python★ 7,862⑂ 635👁 22● 8⑃ 32▤ 28
《深入理解 AI Infra:量化分析与系统设计》(李博杰 著)开源书稿:从硬件约束和模型架构出发,量化推导 LLM 推理与训练系统设计。含全书正文、PDF、配套计算工具与实验
★ 7,862
6
Swift★ 7,403⑂ 482👁 35● 87⑃ 115▤ 25
Gemma 4 26B-A4B inference in ~2 GB of RAM on any M-series MacBook
★ 7,403
7
Python★ 5,558⑂ 447👁 132● 13⑃ 187▤ 45
📚A curated list of Awesome LLM/VLM Inference Papers with Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, etc.🎉
★ 5,558
8
Zig★ 2,253⑂ 521👁 11● 863⑃ 2,593▤ 63
LLM Inference Engine for Metal, CUDA and Vulkan.
★ 2,253
9
Python★ 998⑂ 136👁 16● 22⑃ 3▤ 0
“AI-Compass”将为社区指引在 AI 技术海洋中航行的方向,无论你是初学者还是进阶开发者,都能在这里找到通往 AI 各大方向的路径。旨在帮助开发者系统性地了解 AI 的核心概念、主流技术、前沿趋势,并通过实践掌握从理论到落地的全过程。
★ 998
10
C★ 299⑂ 14👁 7● 6⑃ 0▤ 0
电子鹦鹉 / Toy Language Model
★ 299
当月每日飙升 Top10 摘要

年度月度榜入口