GitHub 2026-05-09 Trending

使用 C/C++ 实现的大语言模型推理框架

fastllm 是零后端依赖的高性能大模型推理库，支持张量并行推理稠密模型与混合模式推理 MOE 模型，任意 10G 以上显存显卡即可完整推理 DeepSeek 模型。在双路 9004/9005 服务器搭配单显卡部署完整精度原版 DeepSeek 模型时，单并发达 20tps；INT4 量化模型单并发 30tps，多并发可达 60+tps。

🏋️ 所有3920道LeetCode题目的Python / Modern C++题解（每周更新）

静悄悄地发财

FlatBuffers：内存高效的序列化库

基于新一代Kaldi与onnxruntime的离线语音转文字、文字转语音、说话人日志、语音增强、源分离及语音活动检测技术。支持嵌入式系统、Android、iOS、HarmonyOS、树莓派、RISC-V架构、x86_64服务器、WebSocket服务端/客户端，兼容12种编程语言。

快速极简的3D查看器。

在多个计算机之间共享同一套键盘和鼠标。

全新Windows Terminal与经典Windows控制台主机，集于一处！

开源计算机视觉库

ONNX Runtime：跨平台高性能机器学习推理与训练加速引擎

现代C++的JSON库

为快速存储提供嵌入式持久化键值存储的库

开源IFC库与几何引擎

Mooncake是Moonshot AI旗下领先大语言模型服务Kimi的部署平台。

高速C++日志记录库。

FlashMLA：高效多头潜在注意力内核

基于现代C++的单元测试/TDD/BDD框架，支持C++14、C++17及更高版本（C++11支持位于v2.x分支，C++03支持位于Catch1.x分支）

Open CASCADE Technology是一个面向三维CAD、CAM、CAE的开源软件开发平台

实现C++11与Python的无缝互操作