inference 每日趋势报告 - 2026-02-24

RunanywhereAI/runanywhere-sdks

C++

可在本地运行AI的生产就绪工具包

android apple-intelligence cpp

RunanywhereAI 开发者

9.9k

282

99

+169

排名 #2

2月24日

查看详情

ruvnet/ruvector

Rust

RuVector是一款用Rust构建的高性能向量与图数据库，专为人工智能、智能体系统和实时分析设计。它将HNSW搜索、动态最小割一致性、图智能与自学习记忆融合为统一引擎，实现可扩展、低延迟的推理与结构化检索。

ai ai-ocr attention-mechanism

ruvnet 开发者

707

124

95

+41

排名 #1

2月24日

查看详情

ruvnet/ruvector

Rust

RuVector是一款用Rust构建的高性能向量与图数据库，专为人工智能、智能体系统和实时分析设计。它将HNSW搜索、动态最小割一致性、图智能与自学习记忆融合为统一引擎，实现可扩展、低延迟的推理与结构化检索。

ai ai-ocr attention-mechanism

ruvnet 开发者

707

124

95

+41

排名 #7

2月24日

查看详情

ggml-org/whisper.cpp

C++

OpenAI Whisper模型的C/C++移植版本

inference openai speech-recognition

ggml-org 开发者

46k

5.2k

122

+38

排名 #7

2月24日

查看详情

openvinotoolkit/openvino

C++

OpenVINO™是用于优化和部署AI推理的开源工具套件

ai computer-vision deep-learning

openvinotoolkit 开发者

9.7k

3.1k

103

+7

排名 #6

2月24日

查看详情

thu-ml/SageAttention

Cuda

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

attention cuda efficient-attention

thu-ml 开发者

3.2k

355

94

+5

排名 #8

2月24日

查看详情

timmyy123/LLM-Hub

Kotlin

安卓本地人工智能助手

ai gemma3 gemma3n

timmyy123 开发者

136

34

16

+4

排名 #16

2月24日

查看详情