llm

开源代码优先的Python工具包，用于灵活可控地构建、评估和部署复杂AI智能体

欢迎来到Llama实践指南！这是您使用Llama进行开发的必备指南：涵盖推理入门、微调及RAG技术。我们还将展示如何利用Llama模型家族解决端到端问题，并在不同云服务平台上进行部署

screenpipe将您的电脑转变为个人AI助手，它能知晓您的一切操作。记录、搜索、自动化，全部本地运行，完全私密，尽在您掌控。

面向语言模型的完全自动审查移除工具

通过全面的追踪、自动化评估和生产就绪的仪表盘，调试、评估并监控您的LLM应用、RAG系统和智能体工作流。

高性能浏览器内大语言模型推理引擎

Bash 就是你的全部所需！仅用 16 行代码编写一个 Claude 程序

Google Cloud生成式AI示例代码与笔记本，含Vertex AI平台的Gemini模型应用。

点亮AI智能体的终极训练器

使用单张4GB GPU实现AirLLM 70B推理

开源AI编程助手。专为大型项目和真实世界任务设计。

端到端语音识别基础工具包与开源SOTA预训练模型，支持语音识别、语音活动检测、文本后处理等功能。

⚡️ GenBI（生成式商业智能）支持使用自然语言查询任意数据库，可在数秒内生成精准的SQL（文本转SQL）、图表（文本转图表）及基于人工智能的深度洞察。

MNN是轻量级深度学习推理框架，经过阿里巴巴核心业务场景验证。全模态LLM安卓应用：[MNN-LLM-Android](./apps/Android/MnnLlmChat/README.md)。MNN淘 avatar安卓版 - 本地3D数字人智能：apps/Android/Mnn3dAvatar/README.md

为AI智能体提供记忆层。用无服务器、单文件记忆层替代复杂的RAG流程，赋予智能体即时检索与长期记忆能力。

MCP数据库工具箱是一个开源的数据库MCP服务器。

轻松将文档转换为结构化数据。Unstructured是开源的ETL解决方案，可将复杂文档转换为适合语言模型的整洁结构化格式。访问我们的网站了解企业级平台产品，支持生产级工作流、分区、增强、分块和嵌入。

数据库MCP工具箱是一个开源的数据库MCP服务器

主要记录大语言模型算法工程师相关的知识及面试题

基于大语言模型的深度文档理解框架，支持使用 RAG 范式实现语义检索和上下文感知应答。

大语言模型评估框架

专为大语言模型微调数据集打造的强大工具

开源UI优先的身份与访问管理平台/单点登录平台，提供支持OAuth 0、OIDC、SAML、CAS、LDAP、SCIM、WebAuthn、TOTP、MFA、Face ID、RADIUS、Google Workspace、Active Directory及Kerberos的Web用户界面。

使用PEFT或全参数方法对500余个大语言模型和200余个多模态大语言模型进行CPT/SFT/DPO/GRPO训练