#llm 每日趋势报告

一款提示词优化工具，致力于协助编写高质量提示词

可在本地运行AI的生产就绪工具包

开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

Bash 就是你的全部所需！仅用 16 行代码编写一个 Claude 程序

内置RAG、AI智能体、无代码智能体构建器、MCP兼容等功能的桌面与Docker一体化AI应用

从零开始的大语言模型原理与实践教程

大语言模型评估框架

⚡️ GenBI（生成式商业智能）支持使用自然语言查询任意数据库，可在数秒内生成精准的SQL（文本转SQL）、图表（文本转图表）及基于人工智能的深度洞察。

Local Deep Research 在 SimpleQA 基准测试中达到约 95% 准确率（使用 GPT-4.1-mini 测试）。支持本地及云端大语言模型（Ollama、Google、Anthropic 等）。可搜索 10 余种来源——包括 arXiv、PubMed、网络及您的私人文档。所有流程均在本地加密运行。

《开源大模型食用指南》针对中国开发者定制的Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程

一个汇集生成式人工智能研究动态、面试资源、代码笔记本等丰富内容的一站式资源库！

一款免费开源、基于人工智能的自托管实时会议记录与纪要生成工具，可完全在本地设备运行（已支持Mac OS和Windows系统，即将新增Linux支持）https://meetily.zackriya.com/ 这就是meetly ai

本仓库提供从基础到高级的各类生成式AI智能体技术教程与实现，是构建智能交互式AI系统的综合指南

GPT4All：在任何设备上运行本地大语言模型。开源且可商用。

生产就绪的AI聊天模板。从此处开始，将其定制为您自己的项目。前身为Sparka AI

专为语言学习打造的媒体播放器，具备双语字幕、AI生成字幕、实时翻译等功能！

面向开发者的LLM入门教程，吴恩达大模型系列课程中文版

为企业级智能体提供包含真实工具的开源安全环境。

AgentScope Java：面向智能体编程的LLM应用构建框架

主要记录大语言模型算法工程师相关的知识及面试题

基于大语言模型与RAG的智能文本转SQL生成系统

🦍 云原生API网关与AI网关。

专为多种AI加速器优化的大语言模型高性能推理引擎。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

面向AI的数据转换框架。具备卓越性能，支持增量处理。如果喜欢请点亮星星！

✨ AI 编程，Vim 风格

面向多模态AI的开放式湖仓格式。仅需两行代码即可从Parquet转换，实现百倍速随机访问、向量索引与数据版本管理。兼容Pandas、DuckDB、Polars、Pyarrow及PyTorch，并持续扩展集成生态。

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

如何在CUDA中优化某些算法

为OpenAI/Anthropic/Gemini/Bedrock/OpenRouter/DeepSeek/Ollama/VertexAI/Perplexity/Mistral/GPUStack及OpenAI兼容API提供统一的Ruby接口。支持聊天、视觉、音频、PDF、图像、嵌入、工具、流式传输及Rails集成。