热门 GitHub

模型训练与部署

llama.cpp

llama.cpp 是一个开源项目，专为高效推理设计，支持在 CPU、轻量级 GPU 和边缘设备上运行大规模语言模型。该项目主要使用 C/C++ 编写，适合开发人员和研究人员，满足不同场景下的嵌入式应用需求。

模型训练与部署

vLLM

vLLM 是一个高吞吐量和内存友好的开源推理与服务引擎，专为部署大规模语言模型服务的团队设计。它适合从事自然语言处理和对话系统开发的人员，能够有效提升模型推理的效率并降低资源消耗。通过使用 vLLM，团队可以更便捷地实现和优化大模型的部署。

知识库与检索

Open WebUI

Open WebUI 是一个旨在为本地模型或 API 模型提供更友好 Web 界面的开源项目。该工具特别适合希望增强知识库和团队协作体验的用户。通过 Open WebUI，用户可以更方便地进行信息检索与管理，从而提高工作效率。

AI 编程

OpenHands

OpenHands 是一个开源的 AI 开发智能体项目，旨在为关注代码执行、任务代理和工程自动化的团队提供支持。该项目支持用户创建和管理智能体，以简化开发流程和提高工作效率。适合希望在 AI 领域实现工程自动化的开发者和团队使用。

AI 编程

garrytan/gstack

YC CEO Garry Tan开源的23个斜杠命令Claude Code技能集，把AI编程助手变成虚拟开发团队

对话助手

CherryHQ/cherry-studio

AI 生产力工作室，46K星，智能聊天、自主 Agent 和300+助手统一入口

AI Agents

langflow-ai/langflow

可视化 AI 应用构建工具，148K星，拖拽式搭建 Agent 和工作流

AI Agents

zhayujie/CowAgent

基于大模型的超级 AI 助理，44K星，支持微信接入、任务规划、知识库和技能系统

知识库与检索

chroma-core/chroma

开源向量数据库，18K星，为 AI 应用设计的嵌入存储和检索

对话助手

janhq/jan

离线桌面 AI 助手，25K星，支持本地和云端模型切换

开发工具

jeecgboot/JeecgBoot

AI 低代码平台，46K星，零代码搭建业务系统，内置 AI 聊天和知识库

AI Agents

HKUDS/nanobot

超轻量个人 AI Agent，42K星，纯 Rust 实现的轻量级 Agent

AI Agents

langchain-ai/langgraph

构建弹性 Agent 的框架，32K星，支持有状态工作流和人类介入

知识库与检索

labring/FastGPT

基于 LLM 的知识库平台，28K星，开箱即用的 RAG 问答系统

AI 编程

continuedev/continue

开源 AI 编程助手 CLI，33K星，支持规则检查和自定义检查

模型训练与部署

mlflow/mlflow

开源 AI 工程平台，26K星，管理 ML 模型、Agent 和实验追踪

对话助手

lobehub/lobe-chat

现代化 AI 聊天框架，50K星，插件丰富，界面精美的开源 ChatGPT

知识库与检索

khoj-ai/khoj

AI 第二大脑，35K星，自托管 AI 搜索和聊天，支持知识库和自定义 Agent

AI 编程

CopilotKit/CopilotKit

AI Agent 前端框架，31K星，React + Angular 构建生成式 UI

大模型

langchain-ai/langchain

最流行的 LLM 应用开发框架，136K星，支持链式调用、Agent、RAG、工具调用等完整能力

AI Agents

assafelovic/gpt-researcher

自主深度研究 Agent，27K星，支持任意 LLM 做联网研究和报告生成

知识库与检索

run-llama/llama_index

LlamaIndex 数据框架，让 LLM 接入私有数据源的 RAG 基础设施

AI 编程

earendil-works/pi

AI Agent 工具包，49K星，含编码 Agent CLI、统一 LLM API、TUI 和 Slack 机器人

模型训练与部署

huggingface/transformers

HuggingFace 官方模型库，161K星，支持数千种预训练模型的推理和微调