Open Source Radar

热门 GitHub

这里专门展示值得关注的 GitHub 开源项目。站内精选项目用于沉淀，实时 GitHub 搜索用于扩展发现。

#模型训练与部署

收录项目

12

精选项目

2

估算 Stars

99.8k

项目分类

8

GitHub 实时搜索

下面这些结果来自 GitHub 仓库搜索，不局限于你站内已收录项目。

ggml-org

ggml-org/llama.cpp

LLM inference in C/C++

Stars 99.8kForks 16.0kC++MIT

查看 GitHub 本站已收录

shadowsocks

shadowsocks/shadowsocks-windows

A C# port of shadowsocks

Stars 59.3kForks 16.3kC#NOASSERTION

ggml-org

ggml-org/whisper.cpp

Port of OpenAI's Whisper model in C/C++

Stars 48.1kForks 5.4kC++MIT

grpc

C++ based gRPC (C++, Python, Ruby, Objective-C, PHP, C#)

Stars 44.6kForks 11.1kC++Apache-2.0

nothings

stb single-file public domain libraries for C/C++

Stars 33.1kForks 8.0kCNOASSERTION

A static analyzer for Java, C, C++, and Objective-C

Stars 15.6kForks 2.1kOCamlMIT

站内项目库

基于现有工具库体系沉淀 GitHub 开源项目，更适合直接上线运营。

共 1 个项目

llama.cpp

模型训练与部署精选

llama.cpp

llama.cpp 是一个经典的开源本地推理项目，专为 CPU、轻量级 GPU 以及边缘设备上的模型运行而设计。它主要用 C/C++ 编写，适合需要高效推理的开发人员和研究人员。此项目提供了便捷的工具，支持大规模语言模型的推理，满足个人和企业在嵌入式环境中的应用需求。

#模型训练与部署#C++#ggml-org#推荐

Stars

99.8k

Forks

16.0k

Language

C++

License

MIT