大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
simonw/llm
命令行工具与 Python 库，支持调用 OpenAI、Claude、Gemini、Llama 等多种大语言模型，可通过远程 API 或本地模型运行。功能包括执行提示词、存储对话与嵌入、提取结构化内容、调用工具等。
h2oai/h2ogpt
私有化部署的本地 GPT，支持文档、图像、视频等多模态查询与总结。100% 隐私，Apache 2.0 开源。集成 oLLaMa、Mixtral、llama.cpp 等多种模型，提供 Gradio UI 与 CLI，支持 Linux、macOS、Windows 及 Docker。
tadata-org/fastapi_mcp
将 FastAPI 端点作为 MCP 工具暴露，内置认证。原生 FastAPI 零配置，保留请求/响应模型与文档，支持 ASGI 传输与灵活部署。
startrail-org/leann
创新向量数据库，实现97%存储节省。在个人设备上运行快速、准确且完全私有的RAG应用，支持文件系统、邮件、浏览器历史、聊天记录、代码库等多源数据语义搜索。
wanshuiyin/auto-claude-code-research-in-sleep
ARIS ⚔️ 通过 Markdown 技能实现自主 ML 研究：跨模型评审循环、想法发现与实验自动化。零依赖、无框架锁定，兼容 Claude Code、Codex、OpenClaw 等任意 LLM 代理。
simular-ai/agent-s
开源智能体框架，模拟人类操作计算机。Agent S3 在 OSWorld 上首次超越人类性能 (72.60%)，支持 Windows、macOS 和 Linux。提供 Python 库，可轻松集成。
flagopen/flagembedding
一站式检索工具包，支持检索与检索增强生成（RAG），提供 BGE 系列模型，涵盖多模态、多语言及轻量级重排序器，适用于搜索与 RAG 应用。
cloudwego/eino
Go语言LLM应用开发框架，提供组件、Agent开发套件和组合能力，支持OpenAI等模型，拥有9500+星标。
ludwig-ai/ludwig
低代码框架，用于构建自定义 LLM、神经网络等 AI 模型。支持声明式 YAML 配置，具备分布式训练、参数高效微调、4 位量化等优化，可扩展至生产环境。
superset-sh/superset
专为 AI 代理时代打造的终端 IDE，支持并行运行 Claude Code、Codex 等 CLI 代理。提供工作树隔离、统一监控和内置差异查看器，提升开发效率。
bytedance/trae-agent
基于 LLM 的通用软件工程任务智能体，提供强大 CLI 接口，支持自然语言指令与多工具工作流。模块化架构便于研究与扩展，支持 OpenAI、Anthropic 等多种模型。
can1357/oh-my-pi
终端 AI 编码代理，支持哈希锚点编辑、优化工具链、LSP、Python、浏览器和子代理。基于 TypeScript 构建，集成 IDE 功能，提供 40+ 提供商、32 种内置工具和 Rust 核心。
embraceagi/awesome-chatgpt-zh
ChatGPT 中文指南🔥，提供中文调教指南、指令、应用开发、精选资源及生产力工具，助力用户高效使用 ChatGPT。
the-pr-agent/pr-agent
开源 AI 代码审查工具。支持 GitHub、GitLab、Bitbucket 等平台，提供快速、可定制的 PR 自动化评审。通过 CLI 或 GitHub Action 轻松集成。
hkuds/vibe-trading
个人交易智能体，一键赋能 Python 代理，支持 FastAPI 后端与 React 前端，提供全面交易能力与多语言文档。
tensorzero/tensorzero
开源工业级 LLM 应用栈，统一 LLM 网关、可观测性、优化、评估与实验。Rust 实现，<1ms p99 延迟，支持 Python SDK、OpenAI SDK 或 HTTP API 集成。
dataelement/bisheng
开源大模型 DevOps 平台，面向企业级 AI 应用。集成 GenAI 工作流、RAG、Agent、统一模型管理、评估、SFT、数据集管理及企业级系统管理，提供高精度文档解析与复杂场景构建能力。
browseros-ai/browseros
开源 Agentic 浏览器，隐私优先。支持本地 AI 模型（Ollama）或自定义 API 密钥，数据不离机。提供工作流自动化、MCP 服务器集成及内置广告拦截。支持 macOS、Windows、Linux。
jina-ai/reader
将任意 URL 转换为 LLM 友好输入，只需添加前缀 https://r.jina.ai/。同时提供 Web 搜索功能，通过 https://s.jina.ai/ 查询并返回前 5 个结果的详细内容。免费、稳定、可扩展，支持 PDF 读取、图片描述和站点内搜索。
microsoft/promptflow
一套开发工具，用于简化基于大语言模型的 AI 应用从原型到生产部署的全流程。支持创建可执行的流程，连接 LLM、提示词、Python 代码等工具，并提供调试、评估和部署功能。
bytebot-ai/bytebot
自托管 AI 桌面代理，通过自然语言命令自动化计算机任务。基于容器化 Linux 桌面环境运行，支持使用任意应用、处理文档、管理文件，并具备完整任务自主性。主要语言为 TypeScript。
humanlayer/humanlayer
开源 IDE，用于编排 AI 编码代理，解决复杂代码库中的难题。基于 Claude Code，支持并行会话和团队协作，提升开发效率。
getumbrel/llama-gpt
自托管、离线的 ChatGPT 式聊天机器人，基于 Llama 2。100% 私有，数据不离设备。支持 Code Llama 模型和 NVIDIA GPU，可通过 umbrelOS、Docker 或 Kubernetes 部署。
mistralai/mistral-inference
官方推理库，支持 Mistral 系列模型，包括 7B、8x7B、8x22B、Codestral、Mathstral、Nemo、Large 2 和 Pixtral 12B。提供 PyPI 和本地安装方式，模型可通过直接链接或 Hugging Face Hub 下载。
open-llm-vtuber/open-llm-vtuber
支持免提语音交互、语音打断和 Live2D 虚拟形象的本地多平台 AI 伴侣。基于 Python，可离线运行，提供网页版和桌面客户端。
huggingface/chat-ui
基于 SvelteKit 的开源聊天界面，支持 OpenAI 兼容 API，可连接 Hugging Face 路由器或本地模型服务器。提供 MongoDB 数据库选项，支持 Docker 部署与主题定制。
the-pocket/pocketflow
100 行代码的极简 LLM 框架，支持多智能体、工作流和 RAG。零依赖，零厂商锁定，让智能体构建智能体。
sashabaranov/go-openai
Go 语言编写的 OpenAI API 客户端库，支持 ChatGPT、GPT-4、DALL·E、Whisper 等模型。提供非官方 Go 客户端，包含流式响应与音频转录功能。
coplaydev/unity-mcp
作为桥梁，让 AI 助手（如 Claude、Cursor）通过本地 MCP 客户端直接与 Unity 编辑器交互。提供工具管理资产、控制场景、编辑脚本和自动化任务，支持 C# 语言。
kalyanks-nlp/llm-engineer-toolkit
精选 120+ LLM 库，按类别整理，涵盖训练、微调、推理、服务、RAG、Agent、评估等全流程工具。