大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
axolotl-ai-cloud/axolotl
免费开源的 LLM 微调框架，支持多种模型与并行训练。提供文本扩散训练、FP8 量化及多 GPU 端到端测试。
flagopen/flagembedding
一站式检索工具包，支持检索与检索增强生成（RAG），提供 BGE 系列模型，涵盖多模态、多语言及轻量级重排序器，适用于搜索与 RAG 应用。
simonw/llm
命令行工具与 Python 库，支持调用 OpenAI、Claude、Gemini、Llama 等多种大语言模型，可通过远程 API 或本地模型运行。功能包括执行提示词、存储对话与嵌入、提取结构化内容、调用工具等。
opencode-ai/opencode
强大的终端 AI 编程助手，基于 Go 开发。支持多种 AI 模型（OpenAI、Claude、Gemini 等），提供交互式 TUI 界面、会话管理、工具执行与代码修改功能。内置 SQLite 存储与 LSP 集成，支持 Vim 编辑器与外部编辑器调用。
dataelement/bisheng
开源大模型 DevOps 平台，面向企业级 AI 应用。集成 GenAI 工作流、RAG、Agent、统一模型管理、评估、SFT、数据集管理及企业级系统管理，提供高精度文档解析与复杂场景构建能力。
e2b-dev/e2b
开源、安全的云沙盒环境，专为企业级 AI 代理设计，提供真实工具。支持 JavaScript 和 Python SDK，轻松运行 AI 生成的代码。
tensorzero/tensorzero
开源工业级 LLM 应用栈，统一 LLM 网关、可观测性、优化、评估与实验。Rust 实现，<1ms p99 延迟，支持 Python SDK、OpenAI SDK 或 HTTP API 集成。
microsoft/promptflow
一套开发工具，用于简化基于大语言模型的 AI 应用从原型到生产部署的全流程。支持创建可执行的流程，连接 LLM、提示词、Python 代码等工具，并提供调试、评估和部署功能。
codexu/note-gen
跨平台 Markdown AI 笔记软件。轻量免费，支持 AI 整理碎片知识、RAG 和 MCP 工具集成。提供 Windows、macOS、Linux、Android、iOS 版本。
getumbrel/llama-gpt
自托管、离线的 ChatGPT 式聊天机器人，基于 Llama 2。100% 私有，数据不离设备。支持 Code Llama 模型和 NVIDIA GPU，可通过 umbrelOS、Docker 或 Kubernetes 部署。
langchain4j/langchain4j
开源 Java 库，通过统一 API 简化 LLM 集成，支持 RAG、工具调用和智能体，无缝对接企业级框架。
bytedance/trae-agent
基于 LLM 的通用软件工程任务智能体，提供强大 CLI 接口，支持自然语言指令与多工具工作流。模块化架构便于研究与扩展，支持 OpenAI、Anthropic 等多种模型。
promptfoo/promptfoo
本地化 LLM 应用测试工具，支持提示词、智能体与 RAG 评估。提供 AI 红队测试、漏洞扫描与多模型性能对比。通过声明式配置与命令行集成，实现 CI/CD 自动化。
portkey-ai/gateway
极速 AI 网关，集成安全护栏。通过单一 API 路由至 200+ LLM，支持 50+ AI 安全规则，轻量、开源、企业就绪。
mistralai/mistral-inference
官方推理库，支持 Mistral 系列模型，包括 7B、8x7B、8x22B、Codestral、Mathstral、Nemo、Large 2 和 Pixtral 12B。提供 PyPI 和本地安装方式，模型可通过直接链接或 Hugging Face Hub 下载。
p-e-w/heretic
完全自动移除语言模型的审查机制。结合方向消融与 TPE 优化器，无需人工干预即可生成高质量去审查模型，同时最大程度保留原模型智能。
sashabaranov/go-openai
Go 语言编写的 OpenAI API 客户端库，支持 ChatGPT、GPT-4、DALL·E、Whisper 等模型。提供非官方 Go 客户端，包含流式响应与音频转录功能。
huggingface/chat-ui
基于 SvelteKit 的开源聊天界面，支持 OpenAI 兼容 API，可连接 Hugging Face 路由器或本地模型服务器。提供 MongoDB 数据库选项，支持 Docker 部署与主题定制。
bytebot-ai/bytebot
自托管 AI 桌面代理，通过自然语言命令自动化计算机任务。基于容器化 Linux 桌面环境运行，支持使用任意应用、处理文档、管理文件，并具备完整任务自主性。主要语言为 TypeScript。
qodo-ai/pr-agent
开源 AI 代码审查工具。支持 GitHub、GitLab、Bitbucket 等平台，提供快速、可定制的 PR 自动化评审。通过 CLI 或 GitHub Action 轻松集成。
yichuan-w/leann
创新向量数据库，实现97%存储节省。在个人设备上运行快速、准确且完全私有的RAG应用，支持文件系统、邮件、浏览器历史、聊天记录、代码库等多源数据语义搜索。
zackriya-solutions/meetily
隐私优先的 AI 会议助手，基于 Rust 构建，支持 4 倍更快的 Parakeet/Whisper 实时转录、说话人分离和 Ollama 总结。100% 本地处理，无需云端。适用于 macOS 和 Windows 的自托管开源解决方案。
runanywhereai/runanywhere-sdks
生产就绪的工具包，用于在移动端本地运行 AI。支持 LLM、语音转文本和文本转语音，完全离线、私密且快速。提供 Swift、Kotlin、React Native 和 Flutter SDK。
the-pocket/pocketflow
100 行代码的极简 LLM 框架，支持多智能体、工作流和 RAG。零依赖，零厂商锁定，让智能体构建智能体。
jina-ai/reader
将任意 URL 转换为 LLM 友好输入，只需添加前缀 https://r.jina.ai/。同时提供 Web 搜索功能，通过 https://s.jina.ai/ 查询并返回前 5 个结果的详细内容。免费、稳定、可扩展，支持 PDF 读取、图片描述和站点内搜索。
simular-ai/agent-s
开源智能体框架，模拟人类操作计算机。Agent S3 在 OSWorld 上首次超越人类性能 (72.60%)，支持 Windows、macOS 和 Linux。提供 Python 库，可轻松集成。
netflix/metaflow
以人为本的框架，帮助科学家和工程师构建和管理 AI/ML 系统。支持从笔记本快速原型到生产部署的全流程，具备实验跟踪、版本控制、可视化及云上弹性伸缩能力。由 Netflix 开发，现由 Outerbounds 支持。
cloudwego/eino
Go语言LLM应用开发框架，提供组件、Agent开发套件和组合能力，支持OpenAI等模型，拥有9500+星标。
kalyanks-nlp/llm-engineer-toolkit
精选 120+ LLM 库，按类别整理，涵盖训练、微调、推理、服务、RAG、Agent、评估等全流程工具。
opengvlab/internvl
开源多模态对话模型，性能接近 GPT-4o，支持视觉与文本理解，提供完整训练与推理代码。