大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
neuml/txtai
一站式 AI 框架，支持语义搜索、LLM 编排和语言模型工作流。核心是嵌入数据库，融合向量索引、图网络和关系型数据库。提供向量搜索、多模态索引、RAG、智能体和 Web API，支持本地或云端部署。
startrail-org/leann
创新向量数据库，实现97%存储节省。在个人设备上运行快速、准确且完全私有的RAG应用，支持文件系统、邮件、浏览器历史、聊天记录、代码库等多源数据语义搜索。
langchain4j/langchain4j
开源 Java 库，通过统一 API 简化 LLM 集成，支持 RAG、工具调用和智能体，无缝对接企业级框架。
superset-sh/superset
专为 AI 代理时代打造的终端 IDE，支持并行运行 Claude Code、Codex 等 CLI 代理。提供工作树隔离、统一监控和内置差异查看器，提升开发效率。
portkey-ai/gateway
极速 AI 网关，集成安全护栏。通过单一 API 路由至 200+ LLM，支持 50+ AI 安全规则，轻量、开源、企业就绪。
the-pocket/pocketflow-tutorial-codebase-knowledge
将代码库转化为易懂教程的 AI 工具。基于 100 行 LLM 框架，分析 GitHub 仓库，识别核心抽象与交互，为初学者生成带可视化教程。支持众多流行项目，如 FastAPI、LangGraph 等。
cloudwego/eino
Go语言LLM应用开发框架，提供组件、Agent开发套件和组合能力，支持OpenAI等模型，拥有9500+星标。
bentoml/openllm
将任何开源 LLM（如 DeepSeek、Llama）作为 OpenAI 兼容的 API 端点在云端运行。支持一键部署到 Docker、Kubernetes 和 BentoCloud。
1jehuang/jcode
下一代编码代理框架，支持多会话工作流、无限定制与高性能。基于 Rust 构建，内存占用极低，跨平台运行。
steven2358/awesome-generative-ai
精选现代生成式 AI 项目与服务列表，涵盖文本、图像、视频、音频等多模态领域，提供模型、工具及学习资源，追踪行业里程碑与前沿动态。
langgptai/langgpt
LangGPT 是一个结构化、可复用的提示词设计框架，旨在让每个人都能成为提示词专家。它提供系统化的模板和模块化设计，支持变量、命令和条件逻辑，大幅提升创作效率。该框架拥有超过 10,000 个 GitHub 星标，并已发布学术论文。
codexu/note-gen
跨平台 Markdown AI 笔记软件。轻量免费，支持 AI 整理碎片知识、RAG 和 MCP 工具集成。提供 Windows、macOS、Linux、Android、iOS 版本。
chainlit/chainlit
⚡️ 在几分钟内构建 Python 生产就绪的对话式 AI 应用。支持工具调用、多步骤交互，并与 OpenAI、LangChain 等流行框架集成。
the-pr-agent/pr-agent
开源 AI 代码审查工具。支持 GitHub、GitLab、Bitbucket 等平台，提供快速、可定制的 PR 自动化评审。通过 CLI 或 GitHub Action 轻松集成。
axolotl-ai-cloud/axolotl
免费开源的 LLM 微调框架，支持多种模型与并行训练。提供文本扩散训练、FP8 量化及多 GPU 端到端测试。
simonw/llm
命令行工具与 Python 库，支持调用 OpenAI、Claude、Gemini、Llama 等多种大语言模型，可通过远程 API 或本地模型运行。功能包括执行提示词、存储对话与嵌入、提取结构化内容、调用工具等。
0xk1h0/chatgpt_dan
提供绕过 ChatGPT 安全限制的 DAN 提示词，适用于 GPT-3.5 和 GPT-4 模型。包含多种越狱技巧，旨在解锁 AI 的全部潜力。
ther1d/shell_gpt
基于 AI 大语言模型的命令行生产力工具，可生成 shell 命令、代码片段和文档，支持 Linux、macOS、Windows 及主流 Shell。使用 OpenAI API 或本地模型（如 Ollama）。
rucaibox/llmsurvey
大型语言模型（LLM）的官方论文与资源集合，涵盖技术演进、趋势分析与提示设计。提供中文版书籍与长链思维推理内容，支持社区贡献与更新。
simular-ai/agent-s
开源智能体框架，模拟人类操作计算机。Agent S3 在 OSWorld 上首次超越人类性能 (72.60%)，支持 Windows、macOS 和 Linux。提供 Python 库，可轻松集成。
flagopen/flagembedding
一站式检索工具包，支持检索与检索增强生成（RAG），提供 BGE 系列模型，涵盖多模态、多语言及轻量级重排序器，适用于搜索与 RAG 应用。
h2oai/h2ogpt
私有化部署的本地 GPT，支持文档、图像、视频等多模态查询与总结。100% 隐私，Apache 2.0 开源。集成 oLLaMa、Mixtral、llama.cpp 等多种模型，提供 Gradio UI 与 CLI，支持 Linux、macOS、Windows 及 Docker。
tadata-org/fastapi_mcp
将 FastAPI 端点作为 MCP 工具暴露，内置认证。原生 FastAPI 零配置，保留请求/响应模型与文档，支持 ASGI 传输与灵活部署。
bytedance/trae-agent
基于 LLM 的通用软件工程任务智能体，提供强大 CLI 接口，支持自然语言指令与多工具工作流。模块化架构便于研究与扩展，支持 OpenAI、Anthropic 等多种模型。
dataelement/bisheng
开源大模型 DevOps 平台，面向企业级 AI 应用。集成 GenAI 工作流、RAG、Agent、统一模型管理、评估、SFT、数据集管理及企业级系统管理，提供高精度文档解析与复杂场景构建能力。
jina-ai/reader
将任意 URL 转换为 LLM 友好输入，只需添加前缀 https://r.jina.ai/。同时提供 Web 搜索功能，通过 https://s.jina.ai/ 查询并返回前 5 个结果的详细内容。免费、稳定、可扩展，支持 PDF 读取、图片描述和站点内搜索。
ludwig-ai/ludwig
低代码框架，用于构建自定义 LLM、神经网络等 AI 模型。支持声明式 YAML 配置，具备分布式训练、参数高效微调、4 位量化等优化，可扩展至生产环境。
tensorzero/tensorzero
开源工业级 LLM 应用栈，统一 LLM 网关、可观测性、优化、评估与实验。Rust 实现，<1ms p99 延迟，支持 Python SDK、OpenAI SDK 或 HTTP API 集成。
embraceagi/awesome-chatgpt-zh
ChatGPT 中文指南🔥，提供中文调教指南、指令、应用开发、精选资源及生产力工具，助力用户高效使用 ChatGPT。
evermind-ai/everos
构建、评估并集成自进化智能体的长期记忆系统。提供用例、架构方法与基准测试，支持 Python 开发。