大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
assafelovic/gpt-researcher
自主深度研究代理，支持 Web 与本地数据，生成带引用的详细报告。基于 Plan-and-Solve 与 RAG 架构，通过并行化代理提升速度与可靠性。提供高度可定制化选项，适用于各类研究任务。
aishwaryanr/awesome-generative-ai-guide
一站式生成式 AI 资源库，涵盖研究更新、面试资料、代码笔记本及免费课程。包含月度最佳论文、面试题库、LLM 应用与评估认证课程，以及多种 AI 工具和学习路线图。
sgl-project/sglang
高性能大语言模型与多模态模型服务框架，支持 DeepSeek、LLaDA 等最新模型，提供 TPU 原生运行及大规模专家并行部署方案。
gitleaks/gitleaks
检测 Git 仓库、文件及 stdin 中的密码、API 密钥和令牌等机密信息。支持多种安装方式，包括 Homebrew、Docker 和 Go，并可集成到 GitHub Actions 或 pre-commit 钩子中。
fosowl/agenticseek
完全本地的自主 AI 助手，无需 API 和月费。支持网页浏览、代码编写与任务规划，所有数据保留在本地设备，确保隐私安全。适用于 Python 等多种语言。
sillytavern/sillytavern
本地化 LLM 前端，支持 KoboldAI、OpenAI、Claude 等多种 API，集成图像生成、TTS、视觉小说模式与高度可定制 UI。
vectifyai/pageindex
基于推理的无向量RAG系统，无需向量数据库与分块，通过树状索引实现类人检索，提升长文档处理的准确性与可解释性。
mlflow/mlflow
开源 AI 开发者平台，提供端到端追踪、可观测性与评估功能，支持 LLM、智能体、深度学习及传统机器学习，助力构建可靠的 AI 应用。
handsonllm/hands-on-large-language-models
O'Reilly《Hands-On Large Language Models》官方代码仓库，提供近300个自定义图表和Jupyter Notebook示例，帮助读者通过实践掌握大语言模型的核心概念与工具。
cinnamon/kotaemon
开源 RAG 工具，用于与文档对话。支持多种 LLM 和本地模型，提供简洁 UI 与可定制框架。具备混合检索、多模态问答和高级引用功能。
langfuse/langfuse
开源 LLM 工程平台：提供可观测性、指标、评估、提示管理、数据集等功能。支持 OpenTelemetry、LangChain、OpenAI SDK 等集成。可自托管，Y Combinator W23。
getzep/graphiti
为 AI Agent 构建实时知识图谱的框架。支持动态数据集成、增量更新与高效检索，无需全量重算。提供语义、关键词和图谱搜索，适用于交互式、上下文感知的 AI 应用。
deepset-ai/haystack
开源AI编排框架，用于构建可定制、生产就绪的LLM应用。连接组件至流水线或智能体，支持高级检索方法，适用于RAG、问答、语义搜索和对话智能体。
prefecthq/fastmcp
🚀 快速、Pythonic 的 MCP 服务器与客户端构建框架。基于 Python，提供组件、提供者、转换三大抽象，简化协议实现，让开发者专注于业务逻辑。星标 22k+，被 70% 的 MCP 服务器采用。
haotian-liu/llava
视觉指令微调框架，构建具备 GPT-4V 级别能力的多模态大语言模型。支持图像与视频理解，提供 LLaVA-NeXT 等最新模型，社区生态丰富，涵盖多种部署与评估工具。
usestrix/strix
开源 AI 黑客工具，自动发现并修复应用漏洞。支持 CI/CD 集成，提供真实 PoC 验证，配备完整黑客工具包，团队协作代理，开发者友好 CLI。
openai/openai-agents-python
轻量级多智能体工作流框架，支持 100+ LLM，提供智能体、交接、护栏、会话和追踪等核心功能。
alexsjones/llmfit
终端工具，根据系统 RAM、CPU 和 GPU 自动匹配最佳 LLM 模型。支持 497 个模型和 133 个提供商，提供交互式 TUI 和 CLI 模式。可检测硬件，评估模型质量、速度和内存占用，支持多 GPU、MoE 架构和动态量化。
agentscope-ai/agentscope
面向 LLM 应用的生产级智能体框架，提供 ReAct 代理、工具、记忆、规划、实时语音及微调支持。支持 MCP 与 A2A 协议，具备可扩展的生态系统与内置 OTel 观测能力。
liguodongiot/llm-action
分享大模型技术原理与实战经验，涵盖训练、推理、压缩、应用开发及工程化落地，提供丰富教程与算力支持。
toon-format/toon
Token-Oriented Object Notation (TOON) 是一种紧凑、可读的 JSON 数据模型编码，专为 LLM 提示设计。结合 YAML 缩进结构与 CSV 风格的表格数组，显著减少令牌使用，同时保持 JSON 的无损转换。适用于均匀对象数组，提升模型解析可靠性。
datawhalechina/llm-cookbook
面向开发者的 LLM 入门教程，基于吴恩达大模型系列课程中文版。涵盖 Prompt Engineering、RAG、模型微调等全流程，提供可运行的 Jupyter Notebook 代码与双语教程，帮助国内开发者快速上手大模型应用开发。
yamadashy/repomix
将整个代码仓库打包为单个 AI 友好文件，便于输入给 Claude、ChatGPT、Gemini 等大语言模型。支持 TypeScript，提供在线版与 CLI 工具。
vercel/ai
TypeScript AI 工具包，支持 Next.js、React 等框架。提供统一 API 接口，集成 OpenAI、Anthropic 等主流模型提供商。内置 Agent 构建能力与 UI 集成钩子，简化 AI 应用开发。
sinaptik-ai/pandas-ai
基于 LLM 和 RAG 的 Python 库，支持通过自然语言与 SQL、CSV、Parquet 等数据库或数据湖对话，实现对话式数据分析。
scrapegraphai/scrapegraph-ai
基于 AI 的 Python 网页抓取库，利用 LLM 和图逻辑构建抓取管道，只需指定要提取的信息即可自动完成。
vanna-ai/vanna
将自然语言问题转化为 SQL 查询并获取数据洞察。支持用户权限感知、流式响应、企业级安全与可嵌入的 Web 组件。兼容多种 LLM 与数据库，提供生产就绪的 FastAPI 集成。
charmbracelet/crush
终端编程新搭档，支持多 LLM 模型、会话管理、LSP 增强与 MCP 扩展，跨平台运行于 macOS、Linux、Windows 等系统。
mastra-ai/mastra
基于 TypeScript 的 AI 应用框架，提供模型路由、智能体、工作流、人机协作、上下文管理、MCP 服务器与生产级工具，支持 React、Next.js、Node.js 集成与独立部署。
volcengine/openviking
开源 AI Agent 上下文数据库，采用文件系统范式统一管理记忆、资源与技能，支持分层加载、递归检索与自演化，提升检索效果与可观测性。