探索 大语言模型 项目
筛选并发现收录的、配有高质量中文文档或教程的 GitHub 项目。
自主深度研究代理，支持 Web 与本地数据，生成带引用的详细报告。基于 Plan-and-Solve 与 RAG 架构，通过并行化代理提升速度与可靠性。提供高度可定制化选项，适用于各类研究任务。
一站式生成式 AI 资源库，涵盖研究更新、面试资料、代码笔记本及免费课程。包含月度最佳论文、面试题库、LLM 应用与评估认证课程，以及多种 AI 工具和学习路线图。
高性能大语言模型与多模态模型服务框架，支持 DeepSeek、LLaDA 等最新模型，提供 TPU 原生运行及大规模专家并行部署方案。
检测 Git 仓库、文件及 stdin 中的密码、API 密钥和令牌等机密信息。支持多种安装方式，包括 Homebrew、Docker 和 Go，并可集成到 GitHub Actions 或 pre-commit 钩子中。
完全本地的自主 AI 助手，无需 API 和月费。支持网页浏览、代码编写与任务规划，所有数据保留在本地设备，确保隐私安全。适用于 Python 等多种语言。
本地化 LLM 前端，支持 KoboldAI、OpenAI、Claude 等多种 API，集成图像生成、TTS、视觉小说模式与高度可定制 UI。
O'Reilly《Hands-On Large Language Models》官方代码仓库，提供近300个自定义图表和Jupyter Notebook示例，帮助读者通过实践掌握大语言模型的核心概念与工具。
开源 RAG 工具，用于与文档对话。支持多种 LLM 和本地模型，提供简洁 UI 与可定制框架。具备混合检索、多模态问答和高级引用功能。
开源 LLM 工程平台：提供可观测性、指标、评估、提示管理、数据集等功能。支持 OpenTelemetry、LangChain、OpenAI SDK 等集成。可自托管，Y Combinator W23。
为 AI Agent 构建实时知识图谱的框架。支持动态数据集成、增量更新与高效检索，无需全量重算。提供语义、关键词和图谱搜索，适用于交互式、上下文感知的 AI 应用。
开源AI编排框架，用于构建可定制、生产就绪的LLM应用。连接组件至流水线或智能体，支持高级检索方法，适用于RAG、问答、语义搜索和对话智能体。
🚀 快速、Pythonic 的 MCP 服务器与客户端构建框架。基于 Python，提供组件、提供者、转换三大抽象，简化协议实现，让开发者专注于业务逻辑。星标 22k+，被 70% 的 MCP 服务器采用。
视觉指令微调框架，构建具备 GPT-4V 级别能力的多模态大语言模型。支持图像与视频理解，提供 LLaVA-NeXT 等最新模型，社区生态丰富，涵盖多种部署与评估工具。
开源 AI 黑客工具，自动发现并修复应用漏洞。支持 CI/CD 集成，提供真实 PoC 验证，配备完整黑客工具包，团队协作代理，开发者友好 CLI。
终端工具，根据系统 RAM、CPU 和 GPU 自动匹配最佳 LLM 模型。支持 497 个模型和 133 个提供商，提供交互式 TUI 和 CLI 模式。可检测硬件，评估模型质量、速度和内存占用，支持多 GPU、MoE 架构和动态量化。
面向 LLM 应用的生产级智能体框架，提供 ReAct 代理、工具、记忆、规划、实时语音及微调支持。支持 MCP 与 A2A 协议，具备可扩展的生态系统与内置 OTel 观测能力。
Token-Oriented Object Notation (TOON) 是一种紧凑、可读的 JSON 数据模型编码，专为 LLM 提示设计。结合 YAML 缩进结构与 CSV 风格的表格数组，显著减少令牌使用，同时保持 JSON 的无损转换。适用于均匀对象数组，提升模型解析可靠性。
面向开发者的 LLM 入门教程，基于吴恩达大模型系列课程中文版。涵盖 Prompt Engineering、RAG、模型微调等全流程，提供可运行的 Jupyter Notebook 代码与双语教程，帮助国内开发者快速上手大模型应用开发。
将整个代码仓库打包为单个 AI 友好文件，便于输入给 Claude、ChatGPT、Gemini 等大语言模型。支持 TypeScript，提供在线版与 CLI 工具。
TypeScript AI 工具包，支持 Next.js、React 等框架。提供统一 API 接口，集成 OpenAI、Anthropic 等主流模型提供商。内置 Agent 构建能力与 UI 集成钩子，简化 AI 应用开发。
基于 LLM 和 RAG 的 Python 库，支持通过自然语言与 SQL、CSV、Parquet 等数据库或数据湖对话，实现对话式数据分析。
基于 AI 的 Python 网页抓取库，利用 LLM 和图逻辑构建抓取管道，只需指定要提取的信息即可自动完成。
将自然语言问题转化为 SQL 查询并获取数据洞察。支持用户权限感知、流式响应、企业级安全与可嵌入的 Web 组件。兼容多种 LLM 与数据库，提供生产就绪的 FastAPI 集成。
终端编程新搭档，支持多 LLM 模型、会话管理、LSP 增强与 MCP 扩展，跨平台运行于 macOS、Linux、Windows 等系统。
基于 TypeScript 的 AI 应用框架，提供模型路由、智能体、工作流、人机协作、上下文管理、MCP 服务器与生产级工具，支持 React、Next.js、Node.js 集成与独立部署。
开源 AI Agent 上下文数据库，采用文件系统范式统一管理记忆、资源与技能，支持分层加载、递归检索与自演化，提升检索效果与可观测性。