大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
handsonllm/hands-on-large-language-models
O'Reilly《Hands-On Large Language Models》官方代码仓库，提供近300个自定义图表和Jupyter Notebook示例，帮助读者通过实践掌握大语言模型的核心概念与工具。
cheahjs/free-llm-api-resources
汇总可通过 API 访问的免费 LLM 推理资源，包括 OpenRouter、Google AI Studio 等免费供应商，以及提供试用额度的供应商。
voideditor/void
开源 Cursor 替代品。在代码库上使用 AI 代理，检查点并可视化更改，支持本地部署任何模型。直接向提供商发送消息，不保留数据。基于 VS Code 分支。
microsoft/semantic-kernel
企业级 AI 编排框架，用于构建智能代理和多代理系统。支持多语言（C#、Python、Java），集成 OpenAI、Azure OpenAI 等 LLM，提供向量数据库、插件生态和本地部署能力。
yamadashy/repomix
将整个代码仓库打包为单个 AI 友好文件，便于输入给 Claude、ChatGPT、Gemini 等大语言模型。支持 TypeScript，提供在线版与 CLI 工具。
ottermind/chat2db
AI 驱动的数据库工具和 SQL 客户端，支持 MySQL、Oracle、PostgreSQL 等多种数据库。提供智能 SQL 生成、数据报表和结构同步功能，拥有超过 2.5 万星标。
decolua/9router
无限免费 AI 编程。连接 Claude Code、Cursor 等工具至 40+ 免费 AI 提供商。自动回退，RTK 节省 20-40% 令牌，永不限流。
charmbracelet/crush
终端编程新搭档，支持多 LLM 模型、会话管理、LSP 增强与 MCP 扩展，跨平台运行于 macOS、Linux、Windows 等系统。
mlflow/mlflow
开源 AI 开发者平台，提供端到端追踪、可观测性与评估功能，支持 LLM、智能体、深度学习及传统机器学习，助力构建可靠的 AI 应用。
mastra-ai/mastra
基于 TypeScript 的 AI 应用框架，提供模型路由、智能体、工作流、人机协作、上下文管理、MCP 服务器与生产级工具，支持 React、Next.js、Node.js 集成与独立部署。
ahujasid/blender-mcp
通过 MCP 协议连接 Blender 与 Claude AI，实现提示词辅助的 3D 建模、场景创建与操控。支持双向通信、对象操作、材质控制、场景检查及代码执行。集成 Hunyuan3D、Sketchfab 模型搜索下载、Poly Haven 资产 API、Hyper3D Rodin 生成模型，并支持远程运行与匿名遥测。
qwenlm/qwen-code
开源终端 AI 代理，专为 Qwen3-Coder 优化。帮助理解大型代码库、自动化繁琐工作，提升开发效率。支持 OpenAI 兼容 API 与 Qwen OAuth 免费认证，提供丰富的代理工作流工具。
prefecthq/fastmcp
🚀 快速、Pythonic 的 MCP 服务器与客户端构建框架。基于 Python，提供组件、提供者、转换三大抽象，简化协议实现，让开发者专注于业务逻辑。星标 22k+，被 70% 的 MCP 服务器采用。
fosowl/agenticseek
完全本地的自主 AI 助手，无需 API 和月费。支持网页浏览、代码编写与任务规划，所有数据保留在本地设备，确保隐私安全。适用于 Python 等多种语言。
othmanadi/planning-with-files
实现 Manus 风格的持久化 Markdown 规划工作流，支持多 IDE 平台与会话恢复，核心功能包括自动任务跟踪与上下文管理。
vercel/ai
TypeScript AI 工具包，支持 Next.js、React 等框架。提供统一 API 接口，集成 OpenAI、Anthropic 等主流模型提供商。内置 Agent 构建能力与 UI 集成钩子，简化 AI 应用开发。
deepset-ai/haystack
开源AI编排框架，用于构建可定制、生产就绪的LLM应用。连接组件至流水线或智能体，支持高级检索方法，适用于RAG、问答、语义搜索和对话智能体。
tencentcloud/tencentdb-agent-memory
提供完全本地的 AI Agent 长期记忆，通过 4 级渐进管道实现，零外部 API 依赖。核心为符号化短期记忆与分层长期记忆，显著降低 token 使用并提升任务成功率。
mozilla-ai/llamafile
通过单个可执行文件分发和运行 LLM，无需安装。结合 llama.cpp 与 Cosmopolitan Libc，支持本地运行，适用于多种操作系统。
humanlayer/12-factor-agents
提供构建可靠 LLM 应用的 12 项原则，旨在打造适合生产环境的 AI 代理。项目基于 TypeScript，包含详细指南和社区讨论。
cinnamon/kotaemon
开源 RAG 工具，用于与文档对话。支持多种 LLM 和本地模型，提供简洁 UI 与可定制框架。具备混合检索、多模态问答和高级引用功能。
toon-format/toon
Token-Oriented Object Notation (TOON) 是一种紧凑、可读的 JSON 数据模型编码，专为 LLM 提示设计。结合 YAML 缩进结构与 CSV 风格的表格数组，显著减少令牌使用，同时保持 JSON 的无损转换。适用于均匀对象数组，提升模型解析可靠性。
liguodongiot/llm-action
分享大模型技术原理与实战经验，涵盖训练、推理、压缩、应用开发及工程化落地，提供丰富教程与算力支持。
haotian-liu/llava
视觉指令微调框架，构建具备 GPT-4V 级别能力的多模态大语言模型。支持图像与视频理解，提供 LLaVA-NeXT 等最新模型，社区生态丰富，涵盖多种部署与评估工具。
promptfoo/promptfoo
本地化 LLM 应用测试工具，支持提示词、智能体与 RAG 评估。提供 AI 红队测试、漏洞扫描与多模型性能对比。通过声明式配置与命令行集成，实现 CI/CD 自动化。
letta-ai/letta
构建具有高级记忆的有状态 AI 代理平台，支持本地运行和 API 集成。提供 CLI 工具与 Python/TypeScript SDK，实现 AI 的持续学习与自我改进。
datawhalechina/llm-cookbook
面向开发者的 LLM 入门教程，基于吴恩达大模型系列课程中文版。涵盖 Prompt Engineering、RAG、模型微调等全流程，提供可运行的 Jupyter Notebook 代码与双语教程，帮助国内开发者快速上手大模型应用开发。
titanwings/distilly
将离别转化为温暖的 AI 技能，通过聊天记录、文档等生成数字分身，支持飞书、钉钉、Slack 等数据源，实现赛博永生。
dolthub/dolt
Git for Data！一个支持 SQL 查询的版本化数据库，提供类似 Git 的分支、合并、推送和拉取功能。兼容 MySQL 协议，可通过 CLI 或 SQL 系统表进行版本控制。
nirdiamant/genai_agents
提供从基础到高级的生成式 AI 代理教程与实现，涵盖简单对话机器人到复杂多代理系统，是学习、构建和分享 GenAI 代理的综合资源。