大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
mukul975/anthropic-cybersecurity-skills
提供 754 个结构化网络安全技能，覆盖 26 个安全领域，映射至 MITRE ATT&CK、NIST CSF 2.0 等 5 大框架，兼容 20+ AI 平台，采用 Apache 2.0 许可。
fosowl/agenticseek
完全本地的自主 AI 助手，无需 API 和月费。支持网页浏览、代码编写与任务规划，所有数据保留在本地设备，确保隐私安全。适用于 Python 等多种语言。
mastra-ai/mastra
基于 TypeScript 的 AI 应用框架，提供模型路由、智能体、工作流、人机协作、上下文管理、MCP 服务器与生产级工具，支持 React、Next.js、Node.js 集成与独立部署。
deepset-ai/haystack
开源AI编排框架，用于构建可定制、生产就绪的LLM应用。连接组件至流水线或智能体，支持高级检索方法，适用于RAG、问答、语义搜索和对话智能体。
vercel/ai
TypeScript AI 工具包，支持 Next.js、React 等框架。提供统一 API 接口，集成 OpenAI、Anthropic 等主流模型提供商。内置 Agent 构建能力与 UI 集成钩子，简化 AI 应用开发。
othmanadi/planning-with-files
实现 Manus 风格的持久化 Markdown 规划工作流，支持多 IDE 平台与会话恢复，核心功能包括自动任务跟踪与上下文管理。
cinnamon/kotaemon
开源 RAG 工具，用于与文档对话。支持多种 LLM 和本地模型，提供简洁 UI 与可定制框架。具备混合检索、多模态问答和高级引用功能。
mozilla-ai/llamafile
通过单个可执行文件分发和运行 LLM，无需安装。结合 llama.cpp 与 Cosmopolitan Libc，支持本地运行，适用于多种操作系统。
toon-format/toon
Token-Oriented Object Notation (TOON) 是一种紧凑、可读的 JSON 数据模型编码，专为 LLM 提示设计。结合 YAML 缩进结构与 CSV 风格的表格数组，显著减少令牌使用，同时保持 JSON 的无损转换。适用于均匀对象数组，提升模型解析可靠性。
haotian-liu/llava
视觉指令微调框架，构建具备 GPT-4V 级别能力的多模态大语言模型。支持图像与视频理解，提供 LLaVA-NeXT 等最新模型，社区生态丰富，涵盖多种部署与评估工具。
humanlayer/12-factor-agents
提供构建可靠 LLM 应用的 12 项原则，旨在打造适合生产环境的 AI 代理。项目基于 TypeScript，包含详细指南和社区讨论。
liguodongiot/llm-action
分享大模型技术原理与实战经验，涵盖训练、推理、压缩、应用开发及工程化落地，提供丰富教程与算力支持。
datawhalechina/llm-cookbook
面向开发者的 LLM 入门教程，基于吴恩达大模型系列课程中文版。涵盖 Prompt Engineering、RAG、模型微调等全流程，提供可运行的 Jupyter Notebook 代码与双语教程，帮助国内开发者快速上手大模型应用开发。
lyogavin/airllm
优化推理内存，单张 4GB GPU 即可运行 70B 大模型，无需量化、蒸馏或剪枝。现已支持在 8GB VRAM 上运行 405B Llama3.1。
dolthub/dolt
Git for Data！一个支持 SQL 查询的版本化数据库，提供类似 Git 的分支、合并、推送和拉取功能。兼容 MySQL 协议，可通过 CLI 或 SQL 系统表进行版本控制。
letta-ai/letta
构建具有高级记忆的有状态 AI 代理平台，支持本地运行和 API 集成。提供 CLI 工具与 Python/TypeScript SDK，实现 AI 的持续学习与自我改进。
decolua/9router
无限免费 AI 编程。连接 Claude Code、Cursor 等工具至 40+ 免费 AI 提供商。自动回退，RTK 节省 20-40% 令牌，永不限流。
vanna-ai/vanna
将自然语言问题转化为 SQL 查询并获取数据洞察。支持用户权限感知、流式响应、企业级安全与可嵌入的 Web 组件。兼容多种 LLM 与数据库，提供生产就绪的 FastAPI 集成。
promptfoo/promptfoo
本地化 LLM 应用测试工具，支持提示词、智能体与 RAG 评估。提供 AI 红队测试、漏洞扫描与多模型性能对比。通过声明式配置与命令行集成，实现 CI/CD 自动化。
sinaptik-ai/pandas-ai
基于 LLM 和 RAG 的 Python 库，支持通过自然语言与 SQL、CSV、Parquet 等数据库或数据湖对话，实现对话式数据分析。
browserbase/stagehand
AI 驱动的浏览器自动化框架，结合自然语言与代码控制，提供灵活、可维护且可靠的网页自动化方案。支持 AI 导航与精确代码操作，具备自缓存和自修复能力，可从 AI 驱动过渡到可重复工作流。
bojieli/ai-agent-book
nirdiamant/genai_agents
提供从基础到高级的生成式 AI 代理教程与实现，涵盖简单对话机器人到复杂多代理系统，是学习、构建和分享 GenAI 代理的综合资源。
mlc-ai/mlc-llm
通用大语言模型部署引擎，基于 ML 编译技术。支持 AMD、NVIDIA、Apple、Intel 等多平台 GPU，以及 Web、iOS、Android 等环境。提供 OpenAI 兼容 API，通过统一高性能引擎实现跨平台原生部署与优化。
accumulatemore/cv
超级全面的深度学习笔记，涵盖CV、NLP、大模型、Agent，基于Pytorch、李沐、吴恩达、大飞课程，提供数据集与交流群。
aihubcn/awesome-chinese-llm
整理开源中文大语言模型，聚焦小规模、可私有化部署、低成本训练的模型，涵盖底座、垂直领域微调、应用、数据集与教程等资源。
skyvern-ai/skyvern
使用 LLM 和计算机视觉自动化浏览器工作流，提供简单 API 端点，替代脆弱的自动化方案。基于视觉理解，无需定制代码即可适应新网站，抗布局变化，支持复杂推理。
1panel-dev/maxkb
开源企业级智能体平台，支持 RAG 管道、工作流编排和 MCP 工具调用。提供多模态输入输出，兼容各类大模型，可快速集成至第三方系统。
winfunc/opcode
强大的 GUI 应用和工具包，用于 Claude Code。创建自定义代理、管理交互式会话、运行安全后台代理、追踪使用成本、管理 MCP 服务器，并提供可视化时间线与检查点功能。
microsoft/unilm
大规模跨任务、语言和模态的自监督预训练框架。涵盖语言、视觉、语音及多模态模型，如 UniLM、BEiT、WavLM 和 Kosmos 系列。包含基础架构研究，如 BitNet、RetNet、LongNet 等新型 Transformer 架构。