大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
raga-ai-hub/ragaai-catalyst
Python SDK，用于 Agent AI 可观测性、监控与评估。支持 Agent、LLM 和工具追踪，调试多智能体系统，提供自托管仪表板及带时间线和执行图视图的高级分析。
alibaba/mnn
轻量级高性能深度学习框架，支持端侧推理与训练。已集成至阿里内部30+应用，覆盖直播、搜索推荐等70+场景。提供多模态LLM及Diffusion模型的本地部署方案，支持Qwen、LLaMA等主流模型。
wanshuiyin/auto-claude-code-research-in-sleep
ARIS ⚔️ 通过 Markdown 技能实现自主 ML 研究：跨模型评审循环、想法发现与实验自动化。零依赖、无框架锁定，兼容 Claude Code、Codex、OpenClaw 等任意 LLM 代理。
treeverse/dvc
数据版本控制与机器学习实验管理工具。支持 Git 风格的数据和模型版本管理，轻量级流水线迭代，本地实验跟踪与对比，以及可复现的实验分享。
dottxt-ai/outlines
为 LLM 提供结构化输出，确保生成时即符合指定类型。支持任意模型，集成简单，无需后处理解析。核心功能包括类型安全输出、复杂结构定义及多模型兼容。
vibrantlabsai/ragas
为 LLM 应用提供客观指标、智能测试生成和数据驱动洞察的评估工具包。支持 LangChain 等框架集成，通过预构建指标和自定义评估，提升应用性能。
plandex-ai/plandex
开源 AI 编程代理，专为大型项目和现实任务设计。基于 Go 开发，支持终端操作，可处理高达 200 万 token 的上下文。提供累积差异审查沙盒，确保变更安全可控。支持 Anthropic、OpenAI、Google 及开源模型组合，实现全自主或精细控制的工作流。
anionex/banana-slides
基于 nano banana pro🍌 的原生 AI PPT 生成应用，支持上传任意模板与素材，通过一句话/大纲/页面描述自动生成 PPT，并能通过口头指令进行局部修改，一键导出可编辑的 PPTX/PDF，实现真正的“Vibe PPT”。
modelscope/ms-swift
支持600+文本大模型与300+多模态大模型的微调与部署框架，集成PEFT/全参训练、DPO/GRPO等对齐算法，提供从训练到推理、评估、量化的全栈能力。
zai-org/chatglm2-6b
开源中英双语对话大模型，基于 GLM 架构，支持 32K 上下文。性能强劲，在 MMLU、CEval 等基准测试中表现优异。推理高效，支持 6G 显存运行，可免费商用。
unstructured-io/unstructured
开源 ETL 解决方案，将复杂文档转换为语言模型所需的干净结构化数据。支持生产级工作流、分区、丰富、分块和嵌入。
geeeekexplorer/nano-vllm
轻量级 vLLM 实现，从零构建。提供快速离线推理、可读代码库及优化套件，如前缀缓存、张量并行、Torch 编译和 CUDA 图。性能媲美 vLLM，代码约 1200 行 Python。
greydgl/pentestgpt
基于大语言模型的自动化渗透测试智能体框架，支持自主执行、会话持久化与 Docker 环境。提供实时反馈与多类别漏洞检测，已发表于 USENIX Security 2024。
hbai-ltd/toonflow-app
AI 短剧工厂，小说秒变剧集。AI 剧本 × AI 影像 × 极速生成，0 门槛全流程 AI 化，创作效率提升 10 倍+。
wdndev/llm_interview_note
整理大语言模型（LLMs）算法工程师相关知识及面试题，涵盖基础、架构、训练、微调等。提供多个动手实践项目，如 tiny-llm-zh、tiny-rag 等，帮助快速掌握大模型技术。
walkinglabs/learn-harness-engineering
基于项目的 AI 编码代理工程课程，涵盖环境构建、状态管理、验证与控制机制，提供 12 讲、6 个项目及多语言支持。
jujumilk3/leaked-system-prompts
收集来自主流 LLM 服务的泄露系统提示，提供可验证来源或可复现提示，支持 PR 提交与 Issues 链接，避免包含敏感商业代码。
botpress/botpress
开源平台，用于构建和部署基于 GPT/LLM 的智能体。提供 CLI、SDK 和集成开发工具，支持快速开发聊天机器人。
conardli/easy-dataset
专为 LLM 微调、RAG 和评估构建数据集的强大工具。支持 PDF、DOCX 等多种格式文档的智能解析与分割，自动生成高质量 QA 数据集。内置评估系统，支持自动化模型评测与人工盲测，助力垂直领域模型优化。
llmware-ai/llmware
统一框架，支持 300+ 模型与 RAG 管道，优化本地、私有、安全的企业级应用。支持 GGUF、OpenVINO 等多种推理技术，提供模型目录与知识库管理，可在 AI PC 和边缘设备运行。
llamachinese/llama-chinese
Llama中文社区，实时汇总最新Llama学习资料，构建最好的中文Llama大模型开源生态，完全开源可商用。提供模型、算力、数据、论坛等资源，支持Llama2、Llama3、Llama4全系列，涵盖预训练、微调、量化、部署等全流程。
nvidia/tensorrt-llm
提供易用的 Python API 定义大语言模型，支持前沿优化以在 NVIDIA GPU 上高效推理。包含 Python 和 C++ 运行时组件，实现高性能推理编排。
microsoft/rd-agent
自动化高价值研发流程，以数据和模型为核心，通过 AI 驱动数据驱动的 AI。支持 LiteLLM 后端，提供数据科学与 Kaggle 场景代理，在 MLE-bench 上表现领先。
casdoor/casdoor
开源身份与访问管理 / 单点登录平台，以 Web UI 为核心，支持 OAuth 2.0、OIDC、SAML、CAS、LDAP、SCIM、WebAuthn、TOTP、MFA、Face ID、RADIUS、Google Workspace、Active Directory 和 Kerberos 等协议。
aiming-lab/autoresearchclaw
从想法到论文的全自动研究平台。聊天输入想法，直接生成论文。支持 OpenClaw 集成，23 阶段流水线，完全自主进化。
nanmicoder/cc-haha
基于 Claude Code 泄露源码修复的本地可运行版本，支持接入任意 Anthropic 兼容 API。提供完整 Ink TUI 交互界面、多 Agent 系统、记忆持久化及 Computer Use 桌面控制功能。
arindam200/awesome-ai-apps
包含 70 多个实用示例、教程和配方的集合，展示 RAG、智能体、工作流等 AI 应用。主要使用 Python，涵盖从简单聊天机器人到高级 AI 智能体的多种框架和工具。
fathah/hermes-desktop
桌面端应用，用于安装、配置和与 Hermes Agent 聊天。提供图形界面管理会话、工具、计划等，支持多平台安装。
lsdefine/genericagent
自进化智能体：从 3.3K 行种子代码生长技能树，实现全系统控制，Token 消耗降低 6 倍。核心仅 ~3K 行代码，9 个原子工具 + ~100 行 Agent Loop，支持浏览器、终端、文件系统等操作。
coplaydev/unity-mcp
作为桥梁，让 AI 助手（如 Claude、Cursor）通过本地 MCP 客户端直接与 Unity 编辑器交互。提供工具管理资产、控制场景、编辑脚本和自动化任务，支持 C# 语言。