大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
elder-plinius/l1b3rt4s
提供针对主流 AI 模型的无害化解放提示词，旨在通过特定指令集引导 AI 进入新的工作范式。
screenpipe/screenpipe
将电脑变为个人 AI，记录屏幕和音频，实现本地搜索与自动化。数据 100% 本地存储，完全私有，支持自然语言查询。
meta-llama/llama-cookbook
官方 Llama 模型构建指南，涵盖推理、微调、RAG 及端到端应用示例。提供多种集成方案与最新 Llama 4 食谱，适用于文本与视觉模型。
transitive-bullshit/agentic
RapidAPI for LLM tools，精选高质量 MCP 服务，支持一键发布与付费。提供 TypeScript SDK 集成，使用 Stripe 按量计费，全球边缘网络加速。
emcie-co/parlant
专为生产环境设计的 LLM 智能体框架。通过原则而非提示词确保指令遵循，支持旅程、行为准则、工具调用和领域适配，分钟级部署。
arc53/docsgpt
开源私有 AI 平台，用于构建智能体和助手。支持多格式文档分析、深度研究、多模型及 API 集成，提供企业级安全与可扩展部署。
mlc-ai/web-llm
高性能浏览器端LLM推理引擎，基于WebGPU硬件加速，无需服务器支持。完全兼容OpenAI API，支持流式输出、JSON模式和函数调用。内置Llama、Phi、Gemma、Mistral、Qwen等模型，支持自定义模型集成。
stas00/ml-engineering
开源机器学习工程手册，涵盖大语言模型与多模态模型的训练、微调及推理全流程。提供实用脚本、命令与硬件选型指南，适合工程师快速上手。
deepseek-ai/janus
统一多模态理解与生成模型，解耦视觉编码，支持文本和图像任务，性能超越专有模型。
xming521/weclone
一站式从聊天记录创建数字分身。微调 LLM 捕捉独特风格，绑定聊天机器人让数字自我活起来。支持 Telegram 数据源，本地化部署保障隐私。
transformeroptimus/superagi
开源自主 AI 代理框架，专为开发者设计。支持快速构建、管理和运行实用的自主代理。基于 Python，拥有超过 1.7 万星标。
microsoft/agent-lightning
零代码变更即可优化 AI 智能体，支持任何框架（如 LangChain、AutoGen）。通过强化学习、自动提示优化等算法，选择性优化多智能体系统中的一个或多个智能体。
kubesphere/kubesphere
面向 Kubernetes 多云、数据中心和边缘管理的容器平台。提供插件式架构、多集群管理、GitOps DevOps、可观测性及服务网格等功能。
rightnow-ai/openfang
开源 Agent 操作系统，基于 Rust 构建。单二进制文件，14 个 crate，1767+ 测试，零警告。自主代理 24/7 运行，支持 Clip、Lead 等预置 Hands，无需提示即可执行任务。
googlecloudplatform/generative-ai
提供 Google Cloud 上 Gemini、Imagen、Chirp 等生成式 AI 的代码样本与 Jupyter Notebook，涵盖 Vertex AI 平台的多种应用。
lyogavin/airllm
优化推理内存，单张 4GB GPU 即可运行 70B 大模型，无需量化、蒸馏或剪枝。现已支持在 8GB VRAM 上运行 405B Llama3.1。
pydantic/pydantic-ai
基于 Pydantic 的 GenAI Agent 框架，提供类型安全、模型无关、无缝可观测性和强大的评估功能。支持 MCP、A2A 和 UI 标准，实现人机回圈工具审批和持久化执行。
raga-ai-hub/ragaai-catalyst
Python SDK，用于 Agent AI 可观测性、监控与评估。支持 Agent、LLM 和工具追踪，调试多智能体系统，提供自托管仪表板及带时间线和执行图视图的高级分析。
langbot-app/langbot
生产级多平台智能机器人开发平台，支持 QQ、微信、Discord、Slack 等即时通信平台，集成 GPT、DeepSeek、Claude 等大模型，提供 Agent、知识库、插件系统与 Web 管理面板，支持 Docker、Kubernetes 等多种部署方式。
modelscope/funasr
端到端语音识别工具包，支持 ASR、VAD、标点恢复、说话人验证等。提供工业级预训练模型，支持推理与微调，涵盖 Paraformer、Whisper 等模型。
agentscope-ai/qwenpaw
个人 AI 助手，易安装、可本地或云端部署。支持多聊天应用，扩展性强。内置定时任务，自定义技能，内存可控。适用于社交、生产力、创意、研究和桌面场景。
zai-org/chatglm2-6b
开源中英双语对话大模型，基于 GLM 架构，支持 32K 上下文。性能强劲，在 MMLU、CEval 等基准测试中表现优异。推理高效，支持 6G 显存运行，可免费商用。
treeverse/dvc
数据版本控制与机器学习实验管理工具。支持 Git 风格的数据和模型版本管理，轻量级流水线迭代，本地实验跟踪与对比，以及可复现的实验分享。
cft0808/edict
基于唐代三省六部制的 AI 多 Agent 协作系统，含 9 个专业智能体、实时看板与完整审计轨迹，支持任务干预与模型热切换。
plandex-ai/plandex
开源 AI 编程代理，专为大型项目和现实任务设计。基于 Go 开发，支持终端操作，可处理高达 200 万 token 的上下文。提供累积差异审查沙盒，确保变更安全可控。支持 Anthropic、OpenAI、Google 及开源模型组合，实现全自主或精细控制的工作流。
hkuds/deepcode
开源智能体编码框架，支持 Paper2Code、Text2Web 和 Text2Backend。基于 Python，利用多智能体系统推进代码生成。
memvid/memvid
为 AI Agent 提供单文件内存层，替代复杂 RAG 管道。实现无服务器、持久化、版本化内存，支持即时检索与长期记忆。
alibaba/mnn
轻量级高性能深度学习框架，支持端侧推理与训练。已集成至阿里内部30+应用，覆盖直播、搜索推荐等70+场景。提供多模态LLM及Diffusion模型的本地部署方案，支持Qwen、LLaMA等主流模型。
canner/wrenai
⚡️ GenBI 代理，通过自然语言查询任何数据库，秒级生成精准 SQL、图表及 AI 驱动的商业智能。支持语义层、API 嵌入及多种数据源。
confident-ai/deepeval
开源 LLM 评估框架，类似 Pytest 用于单元测试。支持多种指标，如 G-Eval、RAG 与智能体指标，可本地运行 NLP 模型评估。适用于 RAG、Agent 等应用，帮助优化模型与提示词。