大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
embraceagi/awesome-chatgpt-zh
ChatGPT 中文指南🔥，提供中文调教指南、指令、应用开发、精选资源及生产力工具，助力用户高效使用 ChatGPT。
orchestra-research/ai-research-skills
开源 AI 研究技能库，包含 86 项技能，支持 AI 代理自主完成从构思到论文的全流程研究。提供研究编排与工程技能，适用于 Claude、Codex、Gemini 等模型。
microsoft/promptflow
一套开发工具，用于简化基于大语言模型的 AI 应用从原型到生产部署的全流程。支持创建可执行的流程，连接 LLM、提示词、Python 代码等工具，并提供调试、评估和部署功能。
humanlayer/humanlayer
开源 IDE，用于编排 AI 编码代理，解决复杂代码库中的难题。基于 Claude Code，支持并行会话和团队协作，提升开发效率。
cocoindex-io/cocoindex
基于 Rust 的高性能 AI 数据转换框架，支持增量处理和数据血缘。以声明式数据流编程，仅需约 100 行 Python 代码即可定义转换，实现源数据与目标的自动同步。
bytebot-ai/bytebot
自托管 AI 桌面代理，通过自然语言命令自动化计算机任务。基于容器化 Linux 桌面环境运行，支持使用任意应用、处理文档、管理文件，并具备完整任务自主性。主要语言为 TypeScript。
the-pocket/pocketflow
100 行代码的极简 LLM 框架，支持多智能体、工作流和 RAG。零依赖，零厂商锁定，让智能体构建智能体。
getumbrel/llama-gpt
自托管、离线的 ChatGPT 式聊天机器人，基于 Llama 2。100% 私有，数据不离设备。支持 Code Llama 模型和 NVIDIA GPU，可通过 umbrelOS、Docker 或 Kubernetes 部署。
lmcache/lmcache
高性能LLM KV缓存层，通过零CPU拷贝、NIXL等技术加速，支持跨数据中心复用缓存，显著降低首token延迟并提升吞吐量，适用于长上下文场景。
huggingface/chat-ui
基于 SvelteKit 的开源聊天界面，支持 OpenAI 兼容 API，可连接 Hugging Face 路由器或本地模型服务器。提供 MongoDB 数据库选项，支持 Docker 部署与主题定制。
mistralai/mistral-inference
官方推理库，支持 Mistral 系列模型，包括 7B、8x7B、8x22B、Codestral、Mathstral、Nemo、Large 2 和 Pixtral 12B。提供 PyPI 和本地安装方式，模型可通过直接链接或 Hugging Face Hub 下载。
walkinglabs/learn-harness-engineering
基于项目的 AI 编码代理工程课程，涵盖环境构建、状态管理、验证与控制机制，提供 12 讲、6 个项目及多语言支持。
arize-ai/phoenix
AI 可观测性与评估平台，支持 Jupyter Notebook 环境，提供模型性能监控、数据评估与可视化工具。
nidhinjs/prompt-master
为任何 AI 工具生成精准提示词，零令牌浪费，全上下文记忆。支持 Claude、ChatGPT、Midjourney 等数十种工具，通过结构化管道优化提示，确保首次输出即准确。
sashabaranov/go-openai
Go 语言编写的 OpenAI API 客户端库，支持 ChatGPT、GPT-4、DALL·E、Whisper 等模型。提供非官方 Go 客户端，包含流式响应与音频转录功能。
kalyanks-nlp/llm-engineer-toolkit
精选 120+ LLM 库，按类别整理，涵盖训练、微调、推理、服务、RAG、Agent、评估等全流程工具。
0x4m4/hexstrike-ai
基于 MCP 协议的 AI 网络安全自动化平台，集成 150+ 安全工具与 12+ 自主 AI 代理。支持自动化渗透测试、漏洞发现与漏洞赏金任务，无缝连接 LLM 与实战攻防能力。
openvinotoolkit/openvino
开源工具包，用于优化和部署 AI 推理。支持 PyTorch、TensorFlow、ONNX 等模型，兼容 CPU、GPU 和 AI 加速器。提供从边缘到云的灵活部署方案。
openpipe/art
开源强化学习框架，使用 GRPO 训练多步骤智能体。支持 Qwen、Llama 等模型，提供无服务器训练，降低成本并加速反馈循环。
linyqh/narratoai
基于 AI 大模型，一键完成视频解说、剪辑、配音和字幕生成，实现高效自动化内容创作。支持多种模型和语音克隆，提供一站式影视解说解决方案。
memtensor/memos
AI 记忆操作系统，为 LLM 和 Agent 提供持久化技能记忆，支持跨任务复用与进化。核心功能包括统一记忆 API、多模态支持、多知识库管理、异步调度与反馈修正。
mcp-use/mcp-use
提供最简单的方式，通过 6 行代码在 Python 和 TypeScript 中构建 MCP 服务器、客户端和 AI 代理。支持自定义代理与 MCP 服务器交互，包含调试工具和 UI 资源。
skypilot-org/skypilot
在任何 AI 基础设施上运行、管理和扩展 AI 工作负载。统一访问和管理所有 AI 计算资源（Kubernetes、20+ 云或本地）。提供简单接口，支持多云池、自动扩缩容和成本优化。
langchain-ai/open-swe
基于 LangGraph 构建的开源异步编码代理，能自主理解代码库、规划解决方案并执行代码更改。支持并行任务、人机交互和端到端管理，可从 UI 或 GitHub 启动。
astrid-runtime/astrid
面向 AI 代理的操作系统，基于 Rust 构建。提供内核、虚拟文件系统、WASM 隔离和能力令牌。通过可替换的胶囊实现灵活配置，支持离线运行、成本优化和自修改代理。
runanywhereai/runanywhere-sdks
生产就绪的工具包，用于在移动端本地运行 AI。支持 LLM、语音转文本和文本转语音，完全离线、私密且快速。提供 Swift、Kotlin、React Native 和 Flutter SDK。
sigoden/aichat
全能型 LLM CLI 工具，支持 Shell 助手、Chat-REPL、RAG、AI 工具与代理。集成 OpenAI、Claude、Gemini 等 20+ 主流模型提供商，提供多模式输入与角色定制。
voltagent/voltagent
基于开源TypeScript框架的AI智能体工程平台，提供内存、RAG、工具、MCP、语音、工作流等核心功能。支持多智能体协同与监督者模式，兼容多种LLM提供商，具备可观测性、部署和评估能力。
netflix/metaflow
以人为本的框架，帮助科学家和工程师构建和管理 AI/ML 系统。支持从笔记本快速原型到生产部署的全流程，具备实验跟踪、版本控制、可视化及云上弹性伸缩能力。由 Netflix 开发，现由 Outerbounds 支持。
opengvlab/internvl
开源多模态对话模型，性能接近 GPT-4o，支持视觉与文本理解，提供完整训练与推理代码。