探索 大语言模型 项目
筛选并发现收录的、配有高质量中文文档或教程的 GitHub 项目。
一套开发工具，用于简化基于大语言模型的 AI 应用从原型到生产部署的全流程。支持创建可执行的流程，连接 LLM、提示词、Python 代码等工具，并提供调试、评估和部署功能。
开源 AI 研究技能库，包含 86 项技能，支持 AI 代理自主完成从构思到论文的全流程研究。提供研究编排与工程技能，适用于 Claude、Codex、Gemini 等模型。
开源 IDE，用于编排 AI 编码代理，解决复杂代码库中的难题。基于 Claude Code，支持并行会话和团队协作，提升开发效率。
基于 Rust 的高性能 AI 数据转换框架，支持增量处理和数据血缘。以声明式数据流编程，仅需约 100 行 Python 代码即可定义转换，实现源数据与目标的自动同步。
自托管 AI 桌面代理，通过自然语言命令自动化计算机任务。基于容器化 Linux 桌面环境运行，支持使用任意应用、处理文档、管理文件，并具备完整任务自主性。主要语言为 TypeScript。
自托管、离线的 ChatGPT 式聊天机器人，基于 Llama 2。100% 私有，数据不离设备。支持 Code Llama 模型和 NVIDIA GPU，可通过 umbrelOS、Docker 或 Kubernetes 部署。
高性能LLM KV缓存层，通过零CPU拷贝、NIXL等技术加速，支持跨数据中心复用缓存，显著降低首token延迟并提升吞吐量，适用于长上下文场景。
基于 SvelteKit 的开源聊天界面，支持 OpenAI 兼容 API，可连接 Hugging Face 路由器或本地模型服务器。提供 MongoDB 数据库选项，支持 Docker 部署与主题定制。
官方推理库，支持 Mistral 系列模型，包括 7B、8x7B、8x22B、Codestral、Mathstral、Nemo、Large 2 和 Pixtral 12B。提供 PyPI 和本地安装方式，模型可通过直接链接或 Hugging Face Hub 下载。
基于项目的 AI 编码代理工程课程，涵盖环境构建、状态管理、验证与控制机制，提供 12 讲、6 个项目及多语言支持。
为任何 AI 工具生成精准提示词，零令牌浪费，全上下文记忆。支持 Claude、ChatGPT、Midjourney 等数十种工具，通过结构化管道优化提示，确保首次输出即准确。
Go 语言编写的 OpenAI API 客户端库，支持 ChatGPT、GPT-4、DALL·E、Whisper 等模型。提供非官方 Go 客户端，包含流式响应与音频转录功能。
开源工具包，用于优化和部署 AI 推理。支持 PyTorch、TensorFlow、ONNX 等模型，兼容 CPU、GPU 和 AI 加速器。提供从边缘到云的灵活部署方案。
基于 MCP 协议的 AI 网络安全自动化平台，集成 150+ 安全工具与 12+ 自主 AI 代理。支持自动化渗透测试、漏洞发现与漏洞赏金任务，无缝连接 LLM 与实战攻防能力。
基于 AI 大模型，一键完成视频解说、剪辑、配音和字幕生成，实现高效自动化内容创作。支持多种模型和语音克隆，提供一站式影视解说解决方案。
在任何 AI 基础设施上运行、管理和扩展 AI 工作负载。统一访问和管理所有 AI 计算资源（Kubernetes、20+ 云或本地）。提供简单接口，支持多云池、自动扩缩容和成本优化。
AI 记忆操作系统，为 LLM 和 Agent 提供持久化技能记忆，支持跨任务复用与进化。核心功能包括统一记忆 API、多模态支持、多知识库管理、异步调度与反馈修正。
提供最简单的方式，通过 6 行代码在 Python 和 TypeScript 中构建 MCP 服务器、客户端和 AI 代理。支持自定义代理与 MCP 服务器交互，包含调试工具和 UI 资源。
基于 LangGraph 构建的开源异步编码代理，能自主理解代码库、规划解决方案并执行代码更改。支持并行任务、人机交互和端到端管理，可从 UI 或 GitHub 启动。
面向 AI 代理的操作系统，基于 Rust 构建。提供内核、虚拟文件系统、WASM 隔离和能力令牌。通过可替换的胶囊实现灵活配置，支持离线运行、成本优化和自修改代理。
生产就绪的工具包，用于在移动端本地运行 AI。支持 LLM、语音转文本和文本转语音，完全离线、私密且快速。提供 Swift、Kotlin、React Native 和 Flutter SDK。
全能型 LLM CLI 工具，支持 Shell 助手、Chat-REPL、RAG、AI 工具与代理。集成 OpenAI、Claude、Gemini 等 20+ 主流模型提供商，提供多模式输入与角色定制。
基于开源TypeScript框架的AI智能体工程平台，提供内存、RAG、工具、MCP、语音、工作流等核心功能。支持多智能体协同与监督者模式，兼容多种LLM提供商，具备可观测性、部署和评估能力。
以人为本的框架，帮助科学家和工程师构建和管理 AI/ML 系统。支持从笔记本快速原型到生产部署的全流程，具备实验跟踪、版本控制、可视化及云上弹性伸缩能力。由 Netflix 开发，现由 Outerbounds 支持。
AI 大模型驱动的开源知识库系统，快速构建智能文档、FAQ、博客，提供 AI 创作、问答、搜索能力。支持 Docker 部署，兼容 Markdown/HTML，可集成第三方应用。