大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
cactus-compute/cactus
专为移动设备与可穿戴设备打造的低延迟 AI 引擎。支持 ARM CPU 最快推理，零拷贝内存映射实现 10 倍 RAM 节省，多模态 SDK 覆盖语音、视觉与语言模型，支持云回退与 NPU 加速。
holaboss-ai/holaos
开放代理计算机，适用于任何数字工作。基于 TypeScript 构建，支持 macOS，Windows 和 Linux 开发中。提供共享环境，人类与 AI 代理协作，记忆连续，工作状态不丢失。
zenml-io/zenml
一个统一的 AI 平台，从管道到智能体。支持任何 Python 逻辑，自动容器化、追踪运行、抽象基础设施复杂性，并集成 MLflow、Langgraph 等工具，助力快速迭代实验。
lidge-jun/opencodex
treeverse/lakefs
lakeFS 是开源数据湖版本控制工具，提供类 Git 的数据管理能力。支持 AWS S3、Azure Blob Storage 和 Google Cloud Storage，兼容 S3 API，可与 Spark、Hive 等框架无缝集成。实现可重复、原子性的数据湖操作，适用于 ETL 测试、数据科学和分析。
the-open-agent/openagent
⚡️ 下一代个人 AI 助手，基于 LLM、RAG 和智能体循环，支持计算机使用、浏览器使用和编码智能体。单二进制文件，无需安装。
bit-datalab/edit-banana
将统计格式转换为可编辑内容。基于 SAM 3 和多模态大模型，实现高保真重建，保留原始图表细节与逻辑关系。支持一键生成可编辑的 DrawIO (XML) 文件。
xlite-dev/awesome-llm-inference
精选 LLM/VLM 推理论文与代码库，涵盖 Flash-Attention、Paged-Attention、WINT8/4、并行化等技术。提供 PDF 下载与分类索引。
denizsafak/abogen
将 EPUB、PDF、文本文件快速转换为带同步字幕的高品质有声书。基于 Kokoro-82M 引擎，支持 Windows、macOS 和 Linux 系统。提供简洁的 GUI 界面与命令行选项，适合 Instagram、YouTube 等平台的配音需求。
ath-maas/comfyui-copilot
AI 驱动的 ComfyUI 智能助手，提供工作流生成、一键调试与优化，支持 Agent 架构升级，提升创作效率。
taskingai/taskingai
开源 AI 原生应用开发平台。统一集成数百种 LLM 模型，提供工具、RAG、助手等模块的直观管理。支持异步高性能计算与一键部署，助力高效构建可扩展的 AI Agent。
gpustack/gpustack
开源 GPU 集群管理器，配置并编排 vLLM、SGLang 等推理引擎，支持多集群管理、即日模型部署与性能优化，适用于高性能 AI 模型部署。
winfunc/deepreasoning
高性能 LLM 推理 API 与聊天界面，融合 DeepSeek R1 的链式思考推理与 Anthropic Claude 的创意代码生成能力。基于 Rust 构建，提供零延迟流式响应、私有安全的 BYOK API 管理，并支持高度可配置与开源部署。
opencsgs/csghub
开源 LLM 资产管理平台，提供统一管理、微服务架构与企业级安全。支持私有化部署，兼容 Hugging Face SDK，助力高效处理模型、数据集及应用。
memmachine/memmachine
为 AI 代理提供通用记忆层，支持可扩展、可扩展和可互操作的记忆存储与检索，实现下一代自主系统的状态管理。主要语言 Python。
superduper-io/superduper
端到端框架，用于构建自定义 AI 应用和智能体。支持多种数据库后端，如 MongoDB、SQL、Snowflake 和 Redis。基于 Python，提供插件化架构，便于集成现有工具。
nanbingxyz/5ire
跨平台桌面 AI 助手与 MCP 客户端。兼容主流服务提供商，支持通过 MCP 服务器接入本地知识库与工具。基于 TypeScript 构建，提供文件系统访问、数据库交互等扩展能力。
generalaction/emdash
开源代理开发环境，并行运行多个编码代理。支持本地及 SSH 远程项目，集成 Claude Code、Gemini 等主流代理，提供 Git 隔离工作树、差异审查与合并功能。兼容 Linear、GitHub 等问题跟踪系统。
blaizzy/mlx-vlm
基于 MLX 的 Mac 平台视觉语言模型推理与微调工具包，支持多模态（图像、音频、视频）及 Omni 模型，提供 CLI、Gradio UI、FastAPI 服务与分布式推理。
packtpublishing/llm-engineers-handbook
提供从基础到部署高级 LLM 和 RAG 应用的实践指南，使用 LLMOps 最佳实践，支持 AWS 部署。涵盖数据收集、训练管道、监控和测试框架。
kodu-ai/claude-coder
VS Code 扩展，自主编码代理。将想法转化为代码，支持网站、仪表盘、服务器开发。提供调试、部署、网络搜索功能，适合各水平开发者。加速开发流程，让编码更高效。
funnywolf/viper
基于 AI 的对手模拟与红队平台，支持多平台、自动化工作流与 LLM 智能代理，集成 100+ 后渗透模块，可扩展 Python 自定义插件。
katanaml/sparrow
基于 ML、LLM 和 Vision LLM 实现结构化数据提取与指令调用。支持多格式文档处理、可插拔架构、多种后端（MLX、Ollama、vLLM、Hugging Face）及 RESTful API。提供交互式 Web 界面，支持拖拽上传与实时处理。
dsdanielpark/bard-api
非官方 Python 包，通过 Cookie 值调用 Google Bard API。适用于无法通过官方认证的用户。项目已停止维护，建议转向 Gemini API。
salesforce/codegen
开源程序合成模型家族，由 Salesforce AI Research 开发。包含 CodeGen1 和 CodeGen2 系列，参数规模从 350M 到 16B，性能媲美 OpenAI Codex。提供多版本模型，支持 Hugging Face Hub 调用。
mostlygeek/llama-swap
transformerlab/transformerlab-app
开源 AI 研究环境，支持本地、本地部署或云端训练、评估和扩展模型。统一工具链，提供跨平台支持，包含基础模型、微调、扩散模型和评估功能。
internlm/xtuner
新一代超大规模 MoE 模型训练引擎。支持无丢弃训练、长序列支持及卓越效率，训练规模可达 1T 参数。优化 Ascend NPU，兼容 GPU 与 NPU 硬件。
lemonade-sdk/lemonade
lmstudio-ai/lms
专为 LM Studio 打造的命令行工具，支持管理模型、启停本地 API 服务器及创建 SDK 项目。基于 lmstudio.js 构建，随 LM Studio 0.2.22 及更新版本提供，可通过 npx 安装至路径。