大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
arthur-ficial/apfel
基于 Apple Intelligence 的免费 AI 工具，提供 CLI、OpenAI 兼容服务器和交互式聊天。100% 本地运行，无需 API 密钥或云端。
ceelog/dictionarybygpt4
一本由 GPT-4 生成的单词书，涵盖超过 8000 个单词的词义、例句、词根词缀、文化背景、记忆技巧和小故事。提供 EPUB、PDF、在线网页、JSON 和 MDX 等多种格式下载。
flashinfer-ai/flashinfer
高性能 GPU 内核库，服务于大语言模型推理。提供统一 API，支持注意力、GEMM、MoE 等操作，具备多种后端实现。优化预填充、解码与混合批处理场景，支持 FP8/FP4 低精度计算与现代 GPU 架构。
canopyai/orpheus-tts
基于 Llama-3b 的 SOTA 开源 TTS，支持类人语音、零样本克隆、情感引导和低延迟流式推理。提供多语言模型及训练指南，支持 Baseten 一键部署。
kunagent/kun
面向需求先行的下一代 AI Agent 工作区。整合 DeepSeek、Xiaomi MiMo、MiniMax 高性价比模型，串联需求澄清、Design 设计、Code 编码和 Write 写作完整闭环。提供 Code、Design、Write 三大核心模式，支持工具审批、变更审查、本地运行时与可视化工作流编排。
osmantic/ods
将个人电脑转化为私有 AI 服务器。集成模型推理、聊天界面、语音、智能体工作流、RAG 检索与图像生成。无需云服务，数据本地存储。
modelscope/funclip
开源、精准、易用的视频语音识别与剪辑工具，集成 LLM AI 剪辑功能。基于 FunASR Paraformer 模型，支持热词定制、说话人识别及多段自由剪辑，自动生成 SRT 字幕。
eigenwise/atomic-agents
基于原子化概念构建的轻量级、模块化框架，用于创建 AI 代理管道和应用。组件可复用、可组合，基于 Instructor 和 Pydantic 构建，支持 Python。
prefecthq/marvin
Python 框架，用于构建结构化输出和 AI 智能体工作流。提供直观 API，支持任务、智能体和线程编排，实现类型安全的 AI 集成。
heilcheng/awesome-agent-skills
社区维护的 AI 助手技能库，提供即用型文本技能文件。支持 Claude、Copilot 等主流 AI 平台，无需重训即可动态加载技能。通过 SkillsMP 市场或 CLI 工具快速发现和管理技能。
tencent/ai-infra-guard
集成 Agent Scan、技能扫描、MCP 扫描、AI 基础设施扫描及 LLM 越狱评估的全栈 AI 红队平台，提供全面、智能的 AI 安全风险自查。
ikaijua/awesome-aitools
收录 AI 相关实用工具的精选列表，涵盖聊天、代理、搜索、开源模型、图像视频生成、云平台、写作翻译、语音处理、学术研究等多领域，欢迎提交 issue 或 PR 共同完善。
microsoft/taskweaver
首个“代码优先”智能体框架，用于无缝规划和执行数据分析任务。通过代码片段解释用户请求，协调插件以有状态方式执行任务。保留聊天历史和代码执行历史，支持处理复杂数据结构。
rustformers/llm
基于 Rust 的大语言模型生态系统，已归档。提供 GGML 库支持，但不再维护。推荐使用 Ratchet、Candle、mistral.rs 等替代库进行模型推理。
helicone/helicone
开源 LLM 可观测性平台与 AI 网关。一行代码集成，支持 100+ 模型，提供追踪、监控、评估和实验功能。包含成本与延迟追踪、代理追踪、自动回退及提示管理。支持自托管，提供免费套餐。
ufomiao/zcf
零配置代码流工具，专为 Claude Code 和 Codex 设计。一键初始化，支持双语界面与智能代理系统，提供个性化 AI 助手体验。
princeton-nlp/tree-of-thought-llm
基于大语言模型的树状思维框架，实现深思熟虑的问题求解。支持 BFS/DFS 搜索算法，可自定义任务与提示，用于游戏、填字等复杂推理场景。
om-ai-lab/vlm-r1
基于强化学习的 R1 风格视觉语言模型，提升视觉理解的泛化能力。支持 GRPO 全量微调、LoRA、多节点训练及多图像输入。在 REC 和 OVD 任务上表现优异，模型已在 Hugging Face 开源。
ashishps1/learn-ai-engineering
汇集免费资源，系统学习 AI/ML、LLM 与智能体，涵盖数学、Python、深度学习、生成式 AI 及 LLM 工具链。
netease-youdao/lobsterai
24/7 全场景 AI 助手，支持本地与沙箱执行、跨平台、IM 远程控制、定时任务与持久记忆，由 NetEase Youdao 开发。
gluonfield/enchanted
开源 iOS/macOS/visionOS 应用，通过 Ollama 连接私有大语言模型（如 Llama2、Mistral）。提供类 ChatGPT 界面，支持多模态、离线使用、Markdown 渲染、语音提示与自定义模板，保障隐私与安全。
cactus-compute/cactus
专为移动设备与可穿戴设备打造的低延迟 AI 引擎。支持 ARM CPU 最快推理，零拷贝内存映射实现 10 倍 RAM 节省，多模态 SDK 覆盖语音、视觉与语言模型，支持云回退与 NPU 加速。
aiwaves-cn/agents
开源框架，用于数据驱动、自我进化的自主语言代理。基于符号学习，实现类似神经网络的前向传播、反向传播和权重更新，支持多代理系统优化。
nilsherzig/llocalsearch
完全本地运行的搜索聚合器，使用 LLM Agent 链处理问题。无需 OpenAI 或 Google API 密钥，保护隐私。支持实时进度查看、追问和移动端设计。
denizsafak/abogen
将 EPUB、PDF、文本文件快速转换为带同步字幕的高品质有声书。基于 Kokoro-82M 引擎，支持 Windows、macOS 和 Linux 系统。提供简洁的 GUI 界面与命令行选项，适合 Instagram、YouTube 等平台的配音需求。
florianbruniaux/claude-code-ultimate-guide
全面的 Claude Code 指南，涵盖从入门到高级用户，提供 181 个生产就绪模板、271 道测验题和代理工作流指南，支持 PDF/EPUB 下载。
tensorchord/awesome-llmops
精选的 LLMOps 工具列表，涵盖模型、服务、安全、训练、部署等全栈工具，为开发者提供一站式资源导航。
mai-with-u/maibot
基于大语言模型的交互智能体，以真实人类风格交流，追求亲切与真实。支持自然对话、多人互动模仿、人格理解及插件扩展。
samchon/typia
通过编译时转换，提供超快速的运行时验证器和序列化器。支持 JSON schema、LLM 函数调用 schema、Protocol Buffer 编解码及随机数据生成。仅需一行纯 TypeScript 类型，性能远超 class-validator 和 class-transformer。
fengshao1227/ccg-workflow
多模型协作开发系统，Claude 编排 + Codex 后端 + Gemini 前端，28 个命令覆盖全流程，一键安装零配置，安全设计无写权限。