大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
pbek/qownnotes
开源纯文本笔记与待办管理器，支持 Markdown，可与 Nextcloud/ownCloud 同步，适用于 Linux、macOS 和 Windows。
helicone/helicone
开源 LLM 可观测性平台与 AI 网关。一行代码集成，支持 100+ 模型，提供追踪、监控、评估和实验功能。包含成本与延迟追踪、代理追踪、自动回退及提示管理。支持自托管，提供免费套餐。
klavis-ai/klavis
MCP 集成平台，让 AI 代理在任何规模下可靠使用工具。提供智能连接器 Strata、100+ 预构建集成及可扩展的 MCP 沙盒环境，支持 LLM 训练与强化学习。
pyspur-dev/pyspur
视觉化智能体工作流开发平台，加速迭代 10 倍。支持 Python 代码或 UI 构建，内置测试、调试、部署功能。提供人机回环、循环、RAG、多模态处理等核心特性，兼容 100+ LLM 供应商。
modelscope/funclip
开源、精准、易用的视频语音识别与剪辑工具，集成 LLM AI 剪辑功能。基于 FunASR Paraformer 模型，支持热词定制、说话人识别及多段自由剪辑，自动生成 SRT 字幕。
flashinfer-ai/flashinfer
高性能 GPU 内核库，服务于大语言模型推理。提供统一 API，支持注意力、GEMM、MoE 等操作，具备多种后端实现。优化预填充、解码与混合批处理场景，支持 FP8/FP4 低精度计算与现代 GPU 架构。
steipete/agent-rules
为 Claude Code 和 Cursor 等 AI 代理提供工作规则与知识库，提升协作效率。此为旧项目，新工作已迁移至 agent-scripts。
baichuan-inc/baichuan-7b
开源可商用的70亿参数双语预训练模型，基于Transformer架构，在1.2万亿token上训练，支持4096上下文窗口。在C-Eval、MMLU等中英文基准测试中表现优异。
ashishps1/learn-ai-engineering
汇集免费资源，系统学习 AI/ML、LLM 与智能体，涵盖数学、Python、深度学习、生成式 AI 及 LLM 工具链。
ramon-victor/freegpt-webui
基于 G4F API 的免费 GPT 3.5/4 聊天 WebUI，无需 API 密钥。提供用户友好的界面和增强的越狱功能。
huggingface/alignment-handbook
提供稳健的对齐配方，用于继续预训练和使语言模型与人类及 AI 偏好对齐。包含训练脚本、复现模型的配方，以及 DPO、ORPO 等对齐方法的实现。
agentops-ai/agentops
Python SDK，用于 AI 智能体监控、LLM 成本追踪与基准测试。原生集成 CrewAI、OpenAI Agents SDK、LangChain 等主流框架，支持自托管，助力从原型到生产的全流程开发。
rllm-org/rllm
开源强化学习框架，用于语言智能体的后训练。支持自定义智能体与环境构建，提供 verl 和 tinker 两种训练后端，便于部署与扩展。
精选高质量中文预训练模型、大语言模型及多模态模型集合，涵盖 NLU、NLG、多模态等系列，持续更新，提供 HuggingFace 镜像下载推荐。
openbmb/ultrarag
基于 MCP 架构的低代码 RAG 框架，通过 YAML 配置实现复杂流程编排。提供可视化 IDE，支持管道构建与代码编辑双向同步，内置 AI 助手辅助开发。
osaurus-ai/osaurus
原生 macOS AI 框架，支持任意模型、持久记忆、自主执行与加密身份。纯 Swift 构建，完全离线，开源。
kserve/kserve
基于 Kubernetes 的标准化分布式生成式与预测式 AI 推理平台，支持多框架部署。提供 LLM 优化、GPU 加速、模型缓存、KV 缓存卸载、自动扩缩容等生成式 AI 功能，以及多框架支持、智能路由、高级部署、模型可解释性、高级监控等预测式 AI 功能。
diegosouzapw/omniroute
免费 AI 网关：单端点接入 177+ 供应商（50+ 免费），支持 Claude Code、Cursor 等工具。RTK+Caveman 压缩节省 15-95% 令牌，智能回退，MCP/A2A 多模态 API。
zhouxiaoka/autoclip
AI 驱动的视频切片与高光生成工具，支持 YouTube / B 站下载、自动切片、智能合集生成。基于 Python + FastAPI + React 技术栈，提供 Web 界面与异步处理。
arthur-ficial/apfel
基于 Apple Intelligence 的免费 AI 工具，提供 CLI、OpenAI 兼容服务器和交互式聊天。100% 本地运行，无需 API 密钥或云端。
coze-dev/coze-loop
下一代 AI Agent 优化平台，提供开发、调试、评估到监控的全生命周期管理，支持 Prompt 开发、系统评估与可观测性，助力高效构建与运营 AI Agent。
kvcache-ai/mooncake
基于 KVCache 的 LLM 服务解耦架构，为 Kimi 提供高性能推理平台，支持 Transfer Engine 和 Mooncake Store 开源。
ml-explore/mlx-lm
基于 MLX 的 Python 包，用于在 Apple 芯片上运行和微调大语言模型。支持 Hugging Face Hub 集成、模型量化、LoRA 微调及分布式推理。提供命令行和 Python API，便于文本生成与聊天。
shibing624/medicalgpt
实现医疗大模型训练，支持增量预训练、SFT、RLHF、DPO、ORPO、GRPO 等方法，兼容多种开源模型。
zenml-io/zenml
一个统一的 AI 平台，从管道到智能体。支持任何 Python 逻辑，自动容器化、追踪运行、抽象基础设施复杂性，并集成 MLflow、Langgraph 等工具，助力快速迭代实验。
holaboss-ai/holaos
开放代理计算机，适用于任何数字工作。基于 TypeScript 构建，支持 macOS，Windows 和 Linux 开发中。提供共享环境，人类与 AI 代理协作，记忆连续，工作状态不丢失。
giskard-ai/giskard-oss
开源评估与测试库，用于 LLM 代理。自动检测 AI 应用中的性能、偏见和安全问题，支持 RAG 评估工具包 (RAGET) 生成测试集并评估各组件，兼容多种模型与环境。
treeverse/lakefs
lakeFS 是开源数据湖版本控制工具，提供类 Git 的数据管理能力。支持 AWS S3、Azure Blob Storage 和 Google Cloud Storage，兼容 S3 API，可与 Spark、Hive 等框架无缝集成。实现可重复、原子性的数据湖操作，适用于 ETL 测试、数据科学和分析。
fengshao1227/ccg-workflow
多模型协作开发系统，Claude 编排 + Codex 后端 + Gemini 前端，28 个命令覆盖全流程，一键安装零配置，安全设计无写权限。
amazon-science/chronos-forecasting
提供 Chronos 系列预训练时间序列预测模型接口，支持零样本单/多变量及协变量预测。Chronos-2 性能领先，Chronos-Bolt 速度提升 250 倍，内存效率更高。支持 Hugging Face 模型与 SageMaker 部署。