探索 PyTorch 项目

⭐ 5.1k

📝 Python

基于 GPTQ 算法的易用 LLM 量化包，提供用户友好的 API。支持 int4 量化，提升推理速度并降低显存占用。已集成至 Transformers 等框架。

⭐ 5.1k

📝 Python

OpenMMLab 的下一代视频理解工具箱与基准，基于 Python，提供丰富的模型库和简洁的 API。

⭐ 5.0k

📝 Python

开源云原生一站式 AI 平台，支持 MLOps 全流程、分布式训练、超参搜索、推理服务 VGPU 虚拟化、大模型微调与多机推理，兼容国产硬件及多种框架。