PyTorch资源

探索与 PyTorch 相关的精选开源项目、速读教程和最新工作机会

相关开源项目

Autogptq logo

autogptq/autogptq

5.1k
539
272

基于 GPTQ 算法的易用 LLM 量化包,提供用户友好的 API。支持 int4 量化,提升推理速度并降低显存占用。已集成至 Transformers 等框架。

Python
PyTorch
大语言模型
8.2 MB
2025-04-11