PyTorch资源
探索与 PyTorch 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
autogptq/autogptq
5.1k
539
272
基于 GPTQ 算法的易用 LLM 量化包,提供用户友好的 API。支持 int4 量化,提升推理速度并降低显存占用。已集成至 Transformers 等框架。
Python
PyTorch
大语言模型
8.2 MB
2025-04-11