大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
nanbingxyz/5ire
跨平台桌面 AI 助手与 MCP 客户端。兼容主流服务提供商，支持通过 MCP 服务器接入本地知识库与工具。基于 TypeScript 构建，提供文件系统访问、数据库交互等扩展能力。
xlite-dev/awesome-llm-inference
精选 LLM/VLM 推理论文与代码库，涵盖 Flash-Attention、Paged-Attention、WINT8/4、并行化等技术。提供 PDF 下载与分类索引。
opencx-labs/copilot
Copilot 是 opencx-labs/copilot 项目，主要使用 TypeScript 开发。项目已不再维护。
internlm/xtuner
新一代超大规模 MoE 模型训练引擎。支持无丢弃训练、长序列支持及卓越效率，训练规模可达 1T 参数。优化 Ascend NPU，兼容 GPU 与 NPU 硬件。
mengxi-ream/read-frog
开源沉浸式翻译浏览器扩展，支持多 AI 模型、上下文感知翻译、选区翻译、自定义提示词及字幕翻译等，助力语言学习。
amazon-science/chronos-forecasting
提供 Chronos 系列预训练时间序列预测模型接口，支持零样本单/多变量及协变量预测。Chronos-2 性能领先，Chronos-Bolt 速度提升 250 倍，内存效率更高。支持 Hugging Face 模型与 SageMaker 部署。
datawhalechina/easy-vibe
autogptq/autogptq
基于 GPTQ 算法的易用 LLM 量化包，提供用户友好的 API。支持 int4 量化，提升推理速度并降低显存占用。已集成至 Transformers 等框架。
kvcache-ai/mooncake
基于 KVCache 的 LLM 服务解耦架构，为 Kimi 提供高性能推理平台，支持 Transfer Engine 和 Mooncake Store 开源。
funnywolf/viper
基于 AI 的对手模拟与红队平台，支持多平台、自动化工作流与 LLM 智能代理，集成 100+ 后渗透模块，可扩展 Python 自定义插件。
