探索 大语言模型 项目

⭐ 5.1k

📝 Python

开源 GPU 集群管理器，配置并编排 vLLM、SGLang 等推理引擎，支持多集群管理、即日模型部署与性能优化，适用于高性能 AI 模型部署。

⭐ 5.1k

📝 TypeScript

Copilot 是 opencx-labs/copilot 项目，主要使用 TypeScript 开发。项目已不再维护。

⭐ 5.1k

📝 Python

基于大语言模型的交互智能体，以真实人类风格交流，追求亲切与真实。支持自然对话、多人互动模仿、人格理解及插件扩展。

⭐ 5.1k

📝 Python

开源 AI 研究环境，支持本地、本地部署或云端训练、评估和扩展模型。统一工具链，提供跨平台支持，包含基础模型、微调、扩散模型和评估功能。

⭐ 5.1k

📝 Python

提供从基础到部署高级 LLM 和 RAG 应用的实践指南，使用 LLMOps 最佳实践，支持 AWS 部署。涵盖数据收集、训练管道、监控和测试框架。

⭐ 5.1k

基于 AI 的对手模拟与红队平台，支持多平台、自动化工作流与 LLM 智能代理，集成 100+ 后渗透模块，可扩展 Python 自定义插件。

⭐ 5.1k

📝 Python

基于 GPTQ 算法的易用 LLM 量化包，提供用户友好的 API。支持 int4 量化，提升推理速度并降低显存占用。已集成至 Transformers 等框架。

⭐ 5.1k

📝 JavaScript

基于 LLM 的多智能体框架，提供任务解决与模拟仿真双框架，支持多智能体协作与环境交互，适用于软件开发、游戏等场景。

⭐ 5.0k

📝 Python

开源云原生一站式 AI 平台，支持 MLOps 全流程、分布式训练、超参搜索、推理服务 VGPU 虚拟化、大模型微调与多机推理，兼容国产硬件及多种框架。