大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
activeloopai/deeplake
用于AI的数据库。存储向量、图像、文本、视频等。与LLM/LangChain一起使用。存储、查询、版本控制并可视化任何AI数据。实时流式传输数据至PyTorch/TensorFlow。https://activeloop.ai
kyrolabs/awesome-langchain
😎 LangChain框架的优秀工具和项目的汇总列表
apache/seatunnel
SeaTunnel 是一款下一代超高性能、分布式、海量数据集成工具。
skypilot-org/skypilot
SkyPilot：在任何基础设施（Kubernetes 或 16+ 云）上运行 AI 和批处理任务。通过简单接口获得统一的执行、成本节约和高 GPU 可用性。
coaidev/coai
🚀 下一代 AI 一站式 B/C 端解决方案，支持 OpenAI，Midjourney，Claude，讯飞星火，Stable Diffusion，DALL·E，ChatGLM，通义千问，腾讯混元，360 智脑，百川 AI，火山方舟，新必应，Gemini，Moonshot 等模型，支持对话分享，自定义预设，云端同步，模型市场，支持弹性计费和订阅计划模式，支持图片解析，支持联网搜索，支持模型缓存，丰富美观的后台管理与仪表盘数据统计。
bytebot-ai/bytebot
None
promptfoo/promptfoo
测试您的提示词、代理和RAG。针对LLM的红队测试、渗透测试和漏洞扫描。比较GPT、Claude、Gemini、Llama等的性能。具有命令行和CI/CD集成的简单声明式配置。
xorbitsai/inference
通过更改一行代码，用另一个大语言模型替换你应用中的 OpenAI GPT。Xinference 让你可以自由使用任何所需的大语言模型。借助 Xinference，你可以运行任何开源语言模型、语音识别模型和多模态模型的推理，无论是在云端、本地还是甚至在你的笔记本电脑上。
fishaudio/Bert-VITS2
带有多种语言Bert的VITS2骨干
microsoft/TypeChat
TypeChat 是一个使用类型构建自然语言接口的库。
The-Pocket/PocketFlow
Pocket Flow：100行代码的LLM框架。让Agent构建Agent！
oumi-ai/oumi
轻松微调、评估和部署通义千问3、DeepSeek-R1、Llama 4 或任何开源的LLM/VLM！
ztjhz/BetterChatGPT
一个惊人的 OpenAI ChatGPT 用户界面（网站 + Windows + MacOS + Linux）
nebuly-ai/optimate
一组用于优化人工智能模型性能的库
intel/ipex-llm
加速在英特尔XPU（例如，带有iGPU和NPU的本地PC，以及Arc、Flex和Max等独立GPU）上的本地大语言模型推理和微调（如LLaMA、Mistral、ChatGLM、Qwen、DeepSeek、Mixtral、Gemma、Phi、MiniCPM、Qwen-VL、MiniCPM-V等），并无缝集成llama.cpp、Ollama、HuggingFace、LangChain、LlamaIndex、vLLM、DeepSpeed、Axolotl等工具。
SJTU-IPADS/PowerInfer
高速本地部署大语言模型服务
sigoden/aichat
集成了Shell助手、Chat-REPL、RAG、AI工具与代理的全能型LLM命令行工具，支持访问OpenAI、Claude、Gemini、Ollama、Groq等更多模型。
leptonai/search_with_lepton
使用 Lepton AI 构建一个快速的基于对话的搜索演示。
bentoml/BentoML
最简单的方式来部署AI应用和模型——构建模型推理API、作业队列、大语言模型应用、多模型管道等！
microsoft/RD-Agent
研发（R&D）对提高工业生产力至关重要，尤其是在人工智能时代，研发的核心方面主要集中在数据和模型上。我们致力于通过R&D-Agent实现这些高价值的通用研发流程的自动化，让人工智能驱动数据导向的人工智能。🔗https://aka.ms/RD-Agent-Tech-Report
OpenRLHF/OpenRLHF
一个基于 Ray 的易用、可扩展且高性能的 RLHF 框架（包含 PPO、GRPO、REINFORCE++、vLLM、Ray、动态采样和异步代理强化学习）
WooooDyy/LLM-Agent-Paper-List
Xi志恒等人撰写的86页论文《基于大型语言模型的代理的兴起与潜力：综述》的论文列表。
TeamWiseFlow/wiseflow
使用大型语言模型（LLMs）从每日海量信息和多种来源中挖掘出你关注的内容。
zilliztech/GPTCache
LLM的语义缓存。完全集成了LangChain和llama_index。
xiangsx/gpt4free-ts
提供一个免费的 OpenAI GPT-4 API！这是 xtekky/gpt4free 的 TypeScript 版本复刻项目。
modelscope/agentscope
以更简单的方式开始构建具备LLM能力的多智能体应用。
Zackriya-Solutions/meeting-minutes
一个免费且开源的、自托管的基于人工智能的实时会议记录工具和会议纪要摘要生成器，可完全在您的本地设备上运行（已支持Mac OS和Windows OS，即将添加Linux支持）https://meetily.zackriya.com/
Upsonic/Upsonic
支持MCP的最可靠AI代理框架。
microsoft/UFO
桌面代理操作系统。
bitsandbytes-foundation/bitsandbytes
通过PyTorch的k-bit量化实现可访问的大语言模型。