大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
kyrolabs/awesome-langchain
😎 LangChain框架的优秀工具和项目的汇总列表
openvinotoolkit/openvino
OpenVINO™ 是一个用于优化和部署 AI 推理的开源工具包
apache/seatunnel
SeaTunnel 是一款下一代超高性能、分布式、海量数据集成工具。
coaidev/coai
🚀 下一代 AI 一站式 B/C 端解决方案，支持 OpenAI，Midjourney，Claude，讯飞星火，Stable Diffusion，DALL·E，ChatGLM，通义千问，腾讯混元，360 智脑，百川 AI，火山方舟，新必应，Gemini，Moonshot 等模型，支持对话分享，自定义预设，云端同步，模型市场，支持弹性计费和订阅计划模式，支持图片解析，支持联网搜索，支持模型缓存，丰富美观的后台管理与仪表盘数据统计。
GreyDGL/PentestGPT
一个由GPT驱动的渗透测试工具
microsoft/TypeChat
TypeChat 是一个使用类型构建自然语言接口的库。
fishaudio/Bert-VITS2
带有多种语言Bert的VITS2骨干
skypilot-org/skypilot
SkyPilot：在任何基础设施（Kubernetes 或 16+ 云）上运行 AI 和批处理任务。通过简单接口获得统一的执行、成本节约和高 GPU 可用性。
asgeirtj/system_prompts_leaks
从流行的聊天机器人（如ChatGPT、Claude和Gemini）中提取的系统提示词集合
oumi-ai/oumi
轻松微调、评估和部署通义千问3、DeepSeek-R1、Llama 4 或任何开源的LLM/VLM！
xorbitsai/inference
通过更改一行代码，用另一个大语言模型替换你应用中的 OpenAI GPT。Xinference 让你可以自由使用任何所需的大语言模型。借助 Xinference，你可以运行任何开源语言模型、语音识别模型和多模态模型的推理，无论是在云端、本地还是甚至在你的笔记本电脑上。
nebuly-ai/optimate
一组用于优化人工智能模型性能的库
SJTU-IPADS/PowerInfer
高速本地部署大语言模型服务
Olow304/memvid
基于视频的人工智能记忆库。将数百万个文本块存储在MP4文件中，实现闪电般的语义搜索。无需数据库。
intel/ipex-llm
加速在英特尔XPU（例如，带有iGPU和NPU的本地PC，以及Arc、Flex和Max等独立GPU）上的本地大语言模型推理和微调（如LLaMA、Mistral、ChatGLM、Qwen、DeepSeek、Mixtral、Gemma、Phi、MiniCPM、Qwen-VL、MiniCPM-V等），并无缝集成llama.cpp、Ollama、HuggingFace、LangChain、LlamaIndex、vLLM、DeepSpeed、Axolotl等工具。
leptonai/search_with_lepton
使用 Lepton AI 构建一个快速的基于对话的搜索演示。
promptfoo/promptfoo
测试您的提示词、代理和RAG。针对LLM的红队测试、渗透测试和漏洞扫描。比较GPT、Claude、Gemini、Llama等的性能。具有命令行和CI/CD集成的简单声明式配置。
bentoml/BentoML
最简单的方式来部署AI应用和模型——构建模型推理API、作业队列、大语言模型应用、多模型管道等！
The-Pocket/PocketFlow
Pocket Flow：100行代码的LLM框架。让Agent构建Agent！
sigoden/aichat
集成了Shell助手、Chat-REPL、RAG、AI工具与代理的全能型LLM命令行工具，支持访问OpenAI、Claude、Gemini、Ollama、Groq等更多模型。
WooooDyy/LLM-Agent-Paper-List
Xi志恒等人撰写的86页论文《基于大型语言模型的代理的兴起与潜力：综述》的论文列表。
TeamWiseFlow/wiseflow
使用大型语言模型（LLMs）从每日海量信息和多种来源中挖掘出你关注的内容。
agentscope-ai/agentscope
None
modelscope/agentscope
以更简单的方式开始构建具备LLM能力的多智能体应用。
codexu/note-gen
一个跨平台的Markdown笔记应用，专注于利用AI连接记录与创作，将碎片化知识整理成可读的笔记。
OpenRLHF/OpenRLHF
一个基于 Ray 的易用、可扩展且高性能的 RLHF 框架（包含 PPO、GRPO、REINFORCE++、vLLM、Ray、动态采样和异步代理强化学习）
zilliztech/GPTCache
LLM的语义缓存。完全集成了LangChain和llama_index。
Upsonic/Upsonic
支持MCP的最可靠AI代理框架。
microsoft/UFO
桌面代理操作系统。
bitsandbytes-foundation/bitsandbytes
通过PyTorch的k-bit量化实现可访问的大语言模型。