探索 大语言模型 项目
筛选并发现收录的、配有高质量中文文档或教程的 GitHub 项目。
promptfoo/promptfoo
测试您的提示词、代理和RAG。针对LLM的红队测试、渗透测试和漏洞扫描。比较GPT、Claude、Gemini、Llama等的性能。具有命令行和CI/CD集成的简单声明式配置。
dice2o/binggpt
新必应人工智能聊天的桌面应用程序（支持 Windows、macOS 和 Linux）
skypilot-org/skypilot
SkyPilot：在任何基础设施（Kubernetes 或 16+ 云）上运行 AI 和批处理任务。通过简单接口获得统一的执行、成本节约和高 GPU 可用性。
the-pocket/pocketflow
Pocket Flow：100行代码的LLM框架。让Agent构建Agent！
kyrolabs/awesome-langchain
😎 LangChain框架的优秀工具和项目的汇总列表
activeloopai/deeplake
用于AI的数据库。存储向量、图像、文本、视频等。与LLM/LangChain一起使用。存储、查询、版本控制并可视化任何AI数据。实时流式传输数据至PyTorch/TensorFlow。https://activeloop.ai
apache/seatunnel
SeaTunnel 是一款下一代超高性能、分布式、海量数据集成工具。
coaidev/coai
🚀 下一代 AI 一站式 B/C 端解决方案，支持 OpenAI，Midjourney，Claude，讯飞星火，Stable Diffusion，DALL·E，ChatGLM，通义千问，腾讯混元，360 智脑，百川 AI，火山方舟，新必应，Gemini，Moonshot 等模型，支持对话分享，自定义预设，云端同步，模型市场，支持弹性计费和订阅计划模式，支持图片解析，支持联网搜索，支持模型缓存，丰富美观的后台管理与仪表盘数据统计。
xorbitsai/inference
通过更改一行代码，用另一个大语言模型替换你应用中的 OpenAI GPT。Xinference 让你可以自由使用任何所需的大语言模型。借助 Xinference，你可以运行任何开源语言模型、语音识别模型和多模态模型的推理，无论是在云端、本地还是甚至在你的笔记本电脑上。
oumi-ai/oumi
轻松微调、评估和部署通义千问3、DeepSeek-R1、Llama 4 或任何开源的LLM/VLM！
sigoden/aichat
集成了Shell助手、Chat-REPL、RAG、AI工具与代理的全能型LLM命令行工具，支持访问OpenAI、Claude、Gemini、Ollama、Groq等更多模型。
microsoft/typechat
TypeChat 是一个使用类型构建自然语言接口的库。
intel/ipex-llm
加速在英特尔XPU（例如，带有iGPU和NPU的本地PC，以及Arc、Flex和Max等独立GPU）上的本地大语言模型推理和微调（如LLaMA、Mistral、ChatGLM、Qwen、DeepSeek、Mixtral、Gemma、Phi、MiniCPM、Qwen-VL、MiniCPM-V等），并无缝集成llama.cpp、Ollama、HuggingFace、LangChain、LlamaIndex、vLLM、DeepSpeed、Axolotl等工具。
ztjhz/betterchatgpt
一个惊人的 OpenAI ChatGPT 用户界面（网站 + Windows + MacOS + Linux）
openrlhf/openrlhf
一个基于 Ray 的易用、可扩展且高性能的 RLHF 框架（包含 PPO、GRPO、REINFORCE++、vLLM、Ray、动态采样和异步代理强化学习）
zackriya-solutions/meeting-minutes
一个免费且开源的、自托管的基于人工智能的实时会议记录工具和会议纪要摘要生成器，可完全在您的本地设备上运行（已支持Mac OS和Windows OS，即将添加Linux支持）https://meetily.zackriya.com/
simular-ai/agent-s
Agent S：一个开放的代理框架，能够像人类一样使用计算机
bentoml/bentoml
最简单的方式来部署AI应用和模型——构建模型推理API、作业队列、大语言模型应用、多模型管道等！
leptonai/search_with_lepton
使用 Lepton AI 构建一个快速的基于对话的搜索演示。
woooodyy/llm-agent-paper-list
Xi志恒等人撰写的86页论文《基于大型语言模型的代理的兴起与潜力：综述》的论文列表。
teamwiseflow/wiseflow
使用大型语言模型（LLMs）从每日海量信息和多种来源中挖掘出你关注的内容。