大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
yichuan-w/leann
创新向量数据库，实现97%存储节省。在个人设备上运行快速、准确且完全私有的RAG应用，支持文件系统、邮件、浏览器历史、聊天记录、代码库等多源数据语义搜索。
bytebot-ai/bytebot
自托管 AI 桌面代理，通过自然语言命令自动化计算机任务。基于容器化 Linux 桌面环境运行，支持使用任意应用、处理文档、管理文件，并具备完整任务自主性。主要语言为 TypeScript。
cloudwego/eino
Go语言LLM应用开发框架，提供组件、Agent开发套件和组合能力，支持OpenAI等模型，拥有9500+星标。
mistralai/mistral-inference
官方推理库，支持 Mistral 系列模型，包括 7B、8x7B、8x22B、Codestral、Mathstral、Nemo、Large 2 和 Pixtral 12B。提供 PyPI 和本地安装方式，模型可通过直接链接或 Hugging Face Hub 下载。
huggingface/chat-ui
基于 SvelteKit 的开源聊天界面，支持 OpenAI 兼容 API，可连接 Hugging Face 路由器或本地模型服务器。提供 MongoDB 数据库选项，支持 Docker 部署与主题定制。
sashabaranov/go-openai
Go 语言编写的 OpenAI API 客户端库，支持 ChatGPT、GPT-4、DALL·E、Whisper 等模型。提供非官方 Go 客户端，包含流式响应与音频转录功能。
jina-ai/reader
将任意 URL 转换为 LLM 友好输入，只需添加前缀 https://r.jina.ai/。同时提供 Web 搜索功能，通过 https://s.jina.ai/ 查询并返回前 5 个结果的详细内容。免费、稳定、可扩展，支持 PDF 读取、图片描述和站点内搜索。
browseros-ai/browseros
开源 Agentic 浏览器，隐私优先。支持本地 AI 模型（Ollama）或自定义 API 密钥，数据不离机。提供工作流自动化、MCP 服务器集成及内置广告拦截。支持 macOS、Windows、Linux。
humanlayer/humanlayer
开源 IDE，用于编排 AI 编码代理，解决复杂代码库中的难题。基于 Claude Code，支持并行会话和团队协作，提升开发效率。
the-pocket/pocketflow
100 行代码的极简 LLM 框架，支持多智能体、工作流和 RAG。零依赖，零厂商锁定，让智能体构建智能体。
runanywhereai/runanywhere-sdks
生产就绪的工具包，用于在移动端本地运行 AI。支持 LLM、语音转文本和文本转语音，完全离线、私密且快速。提供 Swift、Kotlin、React Native 和 Flutter SDK。
kalyanks-nlp/llm-engineer-toolkit
精选 120+ LLM 库，按类别整理，涵盖训练、微调、推理、服务、RAG、Agent、评估等全流程工具。
arindam200/awesome-ai-apps
包含 70 多个实用示例、教程和配方的集合，展示 RAG、智能体、工作流等 AI 应用。主要使用 Python，涵盖从简单聊天机器人到高级 AI 智能体的多种框架和工具。
openvinotoolkit/openvino
开源工具包，用于优化和部署 AI 推理。支持 PyTorch、TensorFlow、ONNX 等模型，兼容 CPU、GPU 和 AI 加速器。提供从边缘到云的灵活部署方案。
netflix/metaflow
以人为本的框架，帮助科学家和工程师构建和管理 AI/ML 系统。支持从笔记本快速原型到生产部署的全流程，具备实验跟踪、版本控制、可视化及云上弹性伸缩能力。由 Netflix 开发，现由 Outerbounds 支持。
opengvlab/internvl
开源多模态对话模型，性能接近 GPT-4o，支持视觉与文本理解，提供完整训练与推理代码。
skypilot-org/skypilot
在任何 AI 基础设施上运行、管理和扩展 AI 工作负载。统一访问和管理所有 AI 计算资源（Kubernetes、20+ 云或本地）。提供简单接口，支持多云池、自动扩缩容和成本优化。
superset-sh/superset
专为 AI 代理时代打造的终端 IDE，支持并行运行 Claude Code、Codex 等 CLI 代理。提供工作树隔离、统一监控和内置差异查看器，提升开发效率。
sigoden/aichat
全能型 LLM CLI 工具，支持 Shell 助手、Chat-REPL、RAG、AI 工具与代理。集成 OpenAI、Claude、Gemini 等 20+ 主流模型提供商，提供多模式输入与角色定制。
mcp-use/mcp-use
提供最简单的方式，通过 6 行代码在 Python 和 TypeScript 中构建 MCP 服务器、客户端和 AI 代理。支持自定义代理与 MCP 服务器交互，包含调试工具和 UI 资源。
langchain-ai/open-swe
基于 LangGraph 构建的开源异步编码代理，能自主理解代码库、规划解决方案并执行代码更改。支持并行任务、人机交互和端到端管理，可从 UI 或 GitHub 启动。
chaitin/pandawiki
AI 大模型驱动的开源知识库系统，快速构建智能文档、FAQ、博客，提供 AI 创作、问答、搜索能力。支持 Docker 部署，兼容 Markdown/HTML，可集成第三方应用。
openrlhf/openrlhf
基于 Ray 的易用、可扩展、高性能智能体强化学习框架，支持 PPO、REINFORCE++ 等多种算法，集成 vLLM 与异步训练。
arize-ai/phoenix
AI 可观测性与评估平台，支持 Jupyter Notebook 环境，提供模型性能监控、数据评估与可视化工具。
tiiny-ai/powerinfer
面向消费级 GPU 的高速大语言模型推理引擎，利用激活局部性实现 CPU/GPU 混合推理，显著降低内存需求与数据传输，支持多种模型与硬件。
iflytek/astron-agent
企业级、商业友好的智能体工作流平台，集成 AI 工作流编排、模型管理、AI 与 MCP 工具集成、RPA 自动化及团队协作功能。支持高可用部署，助力快速构建可扩展的生产就绪智能体应用。
kyrolabs/awesome-langchain
精选 LangChain 生态工具与项目列表。涵盖框架、多语言移植、低代码工具、服务、开源项目及学习资源，助力 LLM 应用快速开发。
apache/seatunnel
高性能分布式数据集成工具，支持多模态数据、160+连接器，提供实时、CDC和全库同步，具备资源高效和监控能力。
yzhao062/anomaly-detection-resources
汇集异常检测相关书籍、论文、视频和工具箱，覆盖 LLM 和 VLM 等前沿工作，提供全面的学习资源。
xorbitsai/inference
通过单行代码切换任意LLM。支持云端、本地或笔记本部署开源、语音及多模态模型，提供统一的生产级推理API。