大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
linyqh/narratoai
基于 AI 大模型，一键完成视频解说、剪辑、配音和字幕生成，实现高效自动化内容创作。支持多种模型和语音克隆，提供一站式影视解说解决方案。
rockbenben/chatgpt-shortcut
🚀💪 最大化效率与生产力。管理、定制和分享提示词的终极中心。提供一键复制、智能搜索、多语言支持、社区分享及浏览器扩展等功能，无需注册即可使用。
leptonai/search_with_lepton
使用少于 500 行代码构建对话式搜索引擎。内置 LLM 和搜索引擎支持，提供可自定义的精美 UI 界面，支持可共享和缓存的搜索结果。支持 Bing、Google 等多种搜索引擎。
lastmile-ai/mcp-agent
基于 Model Context Protocol 构建高效智能体的 Python 框架。提供可组合的工作流模式，如 map-reduce、orchestrator 等，支持 Temporal 持久化，实现简单、稳健的智能体应用开发。
teamwiseflow/wiseflow
持续从指定信源提取所需信息，支持主流自媒体平台及需登录站点，使用真实浏览器定时监控与追踪，大模型自动提取。开源版支持 Web/RSS，Pro 版额外支持七大中文自媒体平台，并提供 UI 界面与免部署安装。
microsoft/ufo
UFO³：编织数字智能体星系。从单设备智能体到多设备星系，实现跨设备协作、复杂自动化与异构平台集成。UFO² 为稳定桌面智能体操作系统，UFO³ Galaxy 提供多设备编排能力。
woooodyy/llm-agent-paper-list
整理了基于大语言模型智能体的必读论文列表，涵盖单智能体、多智能体及人机协作场景，并提供 AgentGym 等开发框架与 RL 训练工具。
bitsandbytes-foundation/bitsandbytes
通过 k-bit 量化技术，为 PyTorch 提供可访问的大语言模型。包含 8-bit 优化器、LLM.int8() 推理和 QLoRA 4-bit 训练，显著降低内存消耗，同时保持 32-bit 性能。
x-plug/mobileagent
强大的 GUI 智能体家族，支持跨平台自动化操作。提供在线演示与 API，集成 GUI-Owl 多模态模型，适用于 OSWorld、AndroidWorld 及真实移动场景。
zilliztech/gptcache
为 LLM 查询构建语义缓存，降低 10 倍成本并提升 100 倍速度。完全集成 LangChain 和 llama_index，支持 Python。
upsonic/upsonic
面向金融科技与银行的生产级 AI Agent 框架，以安全为核心。支持文档分析、客户服务自动化、金融分析与合规监控。提供内置安全引擎、统一 OCR 接口、多智能体协作及工具集成，快速构建可扩展的智能体系统。
nexaai/nexa-sdk
高性能本地推理框架，支持NPU/GPU/CPU，覆盖PC、移动端及Linux/IoT，提供Day-0前沿模型支持，如Qwen3-VL、Gemma-3n等。
xiangsx/gpt4free-ts
提供免费的 OpenAI GPT-4 API。TypeScript 版本的 xtekky/gpt4free 复现项目，支持多种模型，包括 GPT-4、Claude 等。
idosal/git-mcp
免费开源的远程 MCP 服务器，将任何 GitHub 项目转化为文档中心，为 AI 工具提供最新代码与文档，消除代码幻觉。
boundaryml/baml
BAML 是一个用于构建可靠 AI 工作流和代理的简单提示语言。它将提示工程转变为模式工程，支持 Python、TS、Ruby、Java、C#、Rust、Go 等多种语言。提供完整的类型安全、流式处理和重试机制，即使模型不支持原生工具调用 API 也能可靠工作。
paddlepaddle/ernie
ERNIE 4.5 是基于飞桨的多模态大模型家族，包含 10 个变体，支持 MoE 架构与参数共享。ERNIEKit 提供工业级开发工具包，支持 SFT、LoRA 训练及多硬件部署，具备高效训练与推理能力。
zilliztech/deep-searcher
开源深度研究工具，结合 LLM 与向量数据库，基于私有数据进行搜索、评估与推理，提供高精度答案与综合报告。支持多种 LLM 和嵌入模型，具备私有数据搜索、向量数据库管理及文档加载功能。
internlm/lmdeploy
高性能大语言模型压缩、部署与服务工具包，支持 TurboMind 和 PyTorch 引擎，提供量化、多模态推理及分布式部署能力。
funaudiollm/sensevoice
多语言语音理解模型，支持高精度 ASR、LID、SER 及 AED。基于 40 万小时数据训练，覆盖 50+ 语言，推理高效，支持微调与服务部署。
wangrongsheng/awesome-llm-resources
汇总全球顶尖 LLM 资源，涵盖多模态生成、Agent、辅助编程、AI 审稿、数据处理、模型训练与推理、o1 模型、MCP、小语言模型及视觉语言模型等。
sweepai/sweep
Sweep 是 JetBrains 的 AI 编码助手，提供智能代码建议与自动化开发支持。
n4ze3m/page-assist
开源浏览器扩展，为本地 AI 模型提供侧边栏和 Web UI，支持与任何网页内容交互。兼容 Chrome、Firefox、Edge 等浏览器，可通过 Ollama 或 OpenAI API 兼容端点使用。
lmcache/lmcache
高性能LLM KV缓存层，通过零CPU拷贝、NIXL等技术加速，支持跨数据中心复用缓存，显著降低首token延迟并提升吞吐量，适用于长上下文场景。
quivrhq/megaparse
专为 LLM 设计的无损文档解析器，支持 PDF、Docx、PPTx 等多种格式，提取表格、目录、页眉页脚和图片，确保信息完整。
aliasrobotics/cai
网络安全 AI 框架，提供 AI 安全评估与防护工具。支持多平台，集成 300+ 模型，社区驱动，开源免费。
evidentlyai/evidently
开源 ML 和 LLM 可观测性框架。评估、测试和监控任何 AI 系统或数据管道。支持表格和文本数据。提供 100+ 内置指标。支持离线评估和实时监控。
0x4m4/hexstrike-ai
基于 MCP 协议的 AI 网络安全自动化平台，集成 150+ 安全工具与 12+ 自主 AI 代理。支持自动化渗透测试、漏洞发现与漏洞赏金任务，无缝连接 LLM 与实战攻防能力。
nirdiamant/prompt_engineering
提供全面的提示工程教程与实现，涵盖从基础到高级策略。包含 22 个 Jupyter Notebook 实践教程，助力掌握与大语言模型高效交互的技能。
mufeedvh/code2prompt
将代码库转换为单一大语言模型提示词的 CLI 工具。支持源码树、提示词模板和 Token 计数。提供 Rust 核心库、Python SDK 与 MCP 服务器。
ymcui/chinese-llama-alpaca-2
基于 Llama-2 的中文大模型，扩展中文词表并增量预训练，支持 4K/16K/64K 超长上下文，开源基座与指令精调模型，兼容主流 LLM 生态工具。