大语言模型资源
探索与 大语言模型 相关的精选开源项目、速读教程和最新工作机会
相关开源项目
llmware-ai/llmware
统一框架，支持 300+ 模型与 RAG 管道，优化本地、私有、安全的企业级应用。支持 GGUF、OpenVINO 等多种推理技术，提供模型目录与知识库管理，可在 AI PC 和边缘设备运行。
botpress/botpress
开源平台，用于构建和部署基于 GPT/LLM 的智能体。提供 CLI、SDK 和集成开发工具，支持快速开发聊天机器人。
wdndev/llm_interview_note
整理大语言模型（LLMs）算法工程师相关知识及面试题，涵盖基础、架构、训练、微调等。提供多个动手实践项目，如 tiny-llm-zh、tiny-rag 等，帮助快速掌握大模型技术。
llamachinese/llama-chinese
Llama中文社区，实时汇总最新Llama学习资料，构建最好的中文Llama大模型开源生态，完全开源可商用。提供模型、算力、数据、论坛等资源，支持Llama2、Llama3、Llama4全系列，涵盖预训练、微调、量化、部署等全流程。
conardli/easy-dataset
专为 LLM 微调、RAG 和评估构建数据集的强大工具。支持 PDF、DOCX 等多种格式文档的智能解析与分割，自动生成高质量 QA 数据集。内置评估系统，支持自动化模型评测与人工盲测，助力垂直领域模型优化。
geeeekexplorer/nano-vllm
轻量级 vLLM 实现，从零构建。提供快速离线推理、可读代码库及优化套件，如前缀缓存、张量并行、Torch 编译和 CUDA 图。性能媲美 vLLM，代码约 1200 行 Python。
greydgl/pentestgpt
基于大语言模型的自动化渗透测试智能体框架，支持自主执行、会话持久化与 Docker 环境。提供实时反馈与多类别漏洞检测，已发表于 USENIX Security 2024。
xbtlin/ai-berkshire
基于 Claude Code / Codex 的价值投资研究框架。系统化巴菲特、芒格、段永平、李录四大师方法论，通过多 Agent 并行分析实现专业级投研。具备强制结论、多视角对抗、反偏见机制和精确计算能力，将一人投研效率提升至团队水平。实盘验证，连续两年大幅跑赢全球主要指数。
nvidia/tensorrt-llm
提供易用的 Python API 定义大语言模型，支持前沿优化以在 NVIDIA GPU 上高效推理。包含 Python 和 C++ 运行时组件，实现高性能推理编排。
casdoor/casdoor
开源身份与访问管理 / 单点登录平台，以 Web UI 为核心，支持 OAuth 2.0、OIDC、SAML、CAS、LDAP、SCIM、WebAuthn、TOTP、MFA、Face ID、RADIUS、Google Workspace、Active Directory 和 Kerberos 等协议。
microsoft/rd-agent
自动化高价值研发流程，以数据和模型为核心，通过 AI 驱动数据驱动的 AI。支持 LiteLLM 后端，提供数据科学与 Kaggle 场景代理，在 MLE-bench 上表现领先。
wanshuiyin/auto-claude-code-research-in-sleep
ARIS ⚔️ 通过 Markdown 技能实现自主 ML 研究：跨模型评审循环、想法发现与实验自动化。零依赖、无框架锁定，兼容 Claude Code、Codex、OpenClaw 等任意 LLM 代理。
aiming-lab/autoresearchclaw
从想法到论文的全自动研究平台。聊天输入想法，直接生成论文。支持 OpenClaw 集成，23 阶段流水线，完全自主进化。
fathah/hermes-desktop
桌面端应用，用于安装、配置和与 Hermes Agent 聊天。提供图形界面管理会话、工具、计划等，支持多平台安装。
lightning-ai/litgpt
提供 20+ 高性能大语言模型，支持从零实现、预训练、微调与大规模部署。无抽象层，代码精简，支持 Flash Attention、FSDP、LoRA 等技术，适配多 GPU/TPU 环境。
lsdefine/genericagent
自进化智能体：从 3.3K 行种子代码生长技能树，实现全系统控制，Token 消耗降低 6 倍。核心仅 ~3K 行代码，9 个原子工具 + ~100 行 Agent Loop，支持浏览器、终端、文件系统等操作。
opencode-ai/opencode
强大的终端 AI 编程助手，基于 Go 开发。支持多种 AI 模型（OpenAI、Claude、Gemini 等），提供交互式 TUI 界面、会话管理、工具执行与代码修改功能。内置 SQLite 存储与 LSP 集成，支持 Vim 编辑器与外部编辑器调用。
arindam200/awesome-ai-apps
包含 70 多个实用示例、教程和配方的集合，展示 RAG、智能体、工作流等 AI 应用。主要使用 Python，涵盖从简单聊天机器人到高级 AI 智能体的多种框架和工具。
halfrost/halfrost-field
个人技术博客仓库，分享 Go 语言、机器学习等领域的深度解析与源码阅读心得。包含多维空间搜索、并发编程等主题，累计阅读量超 300 万。
e2b-dev/e2b
开源、安全的云沙盒环境，专为企业级 AI 代理设计，提供真实工具。支持 JavaScript 和 Python SDK，轻松运行 AI 生成的代码。
doocs/md
一款高度简洁的微信 Markdown 编辑器，支持语法高亮、自定义主题、多图床及 AI 助手，可将 Markdown 即时渲染为微信图文。
shishirpatil/gorilla
训练和评估大语言模型的函数调用（工具调用）能力。提供 Berkeley 函数调用排行榜，支持多轮、多步骤复杂任务评估，并集成 GoEx 运行时以实现 LLM 生成动作的安全执行与验证。
paddlepaddle/paddlenlp
基于飞桨的易用强大LLM/SLM开发套件，支持高效训练、无损压缩与高性能推理。提供丰富模型库，涵盖Qwen3、DeepSeek-R1等热门模型，支持FP8/INT8量化及投机解码，单机推理速度超1000 tokens/s。
zai-org/cogvideo
文本和图像到视频生成框架，支持 CogVideoX (2024) 和 CogVideo (ICLR 2023)。提供在线体验、微调工具和多平台 API，优化推理性能，支持单卡微调。
cocktailpeanut/dalai
在本地计算机上轻松运行 LLaMA 和 Alpaca 模型。支持 Linux、Mac 和 Windows，内存要求低，提供 Web UI 和 JavaScript API。基于 llama.cpp 和 alpaca.cpp，包含可定制的 Web 应用。
hbai-ltd/toonflow-app
AI 短剧工厂，小说秒变剧集。AI 剧本 × AI 影像 × 极速生成，0 门槛全流程 AI 化，创作效率提升 10 倍+。
coplaydev/unity-mcp
作为桥梁，让 AI 助手（如 Claude、Cursor）通过本地 MCP 客户端直接与 Unity 编辑器交互。提供工具管理资产、控制场景、编辑脚本和自动化任务，支持 C# 语言。
eugeneyan/open-llms
整理可商业使用的开源大语言模型列表，涵盖 T5、Bloom、ChatGLM 等，提供模型参数、许可证及使用链接。
open-llm-vtuber/open-llm-vtuber
支持免提语音交互、语音打断和 Live2D 虚拟形象的本地多平台 AI 伴侣。基于 Python，可离线运行，提供网页版和桌面客户端。
browseros-ai/browseros
开源 Agentic 浏览器，隐私优先。支持本地 AI 模型（Ollama）或自定义 API 密钥，数据不离机。提供工作流自动化、MCP 服务器集成及内置广告拦截。支持 macOS、Windows、Linux。