探索 大语言模型 项目
筛选并发现收录的、配有高质量中文文档或教程的 GitHub 项目。
提供 754 个结构化网络安全技能，覆盖 26 个安全领域，映射至 MITRE ATT&CK、NIST CSF 2.0 等 5 大框架，兼容 20+ AI 平台，采用 Apache 2.0 许可。
完全本地的自主 AI 助手，无需 API 和月费。支持网页浏览、代码编写与任务规划，所有数据保留在本地设备，确保隐私安全。适用于 Python 等多种语言。
基于 TypeScript 的 AI 应用框架，提供模型路由、智能体、工作流、人机协作、上下文管理、MCP 服务器与生产级工具，支持 React、Next.js、Node.js 集成与独立部署。
开源AI编排框架，用于构建可定制、生产就绪的LLM应用。连接组件至流水线或智能体，支持高级检索方法，适用于RAG、问答、语义搜索和对话智能体。
TypeScript AI 工具包，支持 Next.js、React 等框架。提供统一 API 接口，集成 OpenAI、Anthropic 等主流模型提供商。内置 Agent 构建能力与 UI 集成钩子，简化 AI 应用开发。
实现 Manus 风格的持久化 Markdown 规划工作流，支持多 IDE 平台与会话恢复，核心功能包括自动任务跟踪与上下文管理。
开源 RAG 工具，用于与文档对话。支持多种 LLM 和本地模型，提供简洁 UI 与可定制框架。具备混合检索、多模态问答和高级引用功能。
通过单个可执行文件分发和运行 LLM，无需安装。结合 llama.cpp 与 Cosmopolitan Libc，支持本地运行，适用于多种操作系统。
Token-Oriented Object Notation (TOON) 是一种紧凑、可读的 JSON 数据模型编码，专为 LLM 提示设计。结合 YAML 缩进结构与 CSV 风格的表格数组，显著减少令牌使用，同时保持 JSON 的无损转换。适用于均匀对象数组，提升模型解析可靠性。
视觉指令微调框架，构建具备 GPT-4V 级别能力的多模态大语言模型。支持图像与视频理解，提供 LLaVA-NeXT 等最新模型，社区生态丰富，涵盖多种部署与评估工具。
提供构建可靠 LLM 应用的 12 项原则，旨在打造适合生产环境的 AI 代理。项目基于 TypeScript，包含详细指南和社区讨论。
面向开发者的 LLM 入门教程，基于吴恩达大模型系列课程中文版。涵盖 Prompt Engineering、RAG、模型微调等全流程，提供可运行的 Jupyter Notebook 代码与双语教程，帮助国内开发者快速上手大模型应用开发。
优化推理内存，单张 4GB GPU 即可运行 70B 大模型，无需量化、蒸馏或剪枝。现已支持在 8GB VRAM 上运行 405B Llama3.1。
Git for Data！一个支持 SQL 查询的版本化数据库，提供类似 Git 的分支、合并、推送和拉取功能。兼容 MySQL 协议，可通过 CLI 或 SQL 系统表进行版本控制。
构建具有高级记忆的有状态 AI 代理平台，支持本地运行和 API 集成。提供 CLI 工具与 Python/TypeScript SDK，实现 AI 的持续学习与自我改进。
无限免费 AI 编程。连接 Claude Code、Cursor 等工具至 40+ 免费 AI 提供商。自动回退，RTK 节省 20-40% 令牌，永不限流。
将自然语言问题转化为 SQL 查询并获取数据洞察。支持用户权限感知、流式响应、企业级安全与可嵌入的 Web 组件。兼容多种 LLM 与数据库，提供生产就绪的 FastAPI 集成。
本地化 LLM 应用测试工具，支持提示词、智能体与 RAG 评估。提供 AI 红队测试、漏洞扫描与多模型性能对比。通过声明式配置与命令行集成，实现 CI/CD 自动化。
基于 LLM 和 RAG 的 Python 库，支持通过自然语言与 SQL、CSV、Parquet 等数据库或数据湖对话，实现对话式数据分析。
AI 驱动的浏览器自动化框架，结合自然语言与代码控制，提供灵活、可维护且可靠的网页自动化方案。支持 AI 导航与精确代码操作，具备自缓存和自修复能力，可从 AI 驱动过渡到可重复工作流。
提供从基础到高级的生成式 AI 代理教程与实现，涵盖简单对话机器人到复杂多代理系统，是学习、构建和分享 GenAI 代理的综合资源。
通用大语言模型部署引擎，基于 ML 编译技术。支持 AMD、NVIDIA、Apple、Intel 等多平台 GPU，以及 Web、iOS、Android 等环境。提供 OpenAI 兼容 API，通过统一高性能引擎实现跨平台原生部署与优化。
超级全面的深度学习笔记，涵盖CV、NLP、大模型、Agent，基于Pytorch、李沐、吴恩达、大飞课程，提供数据集与交流群。
使用 LLM 和计算机视觉自动化浏览器工作流，提供简单 API 端点，替代脆弱的自动化方案。基于视觉理解，无需定制代码即可适应新网站，抗布局变化，支持复杂推理。
开源企业级智能体平台，支持 RAG 管道、工作流编排和 MCP 工具调用。提供多模态输入输出，兼容各类大模型，可快速集成至第三方系统。
强大的 GUI 应用和工具包，用于 Claude Code。创建自定义代理、管理交互式会话、运行安全后台代理、追踪使用成本、管理 MCP 服务器，并提供可视化时间线与检查点功能。
大规模跨任务、语言和模态的自监督预训练框架。涵盖语言、视觉、语音及多模态模型，如 UniLM、BEiT、WavLM 和 Kosmos 系列。包含基础架构研究，如 BitNet、RetNet、LongNet 等新型 Transformer 架构。