拒绝云AI收割！一键搭建本地全栈AI，聊天画图语音全搞定，隐私完全自己掌控

DreamServer 是一个 用于快速搭建和管理AI模型服务 的 工具。简单讲，它能让用户像开服务器一样轻松运行AI模型，支持一键部署和API调用。适用人群：AI开发者、研究人员及技术爱好者

项目地址：https://github.com/Light-Heart-Labs/DreamServer

主要语言：Python

stars: 1.1k

核心功能

• 本地AI部署：Dream Server是一个以本地优先的AI栈，可通过单个命令在本地硬件上部署LLM推理、聊天、语音、代理、工作流、RAG、图像生成和隐私工具等功能，无需依赖云服务，也无需订阅。
• 硬件自动检测：安装程序能自动检测GPU，并根据硬件情况选择最优模型，支持NVIDIA、AMD Strix Halo、Apple Silicon和Intel Arc等不同GPU类型，以及CPU和云模式的回退。
• 快速启动：采用引导模式，可在不到一分钟内下载一个小的1.5B模型，让用户立即开始聊天，同时完整模型在后台下载，下载完成后可零停机热切换到完整模型。
• 全服务栈集成：提供了完整的服务栈，包括聊天、代理、语音、工作流、搜索、RAG、图像生成、隐私工具、可观测性和开发工具等，且各服务之间可开箱即用。
• 可扩展性：每个服务都是一个扩展，通过简单的文件夹和配置文件即可实现扩展的添加和管理，支持热插拔。
• 命令行管理：提供dream CLI工具，可用于管理整个AI栈，包括服务状态检查、日志查看、服务重启、模式切换、模型切换等操作。

优势

• 简单易用：无需专业的CS知识和复杂的调试，只需一个命令即可完成安装和配置，大大降低了本地AI部署的门槛。
• 节省成本：避免了对云服务的依赖，无需支付云服务的订阅费用，同时保护了用户的数据隐私。
• 高性能：支持多GPU，提供高并发的LLM推理能力，可根据硬件情况自动选择最优模型，确保性能最大化。
• 灵活性：支持云模式和混合模式，可根据需求灵活选择本地推理或云API，同时提供了丰富的配置选项，可满足不同用户的需求。
• 社区支持：有活跃的社区贡献者，不断对项目进行改进和优化，同时提供了详细的文档和教程，方便用户使用和扩展。

应用场景

• 个人开发者：可用于本地开发和测试AI应用，无需依赖云服务，保护数据隐私，同时可根据自己的硬件情况选择合适的模型。
• 企业用户：可在企业内部部署AI服务，提高数据安全性和可控性，同时可根据业务需求定制和扩展服务。
• 科研人员：可用于学术研究和实验，提供高性能的计算资源和丰富的工具集，支持多种模型和算法。

安装与使用

• 支持平台：支持Linux（NVIDIA + AMD + Intel Arc）、Windows（NVIDIA + AMD）和macOS（Apple Silicon）等平台。
• 安装方式：提供一键安装脚本，也支持手动安装。安装过程中会自动检测硬件并选择合适的模型，同时生成必要的凭证。
• 使用方法：安装完成后，可通过浏览器访问http://localhost:3000开始聊天，也可使用dream CLI工具进行管理和配置。

代码架构

• 模块化设计：安装程序采用模块化设计，由6个库和13个阶段组成，每个阶段都在独立的文件中，方便扩展和修改。
• 扩展系统：每个服务都是一个扩展，通过manifest.yaml和compose.yaml文件进行定义，可自动发现和集成。
• CLI工具：dream CLI工具提供了丰富的命令，可用于管理整个AI栈，包括服务状态检查、日志查看、服务重启、模式切换、模型切换等操作。

更新日志

文档中未提及具体的更新日志内容，但提供了Changelog链接，可查看版本历史和发布说明。

文档与支持

• 详细文档：提供了丰富的文档，包括快速入门指南、硬件指南、FAQ、扩展指南、安装程序架构等，方便用户使用和扩展。
• 社区支持：可通过GitHub Issues反馈问题和建议，同时社区也提供了一定的技术支持。

年度渗透测试只做1天？AI自动渗透工具Shannon，白盒分析+实锤POC，补上364天的安全漏洞缺口！

项目地址：https://github.com/KeygraphHQ/shannon

主要语言：TypeScript

stars: 42.6k

仓库核心功能

Shannon是由Keygraph开发的一款用于Web应用程序和API的自主白盒AI渗透测试工具。它结合源代码分析和实时漏洞利用，对Web应用及其底层API进行白盒安全测试。通过分析应用源代码识别潜在攻击向量，利用浏览器自动化和命令行工具执行真实漏洞利用（如注入攻击、身份验证绕过、服务器端请求伪造、跨站脚本攻击等），只有具备可行概念验证的漏洞才会被包含在最终报告中。

主要优势

• 全自主运行：只需一个命令即可启动完整的渗透测试，自动处理2FA/TOTP登录（包括SSO）、浏览器导航、漏洞利用和报告生成，无需人工干预。
• 可重现的概念验证漏洞利用：最终报告仅包含经过验证的可利用漏洞，并提供可复制粘贴的概念验证代码，无法利用的漏洞不会被报告。
• 覆盖OWASP漏洞类型：能够识别和验证注入、XSS、SSRF以及身份验证/授权漏洞，并且正在开发更多漏洞类别。
• 代码感知动态测试：分析源代码以指导攻击策略，然后通过实时浏览器和基于命令行的漏洞利用来验证发现的漏洞。
• 并行处理：漏洞分析和利用阶段在所有攻击类别中并发运行，提高测试效率。

产品版本

• Shannon Lite：采用AGPL - 3.0许可证，适用于对自己的应用程序进行本地测试。
• Shannon Pro：商业版，适用于需要单一应用安全平台（包括SAST、SCA、密钥扫描、业务逻辑测试、自主渗透测试），并具备CI/CD集成和自托管部署能力的组织。

架构特点

Shannon采用多代理架构，结合白盒源代码分析和动态漏洞利用，分为五个阶段：

1. 预侦察：进行源代码分析，识别应用框架、入口点和潜在攻击面，为后续阶段提供基础架构情报。
2. 侦察：根据预侦察结果构建全面的攻击面地图，通过浏览器自动化进行实时应用探索，关联代码层面的洞察与实际行为，生成详细的入口点、API端点和认证机制地图。
3. 漏洞分析：使用5个并发代理并行运行，针对每个OWASP类别（注入、XSS、身份验证、授权、SSRF）的专业代理并行查找潜在漏洞。对于注入和SSRF等漏洞，代理进行结构化数据流分析，追踪用户输入到危险漏洞点的路径，生成假设的可利用路径列表。
4. 漏洞利用：继续并行工作流程，专用的漏洞利用代理接收假设的可利用路径，并尝试使用浏览器自动化、命令行工具和自定义脚本执行实际攻击。严格遵循“无利用，不报告”的策略，无法成功利用的假设将被视为误报而丢弃。
5. 报告：将所有经过验证的发现编译成专业、可操作的报告。代理整合侦察数据和成功的漏洞利用证据，清理噪音和幻觉内容，仅包含经过验证的漏洞，并提供可重现、可复制粘贴的概念验证，生成专注于已证实风险的最终渗透测试报告。

可能的应用场景

• 开发阶段安全测试：在开发过程中，对新代码进行实时安全检查，及时发现并修复潜在漏洞，避免将安全隐患带入生产环境。
• 代码审查：辅助开发团队进行代码审查，通过自动化的漏洞扫描和利用，发现代码中的安全问题。
• 安全审计：对现有应用程序进行定期安全审计，确保应用程序的安全性。
• 漏洞验证：验证已发现的安全漏洞是否可被利用，为安全团队提供准确的漏洞信息。

安装和使用

前提条件

• Docker
• Node.js 18+
• pnpm
• AI提供商凭证（可选择Anthropic API密钥、Claude Code OAuth令牌、AWS Bedrock或Google Vertex AI）

快速启动

推荐使用npx方式：

ounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(line# 1. 配置凭证（交互式向导 - 一次性设置）npx @keygraph/shannon setup
# 或直接导出环境变量export ANTHROPIC_API_KEY=your-api-key
# 2. 运行渗透测试npx @keygraph/shannon start -u https://your-app.com -r /path/to/your-repo

克隆和构建

ounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(line# 1. 克隆Shannongit clone https://github.com/KeygraphHQ/shannon.gitcd shannon
# 2. 配置凭证（选择一种方法）
# 选项A: 创建.env文件cat > .env << 'EOF'ANTHROPIC_API_KEY=your-api-keyCLAUDE_CODE_MAX_OUTPUT_TOKENS=64000EOF
# 选项B: 导出环境变量export ANTHROPIC_API_KEY="your-api-key"              # 或CLAUDE_CODE_OAUTH_TOKENexport CLAUDE_CODE_MAX_OUTPUT_TOKENS=64000           # 推荐
# 3. 安装依赖并构建pnpm installpnpm build
# 4. 运行渗透测试./shannon start -u https://your-app.com -r /path/to/your-repo

注意事项

• 不要在生产环境中运行Shannon，因为它会主动执行攻击，可能对目标应用程序及其数据产生影响。
• 使用前必须获得目标系统所有者的明确书面授权，未经授权的扫描和利用是非法的。
• 虽然Shannon采用“通过利用证明”的方法来消除误报，但底层的大语言模型仍可能在最终报告中生成幻觉或支持不足的内容，需要人工监督来验证报告结果的合法性和严重性。
• Shannon Lite仅支持Claude模型，使用其他模型可能无法可靠地遵循Shannon的指令或工具使用约束，不提供官方支持。
• Shannon Lite的分析可能不全面，对于更全面的代码库分析，建议使用Shannon Pro。