生成式 AI 正在成为无法忽视的生产力变量。 但企业在用它驱动业务创新前，心里难免打鼓：关键数据交给模型后，能否被妥善保管、安全隔离？ 更不用说那些争议——如何实现负责任的 AI？如何过滤有害内容？如何确保输出符合当地政策和企业法规？ 这些都是绕不开的坎。

现实是，规模化应用生成式 AI 几乎都离不开云。 绝大多数企业也会依赖云来承载相关业务创新。 因此，把生成式 AI 的安全话题，看作云计算安全在新场景下的延伸，恐怕一点不为过。

亚马逊云科技的实践已持续多年，包括对生成式 AI 普及后安全需求的演变观察。 他们的态度始终如一：安全必须在业务初期就主动设计进去，而不是等出了问题再被动补救。 具体到生成式 AI 的服务和功能，他们不仅依托安全的底层基础设施，在架构设计之初就融入了安全考量，还进一步构建了负责任的 AI 防护机制。 同时，亚马逊云科技自身也在用生成式 AI 的能力赋能现有安全服务。 这一整套组合拳的目标很明确：让客户在用生成式 AI 时，获得的安全体验不打任何折扣。

从底层基础设施入手，搞定数据隔离与加密

企业对生成式 AI 最大的顾虑之一，就是数据和隐私保护。 当企业把个人数据、合规数据、运营数据甚至财务信息交给模型训练或应用调用时，安全问题就成了头等大事。

为了安全使用生成式 AI，至少需要先理清三个问题：

• 数据到底在哪儿？ 得搞清楚数据在整个训练和推理的链条上来自哪里、经过了哪些处理、又是怎么被保护的。
• 推理时输入和输出数据怎么处理？ 训练数据不是唯一敏感的部分，企业自身的查询内容同样需要纳入保护范围。
• 模型的输出到底准不准？ 不同场景对精度和风险的容忍度完全不同。例如，让大模型生成代码，必须确认代码写得对不对、有没有遵循企业最佳实践——这可不是小事。

亚马逊云科技对客户生成式 AI 的保护，全部从基础设施层开始铺开。 其独有的云服务器虚拟化引擎 Amazon Nitro，将 CPU/GPU 的 I/O 功能卸载到专门硬件上。 这样不仅性能更稳定，最关键的是它提供的增强安全性，能在客户端和云端全程保护客户代码和数据在处理过程中的安全。 这项设计已获得网络安全公司 NCC Group 的独立验证。

Nitro 系统的硬件级安全机制，首先从架构上就把客户数据和运营商彻底隔离——亚马逊云科技作为云服务商，无法访问客户在 EC2 实例上运行的任何工作负载，包括生成式 AI 相关的数据。 此外，客户还可以通过 Amazon Nitro Enclaves 配合 Amazon KMS，用密钥加密敏感数据，将其存放在指定位置，安全地传输到隔离计算环境中进行推理。 这个端到端的加密隔离流程，也已扩展到 Amazon Trainium2 和其他 GPU 上，进一步强化了生成式 AI 数据在基础设施设备间的安全通信。

服务设计之初就把安全嵌入基因，做负责任的 AI

安全不只是底层基础设施的事——亚马逊云科技提倡所有新服务在设计初期就考虑安全因素，所有服务都有安全基线，而不仅仅是安全类服务才有。

以生成式 AI 完全托管服务 Amazon Bedrock 为例。 这项服务从设计之初就兼顾了底层安全能力的调用，以及生成式 AI 服务本身特有的安全需求。 一个关键点是：亚马逊云科技和第三方模型提供商，都不会把 Amazon Bedrock 中客户输入的提示或输出的结果拿来训练他们的基础模型。

在使用 Amazon Bedrock 时，客户数据在传输和静态存储时全部加密。 客户可以通过 Amazon PrivateLink 建立从 VPC 到 Bedrock 的私有连接，也可以采用基于身份识别的安全策略——比如在使用 Amazon KMS 管理加密密钥时，精确控制哪些用户或角色在什么条件下可以对哪些资源执行什么操作。

数据隐私算是云计算的老话题，但生成式 AI 带来的“负责任 AI”却是一道新考题。 客户在使用 Amazon Bedrock 这类服务时，必须考虑过滤有害内容、确保输出符合本地和企业政策。 为此，Amazon Bedrock 配备了专门的防护机制（Guardrails for Amazon Bedrock）。 与许多 AI 大模型只靠内部模块过滤不同，这个机制允许客户进一步定制属于自己的安全策略。

具体怎么用？

• 客户只需提供一个自然语言描述，定义自己应用上下文中“被拒绝”的主题，就能创建个性化的防护机制。
• 还可以配置不同阈值，过滤仇恨言论、侮辱、暴力等内容。
• 甚至设置过滤器删除个人敏感信息、亵渎语言或关键词。

这种“内置 + 定制”的双重防护，让生成式 AI 的业务能更好地实现负责任的 AI 目标。

用生成式 AI 的能力，反过来让安全更省心

在云环境中，生成式 AI 并不只是被保护的对象——它本身也能成为一个强大的安全工具。 它能在业务初期就暴露那些潜藏的、以往不易察觉的风险。

代码编写方式一直是信息安全的头号变量。 一行不起眼的代码，可能引发严重后果。 生成式 AI 模型说到底也是代码，同样可能因编码漏洞留下隐患。 从安全角度看，从一开始就写出安全的代码，比等上线测试甚至已经交付后再去修补，效率高太多了。

为了帮客户做到这一点，亚马逊云科技把 AI 能力直接嵌入了代码生成器。 例如面向开发者的 AI 生产力工具 Amazon Q Developer，就是一个基于机器学习的代码生成器。 它直接在 IDE 环境中给开发者提供实时代码建议，不仅大幅提升编码效率，还内置了安全扫描功能。 它可以自动扫描代码，检测那些很难发现的漏洞，并基于客户自己的代码库提供针对性的修复建议。 开发者在写代码的同时就能把漏洞补上。

Amazon Q Developer 还支持客户使用自己的私有代码库来定制输出，进一步提升产出质量。 为了保证开发数据始终处于隔离计算环境，防止任何未经授权的访问，它设置了一系列不可变更的安全机制：

• 不同工作负载之间的数据隔离
• Amazon KMS 对静态数据的加密
• 基于身份认证的数据访问授权
• 数据存储时的加密和强制隔离

除了专门的安全工具，原有的一些安全服务也在通过生成式 AI 获得升级。 比如漏洞管理服务 Amazon Inspector，其 Lambda 函数代码扫描功能从去年起就嵌入了生成式 AI 和自动推理辅助的代码修复，简化了修复漏洞的过程。 安全事件调查服务 Amazon Detective 也新增了用生成式 AI 构建安全事件描述的能力——它能自动分析调查发现，用自然语言提供洞察，帮助安全工程师更快地解决安全问题。

这些创新服务和升级，正在为安全团队创造更高效、更便捷的可能性。 可以预见，未来安全工程师能够以更少的工作负担达成目标，企业应对各类安全风险也将更加从容。

《夸克》非常好用的免费AI浏览器

下载APP查看