构建生成式AI创新安全体系,亚马逊首席安全官教你三招

轻芳酱_4884

轻芳酱_4884

2024-04-17

492人浏览

转载

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

构建生成式AI创新安全体系,亚马逊首席安全官教你三招

亚马逊云科技在全球拥有数百万客户,每天追踪的事件达数十亿条,这让亚马逊云科技能检测到更多的安全威胁。

2019年亚马逊云科技首席安全官Steve Schmidt正式宣布推出首个聚焦云安全问题的会议亚马逊云科技re:Inforce,现在大会已经举办五届,成为云安全的风向标。

2010年,Steve Schmidt加入亚马逊,并在亚马逊云科技担任首席信息安全官达12年,从2022年起担任亚马逊首席安全官至今。最近,他接受了《华尔街日报》关于生成AI时代下的企业安全的访谈。

Steve Schmidt说,安全团队的工作是帮助企业了解生成AI等创新技术的好处和风险,并如何利用它来提升企业的安全效率。

构建生成式AI创新安全体系,亚马逊首席安全官教你三招

亚马逊云科技首席安全官Steve Schmidt

生成式AI安全,企业要问三个问题

Steve Schmidt认为,任何企业在谈及及使用生成功能AI的安全问题时,都必须问自己三个问题:AI是否会被滥用、被入侵或被篡改。

第一,数据在哪里?

企业需要了解用数据训练模型的整个工作流程,这些数据来自哪里,以及如何被处理和保护。

第二,我的查询和任何相关数据会发生什么?

训练数据并不是企业需要关注的唯一敏感数据集,当企业及其用户开始使用生成式AI和大型语言模型时,他们很快就会掌握如何让查询更有效。之后会在查询中添加更多细节和具体要求,从而获得更好的结果。企业使用生成式AI进行查询需要清楚知道生成式AI会如何处理输入进模型的数据以及查询结果。企业查询本身也是敏感的,应该成为数据保护计划的一部分。

第三,生成式AI模型的输出是否足够准确?

从安全角度来看,生成式AI的使用场景定义了风险,不同的场景对准确度的要求是不同的。如果你正在使用大型语言模型来生成定制代码,那么你就必须要确认这个代码是否写得足够好,是否遵循了你的最佳实践等等。

在了解了使用生成式AI的安全问题之后,Steve Smith还给出了利用生成式AI进行创新的三条安全建议:

第一,安全团队说“不”很容易,但不是正确的做法。培训内部员工了解公司关于使用人工智能的政策帮助安全地使用。指导员工使用符合公司人工智能使用政策的方式。对于安全团队来说,说“不”很容易,但对于所有业务团队、开发人员等来说,绕过安全团队也同样容易。

第二,可见性。企业需要通过可见性的工具来了解员工如何使用数据,限制在工作需求之外的数据访问,会监控他们如何使用外部服务访问这些数据。如果发现有不符合政策的情况发生,例如在涉及到非工作需求之外的敏感数据访问,会停止这种行为。在其他情况下,如果员工使用的数据不太敏感,但是可能会违反政策,会主动联系员工去了解真实目的并寻求解决之道。

Skybox AI
Skybox AI

Skybox AI是一款由 Blockade Labs 推出的 360° 全景和沉浸式环境生成工具。

下载

第三,通过机制解决问题。机制是可重复使用的工具,允许企业随着时间的流失精确地驱动特定的行为。例如,当员工违规操作时,系统会通过如弹窗来提示员工,并建议使用特定的内部工具,并就相关问题进行报告。

为安全服务提供生成式AI能力

安全一直是亚马逊云科技的最高优先级,Steve Schmidt也是亚马逊安全文化的践行者和倡导者之一。

“安全团队要利用开箱即用的生成式AI应用,从代码阶段推动安全行业升级,对任何企业包括亚马逊都是如此。”这是Steve Schmidt对生成式AI提出的建议。

因为利用生成式AI提升安全代码的编写工作能够有效地推动整个行业进入更高级别的安全领域。

Amazon CodeWhisperer代码助手以及新型生成式AI助手Amazon Q,都可以帮助企业生成更好的代码或在软件工程师编写代码时直接提供建议。

Amazon CodeWhisperer是具有内置安全扫描功能的AI编码助手,能够帮助开发者基于注释生成代码,追踪开源参考,扫描查找漏洞,同时对个人开发者免费。它还提供定制化功能,允许企业安全地将CodeWhisperer连接到企业内部代码存储,以提升CodeWhisperer的效果,加快开发任务的完成速度。

Amazon Q可以在Amazon CodeWhisperer中回答开发人员的各种代码相关的问题并附上可一键实施的代码,并提供代码转换功能,以帮助开发者大幅减少应用程序维护和升级所需的繁琐工作,将所需的时间从几天缩短至几分钟。

同时,亚马逊云科技2023 re:Invent全球大会上,亚马逊云科技也推出了具有生成式AI能力的安全服务能力。

Amazon Inspector的Amazon Lambda函数代码扫描功能现在能够利用生成式AI和自动推理实现代码修复。此前的扫描功能能够突出显示问题代码的位置、潜在影响并提供建议,现在生成式AI同能够为多种类别的漏洞创建与情境相关的代码补丁。开发者可以快速进行验证和代码替换等操作,从而快速有效地解决问题。

Amazon Detective现在能够使用生成式AI提供调查发现组摘要,生成式AI可以自动分析调查发现组并以自然语言提供洞察,加快进行安全调查。Amazon Detective服务的目的是让用户更轻松地分析、调查和快速确定潜在安全问题或可疑活动的根本原因。新的生成式AI能力能够为特定用户提供更广泛的安全视角和更多的安全知识。

最近,亚马逊云科技与英伟达最新联合发布中也谈到,GB200将受益于Amazon Nitro系统增强的安全性,在客户端和云端全程保护客户的代码和数据在处理过程中的安全。

Steve Schmidt说,问题不在于安全团队自身想要做什么,而在于确保我们始终帮助我们的客户团队、内部团队,朝着他们的目标向前迈进。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

数据访问 敏感数据

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
lambda表达式
lambda表达式

Lambda表达式是一种匿名函数的简洁表示方式,它可以在需要函数作为参数的地方使用,并提供了一种更简洁、更灵活的编码方式,其语法为“lambda 参数列表: 表达式”,参数列表是函数的参数,可以包含一个或多个参数,用逗号分隔,表达式是函数的执行体,用于定义函数的具体操作。本专题为大家提供lambda表达式相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.15

1191

5

python lambda函数
python lambda函数

本专题整合了python lambda函数用法详解,阅读专题下面的文章了解更多详细内容。

2025.11.08

345

7

Python lambda详解
Python lambda详解

本专题整合了Python lambda函数相关教程,阅读下面的文章了解更多详细内容。

2026.01.05

714

7

C++ Lambda 表达式与函数式编程
C++ Lambda 表达式与函数式编程

深入讲解 C++ Lambda 表达式与函数式编程范式,涵盖 Lambda 基础语法与返回值推导、值捕获与引用捕获的区别与陷阱、初始化捕获(C++14 广义捕获)、泛型 Lambda(auto 参数)、mutable 关键字修改捕获变量、std::function 类型擦除与函数包装、std::bind 参数绑定(及其被 Lambda 替代的趋势)、Lambda 在 STL 算法(sort/transform/for_each/remo

2026.05.06

889

22

Java 函数式接口与 Lambda 进阶技巧
Java 函数式接口与 Lambda 进阶技巧

在 Java Stream 基础之上进一步深入函数式编程,涵盖 @FunctionalInterface 注解与自定义函数式接口设计、四种方法引用(静态/实例/对象/构造器)的使用场景、Lambda 中的 effectively final 变量捕获规则、函数组合(andThen/compose)与柯里化技巧、Comparator 链式比较器构建、CompletableFuture 异步函数式编排、Reactor / RxJava 响应

2026.05.08

468

28

GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

2026.11.17

20

15

GoFrame框架安装与gf命令行工具
GoFrame框架安装与gf命令行工具

本专题围绕GoFrame框架的安装与工具链配置展开,讲清Go版本要求、gf命令行的安装方式、代理镜像与依赖准备,说明项目初始化、热编译、交叉编译打包的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.17

20

15

GoFrame框架零基础入门
GoFrame框架零基础入门

本专题整理GoFrame框架的入门知识,从模块化设计理念、环境准备到跑通第一个Web服务,讲清目录分层、配置加载、日志与中间件的用法,并对比Gin、Go-Zero的差异,帮助Go开发者建立整体认知。

2026.11.17

20

15

SQLAlchemy 一对多关系怎么建立
SQLAlchemy 一对多关系怎么建立

SQLAlchemy 一对多关系怎么建立?本专题整理父子表外键、relationship 双向映射、关联查询、级联删除和加载优化等相关文章,帮助你理解并实现常见的 ORM 关系建模。

2026.11.17

20

10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Gradle 安全最佳实践
Gradle 安全最佳实践

共0课时 | 0人学习

Gradle Kotlin DSL 指南
Gradle Kotlin DSL 指南

共0课时 | 0人学习