AWS Executive Insights / 安全性 / ...
安全领导者分享其对生成式人工智能的看法
与来自 People.ai、Trellix、Red Canary 和 AWS 的安全领导者的对话
世界各地的公司都在竞相采用生成式人工智能技术，以获得竞争优势。但是，对于许多业务和技术领导者来说，确定正确的应用场景并了解从何处着手是一项主要障碍。在此视频中，聆听三位 AWS 客户和安全领导者讲述其公司采用生成式人工智能的方法。
观看视频，聆听 People.AI、Trellix 和 Red Canary 的安全领导者对生成式人工智能的看法。 聆听这些领导者分享其对生成式人工智能安全风险和优势的看法，以及他们如何找到安全方法，开始将生成式人工智能用于业务的。
首席信息安全官圈子的成员对生成式人工智能有何看法？
Danielle Ruderman (00:03)：
安全和人工智能是一个非常广泛的话题，我们发现，首席信息安全官们正关注着几个不同的领域，很明显，其中必然包括 ChatGPT 等大型语言模型。他们的团队想要使用它，他们的程序员也想使用它，因此，我们必须谈谈，作为负责保护组织安全的首席信息安全官，你们制定了哪些政策和程序？ 对于它在团队中的使用，你们有什么看法？
我认为值得关注的是，许多首席信息安全官都希望自己的团队使用它。他们确实看到了这些工具的潜力，因此我们来谈谈，你们需要设置什么样的防护机制，以及如何负责任地使用这些工具。这些都是非常重要的讨论。
Aman Sirohi (00:34)：
我认为我们很快就会面临人工智能方面的风险。对于你的公司和客户来说，这些风险是什么呢？
据我所知，许多合同规定第三方数据不能离开你所在的环境并进入第三方来源。现在，无论你想使用哪种人工智能模型，这些数据都会离开你所在的环境，进入第三方来源，然后返回并给出一些答案。因此，我认为法律界对这一问题的看法，以及客户和公司承担风险的方式将会有很大的变化。我认为这个领域将会有很多创新。
Danielle Ruderman
AWS 全球安全专家高级经理
Aman Sirohi
People.ai 首席信息安全官
首席信息安全官如何找到利用生成式人工智能的安全方式？
Danielle Ruderman (01:19)：
关于人工智能对未来的意义，我们还看到了一些真正有抱负的思考。我们的一些首席信息安全官认为，这是我们扩大规模、在安全领域引入新人才的好机会。
有时候，人们获取其所需知识的入门过程可能会极具挑战性，但这些工具或许可以帮助安全运营中心初级分析师或其他安全人员真正地深入这个领域，获得其所需的工具，并更快地培养技能，这将真正帮助我们这个行业培养出更多安全专业人员。
Martin Holste (01:45)：
从商业角度来看，必须开始使用生成式人工智能，否则就会落后。因此，作为首席信息安全官，必须想办法让员工提高工作效率，同时还要以安全的方式做到这一点。
我坚决支持在标准业务中尽可能使用生成式人工智能。因此，我们在内部进行了大量培训，介绍如何使用各种不同的人工智能来提高员工的工作效率。同时，我们还制定了一系列控制措施，以确保他们不可能意外地将内容复制和粘贴到非目标位置。
Martin Holste
Trellix 云首席技术官
生成式人工智能的益处是否大于安全风险？
Danielle Ruderman (02:14)：
我认为第三件非常值得关注的事情是，即使是资深安全专业人员，也可以利用人工智能帮助自己更深入地钻研其必须完成的工作。想象一下，如果你要分析日志，虽然你已经学会了使用某种语言（可能是 Python）编写代码，但现在你需要做的是分析日志，并学习如何编写 SQL 查询。其中的阻碍就是，必须学习不同的语言才能提取数据。你知道数据在哪里，但你必须学会使用不同的代码提取它们。试想一下，如果你只需告诉人工智能，你想做什么，你想提取哪些数据进行分析，而无需学习所有这些不同的深奥编码模型，那会怎么样。
这其中蕴含着强大的力量，可以真正地帮助我们加快调查时间，而且，从初级安全专业人员，到资深专业人员，所有人都可以借助这种方式更快地完成工作。
Chris Rothe (02:58)：
归根结底，在安全领域，最大挑战在于缺乏足够的人手，难以顾及所有方面。因此，AWS 所做的工作至关重要，他们通过一点一滴的努力，提高了平台和服务的安全性。
总的来说，我们希望 Red Canary 团队中的每个人都能够根据自己的角色，合理地运用生成式人工智能。无论你是销售人员，刚刚与客户完成了一次顺利的通话，需要整理一封跟进邮件，还是其他情况，我们都希望你能够加快这个过程，并提高沟通的成效。因为归根结底，你和客户都能受益，因为这一过程只花了五分钟，而不是一个小时。
因此，我们的态度就是确保每个人都能以安全的方式使用它。但我认为，在了解与之相关的陷阱和挑战方面，我们还处于起步阶段。 未来几年，会出现哪些与生成式人工智能相关的法律问题？
Chris Rothe
Red Canary 联合创始人兼首席技术官
领导者简介
Aman Sirohi
People.ai 首席信息安全官
Aman Sirohi 是 People.ai 的首席信息安全官。他为全球技术、咨询零售、金融科技和供应链等行业涉及多个利益相关者的复杂环境构思和提供广泛的安全解决方案，并且在这方面积累了丰富的经验。Aman 对安全领域充满热情，致力于帮助组织与客户、员工和合作伙伴建立深层次的信任。这种热情促使他组建高绩效的团队，为客户和合作伙伴提供变革性的成果。Aman 是一位以人为本的领导者，具有多元化的业务经验，被视为值得信赖的顾问和战略问题解决者。他致力于帮助企业提高标准，同时为客户提供更好的服务。
Martin Holste
Trellix 云首席技术官
作为云首席技术官，Martin 负责打造云安全和人工智能产品、制定企业云安全战略，并热情地与客户合作以改善他们的安全成果。在担任云首席技术官之前，Martin 带领团队从事机器学习工作，并在 Trellix 创立了云原生 Helix XDR 平台。在加入 Trellix 之前，Martin 曾担任威斯康星州事件响应团队负责人，并在渗透测试、事件响应和威胁追踪方面积累了近十年的经验。
Chris Rothe
Red Canary 联合创始人兼首席技术官
Chris 于 2014 年与他人共同创立了 Red Canary，负责技术战略，并建立了许多工具和团队。如今，Red Canary 正在利用这些工具和团队获取客户，并为其提供服务。在共同创立 Red Canary 之前，Chris 曾领导软件开发团队，并为国防和情报领域设计了大型数据处理系统。
Danielle Ruderman
AWS 全球安全专家高级经理
Danielle Ruderman 是 AWS 全球安全专家组织的高级经理，她领导着一支由全球安全专家组成的团队。Danielle 自 2016 年以来一直在 AWS 工作。她的技术职业生涯已逾 20 年，曾服务于企业型公司、初创公司和政府组织。如今，Danielle 喜欢讨论如何构建加强安全控制的组织文化，以及如何设计能够“让正确的事情变得简单”的系统和机制，从而使安全成为业务推动力。
更进一步
