什么是日志分析?

应用程序、服务器、云基础设施、IoT 和移动设备、DevOps、微服务架构—最重要的业务和 IT 发展趋势帮助我们以前所未有的方式优化运维和客户体验。但这些趋势也导致由机器生成的数据出现爆炸式成长,其中包括日志和指标等,例如,用户交易、客户行为、传感器活动、机器行为和安全威胁等。这些数据十分复杂,但同时也最为重要,因为它们包含关于 IT、安全和业务的运维情报。

日志分析涉及到对由您的 IT 系统和技术基础设施生成的机器数据进行搜索、分析与可视化,以便获得运维方面的见解。传统的数据分析工具已不能胜任如此多样性而且快速增加的机器数据的处理工作。 

为什么日志分析很重要?

日志数据在不断增长。如果没有一个整体的、具有成本意识的解决方案,成本将继续不受控制地增长。人类数据和机器生成的数据正在以惊人的速度增长,其中人类生成的数据的增长率通常是商业数据的 10 倍。机器数据预计将增长更多。

日志分析的发展历史?

自我们开始创建计算机生成的记录以来,我们一直在尝试批量分析这些记录。这些记录由设备、应用程序、网络等发出,然后按时间顺序排列成日志。很多时候,这些日志没有完全记录在案,或者没有在不同应用程序或设备中以一致方式形成,这为日志分析进一步提供了依据。

日志分析市场下一步将走向何方?

日志数据很少会消失 — 它只是以不同的方式存储和访问。随着数量的增长,我们需要更复杂的方法来存储这些数据并理解它们。机器学习被用于在这一堆不断增长的数据中寻找模式,但它还可以完成更多工作,以帮助进行安全分析、欺诈检测、异常检测等。

日志分析有哪些好处?

日志分析可以回答下列有价值的运营分析问题。想象一下,您是否可以实时回答这些问题:

  • 我的基础设施工作正常吗?
  • 什么是延迟和错误率?
  • 导致我的应用程序问题的原因是什么?
  • 是否有任何可疑的身份验证活动?
  • 此 IP 地址访问了哪些数据?
  • 有欺诈实例吗?
  • 我的用户对哪些内容/产品感兴趣?
  • 哪些功能最常/最少使用?
  • 哪个用户最活跃,为什么?

要更深入地了解日志分析的好处,请查看 Omdia 的这篇论文

日志分析面临哪些挑战?

日志分析工具面临的一些主要挑战包括: 

  • 数据种类和数据量正在迅速增加

  • 安全性和成本是关键要求
  • 无法将实时和预测结果轻松添加到旧架构中

谁使用日志分析?

日志分析的主要用户是 DevOps 工程师、站点可靠性人员和企业架构师。

日志分析的作用?

实时应用程序和基础设施监控

从您的应用程序和 IT 孤岛捕获及集中全部日志和指标,深入了解您的应用程序和基础设施堆栈并确保运行时间。您需要为数据编制索引,使其可用于实时分析,从而让您可以实时可视化性能指标。

根本原因分析

快速找到环境(服务器、代码)中的问题,以便缩短平均识别问题时间 (MTTI) 和平均解决问题时间(MTTR)。凭借可视化工具,您可以在数百万个事件中进行搜索,在您的应用程序和基础设施之间进行关联,以便快速诊断导致问题的根本原因,从而优化运行时间。

点击流分析

实时查看您的 Web 内容的性能,以及用户与您的应用程序和网站的交互,包括用户行为、所花时间、热门内容,等等。您可以毫不费力地汇总和分析您的点击流日志,从而更深入地了解您的客户。

安全情报和事件管理(SIEM)

集中与分析在您的整个环境中生成的事件,该环境包括应用程序、网络和操作系统等,以便找出您的网络中的任何恶意或可疑活动。您在摄入数据时就可以编制索引,以便即时分析多个来源的数据,快速查找并阻止威胁。

如何创建日志分析策略

您的日志分析策略需要解决数据摄取、转换和丰富、索引和分片策略、基础设施规划,以及最后的数据生命周期和数据归档。以下是要采取的一般步骤: 

  1. 首先,您需要识别数据移动或数据摄取。本质上,您必须找出摄取途径。

  2. 其次,您需要设置日志行或字符串的数据转换。日志分析多次使用 JSON — 必须适当地转换数据并在需要时进行扩充。

  3. 第三,您必须想出一个索引和分片策略。正确创建索引至关重要。

  4. 第四,您还必须进行一些基础设施规划,以确定实例类型以及您需要的实例数量。

  5. 最后,为了控制日志大小和成本,您需要一个针对数据生命周期和归档的整体策略。

我应该在哪里存储我的日志数据?

Amazon OpenSearch Service 为您的日志数据提供各种存储层。您可以选择符合查询要求的存储层(热存储、UltraWarm 存储和冷存储)。

AWS 提供哪些适用于日志分析的产品/服务?

轻松部署和管理

Amazon OpenSearch Service 让您可以轻松设置与部署您的集群,与此同时解决与管理任务相关的复杂问题,如硬件预置、软件安全和修补、故障恢复、备份和监控等,从而减低运维开支,使您能够专注于满足核心的业务要求。

可扩展性和可靠性

Amazon OpenSearch Service 在单个域中最高支持 3 PB 实例存储,让您可以轻松添加或移除实例而无需停机。该服务还提供内置的静态和传输中加密、用户身份验证和 VPC 支持,从而保护您的数据安全。

轻松和其他 AWS 服务集成

Amazon OpenSearch Service 提供与其他 AWS 服务的内置集成,例如,Kinesis Data Firehose、Managed Streaming for Kafka、IoT、CloudWatch Logs、KMS、Cognito 和 IAM,您可以安全地从各种数据源提取、分析数据,并对其进行可视化。

降低成本

使用 Amazon OpenSearch Service,您只需按实际用量付费。没有预付费用或使用要求。有了全天候监控和 AWS 支持,您无需劳烦 Elasticsearch 专家团队便可扩展、保护和监控您的基础设施,从而降低总运维成本。

AWS 日志分析的工作原理?

使用 AWS,您可以构建不同的解决方案来高效整合、监控与分析您的日志数据。这些解决方案可通过关于您的应用程序、系统和 AWS 日志信息的简化视图为您提供实时的运维情报。

使用 Amazon OpenSearch Service 来集中日志记录

这个解决方案由 Amazon OpenSearch Service 提供支持,它和其他 AWS 服务结合,为您提供高度可用的一站式环境,以便于快速开始日志记录并分析您的 AWS 环境和应用程序。 开始使用 Amazon OpenSearch Service »

下方示意图显示的是集中式日志记录架构。要了解更多,请阅读集中式日志记录解决方案摘要。 

opensearch 日志分析

使用 Amazon Kinesis 进行实时监控

这个解决方案采用 Amazon Kinesis、AWS CloudTrail 和 Amazon CloudWatch,让您可以构建无服务器解决方案来实时监控您的应用程序。 开始使用 Amazon Kinesis »

下方示意图显示的是实时应用程序监控架构。要了解更多,请按照此动手教程进行操作。

客户对日志分析的实施情况如何?

实时应用程序和基础设施监控

从您的应用程序和 IT 孤岛捕获及集中全部日志和指标,深入了解您的应用程序和基础设施堆栈并确保运行时间。Amazon OpenSearch Service 对数据编制索引,使其可被用于实时分析,并允许您使用 Kibana 仪表板对性能指标进行实时可视化。

Expedia Group 是全球最重要的旅游公司之一,他们使用 Amazon OpenSearch Service 进行应用程序监控。借助 Amazon OpenSearch Service,Expedia 可对大量的 Docker 日志进行经济高效的监控,实时确定和解决问题,轻松扩展以适应增加的日志资源,并降低运维开销。  了解更多 »

根本原因分析

快速找到环境(服务器、代码)中的问题,以便缩短平均识别问题时间 (MTTI) 和平均解决问题时间(MTTR)。凭借内置的 Kibana,Amazon OpenSearch Service 让您可以在数百万个事件中进行搜索,在您的应用程序和基础设施之间进行关联,从而快速诊断导致问题的根本原因,从而优化运行时间。

Autodesk 是一家领先的 3D 设计和工程软件提供商,他们采用 AWS 服务(包括 Amazon OpenSearch Service、Amazon Kinesis Data Firehose 和 Amazon Kinesis Data Analytics)来构建经济高效的统一日志记录解决方案,以更快的速度找出并解决应用程序问题并改善客户体验。  了解更多 »

点击流分析

实时查看您的 Web 内容的性能,以及用户与您的应用程序和网站的交互,包括用户行为、所花时间、热门内容,等等。使用 Amazon OpenSearch Service、Amazon Kinesis Data Firehose 或 Amazon Managed Streaming for Kafka,您可以毫不费劲地汇总并分析点击流日志,从而对您的客户有更深入的理解。

Hearst Corporation 是一家大型媒体公司,他们利用 Amazon OpenSearch Service、Amazon Kinesis Streams 和 Amazon Kinesis Firehose 构建了一个点击流分析平台,每天可以传输和处理 30TB 数据。借助该平台,Hearst 能够在数分钟内将整个数据流(从网站点击转换为聚合数据)提供给编辑。  了解更多 »

安全情报和事件管理 (SIEM)

集中与分析在您的整个环境中生成的事件,该环境包括应用程序、网络和操作系统等,以便找出您的网络中的任何恶意或可疑活动。借助 Amazon OpenSearch Service,您在摄入数据时就可以编制索引,以便即时分析多个来源的数据,快速查找并阻止威胁。

AWS 日志分析后续步骤

请查看以下推荐资源: 

  1. 开始免费试用 Amazon OpenSearch Service
  2. 参加关于如何构建日志分析解决方案的研讨会
  3. 您也可以通过免费套餐开始免费使用 Amazon OpenSearch Service。 通过 AWS Free Tier,每月最多可获得 750 小时的 t2 和 t3 small.search 实例使用时间。

AWS 的后续步骤

查看其他与产品相关的资源
了解有关 AWS OpenSearch 的更多信息 
注册免费账户

立即享受 AWS 免费套餐。

注册 
开始在控制台中构建

在 AWS 管理控制台中开始构建。

登录