系统设计 内容交付网络 (CDN)

了解 CDN 解决了什么问题。

问题陈述

让我们先问一个问题：如果全球数百万用户使用我们的数据密集型应用程序，而我们的服务部署在一个数据中心中以服务用户请求，可能会出现什么问题？

以下问题可能会出现：

• 高延迟：由于与服务数据中心的物理距离，用户感知的延迟将很高。用户感知的延迟有许多组成部分，如传输延迟 (可用带宽的函数)、传播延迟 (距离的函数)、排队延迟 (网络拥塞的函数) 和节点处理延迟。因此，跨越较长距离的数据传输会导致更高的延迟。实时应用程序通常需要低于 200 毫秒 (ms) 的延迟。对于互联网语音 (VoIP)，延迟不应超过 150 毫秒，而视频流应用程序不能容忍超过几秒钟的延迟。

相关信息

注意： 根据 2021 年 12 月 21 日所作的一项调查显示，从美国东部 (弗吉尼亚州北部) 到美国西部 (加利福尼亚州北部) 的平均延迟为 62.9 毫秒。跨大陆——例如从美国东部 (弗吉尼亚州北部) 到非洲 (开普敦)——为 225.63 毫秒。这是双向延迟，也称为往返延迟。

• 数据密集型应用程序：数据密集型应用程序需要传输大量流量。在较长距离上，由于网络路径穿过不同类型的互联网服务提供商，这可能是一个问题。由于一些较小的路径消息传输单元 (MTU) 链接，应用程序在网络上的吞吐量可能会降低。同样，网络路径的不同部分可能具有不同的拥塞特性。随着用户数量的增加，问题会倍增，因为当多个客户端请求数据时，源服务器将需要逐个向每个用户提供数据。也就是说，当使用流媒体服务的应用程序既是数据密集型又是动态的情况下，原始数据中心需要发送大量冗余数据。

提示

注意： 根据一项调查，78% 的美国消费者使用流媒体服务，这是五年内增长了 25%。

• 数据中心资源的稀缺性：重要的数据中心资源，如计算能力和带宽，在服务的用户数量显著增加时会成为限制因素。同时吸引数百万用户的服务需要扩展。即使在单个数据中心中扩展，当数据中心由于自然灾害或与互联网连接问题而离线时，它仍可能成为单点故障。

相关信息

注意： 根据一项研究，YouTube、Netflix 和 Amazon Prime 在 2020 年共占据了 80% 的互联网流量。大约在 2016 年，CDN 供应商 Akamai 为 15% 到 30% 的网络流量提供服务 (约为 30 太比特每秒)。对于 90% 的互联网用户，Akamai 距离只有一跳。因此，我们有很充分的理由在不使互联网核心成为瓶颈的情况下优化这些数据的传递和消耗。

我们将如何设计 CDN？

我们将 CDN 的设计分为六个部分：

1. CDN 简介： 我们将提供关于 CDN 的全面介绍，并确定功能和非功能要求。
2. CDN 的设计： 我们将解释如何设计 CDN。我们还将简要描述 API 的设计。
3. CDN的深入研究：第1部分： 本课程将解释缓存策略和CDN架构。此外，我们还将讨论寻找最近的代理服务器的各种方法。
4. CDN的深入研究：第2部分： 我们将讨论如何使CDN中的内容保持一致以及代理服务器的部署。我们还将详细介绍定制和专业的CDN。
5. CDN的评估： 本课程将提供我们提出的设计的评估。
6. CDN系统设计测验： 我们将通过测验加强CDN设计的主要概念。

让我们在下一课中考虑解决讨论的问题的解决方案。