在处理大容量请求时, Amazon Lambda 函数的扩展速度提高12倍

re:Invent
Amazon Key Management Service
Amazon OpenSearch Serverless (Preview)
向量数据库
生成式人工智能
0
0
今天, ++[Amazon Lambda](https://aws.amazon.com/lambda/?trk=cndc-detail)++ 的扩展速度提高了12倍。今天,每个同步调用的 Amazon Lambda 函数每10秒1,000次并发执行,直到所有函数的总并发达到帐户的并发限制。此外,无论如何 ++[调用](https://docs.aws.amazon.com/lambda/latest/dg/lambda-invocation.html?trk=cndc-detail)++ 这些功能,帐户中的每个功能现在都可以进行相互独立地扩展。这些改进不需要付额外的费用,并且您不需要在现有的函数中做任何配置。 使用传统架构构建可扩展的高性能应用程序可能会遇到一些困难,通常需要过度调配计算资源或复杂的缓存解决方案来满足高峰需求和不可预测的流量。许多开发人员选择 Amazon Lambda 是因为当应用程序面临不可预测的流量时,它可以按需扩展。 在此更新之前,Amazon Lambda 函数最初可以以帐户级别扩展,第一分钟500-3000次并发执行(取决于地区),然后每分钟500次并发执行,直到达到帐户的并发限制。因为此扩展限制由同一帐户和区域的所有函数中共享,所以如果一个函数遇到流量流入,可能会影响同一帐户中其他函数的吞吐量。这增加了监控少数函数的工程工作量,这些函数可能会超出帐户限制,引起近邻函数出现噪声的情况,并降低同一帐户中其他函数的总体并发性。 今天,提高了可扩展性后,高流量变化的客户可以比以前更快地达到并发目标。例如,发布突发新闻故事的新闻网站或在线商店的闪购活动会涌入大量的访问者。由于这些可扩展性的提高,他们现在的扩展速度比以前快了12倍。 此外,这些改进将有利于使用 具有 [scalar Lambda-based UDFs的Amazon Athena](https://docs.aws.amazon.com/redshift/latest/dg/udf-creating-a-lambda-sql-udf.html?trk=cndc-detail) 和 [Amazon Redshift](https://aws.amazon.com/redshift/?trk=cndc-detail) 等服务来充实数据或转换数据的客户。这些服务取决于分批数据并将其分块传递给 Amazon Lambda,同时调用多个并行函数。增强的并发扩展行为确保 Amazon Lambda 可以快速扩展并满足服务级别协议(SLA)要求。 **实际中如何应用?** 下图展示了一个每10秒接收请求并处理请求的函数。帐户并发限制设置为7,000个并发请求,并在同一帐户中的所有函数之间共享。每个函数的扩展速率固定为每10秒1,000次并发执行。该速率独立于同一帐户中的其他函数,使其更容易预测该函数将如何在需要时扩展和限制请求。 - **09:00:00**-函数已经运行了一段时间,已经有1,000个并发执行正在处理。 - **09:00:10**-十秒钟后,新出现了1,000个新请求。因为该函数可以每10秒扩展到1,000次并发执行, 所以该函数可以良好地处理这些请求。 - **09:00:20**-这里也发生了同样的情况:1,000个新请求。 - **09:00:30**-该功能现在接收1,500个新请求。因为一个函数的最大扩展容量是每10秒1,000个请求,所以其中500个请求会受到限制。 - **09:01:00**-此时,该函数已经处理了4,500个并发请求。但是出现了3,000个新请求。因为该函数每10秒可以扩展到1,000个请求,所以 Amazon Lambda 处理1,000个新请求,并限制2,000个请求。 - **09:01:10**-在10秒后,又出现了2000个请求,该函数现在可以再处理1,000个请求。但是,由于该函数可以每10秒扩展到1,000个请求,所以剩余的1,000个请求会受到限制。 - **09:01:20**-现在该函数正在处理6,500个并发请求,还有1,000个传入请求。因为函数达到了帐户并发7,000个请求的限制,所以处理了其中前500个请求,但是另外500个受到了限制。请务必记住,您可以通过在 [Amazon Management Console](https://console.aws.amazon.com/?trk=cndc-detail)++ 创建支持工单来提高帐户并发限制。 ![image.png](https://dev-media.amazoncloud.cn/11726a2b55fe47f9885fe1225fe2fbac_image.png "image.png") 如果您的帐户中有多个函数,这些函数将独立扩展,直到达到总帐户并发限制。之后,所有新的调用都会被限制。 **可用性** 所有功能都会默认启用这些改进的扩展性。从11月26日开始到12月中旬,亚马逊云科技将逐步向除中国和 Amazon GovCloud 地区以外的所有亚马逊云科技地区推出这些改进的扩展性。 如果您想了解更多关于 Amazon Lambda 新的扩展行为,请阅读 [Amazon Lambda 扩展行为文档页面](https://docs.aws.amazon.com/lambda/latest/dg/scaling-behavior.html?trk=34a40b17-ed1b-4724-9974-c449c9b7ec63&sc_channel=el?trk=cndc-detail)。 【文章来源】 ++[https://aws.amazon.com/blogs/aws/aws-lambda-functions-now-scale-12-times-faster-when-handling-high-volume-requests/](https://aws.amazon.com/blogs/aws/aws-lambda-functions-now-scale-12-times-faster-when-handling-high-volume-requests/?trk=cndc-detail)++
目录
亚马逊云科技解决方案 基于行业客户应用场景及技术领域的解决方案
联系亚马逊云科技专家
亚马逊云科技解决方案
基于行业客户应用场景及技术领域的解决方案
联系专家
0
目录
关闭