Amazon Elastic Inference

Amazon Elastic Inference 可以解决这些问题，方法就是允许您将适当数量的 GPU 驱动的推理加速连接到任何 EC2 或 SageMaker 实例类型或 ECS 任务，而无需更改代码。