跳到正文
AWS Machine Learning Blog· Joseph Cottingham·· 1 天前AI 评分20

为 Amazon SageMaker AI 上的 TTS 停止猜测自动扩缩容目标

Stop guessing auto scaling targets for TTS on Amazon SageMaker AI

AI 导读

AWS 在 Amazon SageMaker AI 实时端点上以自定义容器部署 82M 参数的 TTS 模型 Kokoro-82M,用实测的 Q_max(单实例不突破 SLO 的最高并发)和 T_total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与两个冷却时间,替代凭猜测设定的自动扩缩容目标。

来源:AWS Machine Learning Blog · aws.amazon.com