AWS Machine Learning Blog· Joseph Cottingham·· 3 小时前精选AI 评分74
如何为 Amazon SageMaker AI 上的 TTS 设定自动扩缩容目标
Stop guessing auto scaling targets for TTS on Amazon SageMaker AI
AI 导读
AWS 演示如何用实际测量替代 Amazon SageMaker AI 上 TTS 端点的自动扩缩容经验值。方案部署 82M 参数的 Kokoro-82M，测得单实例并发上限 Q_max=50、扩容总时长 T_total=320.2 秒，并据此计算扩容阈值 37.500、缩容阈值 25.000 及冷却时间。
推荐理由
给出了从并发上限到扩容耗时的测量链路，可将TTS自动扩缩容阈值从经验猜测转为可复现配置。
来源：AWS Machine Learning Blog · aws.amazon.com