本文由 阿里云国际站代理商『翼龙云/TG @Yilongcloud 撰写』如需转载请注明！
一、竞价实例（Spot Instance）的成本与风险平衡
重要前置说明:
阿里云国际抢占式（Spot / 竞价）实例没有 SLA 可用性承诺，资源库存紧张时会触发回收，强制终止通知窗口固定为 3 分钟，所有优雅退出逻辑必须在 3 分钟内完成。
当前机制下，绝大多数回收来源于库存不足；开启价格保护后，极少因为价格上涨触发回收。
IMDSv2 默认强制启用，直接 GET 访问元数据接口会鉴权失败；实例内部监听终止信号必须适配 IMDSv2 会话令牌。
业务边界：适合异步批处理、离线 AI 推理、可降级弹性算力；不建议直接作为强同步在线推理的核心主节点。
二、避坑清单 1：忽视 3 分钟终止信号的监听与 IMDSv2 适配
风险点： 当阿里云国际因库存变动回收实例时，平台只会提供固定 3 分钟的处理窗口。若系统未正确监听终止信号，正在运行的 AI 推理、批处理任务会被强制中断，出现 502 错误、推理任务残缺、中间文件损坏。
注意：拿到终止时间元数据即倒计时开始，没有额外预留缓冲时间。
核验与解决办法：
架构原则：实例内部元数据轮询为主；EventBridge 事件总线仅作为外部告警与辅助运维手段，不可作为唯一信号源。网络抖动、云助手延迟会导致外部事件处理超时。
实例内部守护进程轮询元数据（必须兼容 IMDSv2 会话令牌） 元数据地址：http://100.100.100.200/latest/metadata/instance/spot/terminationtime
- 必须先获取 IMDSv2 PUT 会话令牌，再发起查询；直接 GET 请求在开启 IMDSv2 实例会返回 401 鉴权失败。
- 守护进程高频轮询，一旦读取到不为空的回收时间，立刻触发优雅下线脚本。
EventBridge / 云监控事件订阅（辅助） 通过 EventBridge 捕获抢占实例中断系统事件，实现外部动作：负载均衡摘除后端、运维告警通知。
注意：事件投递存在毫秒秒级延迟，部分场景收到事件时剩余时间已经不足 1 分钟，不能依赖它完成实例内部业务保存。EventBridge 事件 JSON 字段请核对阿里云国际最新官方文档。
优雅退出动作清单（3 分钟内全部完成）：
- 停止接收新任务、切断新流量；
- 将推理中间状态、模型 Checkpoint 快速上传 OSS/NAS；
- 通知调度层将本节点从任务池中摘除；
- 等待正在运行任务完成或做状态快照。
三、避坑清单 2：在 Spot 实例本地保存状态数据
风险点：
- 实例被抢占释放，实例本地盘、本地 NVMe 临时盘数据全部永久丢失；
- 如果云盘勾选「随实例释放」，实例销毁时数据云盘也同步删除； 若把 AI 模型 Checkpoint、计算中间结果保存在实例本地存储，任务会必须全部从头重跑。
核验与解决办法： 严格遵循 “计算与存储分离”，把 Spot 实例当做完全无状态算力节点，所有持久化数据实时写入 OSS 或 NAS。
表格：
| 架构维度 | 错误示范 | 推荐实践 | 预期效果 |
| 数据落盘 | 写入本地系统盘 / 实例本地临时数据盘 | 中间结果、checkpoint 实时流式写入 OSS；模型权重挂载 NAS | 实例释放，新拉起实例可接续任务 |
| 任务分发 | 实例本地维护任务队列 | 使用消息队列 Kafka/RabbitMQ 分发任务 | 实例中断，未消费消息自动回滚重试 |
| 日志管理 | 日志保存在实例本地目录 | Logtail 实时采集上报 SLS 日志服务 | 实例销毁，日志完整可追溯 |
| 云盘属性 | 数据盘勾选 “随实例释放” | 存储重要数据的云盘关闭 “随实例释放” 开关 | 实例销毁，云盘数据保留可挂载恢复 |
补充 AI 推理场景优化：大模型权重提前存放 NAS，避免每一次 Spot 实例重建重复从外网下载大模型，减少流量开销与启动耗时。
四、避坑清单 3：缺乏自动化的算力补位与多维度容灾策略
风险点： 某可用区 GPU 规格库存紧张，批量 Spot 实例被回收；ESS/ACK 只会按照期望实例数不断尝试新建实例。如果单一规格、单可用区无库存，会长时间创建失败，集群算力静默缺口，业务降级。
核验与解决办法： 将 Spot 实例交由弹性伸缩 ESS 或者 ACK 容器节点池托管。
- 混合实例配比：ESS 配置「按量付费保底 + 竞价弹性」，例如 30% 按量付费实例作为算力底座，70% 竞价实例承担弹性 AI 推理算力；保底实例保障最低业务能力。
- 多规格 + 多可用区：不要绑定单一实例规格、单一可用区，配置多个备选 GPU 实例规格，跨 2 个及以上可用区调度；首选规格无库存时自动切换备选规格。
- 监控补充：配置告警：抢占实例回收事件告警、ESS 实例创建失败告警，避免集群算力下降无人感知。
注意：Spot 实例被回收是直接销毁，不会原地修复；重新创建是全新实例。各地域 GPU 规格折扣、库存状态以控制台实时数据为准。
ACK 节点池额外提示：K8s 收到抢占信号后驱逐 Pod 仅有 3 分钟窗口；大模型 Pod 权重加载耗时久，建议权重预挂载 NAS，缩短 Pod 重建启动时间。
五、避坑清单 4：缺少抢占回收模拟验证
风险点：线上真实库存回收不可复现，上线前无法确认优雅退出脚本是否真正生效，等到真实故障才发现逻辑失效。 解决办法： 使用阿里云提供的系统事件模拟能力，模拟抢占实例终止事件，完整测试守护进程、任务保存、节点摘除全链路流程。
六、常见问题 (FAQ)
Q1：阿里云国际抢占式实例回收前有多久处理时间？ A：平台发出终止信号后固定3 分钟处理窗口，不存在可变时长；全部优雅退出逻辑必须控制在 3 分钟内完成。
Q2：为什么元数据轮询抢占终止时间一直返回 401？ A：实例开启 IMDSv2，不能直接 GET 请求元数据；必须先获取 PUT 类型会话令牌，携带 token 再查询 metadata 接口，否则鉴权失败。
Q3：EventBridge 收到中断事件，是不是就可以完全依赖它做业务保存？ A：不可以。EventBridge 适合告警、外部资源操作；网络与投递存在延迟，剩余时间可能很短。业务保存逻辑必须运行在实例内部，以元数据轮询为主。
Q4：Spot 竞价实例可以用来做大模型同步在线推理核心节点吗？ A：不建议。同步推理请求不可中断，一旦触发 3 分钟回收，正在处理长推理请求会被打断。Spot 更适合异步批推理、离线任务；在线业务搭配按量保底实例。
Q5：ESS 托管 Spot 实例，实例被回收后会自动补回来吗？ A：ESS 会按照期望实例数尝试重新创建。但是如果规格、可用区整体缺库存，会持续创建失败，因此必须配置多规格、多可用区策略，同时配置实例创建失败告警。
Q6：频繁被抢占销毁，会带来哪些隐性成本？ A：实例反复重建会重复下载大模型权重，带来外网流量开销；频繁重建拉长任务总耗时，架构设计时需要评估该隐性成本。
作者：翼龙云/Yilongcloud
