上线前建议至少检查模型版本固定、资源上限、超时、并发、日志脱敏、健康检查和回滚方案。
对外提供接口时还应明确输入限制、速率限制、错误码和监控指标。遇到性能问题时,先区分模型计算、数据预处理、传输和排队时间。