本章目录
阅读过程中可按 Ctrl + Z 快速返回当前页面的本章目录;也可以点击右下角按钮。
本章思维导图
知识流向:先完成左侧基础,再进入中间机制,最后用右侧工程控制把它变成可上线能力。节点可直接点击跳转。
准备生产环境
按照本模块顺序完成以下知识点,再进入下一模块。
D01Development、Test、Staging、Production
| 环境 | 用途 | 数据原则 |
|---|---|---|
| 开发 | 个人调试 | 假数据或脱敏数据 |
| 测试 | 自动测试 | 可重复构造 |
| 预发布 | 模拟生产和验收 | 与生产隔离 |
| 生产 | 服务真实用户 | 严格权限、审计和变更控制 |
不同环境使用不同密钥、数据库、向量Collection和工具权限,测试Agent不能调用真实退款。
D02配置、Secrets和版本清单
配置由环境或配置服务注入;密钥放Secret Manager,不写代码、不写HTML、不放Prompt。每次发布都要知道具体版本。
release_id: customer-ai-2026.09.15.3 app_image / prompt_version / model_route_version schema_version / knowledge_version embedding_model / vector_index_version
D03容器、无状态和外部状态
部署打包方式 Container容器把应用和依赖打成一致运行单元。API尽量Stateless无状态:任何实例都能接请求;会话、任务、幂等记录放PostgreSQL/Redis等外部存储。
会话只存在某台机器内存,下一请求落到另一实例就会“失忆”,也无法安全横向扩容。
D04健康检查和优雅关闭
Liveness存活
进程是否卡死,失败可重启。
Readiness就绪
是否可接流量,未准备好先摘流量。
Startup启动
给慢启动服务时间,避免误杀。
Graceful Shutdown
停止接新请求,完成在途任务或保存检查点。
测试与发布
按照本模块顺序完成以下知识点,再进入下一模块。
D05AI系统测试分层
| 测试 | 例子 |
|---|---|
| 单元 | 权限过滤、金额规则、幂等键、缓存key |
| Contract契约 | 模型Schema、工具API、向量字段兼容 |
| 集成 | 数据库+向量库+模型模拟服务 |
| 离线AI评测 | 检索、生成、工具、攻击用例 |
| 端到端 | 从请求到业务状态和审计 |
| 负载/故障 | 高并发、429、超时、依赖中断 |
D06CI/CD从提交到上线
自动交付流水线 CI持续集成负责构建测试;CD持续交付或部署负责送入环境。
Prompt、Schema、路由和知识库变化也属于发布,不能绕过测试。
D07滚动、蓝绿和金丝雀发布
| 策略 | 做法 | 权衡 |
|---|---|---|
| Rolling滚动 | 逐批替换实例 | 省资源;新旧短时共存 |
| Blue-Green蓝绿 | 完整新环境准备后切流量 | 回退快;资源贵 |
| Canary金丝雀 | 少量真实流量先用新版 | 早发现问题;需要精确监控 |
默认:离线门槛→Staging→小比例Canary→监控质量、安全、延迟、成本→逐步扩大。
D08回滚不只是回滚代码
AI发布还可能改变Prompt、模型路由、工具Schema、知识版本和向量索引。回滚计划要标明哪些组件一起恢复,以及数据库变更是否向后兼容。
告警 → 停止扩流 → 切回稳定release_id → 恢复匹配Prompt/路由/知识版本 → 验证关键路径 → 复盘
代码回滚不会撤销已经发生的真实退款;依靠幂等、审计和补偿处理。
运营与最终验收
按照本模块顺序完成以下知识点,再进入下一模块。
D09监控、告警和Runbook
故障操作手册 Runbook写清告警含义、检查顺序、负责人、止损、恢复验证和升级路径。告警必须可行动。
D10备份、RPO和RTO
RPO是最多接受丢多少时间的数据;RTO是多久必须恢复。备份要定期恢复演练。
覆盖业务库、会话任务、知识源、版本配置和审计。向量可以从Chunk重建,但重建时间要计入RTO。
D11最终生产架构
外围还有对象存储、队列、Secret管理、Tracing、评测、CI/CD、审计、备份和告警。
D12高级工程师完成标准
读完只是完成知识地图第一遍。还要完成贯穿项目、评测、攻击测试、故障演练和独立答辩,才算最终验收。
本章总结:从哪里来,解决什么,为什么继续
本章参考的权威资料
课程讲的是跨厂商通用工程方法;具体参数会更新,真正开发时再以所选厂商最新官方文档为准。