第六十四章 救火版

第六十四章 救火版 (第2/2页)

“赵磊，你先把队列监控拉出来，一会儿队列分离你来做。“他看了一眼姜亦心，“小姜，你搬把椅子过来，学习的机会，一会帮我跑脚本。“
　　
　　韩路一低头开始敲命令。
　　
　　“要不要把陈建业叫回来？”赵磊问了一句。
　　
　　“他孩子生病了，别叫了。”韩路一说，眼睛没离开屏幕。
　　
　　第一步，扩推理实例。
　　
　　梁宇那边动作快，青岳已经把配额放开了，韩路一在配置文件里把实例数从六个直接拉到二十个，改完推给姜亦心。
　　
　　“跑这个部署。”
　　
　　姜亦心接过来，手指都在发抖，但敲得很快，部署脚本跑起来了，终端开始刷日志。
　　
　　新实例一个一个上线，监控面板上队列在分流，超时率开始往下掉，三十五……三十……
　　
　　两分钟后，超时率降到百分之十五。还是高，但至少不是瀑布式崩溃了。
　　
　　第二步，加速率限制。
　　
　　韩路一现写了一个中间间：单用户请求频率超过阈值，不再让请求排进队列等到超时，直接返回一个“排队中，请稍后重试”的提示页。
　　
　　“这个也部署上去。”
　　
　　姜亦心接过去跑。
　　
　　效果立竿见影——用户端从“一直转圈”变成“排队中”，带预计排队时间。刷新不再制造新请求，死亡螺旋的输入被切断了。
　　
　　第三步，分离队列。
　　
　　现在AI推理和网页页面共用一个请求队列，推理慢了会把页面加载也拖死；要把推理请求分到独立队列，网页服务走另一条通道。
　　
　　韩路一说了方向，赵磊自己写了配置，改了路由规则，手速比韩路一预期的还快。
　　
　　“可以了，”赵磊说，“推理队列隔离完了，网页服务不受影响。”
　　
　　姜亦心部署完最后一版，盯着监控曲线，数字一格一格往下掉。
　　
　　“超时率……百分之二……百分之一……”
　　
　　七点二十，在线人数开始自然回落了，开物的用户画像偏白天使用场景，晚上本来就不是高峰期。
　　
　　七点四十五，超时率归零，推理时间回到正常的十几秒。
　　
　　监控面板上一片绿。
　　
　　“解决了，都下班吧。”韩路一没站起来。
　　
　　赵磊关掉终端，拿起外套。
　　
　　“走了。”
　　
　　“辛苦。”韩路一说。
　　
　　姜亦心还在工位上，监控曲线还开着，但她低头在发微信。
　　
　　【小姜（救火版）】：你不会信的，我今天经历了人生第一次生产事故！！！比过山车还刺激
　　
　　【大刘】：这么野的吗？
　　
　　【大刘】：你还吃晚饭吗我快饿死了啊！
　　
　　苏念念走到韩路一工位旁边。
　　
　　“用户群里已经安抚了，明天早上我再发一条公告，措辞你要不要看一下？”
　　
　　“你定就行。”
　　
　　“流失情况我明天跑一下数据给你。”
　　
　　“好。”
　　
　　苏念念拍了拍他的椅背，走了。
　　
　　韩路一关了屏幕，拿起手机。
　　
　　第二天早上八点四十。
　　
　　陈建业一进办公室，就看见姜亦心端着杯子走过来，脸上带着那种经历了大事后还在回味的兴奋劲儿。
　　
　　“老陈！你昨天没在太可惜了——”