预热:新实例的权重逐渐提高

  配置               | 加入后第 0 秒 | 加入后第 2 秒 | 加入后第 4 秒 | 加入后第 6 秒 | 加入后第 8 秒 | 加入后第 10 秒 | 加入后第 12 秒 | 加入后第 15 秒
  -----------------+----------+----------+----------+----------+----------+-----------+-----------+----------
  (a)没有 slow start | 25%      | 25%      | 25%      | 25%      | 25%      | 25%       | 25%       | 25%      
  (b)window 10 s   | 6%       | 10%      | 14%      | 18%      | 22%      | 25%       | 25%       | 25%      
  (c)window 20 s   | 11%      | 10%      | 14%      | 16%      | 18%      | 19%       | 20%       | 21%      
  每个格子是那一秒里落在新实例的请求占比;没有 slow start 时新实例一加入就接近 1/4(4 个实例轮询);有 slow start 时从很低的比例按窗口爬升,窗口走完后回到 1/4

  配置               | 加入后 16 s 的请求数 | 落在新实例上 | 慢请求(>50 ms) | 延迟 p50(ms) | 延迟 p99(ms) | 失败
  -----------------+---------------+--------+-------------+------------+------------+---
  (a)没有 slow start | 1600          | 400    | 200         | 8.6        | 131.9      | 0 
  (b)window 10 s   | 1600          | 299    | 102         | 8.8        | 131.1      | 0 
  (c)window 20 s   | 1600          | 260    | 106         | 8.6        | 131.3      | 0 
  慢请求几乎都是落在冷实例上的请求;slow start 减少的是冷的那 8 s 里落在新实例上的请求数。预热窗口比冷启动时间长得多时,冷实例接到的请求更少,但新实例也要更久才能分担满额的流量

  配置           | 请求数  | 落在新实例上 | 慢请求(>50 ms) | p50(ms) | p99(ms) | 第 0 秒 | 第 4 秒 | 第 8 秒 | 第 12 秒 | 第 15 秒
  -------------+------+--------+-------------+---------+---------+-------+-------+-------+--------+-------
  客户端线性预热 10 s | 1600 | 283    | 82          | 8.3     | 131.2   | 0%    | 10%   | 20%   | 26%    | 23%   
  客户端线性预热 20 s | 1600 | 180    | 41          | 8.3     | 129.6   | 0%    | 6%    | 11%   | 16%    | 20%   
  线性预热从权重 1 起步,所以起初几乎不分流量;Envoy 的 slow start 用 min_weight_percent 做下限,起步比例更高

  配置               | 重启后第 0 秒 | 重启后第 2 秒 | 重启后第 4 秒 | 重启后第 6 秒 | 重启后第 8 秒 | 重启后第 10 秒 | 重启后第 12 秒 | 重启后第 15 秒
  -----------------+----------+----------+----------+----------+----------+-----------+-----------+----------
  (a)没有 slow start | 23%      | 25%      | 25%      | 25%      | 25%      | 25%       | 25%       | 25%      
  (b)window 10 s   | 2%       | 6%       | 12%      | 17%      | 20%      | 24%       | 25%       | 25%      
  配置               | 重启后 16 s 的请求数 | 落在重启的实例上 | 失败 | 慢请求(>50 ms) | p99(ms)
  -----------------+---------------+----------+----+-------------+--------
  (a)没有 slow start | 1600          | 398      | 0  | 198         | 131.6  
  (b)window 10 s   | 1600          | 275      | 0  | 82          | 130.8  
  “重启后第 0 秒”从新进程开始监听同一个端口的时刻算起;健康检查把它重新标成健康很快(上表第 0 秒一格里没有 slow start 的已经接近满额),所以重启之后是否重新预热,看的是 slow start 是否对“重新变健康的实例”再次生效
ERRORS {}