clip-higher 为什么有效

0.8 < \frac{π_{θ}}{π_{o l d}} < 1.2, 则 π_{θ} < 1.2 π_{o l d}

故而把上界提高，可以

故而当 $π_{o l d} = 0.01$ 时， $π_{θ} = 0.012$ ;当 $π_{o l d} = 0.9$ 时, $π_{θ} = 1.08$ 。

故而可以看到对于熵低的，其实上界范围相对较低，而对于熵高的，上界范围相对要高；故而把上界提高，可以留给低概率更多空间。