实时财经快讯 - FastBull ( ) • 2021-09-19 14:21
基于限界传播的高效验证算法:CROWN,α-CROWN 和β-CROWNCROWN [1]是一个非完备 (incomplete) 神经网络验证算法,其主要原理为将网络中的非线性激活函数(如 ReLU,sigmoid,maxpool 等)替换为线性的上下界,然后进行限界传播(Bound Propagation),拿到神经网络输出对输入的线性下界。
利用 ReLU 函数的线性上下界,我们在一个简单的两层网络里展示如何进行 CROWN 算法中的反向限界传播(Bound Propagation)。
β-CROWN 使用额外的拉格朗日乘子来保证分支约束条件,比如,在上面介绍 CROWN 的例子里,假设我们有额外的分支约束,我们可以在限界传播到这一层 ReLU 时加入一个额外的可优化参数:限界传播算法可以继续进行,例如在上面的例子中,我们将得到一个有额外参数的线性下界:通过优化额外的参数,我们让下界变的更紧 ... 阅读全文