[toc]

論文一覧

0.1. 論文1:変分ベイズの論文

CRVI: Convex Relaxation for Variational Inference

0.2. 論文2

Probabilistic Verification and Reachability Analysis of Neural Networks via Semidefinite Programming

0.3. 論文3:NNの頑強性

• Safety Verification and Robustness Analysis of Neural Networks via Quadratic Constraints and Semidefinite Programming

• 概要

  小さなノイズを加えることでニューラルネットワーク(NN)の画像判別精度が落ちることが報告されており、NNが与えられた時にその頑強性を確かめる手法は重要である。ここでいう頑強性とはある入力$x$に対してNNの出力を$f\left(x\right)$とした時に$x$の近傍の像が$f\left(x\right)$の近傍に含まれているということである。この論文ではより一般的な以下の問題を考える。入力空間上の集合(input certainly set) $X$と出力空間上の集合(safety specification set) $S$が与えられた時に$f\left(X\right)\subset S$を満たすかどうかの判別問題を考える。論文では$X$として$n$次元区間を扱い、$S$として二次制約で表現されるものを扱う。また、写像$f$としては 活性化関数(全層で共通で最終層は無し)を含んだ多層全結合層ネットワークにによって表現される多変量ベクトル値関数を考える。活性化関数を二次制約で上手く近似することで、あるLMN(linear matrix inequality) の解が存在すれば$f\left(X\right)\subset S$が満たすことを示している(逆は成立しないことに注意)

  ※二次制約で表される集合としてはelipsoid(楕円体)、polytopes(多面体)、 zonotopes

  ※ellipsoidsの標準形についてのメモ)

• 詳細