フローベース生成モデル

変数 ${\displaystyle z_{1}}$及び ${\displaystyle z_{0}}$ について、${\displaystyle z_{0}=f_{1}^{-1}(z_{1})}$ であるとする。

確率密度の変数変換公式より、 ${\displaystyle z_{1}}$の従う確率分布は以下のように書ける：

${\displaystyle p_{1}(z_{1})=p_{0}(z_{0})\left|\det {\frac {df_{1}^{-1}(z_{1})}{dz_{1}}}\right|}$

ここで、${\displaystyle \det {\frac {df_{1}^{-1}(z_{1})}{dz_{1}}}}$は ${\displaystyle f_{1}^{-1}}$ のヤコビ行列の行列式である。

逆関数定理により

${\displaystyle p_{1}(z_{1})=p_{0}(z_{0})\left|\det \left({\frac {df_{1}(z_{0})}{dz_{0}}}\right)^{-1}\right|}$

恒等式 ${\displaystyle \det(A^{-1})=\det(A)^{-1}}$ により（${\displaystyle A}$は正則行列）、次が導ける：

${\displaystyle p_{1}(z_{1})=p_{0}(z_{0})\left|\det {\frac {df_{1}(z_{0})}{dz_{0}}}\right|^{-1}}$

したがって、対数尤度は次のようになる。

${\displaystyle \log p_{1}(z_{1})=\log p_{0}(z_{0})-\log \left|\det {\frac {df_{1}(z_{0})}{dz_{0}}}\right|}$

一般に、上記の式は全ての ${\displaystyle z_{i}}$及び ${\displaystyle z_{i-1}}$ に適用される 。${\displaystyle \log p_{i}(z_{i})}$ は ${\displaystyle \log p_{i-1}(z_{i-1})}$ から非再帰的な項を引いたものに等しいので、数学的帰納法より以下が示せる。

${\displaystyle \log p_{K}(z_{K})=\log p_{0}(z_{0})-\sum _{i=1}^{K}\log \left|\det {\frac {df_{i}(z_{i-1})}{dz_{i-1}}}\right|}$

関数の合成によってフローを構築する代わりに、別のアプローチとして、フローを連続時間ダイナミクスとして定式化することができる[5]。${\displaystyle z_{0}}$ を分布 ${\displaystyle p(z_{0})}$ を持つ潜在変数であるとする。以下のフロー関数を使用して、この潜在変数をデータ空間に写す。

${\displaystyle x=F(z_{0})=z_{T}=z_{0}+\int _{0}^{t}f(z_{t},t)dt}$

ここで ${\displaystyle f}$ は任意の関数であり、ニューラルネットワークなどでモデル化できるとする。

その場合、逆関数は次のようになる[5]。

${\displaystyle z_{0}=F^{-1}(x)=z_{T}+\int _{t}^{0}-f(z_{t},t)dt}$

このとき ${\displaystyle x}$ の対数尤度は以下で与えられる[5]：

${\displaystyle \log(p(x))=\log(p(z_{0}))-\int _{0}^{t}{\text{Tr}}\left[{\frac {\partial f}{\partial z_{t}}}dt\right]}$

実用上では Neural ODE[6] などの数値積分手法が必要になる場合がある。