TarFlow: Model Generatif NF Berbasis Transformer

TarFlow adalah varian Masked Autoregressive Flow berbasis Transformer yang mudah dilatih end-to-end dan scalable.

Model ini secara langsung memodelkan dan menghasilkan piksel gambar menggunakan tumpukan blok autoregresif Transformer pada patch gambar.

Tiga teknik utama meningkatkan kualitas sampel: augmentasi noise Gaussian selama pelatihan, prosedur denoising pasca pelatihan, dan metode panduan efektif baik untuk kondisi klas dan tidak bersyarat.

TarFlow menetapkan hasil state-of-the-art baru pada estimasi likelihood gambar, mengungguli metode sebelumnya dengan margin besar.

Kualitas dan keberagaman sampel yang dihasilkan TarFlow setara dengan model difusi, untuk pertama kalinya dicapai oleh model normalizing flows tunggal.