Pemahaman Jaringan Saraf Modern

Kita memahami matematika pembuatan dan pelatihan jaringan saraf modern.

Jaringan saraf dilatih dengan gradient descent untuk mencapai tujuan tertentu.

Hasil akhir jaringan saraf adalah kumpulan statistik kompleks yang sulit dijelaskan.

Kita belum mengerti secara detail bagaimana jaringan saraf menghasilkan output spesifik.

Teknik interpretabilitas mekanistik hanya berhasil menjelaskan sedikit bagian dari model.

Penggunaan praktis tidak memerlukan pemahaman penuh tentang cara kerja model.