Melihat LLM Tanpa Antropomorfisme

LLM adalah fungsi matematis yang memetakan urutan embedding kata dalam ruang vektor berhingga, bukan entitas berkesadaran.

Proses tokenisasi dan embedding mengubah teks menjadi jalur dalam R^n, di mana model memilih titik berikutnya berdasarkan probabilitas.

Pembelajaran LLM dilakukan dengan meniru korpus tulisan manusia, termasuk teks ahli dan data terotomatisasi yang tervalidasi.

Untuk mencegah keluarnya urutan bahasa yang tidak diinginkan, model dibimbing oleh contoh dan kontra-contoh tanpa spesifikasi matematis lengkap.

Masalah utama dalam alignment adalah mengkuantifikasi dan membatasi probabilitas model menghasilkan urutan berbahaya, yang saat ini tidak dapat diintegrasikan secara menyeluruh.

Kemampuan LLM telah memecahkan banyak tugas NLP yang sebelumnya intractable, seperti merangkum dokumen dan menghasilkan konten kreatif.

Antropomorfisasi LLM dengan asersi kesadaran, nilai, atau tujuan manusia dianggap menyesatkan oleh penulis.

Perbandingan dengan kesadaran manusia tidak tepat, karena otak melibatkan proses biologis kompleks dan evolusi panjang yang belum dipahami.

Dampak LLM diprediksi sebesar elektrifikasi, mengubah banyak aspek dunia meski tanpa mencapai AGI.