Hvad Vi Forstår Om Neurale Netværk

Vi forstår den matematiske opbygning af neurale netværk og kan implementere dem med matricer og gradient descent.

Vi kender træningsmålene, såsom at forudsige næste token eller generere billeder ud fra billedtekster.

Vi forstår ikke præcist, hvordan de optimerede vægte i netværket skaber specifik adfærd som at skrive digte.

Mekanistisk fortolkning kan give delvis indsigt ved reverse engineering af enkelte neuroner eller funktioner.

Selvom vi mangler fuld forståelse, er neurale netværk stadig praktisk anvendelige og kraftfulde værktøjer.