De største AI-gennembrud kom fra nye datakilder frem for helt nye idéer.
Fire afgørende gennembrud: dybe neurale netværk (ImageNet), transformere og store sprogmodeller (webtekst), RLHF (menneskelige vurderinger) og reasoning (verifikatorer).
De tekniske metoder bag disse gennembrud var kendt siden 1990’erne, men først udnyttet i stor skala med nye data.
Datamængden er den vigtigste faktor for AI-fremskridt, og der er en øvre grænse for, hvad modeller kan lære fra et givent datasæt.
Det næste store paradigmeskift i AI vil sandsynligvis kræve en hidtil uudnyttet datakilde, fx video fra YouTube eller data fra robotter.
Get notified when new stories are published for "🇩🇰 Hacker News Dansk"