Undgå Timmy-fælden

Store sprogmodeller er flydende imitering, ikke ægte intelligens.

Mennesker har en stærk tendens til at antropomorfisere og tillægge maskiner menneskelige egenskaber.

Den moderne Turing-test er forenklet til en-til-en vurdering, hvilket udnytter vores bias.

ELIZA fra 1960’erne demonstrerede, hvor let vi kan narres til at tro, at en maskine forstår os.

LLM’er forkorter eksisterende tekst ved at genbruge menneskeligt indhold snarere end at opsummere med ny kontekst.

Fuldgyldige opsummeringer kræver ekstern viden og kontekst, som LLM’er ikke har adgang til.

Intelligens er en social og kulturel konstruktion, ikke blot en evne til at gengive fakta.

For effektiv brug af LLM’er må vi erkende deres tekniske styrker og fundamentale begrænsninger.