Brugerens trang til at spørge AI om fejl hviler på en misforståelse af, at chatbots er personer med selvindsigt.
Store sprogmodeller mangler introspektion og kan ikke pålideligt vurdere eller forklare deres egne fejltagelser.
Forsøg på selvkorrektion eller introspektion fører ofte til forringet ydeevne hos AI-modeller.
Andre lag i AI-systemet som moderation og eksterne værktøjer er skjulte for sprogmodellen og påvirker svarene.
Brugernes bekymringer og promptformulering skaber en feedbackloop, der bekræfter frygt frem for faktiske forhold.
Get notified when new stories are published for "Hacker News 🇩🇰 Dansk"