Falsche URLs Durch KI-Chatbots

KI-Chatbots liefern häufig falsche Webadressen großer Unternehmen.

Nur 66 Prozent der generierten URLs sind korrekt, 29 Prozent führen zu nicht existierenden Domains und fünf Prozent zu falschen, aber erreichbaren Seiten.

Cyberkriminelle könnten unregistrierte Domains erwerben, die ein Chatbot fälschlicherweise empfiehlt, und dort Phishing-Seiten einrichten.

LLMs prüfen keine Domain-Reputation, sondern basieren auf Wortassoziationen und statistischen Mustern.

Phishing-Angriffe nutzen auch manipulierte APIs und gefälschte GitHub-Repositories, um KI-generierte Ergebnisse zu vergiften.