Timmy Tuzağı ve LLM Yanılsamaları

LLM’lerin akıcılığı beynimizi kandırarak onların zeki olduğu izlenimini yaratır.

Tek kişilik Turing testi antropomorfizm eğilimimizi sömürerek makinelere insaniyet atfederiz.

ELIZA örneği, basit kural setlerinin bile kullanıcıları insan zannettirebildiğini gösterir.

LLM’ler gerçek anlamda özet yapmaz, yalnızca metni kısaltır ve dış bağlam eklemez.

Zeka toplumsal ve kültürel bağlamla tanımlanır; LLM’ler ise bu paylaşılan zeka dinamiklerine sahip değildir.

Timmy gösterisi, nesnelere hızlıca bağlandığımız için akıcılığa nasıl kapıldığımızı somutlaştırır.

LLM potansiyelinden tam olarak yararlanmak için yetenek ve sınırlamalarını doğru anlamalıyız.