AI Hallucination Bisa Diatasi dalam Setahun

Raza Habib optimistis fenomena AI hallucinations dapat dipecahkan dalam waktu kurang dari satu tahun.

Metode pelatihan model bahasa besar meliputi pre-training, fine-tuning, dan reinforcement learning dari umpan balik manusia.

Sebelum disesuaikan dengan preferensi manusia, model menunjukkan kalibrasi kepercayaan yang baik terkait kebenaran jawabannya.

Tantangan utamanya adalah mempertahankan kalibrasi kepercayaan setelah model dibuat lebih dapat diarahkan.

Sedikit hallucination dianggap berguna untuk tugas kreatif dan penciptaan pengetahuan baru.

Kasus chatbot Air Canada menyoroti pentingnya pengujian dan penerapan guardrails sebelum penggunaan produksi.