LLM Lebih Murah

Model Bahasa Besar (Large Language Models) kini lebih murah untuk dioperasikan dibandingkan sebelumnya.

Awalnya, inferensi dari model AI memang mahal, namun biayanya telah menurun drastis dalam dua tahun terakhir.

Dibandingkan dengan mesin pencari seperti Google Search atau Bing, biaya LLM bahkan lebih rendah di beberapa tingkat.

Ada banyak asumsi yang salah mengenai biaya pengoperasian AI yang menyebabkan analisa yang keliru tentang bisnis AI.

Meski OpenAI dan beberapa perusahaan AI lainnya mengalami kerugian, hal ini lebih karena tidak memonetisasi lalu lintas pengguna dengan optimal, bukan karena tingginya biaya operasional.

Biaya utama LLM tidak pada modelnya, tetapi pada seluruh layanan backend yang diakses agen AI.