Agen AI Berbasis Wasm di Browser

Mozilla meluncurkan blueprint Wasm Agents yang memungkinkan pembuatan agen AI sebagai file HTML mandiri tanpa instalasi dependensi tambahan.

Agen dijalankan di browser menggunakan WebAssembly dan distribusi Python Pyodide, sehingga kode Python dapat dijalankan dengan kecepatan hampir setara native.

Agen menggunakan library openai-agents-python dan dapat dihubungkan ke model LLM OpenAI atau model self-hosted kompatibel seperti HuggingFace TGI, vLLM, atau Ollama.

Demo mencakup contoh agen percakapan dasar, sistem multi-agen, agen dengan pemanggilan alat (tool calling), dan agen yang menggunakan model lokal.

Untuk mencoba, pengguna cukup memasukkan API key OpenAI atau mengonfigurasi ulang URL model lokal di file config.js dan membuka file HTML di browser.

Pembatasan saat ini meliputi ketergantungan pada kerangka openai-agents, masalah CORS, kebutuhan mesin inferensi, serta ukuran model yang berat untuk perangkat dengan sumber daya terbatas.

Pengguna didorong untuk memodifikasi kode, bereksperimen dengan prompt, model, dan framework lain, serta memahami non-determinisme LLM dan batasan perangkat keras.

Proyek ini masih eksperimental, dengan harapan komunitas dapat memberikan masukan dan mengembangkan aplikasi baru berbasis Wasm Agents.