ThinkMesh adalah pustaka Python untuk menjalankan jalur penalaran paralel pada LLMs dengan pembobotan berdasarkan sinyal kepercayaan internal.
Pustaka ini dapat bekerja secara offline dengan Hugging Face Transformers serta mendukung batching server-side melalui vLLM/TGI.
Strategi penalaran tersedia seperti DeepConf, Self-Consistency, Debate, dan Tree of Thoughts untuk diversifikasi jalur pemikiran.
Hasil jalur penalaran diproses melalui reducer (majority/judge) dan diverifikasi dengan plugin verifikator (regex, numeric, custom).
ThinkMesh menyediakan caching, metrik, jejak JSON, dan antarmuka CLI untuk mempermudah integrasi dan eksperimen.
Pustaka bersifat extensible, memungkinkan penambahan backend, strategi, reducer, dan verifikator kustom.
Proyek berlisensi MIT dan cocok untuk eksperimen pemikiran paralel pada model bahasa besar.
Get notified when new stories are published for "Berita Peretas 🇮🇩 Bahasa Indonesia"