Skala Observabilitas LogHouse hingga 100PB

LogHouse tumbuh dari 19 PiB menjadi 100 PB dan dari ~40 triliun menjadi 500 triliun baris data.

OpenTelemetry (OTel) mengalami keterbatasan skala: memerlukan CPU tinggi, menimbulkan overhead, dan kehilangan data pada puncak trafik.

SysEx (System Tables Exporter) melakukan salinan byte-per-byte langsung dari tabel sistem ClickHouse ke LogHouse, menjaga fidelitas data dan mengurangi penggunaan CPU hingga lebih dari 10× lipat.

Arsitektur SysEx melibatkan pool scraper, hash ring, jendela waktu geser untuk buffer flush, dan skema dinamis dengan Merge table untuk menangani evolusi skema.

State snapshotting menangkap tabel in-memory (misalnya system.processes) secara periodik untuk analisis waktu nyata dan historis.

Fleet-wide queries memungkinkan menjalankan query diagnostik yang sama di seluruh instans pelanggan untuk analisis rilis dan dukungan.

Perbandingan efisiensi: SysEx membutuhkan 70 core untuk 37 juta log/s, sedangkan OTel memerlukan 800 core untuk 2 juta log/s.

OpenTelemetry tetap dipakai untuk logs level info+ saat startup atau crash, menyediakan fallback saat SysEx tak bisa scrapping.

HyperDX menyediakan UI native ClickHouse dengan sintaks Lucene dan dukungan SQL untuk eksplorasi, korelasi, dan analisis akar penyebab.

Pendekatan wide-event menyimpan semua dimensi kolom tinggi tanpa agregasi saat ingest; agregasi dilakukan saat query untuk fleksibilitas analisis.