Serveren fungerer som en lokal reverse proxy med caching til LLM-forespørgsler.
Understøtter populære udbydere som OpenAI, Anthropic, Azure OpenAI, AWS Bedrock og Google Vertex AI.
Mulighed for simulering af fejl som timeouts og konfigurerbare HTTP-fejlkoder.
Indbygget ratebegrænsning, IP-filtrering og responstids-simulering for realistisk adfærd.
Per-bruger proxyinstanser med detaljeret realtidslogging og eksportmuligheder.
Grafisk dashboard til fuld styring af proxyer, statistik og avanceret logfiltrering.
Get notified when new stories are published for "Hacker News 🇩🇰 Dansk"