| Requests | Processed | Generated | Token Stats (tokens/sec) |
|---|---|---|---|
| {stats.totalRequests} |
{nf.format(stats.totalInputTokens)}
tokens
|
{nf.format(stats.totalOutputTokens)}
tokens
|
P50
{stats.tokenStats.p50}
P95
{stats.tokenStats.p95}
P99
{stats.tokenStats.p99}
|