Queuing von Bewertungsanfragen (Batch + Rate-Limiting-freundlich) #95

Closed
opened 2026-04-10 10:10:28 +02:00 by tobias · 1 comment
Owner

FIFO-Queue mit konfigurierbarem Concurrency-Limit (default 1 wegen DashScope), HTTP 429 bei voller Queue mit Retry-After, /api/queue/status fuer User, exponentielles Backoff bei LLM-Throttling. Basis fuer #44 Batch-Analyse. Empfehlung: SQLite-basiert (jobs-Tabelle erweitern).

FIFO-Queue mit konfigurierbarem Concurrency-Limit (default 1 wegen DashScope), HTTP 429 bei voller Queue mit Retry-After, /api/queue/status fuer User, exponentielles Backoff bei LLM-Throttling. Basis fuer #44 Batch-Analyse. Empfehlung: SQLite-basiert (jobs-Tabelle erweitern).
Author
Owner

Resolved in 289d37a. Queue live: /api/queue/status zeigt Worker-Status. POST /api/analyze-drucksache nutzt jetzt die Queue mit HTTP 429 bei Überlast.

Resolved in 289d37a. Queue live: /api/queue/status zeigt Worker-Status. POST /api/analyze-drucksache nutzt jetzt die Queue mit HTTP 429 bei Überlast.
Sign in to join this conversation.
No description provided.