Zum Hauptinhalt springen

Budgets & Limits

Budgets begrenzen, wie viel pro Monat ausgegeben werden kann. Standardmäßig ist kein harter Stopp aktiv; die einzige feste Grenze ist das Guthaben selbst.

Budget-Ebenen​

EbeneWer setzt esWo in der Console
KeyInhaber des KeysAPI Keys → Create API key oder Edit key
KontoKontoinhaberBudget & Limits → Account budget
MitgliedTeam-Owner, pro MitgliedMembers → Set cap
FirmaTeam-Ownerdas Konto-Budget des Owners gilt für das ganze Team

Jedes Budget hat:

  • einen Betrag in Euro (leer = kein Limit),
  • eine Warnschwelle (aus, 70 %, 80 % oder 90 %), bei der eine E-Mail kommt,
  • optional einen harten Stopp (Hard stop at cap).

Was beim Erreichen passiert​

  • Ohne harten Stopp (weiches Budget): nur eine E-Mail, Requests laufen weiter.
  • Mit hartem Stopp: Requests bekommen 429 quota_exceeded mit Retry-After: 60, bis das Budget erhöht wird oder der nächste Monat beginnt. Beispiel-Antworten stehen unter Fehler.
  • Guthaben bei 0 € stoppt immer, auch ohne Budget: 402 payment_required.

Die Prüfung wird bis zu 60 Sekunden zwischengespeichert. Ein Budget kann daher knapp überschritten werden. Die Reihenfolge der Prüfungen steht unter Fehler, Limits, Retries.

Schritt für Schritt​

Die Console ist auf Englisch; die Bezeichnungen unten sind die aus der Oberfläche.

Budget gleich beim Anlegen des Keys setzen​

Der Dialog Create API key (unter API Keys) enthält dieselben Budget-Felder wie Edit key: MONTHLY BUDGET, ALERT THRESHOLD und Hard stop at cap. Vorgeschlagen sind 50 € Monatsbudget, ohne Warnschwelle und ohne harten Stopp. Mit Generate key wird der Key samt Budget angelegt.

Key-Budget erhöhen oder harten Stopp abschalten​

  1. Öffne in der Console API Keys.
  2. Klicke in der Zeile des Keys auf Edit key.
  3. Setze unter MONTHLY BUDGET einen höheren Betrag, oder schalte Hard stop at cap aus.
  4. Klicke auf Save changes.

Budget für ein Mitglied setzen (Team-Owner)​

  1. Öffne Members.
  2. Klicke in der Zeile des Mitglieds auf Set cap.
  3. Setze im Dialog Set member budget den Betrag, die Warnschwelle und bei Bedarf Hard stop at cap.
  4. Klicke auf Save budget.

Budget der Firma setzen (Team-Owner)​

Das Firmen-Budget ist das Konto-Budget des Owners. Es gilt für alle, deren Verbrauch dein Konto bezahlt.

  1. Öffne Budget & Limits (oder unter Members bei Monthly cap auf Edit).
  2. Setze unter Account budget den Betrag (MONTHLY CAP), die ALERT THRESHOLD und bei Bedarf Hard stop at cap.

Ein Limit ausprobieren​

  1. Lege einen Test-Key mit kleinem MONTHLY BUDGET (z. B. 1 €) und Hard stop at cap an.
  2. Schicke Requests mit diesem Key, bis das Budget verbraucht ist.
  3. Erwarte 429 quota_exceeded mit Retry-After: 60, siehe Beispiel.

Weil die Prüfung bis zu 60 Sekunden zwischengespeichert wird, können noch einige Requests durchgehen, nachdem das Budget erreicht ist. Der Verbrauch kann das Budget also knapp übersteigen.

Zeitzonen​

WasMonatsgrenze
Key-BudgetKalendermonat in UTC (setzt am 1. um 00:00 UTC zurück)
GET /v1/usageKalendermonat in Europe/Berlin

Rund um den Monatswechsel können sich Key-Budget und /v1/usage deshalb um bis zu zwei Stunden Verbrauch unterscheiden.

Rate Limits​

Feste RPM/TPM-Limits sind derzeit nicht dokumentiert. Für Lastplanung: support@openhippo.io.

Modellfreigaben im Team​

Der Team-Owner legt unter Model access fest, welche Modelle genutzt werden dürfen:

  • eine Freigabeliste für die Firma und eine pro Mitglied,
  • ein Mitglied darf nur Modelle nutzen, die in beiden Listen stehen,
  • die eigenen Keys des Owners sind nicht eingeschränkt.

Ein nicht freigegebenes Modell gibt 403 permission_denied.

Verbrauch im Blick​

  • In der Console unter Analytics: 7, 30 oder 90 Tage.
  • Per API: GET /v1/usage für den aufrufenden Key.