Zum Hauptinhalt springen

Open WebUI und weitere Clients

Jeder Client, der eine OpenAI-kompatible Base URL und einen API-Key annimmt, funktioniert mit diesen Werten:

EinstellungWert
Base URLhttps://api.openhippo.io/v1
API-Keydein Key (hk_live_...), gesendet als Authorization: Bearer
Modelleine ID oder ein Alias aus der Modellliste

Open WebUI​

In Open WebUI unter Admin-Einstellungen → Verbindungen eine OpenAI-API-Verbindung anlegen:

  • URL: https://api.openhippo.io/v1
  • Key: dein API-Key

Open WebUI lädt die Modellliste über GET /v1/models. Für Teams, die keinen eigenen Chat betreiben wollen, gibt es Hippo Chat.

OpenAI-SDKs​

Die offiziellen OpenAI-SDKs funktionieren unverändert mit base_url/baseURL und Key, siehe Quickstart. Alternativ über Umgebungsvariablen, die die SDKs automatisch lesen:

export OPENAI_BASE_URL="https://api.openhippo.io/v1"
export OPENAI_API_KEY="$OPENHIPPO_API_KEY"

LangChain​

pip install langchain-openai
import os
from langchain_openai import ChatOpenAI, OpenAIEmbeddings

llm = ChatOpenAI(
    base_url="https://api.openhippo.io/v1",
    api_key=os.environ["OPENHIPPO_API_KEY"],
    model="openhippo/gpt-oss-120b",
)
print(llm.invoke("Name three sights in Augsburg.").content)

embeddings = OpenAIEmbeddings(
    base_url="https://api.openhippo.io/v1",
    api_key=os.environ["OPENHIPPO_API_KEY"],
    model="openhippo/Qwen3-Embedding-0.6B",
    check_embedding_ctx_length=False,
)
print(len(embeddings.embed_query("Augsburg")))

check_embedding_ctx_length=False sorgt dafür, dass LangChain Text statt OpenAI-spezifischer Token-IDs schickt.