razorBridge AI Gateway

Gebruik razorBridge met LiteLLM

Koppel LiteLLM aan razorBridge AI Gateway met een eigen basis-URL. Volg de configuratie, verstuur een Chat Completions-verzoek en controleer het verbruik.

Vraag een API-sleutel aan

Maak een account aan, voeg vooraf betaald tegoed toe en maak uw API-sleutel.

Verstuur uw eerste verzoek

Bewaar uw sleutel in RAZORBRIDGE_KEY op uw server. Deze voorbeelden versturen een kort verzoek waarvoor kosten gelden. Houd inloggegevens buiten browsercode en versiebeheer.

Het extra voorvoegsel openai/ selecteert de compatibele provider van LiteLLM. LiteLLM verwijdert dit voorvoegsel voordat het model-ID naar razorBridge wordt verstuurd.

Basis-URL

https://razorbridge.eu/api/v1/compute/gate

Python

# python -m pip install litellm
import os
from litellm import completion

response = completion(
    model="openai/razorbridge-eu/deepseek-v4-flash-0731",
    api_base="https://razorbridge.eu/api/v1/compute/gate",
    api_key=os.environ["RAZORBRIDGE_KEY"],
    messages=[{"role": "user", "content": "Hello!"}],
    max_tokens=128,
    num_retries=0,
)
print(response.choices[0].message.content)

Scroll horizontaal om het volledige voorbeeld te zien.

Integratiedocumentatie

Controleer het resultaat

Een geslaagd antwoord bevat choices en usage. Controleer bij 401 de sleutel. Controleer bij een niet-beschikbaar model of beleidsweigering de actuele modellijst en sleutelrechten. Voeg bij onvoldoende tegoed eerst tegoed toe. Schakel automatische herhaalpogingen uit tijdens het onderzoeken van fouten.

Koppel uw tools

OpenAI SDK LangChain LlamaIndex LiteLLM n8n

Voordat u begint

Blijven alle modellen binnen de EU?

Nee. Controleer het locatielabel van het gekozen model. Modellen zonder het label uitsluitend in de EU kunnen buiten de EU worden verwerkt.

Hoe verstuur ik mijn eerste verzoek?

Maak een account aan, voeg vooraf betaald tegoed toe en maak een API-sleutel. Stel de basis-URL in, kies een model uit de actuele lijst en verstuur een Chat Completions-verzoek.

Betekent uitsluitend in de EU ook zero data retention?

Nee. Verwerkingslocatie en bewaartermijnen zijn afzonderlijke vragen. Bekijk de DPA, subverwerkers en bewaartermijnen voor uw beoogde gebruik.

Producten

Voor wie

Kantoor