Aller au contenu

razorBridge AI Gateway

Use razorBridge with LiteLLM

Connect LiteLLM to razorBridge AI Gateway with a custom base URL. Follow the setup, send a Chat Completions request and check usage.

Obtenir une clé API

Créez un compte, ajoutez du crédit prépayé, puis créez votre clé.

Envoyez votre première requête

Stockez votre clé dans RAZORBRIDGE_KEY sur votre serveur. Ces exemples envoient une courte requête facturable. Ne placez pas vos identifiants dans le code du navigateur ni dans le dépôt de code source.

The extra openai/ prefix selects LiteLLM's compatible provider. LiteLLM removes that prefix before sending the model ID to razorBridge.

URL de base

https://razorbridge.eu/api/v1/compute/gate

Python

# python -m pip install litellm
import os
from litellm import completion

response = completion(
    model="openai/razorbridge-eu/deepseek-v4-flash-0731",
    api_base="https://razorbridge.eu/api/v1/compute/gate",
    api_key=os.environ["RAZORBRIDGE_KEY"],
    messages=[{"role": "user", "content": "Hello!"}],
    max_tokens=128,
    num_retries=0,
)
print(response.choices[0].message.content)

Faites défiler horizontalement pour voir l’exemple complet.

Integration reference

Vérifiez le résultat

Une réponse réussie contient les choix et l’utilisation. En cas d’erreur 401, vérifiez la clé. Si un modèle est indisponible ou refusé par une règle, vérifiez la liste actuelle des modèles et les autorisations de la clé. Si le crédit est insuffisant, ajoutez-en avant de réessayer. Désactivez les nouvelles tentatives automatiques pendant le diagnostic.

Connectez vos outils

Avant de commencer

Tous les modèles restent-ils dans l’UE ?

Non. Vérifiez l’étiquette de résidence du modèle sélectionné. Les modèles sans l’étiquette « UE uniquement » peuvent être traités en dehors de l’UE.

Comment envoyer ma première requête ?

Créez un compte, ajoutez du crédit prépayé et créez une clé API. Définissez l’URL de base, choisissez un modèle actuellement répertorié et envoyez une requête Chat Completions.

« UE uniquement » signifie-t-il qu’aucune donnée n’est conservée ?

Non. Le lieu de traitement et la conservation sont deux questions distinctes. Consultez le DPA, les sous-traitants ultérieurs et les conditions de conservation pour votre usage prévu.