razorBridge AI Gateway

Use razorBridge with LlamaIndex

Connect LlamaIndex to razorBridge AI Gateway with a custom base URL. Follow the setup, send a Chat Completions request and check usage.

Obtenir une clé API

Créez un compte, ajoutez du crédit prépayé, puis créez votre clé.

Envoyez votre première requête

Stockez votre clé dans RAZORBRIDGE_KEY sur votre serveur. Ces exemples envoient une courte requête facturable. Ne placez pas vos identifiants dans le code du navigateur ni dans le dépôt de code source.

Use OpenAILike for model IDs outside OpenAI's model list. Before adding retrieval, configure embeddings separately and verify the model's context window; this example only sends a short chat request.

URL de base

https://razorbridge.eu/api/v1/compute/gate

Python

# python -m pip install llama-index-llms-openai-like
import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="razorbridge-eu/deepseek-v4-flash-0731",
    api_base="https://razorbridge.eu/api/v1/compute/gate",
    api_key=os.environ["RAZORBRIDGE_KEY"],
    is_chat_model=True,
    is_function_calling_model=False,
    max_tokens=128,
    max_retries=0,
)
print(llm.complete("Hello!"))

Faites défiler horizontalement pour voir l’exemple complet.

Integration reference

Vérifiez le résultat

Une réponse réussie contient les choix et l’utilisation. En cas d’erreur 401, vérifiez la clé. Si un modèle est indisponible ou refusé par une règle, vérifiez la liste actuelle des modèles et les autorisations de la clé. Si le crédit est insuffisant, ajoutez-en avant de réessayer. Désactivez les nouvelles tentatives automatiques pendant le diagnostic.

Connectez vos outils

OpenAI SDK LangChain LlamaIndex LiteLLM n8n

Avant de commencer

Tous les modèles restent-ils dans l’UE ?

Non. Vérifiez l’étiquette de résidence du modèle sélectionné. Les modèles sans l’étiquette « UE uniquement » peuvent être traités en dehors de l’UE.

Comment envoyer ma première requête ?

Créez un compte, ajoutez du crédit prépayé et créez une clé API. Définissez l’URL de base, choisissez un modèle actuellement répertorié et envoyez une requête Chat Completions.

« UE uniquement » signifie-t-il qu’aucune donnée n’est conservée ?

Non. Le lieu de traitement et la conservation sont deux questions distinctes. Consultez le DPA, les sous-traitants ultérieurs et les conditions de conservation pour votre usage prévu.

Produits

Pour qui

Entreprise