razorBridge AI Gateway

Use razorBridge with LlamaIndex

Connect LlamaIndex to razorBridge AI Gateway with a custom base URL. Follow the setup, send a Chat Completions request and check usage.

API-Schlüssel erhalten

Erstellen Sie ein Konto, laden Sie Guthaben auf und erstellen Sie anschließend Ihren Schlüssel.

Senden Sie Ihre erste Anfrage

Speichern Sie Ihren Schlüssel auf Ihrem Server in RAZORBRIDGE_KEY. Diese Beispiele senden eine kurze, kostenpflichtige Anfrage. Halten Sie Zugangsdaten aus Browsercode und Versionsverwaltung fern.

Use OpenAILike for model IDs outside OpenAI's model list. Before adding retrieval, configure embeddings separately and verify the model's context window; this example only sends a short chat request.

Basis-URL

https://razorbridge.eu/api/v1/compute/gate

Python

# python -m pip install llama-index-llms-openai-like
import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="razorbridge-eu/deepseek-v4-flash-0731",
    api_base="https://razorbridge.eu/api/v1/compute/gate",
    api_key=os.environ["RAZORBRIDGE_KEY"],
    is_chat_model=True,
    is_function_calling_model=False,
    max_tokens=128,
    max_retries=0,
)
print(llm.complete("Hello!"))

Horizontal scrollen, um das vollständige Beispiel zu sehen.

Integration reference

Ergebnis prüfen

Eine erfolgreiche Antwort enthält Auswahlmöglichkeiten und Nutzungsdaten. Prüfen Sie bei 401 den Schlüssel. Prüfen Sie bei einem nicht verfügbaren Modell oder einer Richtlinienablehnung die aktuelle Modellliste und die Schlüsselberechtigungen. Laden Sie bei unzureichendem Guthaben vor einem erneuten Versuch Guthaben auf. Deaktivieren Sie automatische Wiederholungen während der Fehlerdiagnose.

Tech-Stack verbinden

OpenAI SDK LangChain LlamaIndex LiteLLM n8n

Bevor Sie beginnen

Bleibt jedes Modell in der EU?

Nein. Prüfen Sie die Standortkennzeichnung des ausgewählten Modells. Modelle ohne die Kennzeichnung „Nur EU“ können außerhalb der EU verarbeitet werden.

Wie sende ich meine erste Anfrage?

Erstellen Sie ein Konto, laden Sie Guthaben auf und erstellen Sie einen API-Schlüssel. Legen Sie die Basis-URL fest, wählen Sie ein aktuell gelistetes Modell und senden Sie eine Chat-Completions-Anfrage.

Bedeutet „Nur EU“ auch keine Datenspeicherung?

Nein. Verarbeitungsort und Speicherung sind getrennte Fragen. Prüfen Sie für Ihren vorgesehenen Einsatz den Auftragsverarbeitungsvertrag, die Unterauftragsverarbeiter und die Speicherbedingungen.

Produkte

Für wen

Unternehmen