razorBridge AI Gateway

Gebruik razorBridge met LlamaIndex

Koppel LlamaIndex aan razorBridge AI Gateway met een eigen basis-URL. Volg de configuratie, verstuur een Chat Completions-verzoek en controleer het verbruik.

Vraag een API-sleutel aan

Maak een account aan, voeg vooraf betaald tegoed toe en maak uw API-sleutel.

Verstuur uw eerste verzoek

Bewaar uw sleutel in RAZORBRIDGE_KEY op uw server. Deze voorbeelden versturen een kort verzoek waarvoor kosten gelden. Houd inloggegevens buiten browsercode en versiebeheer.

Gebruik OpenAILike voor model-ID’s buiten de modellijst van OpenAI. Configureer embeddings afzonderlijk en controleer het contextvenster voordat u retrieval toevoegt; dit voorbeeld verstuurt alleen een kort chatverzoek.

Basis-URL

https://razorbridge.eu/api/v1/compute/gate

Python

# python -m pip install llama-index-llms-openai-like
import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="razorbridge-eu/deepseek-v4-flash-0731",
    api_base="https://razorbridge.eu/api/v1/compute/gate",
    api_key=os.environ["RAZORBRIDGE_KEY"],
    is_chat_model=True,
    is_function_calling_model=False,
    max_tokens=128,
    max_retries=0,
)
print(llm.complete("Hello!"))

Scroll horizontaal om het volledige voorbeeld te zien.

Integratiedocumentatie

Controleer het resultaat

Een geslaagd antwoord bevat choices en usage. Controleer bij 401 de sleutel. Controleer bij een niet-beschikbaar model of beleidsweigering de actuele modellijst en sleutelrechten. Voeg bij onvoldoende tegoed eerst tegoed toe. Schakel automatische herhaalpogingen uit tijdens het onderzoeken van fouten.

Koppel uw tools

OpenAI SDK LangChain LlamaIndex LiteLLM n8n

Voordat u begint

Blijven alle modellen binnen de EU?

Nee. Controleer het locatielabel van het gekozen model. Modellen zonder het label uitsluitend in de EU kunnen buiten de EU worden verwerkt.

Hoe verstuur ik mijn eerste verzoek?

Maak een account aan, voeg vooraf betaald tegoed toe en maak een API-sleutel. Stel de basis-URL in, kies een model uit de actuele lijst en verstuur een Chat Completions-verzoek.

Betekent uitsluitend in de EU ook zero data retention?

Nee. Verwerkingslocatie en bewaartermijnen zijn afzonderlijke vragen. Bekijk de DPA, subverwerkers en bewaartermijnen voor uw beoogde gebruik.

Producten

Voor wie

Kantoor