razorBridge AI Gateway
Folosiți razorBridge cu LiteLLM
Conectați LiteLLM la razorBridge AI Gateway cu un URL de bază personalizat. Configurați integrarea, trimiteți o cerere Chat Completions și verificați consumul.
Obțineți o cheie APICreați un cont, încărcați soldul, apoi creați cheia API.
Trimiteți prima cerere
Păstrați cheia în RAZORBRIDGE_KEY pe server. Aceste exemple trimit o cerere scurtă, contra cost. Nu includeți datele de acces în codul din browser sau în sistemul de versionare.
Prefixul suplimentar openai/ selectează furnizorul compatibil din LiteLLM. LiteLLM elimină prefixul înainte de a trimite ID-ul modelului către razorBridge.
URL de bază
https://razorbridge.eu/api/v1/compute/gate
Python
# python -m pip install litellm
import os
from litellm import completion
response = completion(
model="openai/razorbridge-eu/deepseek-v4-flash-0731",
api_base="https://razorbridge.eu/api/v1/compute/gate",
api_key=os.environ["RAZORBRIDGE_KEY"],
messages=[{"role": "user", "content": "Hello!"}],
max_tokens=128,
num_retries=0,
)
print(response.choices[0].message.content)Derulați orizontal pentru a vedea exemplul complet.
Verificați rezultatul
Un răspuns reușit conține choices și usage. Pentru 401, verificați cheia. Dacă modelul nu este disponibil sau cererea este refuzată din cauza politicii de acces, verificați lista de modele și permisiunile cheii. Dacă soldul este insuficient, încărcați-l înainte de a reîncerca. Dezactivați reîncercările automate în timpul diagnosticării.
Conectați instrumentele folosite
Înainte de a începe
Toate modelele păstrează datele în UE?
Nu. Verificați eticheta de rezidență a modelului ales. Modelele fără eticheta „doar în UE” pot procesa date în afara UE.
Cum trimit prima cerere?
Creați un cont, încărcați soldul și creați o cheie API. Setați URL-ul de bază, alegeți un model din lista actuală și trimiteți o cerere Chat Completions.
„Doar în UE” înseamnă că datele nu sunt păstrate?
Nu. Locul procesării și păstrarea datelor sunt aspecte distincte. Verificați DPA, subprocesatorii și condițiile de păstrare pentru utilizarea dorită.