Folosiți razorBridge cu LlamaIndex

Trimiteți prima cerere

Păstrați cheia în RAZORBRIDGE_KEY pe server. Aceste exemple trimit o cerere scurtă, contra cost. Nu includeți datele de acces în codul din browser sau în sistemul de versionare.

Folosiți OpenAILike pentru ID-uri din afara listei OpenAI. Înainte de a adăuga căutarea în documente, configurați separat embeddings și verificați fereastra de context; exemplul trimite doar o cerere scurtă de chat.

URL de bază

# python -m pip install llama-index-llms-openai-like
import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="razorbridge-eu/deepseek-v4-flash-0731",
    api_base="https://razorbridge.eu/api/v1/compute/gate",
    api_key=os.environ["RAZORBRIDGE_KEY"],
    is_chat_model=True,
    is_function_calling_model=False,
    max_tokens=128,
    max_retries=0,
)
print(llm.complete("Hello!"))

Documentația integrării

Conectați instrumentele folosite

Înainte de a începe