L31 70B Euryale V2.2
sao10k/l31-70b-euryale-v2.2
Euryale L3.1 70B v2.2 is a model focused on creative roleplay from Sao10k. It is the successor of Euryale L3 70B v2.1.
Funktionen
Serverless API
Dokumentation
sao10k/l31-70b-euryale-v2.2 is available via Novita's serverless API, where you pay per token. There are several ways to call the API, including OpenAI-compatible endpoints with exceptional reasoning performance.
On-Demand-Bereitstellungen
Dokumentation
On-demand deployments allow you to use sao10k/l31-70b-euryale-v2.2 on dedicated GPUs with high-performance serving stack with high reliability and no rate limits.
Verfügbare Serverless
Abfragen sofort ausführen, nur für die Nutzung bezahlen
Eingabe$1.48 / M Tokens
Ausgabe$1.48 / M Tokens
Verwenden Sie die folgenden Codebeispiele, um unsere API zu integrieren:
1from openai import OpenAI
2
3client = OpenAI(
4 api_key="<Your API Key>",
5 base_url="https://api.novita.ai/openai"
6)
7
8response = client.chat.completions.create(
9 model="sao10k/l31-70b-euryale-v2.2",
10 messages=[
11 {"role": "system", "content": "You are a helpful assistant."},
12 {"role": "user", "content": "Hello, how are you?"}
13 ],
14 max_tokens=8192,
15 temperature=0.7
16)
17
18print(response.choices[0].message.content)Info
Anbieter
Sao10K
Quantisierung
fp8
Unterstützte Funktionalität
Kontextlänge
8192
Maximale Ausgabe
8192
Serverless
Unterstützt
Function Calling
Unterstützt
Structured Output
Unterstützt
Reasoning
Unterstützt
Eingabefähigkeiten
text
Ausgabefähigkeiten
text