Sao10k L3 8B Lunaris
sao10k/l3-8b-lunaris
A generalist / roleplaying model merge based on Llama 3.
Funktionen
Serverless API
Dokumentation
sao10k/l3-8b-lunaris is available via Novita's serverless API, where you pay per token. There are several ways to call the API, including OpenAI-compatible endpoints with exceptional reasoning performance.
On-Demand-Bereitstellungen
Dokumentation
On-demand deployments allow you to use sao10k/l3-8b-lunaris on dedicated GPUs with high-performance serving stack with high reliability and no rate limits.
Verfügbare Serverless
Abfragen sofort ausführen, nur für die Nutzung bezahlen
Eingabe$0.05 / M Tokens
Ausgabe$0.05 / M Tokens
Verwenden Sie die folgenden Codebeispiele, um unsere API zu integrieren:
1from openai import OpenAI
2
3client = OpenAI(
4 api_key="<Your API Key>",
5 base_url="https://api.novita.ai/openai"
6)
7
8response = client.chat.completions.create(
9 model="sao10k/l3-8b-lunaris",
10 messages=[
11 {"role": "system", "content": "You are a helpful assistant."},
12 {"role": "user", "content": "Hello, how are you?"}
13 ],
14 max_tokens=8192,
15 temperature=0.7
16)
17
18print(response.choices[0].message.content)Info
Anbieter
Sao10K
Quantisierung
bf16
Unterstützte Funktionalität
Kontextlänge
8192
Maximale Ausgabe
8192
Serverless
Unterstützt
Structured Output
Unterstützt
Eingabefähigkeiten
text
Ausgabefähigkeiten
text
Alles, was Sie brauchen, um produktionsreife AI zu entwickeln.
Über 200 Modelle, GPUs auf Abruf und sichere Agent-Runtimes — vereint unter einer API. Kostenlos zum Einstieg, skaliert mit Ihrem Wachstum.