L3 8B Stheno V3.2
Sao10K/L3-8B-Stheno-v3.2
Sao10K/L3-8B-Stheno-v3.2 is a highly skilled actor that excels at fully immersing itself in any role assigned.
機能
サーバーレス API
ドキュメント
Sao10K/L3-8B-Stheno-v3.2 is available via Novita's serverless API, where you pay per token. There are several ways to call the API, including OpenAI-compatible endpoints with exceptional reasoning performance.
オンデマンドデプロイメント
ドキュメント
On-demand deployments allow you to use Sao10K/L3-8B-Stheno-v3.2 on dedicated GPUs with high-performance serving stack with high reliability and no rate limits.
利用可能なサーバーレス
クエリをすぐに実行し、使用した分だけお支払い
入力$0.05 / M Tokens
出力$0.05 / M Tokens
以下のコード例を使用して、当社の API と統合してください:
1from openai import OpenAI
2
3client = OpenAI(
4 api_key="<Your API Key>",
5 base_url="https://api.novita.ai/openai"
6)
7
8response = client.chat.completions.create(
9 model="Sao10K/L3-8B-Stheno-v3.2",
10 messages=[
11 {"role": "system", "content": "You are a helpful assistant."},
12 {"role": "user", "content": "Hello, how are you?"}
13 ],
14 max_tokens=32000,
15 temperature=0.7
16)
17
18print(response.choices[0].message.content)情報
プロバイダー
Sao10K
量子化
bf16
サポートされている機能
コンテキスト長
8192
最大出力
32000
Serverless
サポートされています
Function Calling
サポートされています
入力機能
text
出力機能
text