応答形式
ユーザーは次の 2 つのモードから選択できます。- カスタム JSON 出力構造: JSON Schema を定義して、事前定義された形式に従う出力をモデルが生成するように誘導します。構造化タスクや API 統合シナリオに最適です。
- 自由形式の生成: モデルがコンテキストに基づいて自由に回答を構成できるようにします。オープンエンドな Q&A やクリエイティブライティング用途に適しています。
システムプロンプト
システムプロンプトを設定することで、ユーザーはモデルの「ペルソナ」と行動コンテキストを定義できます。たとえば、プロンプトを「You are a professional travel planner」と設定すると、モデルはその視点から応答し、一貫性と文脈上の整合性が向上します。パラメータ設定
playground では、以下の主要パラメータの調整をサポートしています。- max_tokens: モデルが生成できるトークンの最大数を設定します。値を低くすると応答速度が向上し、値を高くすると複雑で長い出力に適します。
- temperature: 出力の創造性とランダム性を制御します。値を高くすると、より多様で想像力豊かな応答になり、値を低くすると、より保守的で決定論的な出力になり、精密なタスクに適しています。
- top_p (nucleus sampling): 各ステップでトークンサンプリング範囲を動的に調整し、多様性と流暢さを向上させます。temperature と併用することを推奨します。
- top_k: 各ステップで、モデルが確率の高い上位 K 個のトークンから選択するように制限します。これにより効率が向上し、ノイズが低減されます。
- min_p: top_p と top_k の代替手段で、一定のしきい値を下回る確率のトークンを除外するために使用します。精度が重要なタスクに適しています。
- presence_penalty: モデルが出力内で新しいトピックを導入するよう促します。正の値を指定すると、新しい内容へ展開する可能性が高まります。
- frequency_penalty: 繰り返しトークンの生成を抑制します。正の値を指定すると反復が減り、独自性の維持に役立ちます。
- repetition_penalty: ループや反復的なプロンプトのリスクをさらに低減し、出力の堅牢性を高めます。
使用に関する推奨事項
- クリエイティブライティングの場合: temperature、top_p、presence_penalty を高くして、多様で想像力豊かな出力を促します。
- 構造化タスクとツール呼び出しの場合: 固定の JSON schema を使用し、temperature と top_k を低めに設定して、一貫性があり信頼性の高い出力を確保します。
- 対話のテストの場合: さまざまなパラメータの組み合わせを比較し、生成スタイル、情報密度、文脈理解の変化を観察することで、プロンプトの反復改善を迅速化できます。
playground での挙動を API 呼び出しで再現するには、プラットフォームガイド内の対応するパラメータドキュメントを参照してください。