Antwoordformaat
Gebruikers kunnen kiezen tussen twee modi:- Aangepaste JSON-outputstructuur: Definieer een JSON Schema om het model te begeleiden bij het genereren van output die een vooraf gedefinieerd formaat volgt, ideaal voor gestructureerde taken of scenario’s voor API-integratie.
- Vrije generatie: Laat het model antwoorden vrij organiseren op basis van de context, geschikt voor open Q&A en toepassingen voor creatief schrijven.
System Prompt
Door een system prompt in te stellen, kunnen gebruikers de “persona” en gedragscontext van het model definiëren. Als u bijvoorbeeld de prompt instelt op “You are a professional travel planner,” zal het model vanuit dat perspectief antwoorden, wat de consistentie en contextuele samenhang verbetert.Parameterconfiguratie
De playground ondersteunt het aanpassen van de volgende kernparameters:- max_tokens: Stelt het maximale aantal tokens in dat het model kan genereren. Lagere waarden verbeteren de antwoordsnelheid, terwijl hogere waarden geschikt zijn voor complexe, lange outputs.
- temperature: Beheert de creativiteit en willekeurigheid van de output. Hogere waarden leiden tot meer diverse en fantasierijke antwoorden, terwijl lagere waarden conservatievere en deterministischere outputs opleveren, ideaal voor nauwkeurige taken.
- top_p (nucleus sampling): Past het bereik voor token-sampling per stap dynamisch aan om diversiteit en vloeiendheid te verbeteren. Aanbevolen voor gebruik in combinatie met temperature.
- top_k: Beperkt het model tot het selecteren uit de top K tokens met de hoogste waarschijnlijkheid bij elke stap, wat de efficiëntie verhoogt en ruis vermindert.
- min_p: Een alternatief voor top_p en top_k, gebruikt om tokens te filteren waarvan de waarschijnlijkheid onder een bepaalde drempel ligt, geschikt voor taken waarbij nauwkeurigheid cruciaal is.
- presence_penalty: Moedigt het model aan om nieuwe onderwerpen in de output te introduceren. Positieve waarden vergroten de kans op uitbreiding naar nieuwe inhoud.
- frequency_penalty: Onderdrukt het genereren van herhaalde tokens. Positieve waarden verminderen herhaling en helpen originaliteit te behouden.
- repetition_penalty: Vermindert verder het risico op loops of repetitieve prompts, waardoor de robuustheid van de output wordt verbeterd.
Aanbevelingen voor gebruik
- Voor creatief schrijven: Verhoog temperature, top_p en presence_penalty om diverse en fantasierijke outputs te stimuleren.
- Voor gestructureerde taken en toolaanroepen: Gebruik een vast JSON schema met lagere temperature en top_k om consistente en betrouwbare outputs te garanderen.
- Voor het testen van interacties: Vergelijk verschillende parametercombinaties om veranderingen in generatiestijl, informatiedichtheid en contextueel begrip te observeren, wat helpt bij snellere promptiteratie.
Om het gedrag van de playground in API-aanroepen te repliceren, raadpleegt u de bijbehorende parameterdocumentatie in de platformgids.