Formato da Resposta
Os usuários podem escolher entre dois modos:- Estrutura de Saída JSON Personalizada: Defina um JSON Schema para orientar o modelo na geração de uma saída que siga um formato predefinido, ideal para tarefas estruturadas ou cenários de integração com API.
- Geração em Formato Livre: Permita que o modelo organize livremente as respostas com base no contexto, adequado para perguntas e respostas abertas e aplicações de escrita criativa.
Prompt do Sistema
Ao definir um prompt do sistema, os usuários podem especificar a “persona” do modelo e o contexto comportamental. Por exemplo, se você definir o prompt como “You are a professional travel planner,” o modelo responderá a partir dessa perspectiva, aumentando a consistência e a coerência contextual.Configuração de Parâmetros
O playground oferece suporte ao ajuste dos seguintes parâmetros principais:- max_tokens: Define o número máximo de tokens que o modelo pode gerar. Valores menores melhoram a velocidade de resposta, enquanto valores maiores são adequados para saídas complexas e longas.
- temperature: Controla a criatividade e a aleatoriedade da saída. Valores mais altos levam a respostas mais diversas e imaginativas, enquanto valores mais baixos geram saídas mais conservadoras e determinísticas, ideais para tarefas precisas.
- top_p (nucleus sampling): Ajusta dinamicamente o intervalo de amostragem de tokens a cada etapa para melhorar a diversidade e a fluência. Recomenda-se usar em conjunto com temperature.
- top_k: Limita o modelo a selecionar entre os K tokens de maior probabilidade em cada etapa, o que aumenta a eficiência e reduz ruídos.
- min_p: Uma alternativa a top_p e top_k, usada para filtrar tokens com probabilidades abaixo de um determinado limite, adequada para tarefas críticas em termos de precisão.
- presence_penalty: Incentiva o modelo a introduzir novos tópicos em sua saída. Valores positivos aumentam a probabilidade de expansão para novos conteúdos.
- frequency_penalty: Suprime a geração de tokens repetidos. Valores positivos reduzem a repetição e ajudam a manter a originalidade.
- repetition_penalty: Reduz ainda mais o risco de loops ou prompts repetitivos, aumentando a robustez da saída.
Recomendações de Uso
- Para Escrita Criativa: Aumente temperature, top_p e presence_penalty para incentivar saídas diversas e imaginativas.
- Para Tarefas Estruturadas e Invocação de Ferramentas: Use um esquema JSON fixo com temperature e top_k mais baixos para garantir saídas consistentes e confiáveis.
- Para Testar Interações: Compare diferentes combinações de parâmetros para observar mudanças no estilo de geração, na densidade de informações e na compreensão contextual, auxiliando em uma iteração de prompts mais rápida.
Para replicar o comportamento do playground em chamadas de API, consulte a documentação dos parâmetros correspondentes no guia da plataforma.