Redeneermodellen

​

Overzicht

​

Typische gebruiksscenario’s

• Complexe probleemoplossing: Geschikt voor taken die stapsgewijze logica vereisen, zoals wiskundig of wetenschappelijk redeneren.
• Beslissingsondersteunende systemen: Helpt de logica achter conclusies uit te leggen door gedetailleerde redeneerprocessen te bieden.
• Onderwijs en training: Helpt lerenden complexe concepten te begrijpen door afleidingsprocessen duidelijk te presenteren.

​

Installatie en configuratie

pip install -U openai

​

API-gebruik

​

Requestparameters

• max_tokens: Stelt het maximale aantal tokens in dat het model kan retourneren.
• temperature: Aanbevolen tussen 0,5 en 0,7 (suggestie: 0,6) om creativiteit en logica in balans te brengen.
• top_p: Aanbevolen waarde is 0,95.

​

Voorbeeldcode

​

Streaming-respons

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.novita.ai/openai")
messages = [
    {"role": "user", "content": "Explain Newton's Second Law."}
]

response = client.chat.completions.create(
    model="deepseek/deepseek-r1",
    messages=messages,
    stream=True,
    max_tokens=4096
)

content = ""
reasoning_content = ""
for chunk in response:
    if chunk.choices[0].delta.content:
        content += chunk.choices[0].delta.content
    if chunk.choices[0].delta.reasoning_content:
        reasoning_content += chunk.choices[0].delta.reasoning_content

print("Final Answer:", content)
print("Reasoning Steps:", reasoning_content)

​

Niet-streaming respons

response = client.chat.completions.create(
    model="deepseek/deepseek-r1",
    messages=[
        {"role": "user", "content": "What is the greenhouse effect? How can it be mitigated?"}
    ],
    stream=False,
    max_tokens=4096
)

content = response.choices[0].message.content
reasoning_content = response.choices[0].message.reasoning_content

print("Final Answer:", content)
print("Reasoning Steps:", reasoning_content)

​

Contextbeheer

messages.append({"role": "assistant", "content": content})
messages.append({"role": "user", "content": "Please continue explaining the solution."})

​

Ondersteunde modellen

​

Facturering

• Facturering is gebaseerd op het aantal tokens voor zowel invoer als uitvoer.
• Raadpleeg de prijspagina van elk model voor specifieke factureringsregels en details over tokenconversie.

​

Opmerkingen en best practices

• Vermijd het plaatsen van redeneerinstructies in het system-bericht. Maak in plaats daarvan de bedoeling expliciet in het user-bericht.
• Geef het model bij wiskundige taken duidelijke instructies, bijvoorbeeld: “Redeneer stap voor stap en geef een definitief antwoord.”
• Om te voorkomen dat het model redeneerstappen overslaat, kun je overwegen om vóór het definitieve antwoord om een nieuwe regel te vragen.