> ## Documentation Index
> Fetch the complete documentation index at: https://novita.ai/docs/llms.txt
> Use this file to discover all available pages before exploring further.

# Grote taalmodellen

## Modelmogelijkheden

Grote taalmodellen (LLM's) zijn typen AI-modellen die zijn gebouwd met deep learning- en natural language processing-technieken. Nadat ze zijn getraind op enorme hoeveelheden tekstdata, kunnen ze menselijke taal begrijpen, genereren en verwerken. LLM's hebben de volgende hoofdfunctionaliteiten:

* **Tekstgeneratie**

  LLM's kunnen op basis van context logisch samenhangende content genereren en de uitvoerstijl naar behoefte aanpassen.
* **Taalbegrip**

  LLM's kunnen de betekenis van invoertekst nauwkeurig begrijpen en contextbewuste gesprekken ondersteunen.
* **Tekstvertaling**

  LLM's zijn in staat tot meertalig begrip en meertalige generatie, waardoor vertaling tussen verschillende talen mogelijk is.
* **Kennisgebaseerde Q\&A**

  Met een uitgebreide kennisbasis kunnen LLM's vragen beantwoorden binnen domeinen zoals cultuur, wetenschap en geschiedenis.
* **Codebegrip en -generatie**

  LLM's kunnen code begrijpen en genereren (Python, Java, C++ enzovoort), codefouten detecteren en suggesties geven.
* **Tekstclassificatie en -samenvatting**

  LLM's kunnen complexe zinnen begrijpen, informatie categoriseren en extraheren, en kernpunten samenvatten.

## Modelselectie

Op de [LLM-servicepagina](https://novita.ai/models) kun je de lijst met ondersteunde modellen bekijken en meer lezen over de basisinformatie en prijzen van modellen. Klik op een specifiek model om de detailpagina te openen voor een online demo. Nadat je verschillende modellen met je taak hebt geprobeerd, kun je ze vergelijken en de meest geschikte kiezen.

## API-integratie

Novita AI biedt snelle, betrouwbare API's voor open-source modellen, waarbij het gebruiksgemak en de betrouwbaarheid van toonaangevende LLM API's worden gecombineerd met de flexibiliteit en kostenefficiëntie van open-source LLM's.

* [ChatCompletion](https://platform.openai.com/docs/guides/text-generation/chat-completions-api): Ondersteunt zowel streaming- als niet-streamingmodi.
* [Completion](https://platform.openai.com/docs/guides/text-generation/completions-api): Ondersteunt ook streaming- en niet-streamingmodi.

Als je de `ChatCompletion`- of `Completion`-API van OpenAI al gebruikt, stel dan simpelweg je base URL in op: api.novita.ai/openai , verkrijg en stel je API key in, en werk de modelnaam indien nodig bij om LLM-services te gaan gebruiken.

<Tip>
  Zie [API-sleutels](/docs/nl/guides/llm-api-keys) voor informatie over het maken, opslaan en gebruiken van een API key.
</Tip>

## Codevoorbeelden

### Python

<CodeGroup>
  ```python ChatCompletion theme={"system"}
  from openai import OpenAI

  client = OpenAI(
      base_url="https://api.novita.ai/openai",
      api_key="<Your API Key>",
  )

  model = "deepseek/deepseek-r1"
  stream = True  # or False
  max_tokens = 512

  chat_completion_res = client.chat.completions.create(
      model=model,
      messages=[
          {
              "role": "system",
              "content": "you are a professional AI helper.",
          },
          {
              "role": "user",
              "content": "Where can the example of GPU provided by novita ai be adapted?",
          }
      ],
      stream=stream,
      max_tokens=max_tokens,
  )

  if stream:
      for chunk in chat_completion_res:
          print(chunk.choices[0].delta.content or "", end="")
  else:
      print(chat_completion_res.choices[0].message.content)
  ```

  ```python Completion theme={"system"}
  from openai import OpenAI

  client = OpenAI(
      base_url="https://api.novita.ai/openai",
      api_key="<Your API Key>",
  )

  model = "deepseek/deepseek-r1"
  stream = True  # or False
  max_tokens = 512

  completion_res = client.completions.create(
      model=model,
      prompt="Where can the example of GPU provided by novita ai be adapted?",
      stream=stream,
      max_tokens=max_tokens,
  )

  if stream:
      for chunk in completion_res:
          print(chunk.choices[0].text or "", end="")
  else:
      print(completion_res.choices[0].text)
  ```
</CodeGroup>

### Curl

<CodeGroup>
  ```bash ChatCompletion theme={"system"}
  export API_KEY="<Your API Key>"

  curl "https://api.novita.ai/openai/v1/chat/completions" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer ${API_KEY}" \
    -d '{
      "model": "deepseek/deepseek-r1",
      "messages": [
          {
              "role": "system",
              "content": "you are a professional AI helper."
          },
         {
              "role": "user",
              "content": "Where can the example of GPU provided by novita ai be adapted?"
          }
      ],
      "max_tokens": 512
  }'
  ```

  ```bash Completion theme={"system"}
  export API_KEY="<Your API Key>"

  curl "https://api.novita.ai/openai/v1/completions" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer ${API_KEY}" \
    -d '{
      "model": "deepseek/deepseek-r1",
      "prompt": "Where can the example of GPU provided by novita ai be adapted?",
      "max_tokens": 512
  }'
  ```
</CodeGroup>

## Belangrijkste parameters

### Basisparameters

`model`: Het doel-LLM. Bekijk de volledige lijst op de [LLM-servicepagina](https://novita.ai/models).

### Berichten

> Alleen ChatCompletion

`messages`: Invoer en uitvoer bij interactie met het LLM. Elk bericht behoort tot één karakter. Berichten kunnen je helpen betere uitvoer te krijgen; je kunt verschillende methoden proberen om betere resultaten te behalen.

* `content`: berichtinhoud.
* `role`: Definieer de spreker:
  * `system`: Stel de rol van de AI in en vertel het model wat zijn rol of gedrag is.
  * `user`: De invoer van de gebruiker.
  * `assistant`: De reactie van de AI. Gebruikers kunnen vooraf voorbeelden van uitvoer geven en het model vertellen hoe het op het huidige verzoek moet antwoorden.
* `name` (optioneel): berichten van schrijvers met dezelfde rol van elkaar scheiden.

### Prompt

> Alleen ChatCompletion

`prompt`: Instructietekst voor het genereren van een completion, geschreven door de gebruiker voor het LLM om de taak duidelijk aan het model uit te leggen.

### Uitvoercontrole

Verschillende combinaties van parameters kunnen het model helpen meer bevredigende content te genereren.

**Diversiteit van tekst**

> 'temperature' en 'top\_p' kunnen de diversiteit van gegenereerde tekst bepalen; we adviseren je om slechts één van beide in te stellen. Hoe groter de waarde die je instelt, hoe diverser de tekst zal zijn. Hoe kleiner de waarde die je instelt, hoe nauwkeuriger de tekst zal zijn.

* `temperature`: Regelt willekeur. Hoger = creatiever.
* `top_p`: Nucleus sampling. Regelt cumulatieve waarschijnlijkheid.
* `top_k`: Beperkt het aantal kandidaat-tokens.

**Herhalingsstraffen**

* `presence_penalty`: Regelt herhaalde tokens in de teksten. Als een token al in de tekst voorkomt, wordt er een straf toegepast; dit resulteert in meer tokens in de tekst.
* `frequency_penalty`: Regelt de tokenfrequentie in de teksten. Elke keer dat hetzelfde token in de tekst voorkomt, wordt er een straf toegepast, waardoor hetzelfde token in de toekomst minder vaak in de tekst zal voorkomen.
* `repetition_penalty`: Bestraft of stimuleert herhaling.

### Uitvoerlimieten

* `max_tokens`: Maximaal aantal tokens in één reactie. Content na deze waarde in de tekst wordt afgekapt.
* `stream`: Of streaming moet worden gebruikt. Voor lange uitvoer adviseren we je de streamingmodus te gebruiken om timeout-fouten te voorkomen:
  * `true`: Gestreamd, gedeeltelijke resultaten terwijl ze worden gegenereerd.
  * `false`: Volledig resultaat na verwerking.
* `stop`: Strings die de generatie beëindigen wanneer ze worden aangetroffen.