Accès à Internet

La connectivité Internet est disponible dans chaque sandbox, et l’accès externe est fourni via une URL publique.

Activer ou désactiver l’accès à Internet

Lors de la création d’une sandbox, vous pouvez utiliser le paramètre allowInternetAccess / allow_internet_access pour configurer la connectivité Internet. L’accès à Internet est activé par défaut, mais il peut être désactivé pour les charges de travail ayant des exigences de sécurité plus strictes.

import { Sandbox } from 'novita-sandbox/code-interpreter'

// Create sandbox with internet access enabled (default)
const sandbox = await Sandbox.create({ allowInternetAccess: true })

// Create sandbox without internet access
const isolatedSandbox = await Sandbox.create({ allowInternetAccess: false })

from novita_sandbox.code_interpreter import Sandbox

# Create sandbox with internet access enabled (default)
sandbox = Sandbox.create(allow_internet_access=True)

# Create sandbox without internet access
isolated_sandbox = Sandbox.create(allow_internet_access=False)

Si l’accès à Internet est désactivé, la sandbox ne peut pas initier de requêtes réseau sortantes. Cela permet d’ajouter une couche de protection supplémentaire lors de l’exécution de code sensible.

Transmettre une valeur falsy à allowInternetAccess / allow_internet_access a le même effet que l’ajout de ['0.0.0.0/0'] à network.denyOut / network.deny_out, ce qui bloque toutes les destinations.

Contrôle réseau granulaire

La configuration réseau offre un contrôle plus granulaire du trafic sortant en vous permettant de définir des listes d’autorisation et de refus.

Listes d’autorisation et de refus

Les adresses IP, les blocs CIDR ou les noms de domaine auxquels la sandbox est autorisée à accéder peuvent être spécifiés.

import { Sandbox } from 'novita-sandbox/code-interpreter'

// Deny all traffic except specific IPs
const sandbox = await Sandbox.create({
  network: {
    denyOut: ['0.0.0.0/0'],
    allowOut: ['1.1.1.1', '8.8.8.0/24']
  }
})

// Deny specific IPs only
const restrictedSandbox = await Sandbox.create({
  network: {
    denyOut: ['8.8.8.8']
  }
})

from novita_sandbox.code_interpreter import Sandbox

# Deny all traffic except specific IPs
sandbox = Sandbox.create(
    network={
        "deny_out": ["0.0.0.0/0"],
        "allow_out": ["1.1.1.1", "8.8.8.0/24"]
    }
)

# Deny specific IPs only
restricted_sandbox = Sandbox.create(
    network={
        "deny_out": ["8.8.8.8"]
    }
)

Le CIDR '0.0.0.0/0' / "0.0.0.0/0" est un raccourci pour « toutes les destinations ». Une constante ALL_TRAFFIC exportée se résout à la même valeur 0.0.0.0/0 si vous préférez une alternative nommée au littéral.

Filtrage basé sur le domaine

Vous pouvez spécifier des noms d’hôte dans allowOut / allow_out afin d’autoriser le trafic sortant vers des domaines sélectionnés. Lorsque le filtrage basé sur le domaine est activé, tout le trafic restant doit être bloqué via denyOut / deny_out. Les entrées de domaine sont uniquement prises en charge dans les listes d’autorisation et ne peuvent pas être utilisées dans les listes de refus.

import { Sandbox } from 'novita-sandbox/code-interpreter'

// Allow only traffic to google.com
const sandbox = await Sandbox.create({
  network: {
    allowOut: ['google.com'],
    denyOut: ['0.0.0.0/0']
  }
})

from novita_sandbox.code_interpreter import Sandbox

# Allow only traffic to google.com
sandbox = Sandbox.create(
    network={
        "allow_out": ["google.com"],
        "deny_out": ["0.0.0.0/0"]
    }
)

Chaque fois qu’un domaine apparaît dans la configuration, le serveur de noms par défaut 8.8.8.8 est autorisé automatiquement afin que la résolution DNS continue de fonctionner.

Vous pouvez également faire correspondre chaque sous-domaine d’un domaine avec un caractère générique :

import { Sandbox } from 'novita-sandbox/code-interpreter'

// Allow traffic to any subdomain of mydomain.com
const sandbox = await Sandbox.create({
  network: {
    allowOut: ['*.mydomain.com'],
    denyOut: ['0.0.0.0/0']
  }
})

from novita_sandbox.code_interpreter import Sandbox

# Allow traffic to any subdomain of mydomain.com
sandbox = Sandbox.create(
    network={
        "allow_out": ["*.mydomain.com"],
        "deny_out": ["0.0.0.0/0"]
    }
)

Les domaines, les adresses IP et les plages CIDR peuvent tous être mélangés dans la même liste :

import { Sandbox } from 'novita-sandbox/code-interpreter'

// Allow traffic to specific domains and IPs
const sandbox = await Sandbox.create({
  network: {
    allowOut: ['api.example.com', '*.github.com', '8.8.8.8'],
    denyOut: ['0.0.0.0/0']
  }
})

from novita_sandbox.code_interpreter import Sandbox

# Allow traffic to specific domains and IPs
sandbox = Sandbox.create(
    network={
        "allow_out": ["api.example.com", "*.github.com", "8.8.8.8"],
        "deny_out": ["0.0.0.0/0"]
    }
)

Le filtrage par domaine s’applique uniquement à HTTP sur le port 80 (inspecté via l’en-tête Host) et à TLS sur le port 443 (inspecté via SNI). Tout autre port revient à une correspondance basée sur CIDR, et les protocoles UDP tels que QUIC/HTTP3 ne peuvent pas être filtrés par domaine.

Comportement des connexions TCP bloquées

En raison de l’architecture du pare-feu, une connexion sortante bloquée peut tout de même sembler réussir depuis l’intérieur de la sandbox. Le pare-feu doit d’abord accepter la connexion TCP avant de pouvoir évaluer si la destination cible est autorisée. Par conséquent, le code exécuté dans la sandbox peut voir la connexion réussir et le socket s’ouvrir, même si la destination est bloquée. Dans ce cas, aucun trafic n’est réellement transmis au point de terminaison distant. Pour confirmer que la destination est accessible, validez une réponse au niveau applicatif au lieu de vous fier uniquement à la réussite de la connexion TCP. Par exemple, vérifiez un code d’état HTTP, une négociation TLS terminée ou les octets de réponse attendus du protocole. Ce comportement est une limitation actuelle de la manière dont le trafic sortant de la sandbox est routé via notre pare-feu et pourra être mis à jour à l’avenir.

Règles de priorité

Si des règles d’autorisation et de refus sont toutes deux configurées, les règles d’autorisation sont prioritaires. Par conséquent, toute adresse IP qui apparaît dans les deux listes sera tout de même autorisée.

import { Sandbox } from 'novita-sandbox/code-interpreter'

// Even though all traffic is denied, 1.1.1.1 and 8.8.8.8 are explicitly allowed
const sandbox = await Sandbox.create({
  network: {
    denyOut: ['0.0.0.0/0'],
    allowOut: ['1.1.1.1', '8.8.8.8']
  }
})

from novita_sandbox.code_interpreter import Sandbox

# Even though all traffic is denied, 1.1.1.1 and 8.8.8.8 are explicitly allowed
sandbox = Sandbox.create(
    network={
        "deny_out": ["0.0.0.0/0"],
        "allow_out": ["1.1.1.1", "8.8.8.8"]
    }
)

Les paramètres network ne prennent effet que lorsque la sandbox est créée — fournissez-les à Sandbox.create. Une fois que la sandbox existe, ils sont fixes et ne peuvent pas être modifiés.

URL publique de la sandbox

Les services dans une sandbox sont accessibles en utilisant l’URL publique de la sandbox.

import { Sandbox } from 'novita-sandbox/code-interpreter'

const sandbox = await Sandbox.create()

// You need to always pass a port number to get the host
const host = sandbox.getHost(3000)
console.log(`https://${host}`)

from novita_sandbox.code_interpreter import Sandbox

sandbox = Sandbox.create()

# You need to always pass a port number to get the host
host = sandbox.get_host(3000)
print(f'https://{host}')

La sortie ressemblera à ceci :

https://3000-i62mff4ahtrdfdkyn2esc.sandbox.novita.ai

https://3000-i62mff4ahtrdfdkyn2esc.sandbox.novita.ai

Le segment le plus à gauche du nom d’hôte correspond exactement au numéro de port que vous avez transmis à la méthode.

Connexion à un serveur exécuté dans la sandbox

Vous pouvez vous connecter à un serveur exécuté dans la sandbox à l’aide de la méthode décrite précédemment ; par exemple, démarrez un serveur HTTP léger sur le port 3000 pour servir des fichiers depuis son répertoire de lancement.

import { Sandbox } from 'novita-sandbox/code-interpreter'

const sandbox = await Sandbox.create()

// Start a simple HTTP server inside the sandbox.
const process = await sandbox.commands.run('python -m http.server 3000', { background: true })
const host = sandbox.getHost(3000)
const url = `https://${host}`
console.log('Server started at:', url)

// Fetch data from the server inside the sandbox.
const response = await fetch(url);
const data = await response.text();
console.log('Response from server inside sandbox:', data);

// Kill the server process inside the sandbox.
await process.kill()

import requests
from novita_sandbox.code_interpreter import Sandbox

sandbox = Sandbox.create()

# Start a simple HTTP server inside the sandbox.
process = sandbox.commands.run("python -m http.server 3000", background=True)
host = sandbox.get_host(3000)
url = f"https://{host}"
print('Server started at:', url)

# Fetch data from the server inside the sandbox.
response = requests.get(url)
data = response.text
print('Response from server inside sandbox:', data)

# Kill the server process inside the sandbox.
process.kill()

Cette sortie sera la suivante :

Server started at: https://3000-ip3nfrvajtqu5ktoxugc7.sandbox.novita.ai
Response from server inside sandbox: <!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01//EN" "http://www.w3.org/TR/html4/strict.dtd">
<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8">
<title>Directory listing for /</title>
</head>
<body>
<h1>Directory listing for /</h1>
<hr>
<ul>
<li><a href=".bash_logout">.bash_logout</a></li>
<li><a href=".bashrc">.bashrc</a></li>
<li><a href=".profile">.profile</a></li>
</ul>
<hr>
</body>
</html>

Server started at: https://3000-ip3nfrvajtqu5ktoxugc7.sandbox.novita.ai
Response from server inside sandbox: <!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01//EN" "http://www.w3.org/TR/html4/strict.dtd">
<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8">
<title>Directory listing for /</title>
</head>
<body>
<h1>Directory listing for /</h1>
<hr>
<ul>
<li><a href=".bash_logout">.bash_logout</a></li>
<li><a href=".bashrc">.bashrc</a></li>
<li><a href=".profile">.profile</a></li>
</ul>
<hr>
</body>
</html>

Masquage des en-têtes Host des requêtes

Vous pouvez utiliser l’option maskRequestHost / mask_request_host pour personnaliser l’en-tête Host envoyé aux services exécutés dans la sandbox. C’est utile lorsque votre application s’attend à ce que les requêtes suivent un format d’hôte spécifique.

import { Sandbox } from 'novita-sandbox/code-interpreter'

// Create sandbox with custom host masking
const sandbox = await Sandbox.create({
  network: {
    maskRequestHost: 'localhost:${PORT}'
  }
})

// The ${PORT} variable will be replaced with the actual port number
// Requests to the sandbox will have Host header set to for example: localhost:8080

from novita_sandbox.code_interpreter import Sandbox

# Create sandbox with custom host masking
sandbox = Sandbox.create(
    network={
        "mask_request_host": "localhost:${PORT}"
    }
)

# The ${PORT} variable will be replaced with the actual port number
# Requests to the sandbox will have Host header set to for example: localhost:8080

Au moment de la requête, ${PORT} dans le masque est remplacé par le numéro de port réel du service adressé.

Get started

Model APIs

Agent Sandbox

GPUs

Observability

Resources

Activer ou désactiver l’accès à Internet

Contrôle réseau granulaire

Listes d’autorisation et de refus

Filtrage basé sur le domaine

Comportement des connexions TCP bloquées

Règles de priorité

URL publique de la sandbox

Connexion à un serveur exécuté dans la sandbox

Masquage des en-têtes Host des requêtes

​Activer ou désactiver l’accès à Internet

​Contrôle réseau granulaire

​Listes d’autorisation et de refus

​Filtrage basé sur le domaine

​Comportement des connexions TCP bloquées

​Règles de priorité

​URL publique de la sandbox

​Connexion à un serveur exécuté dans la sandbox

​Masquage des en-têtes Host des requêtes

Activer ou désactiver l’accès à Internet

Contrôle réseau granulaire

Listes d’autorisation et de refus

Filtrage basé sur le domaine

Comportement des connexions TCP bloquées

Règles de priorité

URL publique de la sandbox

Connexion à un serveur exécuté dans la sandbox

Masquage des en-têtes Host des requêtes