Persistencia de Novita Sandbox | Mantén el estado de la sesión del agente

La persistencia de sandbox te permite pausar un sandbox y reanudarlo más tarde con el mismo sistema de archivos y estado en memoria. Esto es útil para tareas de agentes de larga duración, aplicaciones interactivas y flujos de trabajo que necesitan sobrevivir a períodos de inactividad sin mantener activos los recursos de cómputo. Cuando se pausa un sandbox:

Los archivos creados en el sandbox se conservan.
El estado en memoria se conserva, incluidos los procesos en ejecución y las variables.
Las conexiones de red se interrumpen hasta que el sandbox se reanuda.
El sandbox permanece almacenado hasta que lo reanudes y lo finalices, o lo finalices mientras está pausado.

Para la pausa automática por timeout y la reanudación automática con actividad, consulta Pausa y reanudación automáticas. Para el timeout por inactividad, consulta Timeout por inactividad.

Ten en cuenta:

Se tardan aproximadamente 4 segundos por cada 1 GB de RAM en pausar el sandbox.
Se tarda aproximadamente 1 segundo en reanudar el sandbox.
Los datos de un sandbox pausado se conservan hasta que llamas explícitamente al método kill.

Pausar un sandbox

Puedes llamar al método pause cuando quieras guardar el estado actual.

import { Sandbox } from 'novita-sandbox/code-interpreter'

const sandbox = await Sandbox.create()
await sandbox.commands.run('echo hello > /tmp/message.txt')

const sandboxId = sandbox.sandboxId
await sandbox.pause()

console.log('Sandbox paused', sandboxId)

from novita_sandbox.code_interpreter import Sandbox

sandbox = Sandbox.create()
sandbox.commands.run("echo hello > /tmp/message.txt")

sandbox_id = sandbox.sandbox_id
sandbox.pause()

print('Sandbox paused', sandbox_id)

Reanudar un sandbox

Usa el ID del sandbox guardado para conectarte de nuevo. Si el sandbox está pausado, puedes usar el método connect para reanudarlo antes de devolver el resultado.

import { Sandbox } from 'novita-sandbox/code-interpreter'

const sandbox = await Sandbox.connect(sandboxId)
const result = await sandbox.commands.run('cat /tmp/message.txt')
console.log(result.stdout)

await sandbox.kill()

from novita_sandbox.code_interpreter import Sandbox

sandbox = Sandbox.connect(sandbox_id)
result = sandbox.commands.run("cat /tmp/message.txt")
print(result.stdout)

sandbox.kill()

Puedes pasar un nuevo timeout al reconectarte.

import { Sandbox } from 'novita-sandbox/code-interpreter'

const sandbox = await Sandbox.connect(sandboxId, { timeoutMs: 600_000 })

await sandbox.kill()

from novita_sandbox.code_interpreter import Sandbox

sandbox = Sandbox.connect(sandbox_id, timeout=600)

sandbox.kill()

Para un sandbox en ejecución, el timeout se actualiza solo cuando el nuevo timeout es más largo que el existente. Para un sandbox pausado, el timeout se aplica después de que se reanuda.

Listar sandboxes pausados

Puedes usar el método list con un filtro de estado para encontrar sandboxes pausados. Puedes encontrar más información sobre cómo usar el método en Listar sandboxes.

import { Sandbox } from 'novita-sandbox/code-interpreter'

const paginator = Sandbox.list({
  query: {
    state: ['paused'],
  },
})

while (paginator.hasNext) {
  const items = await paginator.nextItems()
  for (const info of items) {
    console.log(info.sandboxId, info.state, info.metadata)
  }
}

from novita_sandbox.code_interpreter import Sandbox
from novita_sandbox.core import SandboxQuery, SandboxState

paginator = Sandbox.list(
    query=SandboxQuery(state=[SandboxState.PAUSED])
)

while paginator.has_next:
    for info in paginator.next_items():
        print(info.sandbox_id, info.state, info.metadata)

Los filtros de metadatos son útiles cuando necesitas encontrar sandboxes creados por un usuario, una sesión o un trabajo específicos.

Eliminar un sandbox pausado

Los sandboxes pausados permanecen almacenados hasta que los eliminas. Puedes usar el método kill para eliminar sandboxes pausados que ya no necesitas.

import { Sandbox } from 'novita-sandbox/code-interpreter'

await Sandbox.kill(sandboxId)

from novita_sandbox.code_interpreter import Sandbox

Sandbox.kill(sandbox_id)

Persistencia vs. snapshots

La persistencia sirve para continuar con el mismo sandbox más adelante. Úsala cuando te importen el ID exacto del sandbox y el estado de ejecución actual. Los snapshots sirven para crear estados guardados reutilizables. Usa un snapshot cuando quieras iniciar uno o más sandboxes nuevos desde el mismo sistema de archivos y estado en memoria capturados. Para estados reutilizables, consulta Snapshot de sandbox.

Red

Si pausas un sandbox que tiene un servicio en ejecución, el servicio deja de ser accesible desde fuera del sandbox y todos los clientes conectados se desconectan. Después de reanudar el sandbox, el servicio vuelve a ser accesible, pero los clientes deben reconectarse.

Get started

Model APIs

Agent Sandbox

GPUs

Observability

Resources

Persistencia de sandbox

Pausar un sandbox

Reanudar un sandbox

Listar sandboxes pausados

Eliminar un sandbox pausado

Persistencia vs. snapshots

Red

​Pausar un sandbox

​Reanudar un sandbox

​Listar sandboxes pausados

​Eliminar un sandbox pausado

​Persistencia vs. snapshots

​Red

Pausar un sandbox

Reanudar un sandbox

Listar sandboxes pausados

Eliminar un sandbox pausado

Persistencia vs. snapshots

Red