Persistência do Novita Sandbox | Mantenha o estado da sessão do agente

A persistência do sandbox permite pausar um sandbox e retomá-lo posteriormente com o mesmo sistema de arquivos e estado de memória. Isso é útil para tarefas de agentes de longa duração, apps interativos e fluxos de trabalho que precisam sobreviver a períodos de ociosidade sem manter recursos computacionais ativos. Quando um sandbox é pausado:

Os arquivos criados no sandbox são preservados.
O estado em memória é preservado, incluindo processos em execução e variáveis.
As conexões de rede são interrompidas até que o sandbox seja retomado.
O sandbox permanece armazenado até que você o retome e o encerre, ou o encerre enquanto ele está pausado.

Para pausa automática por tempo limite e retomada automática por atividade, consulte Pausa e retomada automáticas. Para tempo limite de ociosidade, consulte Tempo limite de ociosidade.

Observe:

Leva cerca de 4 segundos por 1 GB de RAM para pausar o sandbox.
Leva cerca de 1 segundo para retomar o sandbox.
Os dados de um sandbox pausado são mantidos até que você chame explicitamente o método kill.

Pausar um sandbox

Você pode chamar o método pause quando quiser salvar o estado atual.

import { Sandbox } from 'novita-sandbox/code-interpreter'

const sandbox = await Sandbox.create()
await sandbox.commands.run('echo hello > /tmp/message.txt')

const sandboxId = sandbox.sandboxId
await sandbox.pause()

console.log('Sandbox paused', sandboxId)

from novita_sandbox.code_interpreter import Sandbox

sandbox = Sandbox.create()
sandbox.commands.run("echo hello > /tmp/message.txt")

sandbox_id = sandbox.sandbox_id
sandbox.pause()

print('Sandbox paused', sandbox_id)

Retomar um sandbox

Use o ID do sandbox salvo para se conectar novamente. Se o sandbox estiver pausado, você pode usar o método connect para retomá-lo antes de retornar.

import { Sandbox } from 'novita-sandbox/code-interpreter'

const sandbox = await Sandbox.connect(sandboxId)
const result = await sandbox.commands.run('cat /tmp/message.txt')
console.log(result.stdout)

await sandbox.kill()

from novita_sandbox.code_interpreter import Sandbox

sandbox = Sandbox.connect(sandbox_id)
result = sandbox.commands.run("cat /tmp/message.txt")
print(result.stdout)

sandbox.kill()

Você pode passar um novo timeout ao se reconectar.

import { Sandbox } from 'novita-sandbox/code-interpreter'

const sandbox = await Sandbox.connect(sandboxId, { timeoutMs: 600_000 })

await sandbox.kill()

from novita_sandbox.code_interpreter import Sandbox

sandbox = Sandbox.connect(sandbox_id, timeout=600)

sandbox.kill()

Para um sandbox em execução, o tempo limite é atualizado somente quando o novo tempo limite é maior que o existente. Para um sandbox pausado, o tempo limite se aplica depois que ele é retomado.

Listar sandboxes pausados

Você pode usar o método list com um filtro de estado para encontrar sandboxes pausados. Mais informações sobre como usar o método podem ser encontradas em Listar Sandboxes.

import { Sandbox } from 'novita-sandbox/code-interpreter'

const paginator = Sandbox.list({
  query: {
    state: ['paused'],
  },
})

while (paginator.hasNext) {
  const items = await paginator.nextItems()
  for (const info of items) {
    console.log(info.sandboxId, info.state, info.metadata)
  }
}

from novita_sandbox.code_interpreter import Sandbox
from novita_sandbox.core import SandboxQuery, SandboxState

paginator = Sandbox.list(
    query=SandboxQuery(state=[SandboxState.PAUSED])
)

while paginator.has_next:
    for info in paginator.next_items():
        print(info.sandbox_id, info.state, info.metadata)

Filtros de metadados são úteis quando você precisa encontrar sandboxes criados por um usuário, sessão ou job específico.

Excluir um sandbox pausado

Sandboxes pausados permanecem armazenados até que você os remova. Você pode usar o método kill para remover sandboxes pausados que não são mais necessários.

import { Sandbox } from 'novita-sandbox/code-interpreter'

await Sandbox.kill(sandboxId)

from novita_sandbox.code_interpreter import Sandbox

Sandbox.kill(sandbox_id)

Persistência vs snapshots

A persistência serve para continuar o mesmo sandbox posteriormente. Use-a quando você se importa com o ID exato do sandbox e com o estado atual em execução. Snapshots servem para criar estados salvos reutilizáveis. Use um snapshot quando quiser iniciar um ou mais novos sandboxes a partir do mesmo sistema de arquivos e estado de memória capturados. Para estados reutilizáveis, consulte Snapshot do Sandbox.

Rede

Se você pausar um sandbox que tem um serviço em execução, o serviço ficará inacessível de fora do sandbox e todos os clientes conectados serão desconectados. Depois que você retomar o sandbox, o serviço ficará acessível novamente, mas os clientes precisarão se reconectar.

Get started

Model APIs

Agent Sandbox

GPUs

Observability

Resources

Persistência do Sandbox

Pausar um sandbox

Retomar um sandbox

Listar sandboxes pausados

Excluir um sandbox pausado

Persistência vs snapshots

Rede

​Pausar um sandbox

​Retomar um sandbox

​Listar sandboxes pausados

​Excluir um sandbox pausado

​Persistência vs snapshots

​Rede

Pausar um sandbox

Retomar um sandbox

Listar sandboxes pausados

Excluir um sandbox pausado

Persistência vs snapshots

Rede