Qu’est-ce que Novita Agent Runtime ?
Novita Agent Runtime est un framework léger pour déployer des Agents IA, qui vous permet de déployer des Agents IA rapidement et à moindre coût. Plus besoin de vous soucier de la configuration de l’infrastructure, de l’orchestration de conteneurs, de l’exposition de services ou d’autres détails complexes : concentrez-vous simplement sur le développement de la logique métier de votre Agent.Composants principaux
Novita Agent Runtime est inclus dans le SDK Novita Sandbox et les outils CLI :Flux de déploiement
Le flux complet de déploiement et d’utilisation comprend trois étapes :Étape 1 : Développer et intégrer votre Agent
Intégrez le SDK dans le code de votre Agent en ajoutant des décorateurs :Étape 2 : Configurer et déployer
Utilisez l’outil CLI pour configurer et déployer dans le cloud :- Génère les fichiers de configuration
Dockerfileet.novita-agent.yaml - Construit le modèle de sandbox et le téléverse
- Génère l’ID de l’Agent (format :
agent_<name>_v<version>)
Étape 3 : Invoquer l’Agent
Après un déploiement réussi, vous pouvez invoquer votre Agent via la CLI ou le SDK : Option 1 : Test rapide avec la CLI- Crée une instance de sandbox isolée à partir du modèle de sandbox
- Exécute l’Agent dans un environnement isolé
- Renvoie le résultat traité
Principaux avantages
SDK :- ✅ Modifications minimales : Modifiez seulement quelques lignes de code avec des décorateurs
- ✅ Indépendant du framework : Prend en charge LangChain, LangGraph, CrewAI et d’autres frameworks IA populaires
- ✅ Prise en charge du streaming : Réponses en streaming natives pour les scénarios de génération LLM en temps réel
- ✅ Contrôles de santé : Point de terminaison de contrôle de santé intégré avec état de santé personnalisable
- ✅ Détection intelligente : Détecte automatiquement la structure du projet, les fichiers d’entrée et les fichiers de gestion des dépendances
- ✅ Build automatique : Génère automatiquement Dockerfile et la configuration du projet
- ✅ Gestion des versions : Prend en charge la coexistence de plusieurs versions avec des déploiements indépendants
- ✅ Tests rapides : Commande invoke intégrée pour une vérification rapide du déploiement
- ✅ Isolation de l’environnement : Chaque instance de sandbox s’exécute indépendamment, sans interférence
- ✅ Persistance de session : Plusieurs invocations vers la même instance de sandbox, avec prise en charge des Agents interactifs multi-tours
- ✅ Sandbox sécurisé : Environnement de sandbox isolé de manière sécurisée avec accès restreint au système de fichiers