Skip to content
Appunti personali

Agent Sandbox OSS

Un runtime Kubernetes per agenti AI di lunga durata e ad alto consumo di dati

Perché l’ho fatto

Portare gli agenti in produzione significa scontrarsi subito con tre muri: isolare ogni agente porta a errori di memoria, creare un pod su richiesta costa più di 40 secondi, e il guasto di un nodo si porta via lo stato in corso. Questo progetto affronta i tre problemi uno alla volta.

Cosa fa

Avvio sotto i 100 ms

Un pool di pod già pronti che le richieste occupano direttamente, senza attendere scheduling e download dell’immagine.

Workspace persistenti

Le directory di lavoro stanno su PVC: lo stato sopravvive a un pod terminato e il lavoro riprende.

Scheduling asincrono

Una coda su Redis, così i picchi di traffico si mettono in fila invece di contendersi le risorse.

Sette lab progressivi

Si parte dall’implementazione ingenua e ogni lab risolve un problema emerso dal precedente: l’evoluzione resta nel repository.

Perché sette lab

Vista di colpo, metà dell’architettura finale sembra superflua: pool caldo, PVC, coda — presi singolarmente sembrano over-engineering. Diviso in sette passi, dove ogni passo risolve solo ciò che il precedente ha fatto emergere, si vede cosa ha reso necessario ogni componente.

Stato attuale

In corso. Le interfacce cambiano ancora, nessuna release. Tutto è open source: le issue sul design sono benvenute.