Un'organizzazione in miniatura fatta di modelli AI: un cervello che pianifica, un orchestratore che smista, operai specializzati che eseguono su GPU locale — con controllo qualità e registro delle attività.
I modelli di frontiera sono potenti ma costano; i modelli locali sono gratis ma limitati. Si può organizzarli come una piccola impresa — ruoli, gerarchie, controllo qualità — in cui il modello a pagamento interviene solo dove è insostituibile?
Un modello di frontiera fa il piano e la review finale. Un orchestratore locale spezza ogni job in subtask e li instrada a worker specializzati — coder, geometra, segretaria, archivista — che girano gratis su Ollama, in coda seriale per rispettare la VRAM di una GPU consumer. Ogni attività finisce in un ledger: chi ha fatto cosa, quando, con quale esito.
Il codice generato dai worker non viene eseguito sulla fiducia: un'analisi AST lo ispeziona prima (import pericolosi, chiamate di sistema), il linter lo valida, e ciò che fallisce i controlli finisce automaticamente in quarantena — il ledger registra anche i fallimenti. Il tutto in Python puro, senza una sola dipendenza pip: il sistema è ispezionabile riga per riga.
La divisione dei ruoli funziona: i worker locali sbrigano la maggior parte del lavoro e il modello di frontiera interviene solo su pianificazione e review. Job reali completati e tracciati nel ledger, incluso un caso finito correttamente in quarantena — il sistema di sicurezza che fa il suo mestiere. Un pattern che riusiamo nei progetti di automazione per i clienti.