Dalla selezione del modello all'architettura dell'agente: perché l'infrastruttura batte i benchmark
Negli ultimi mesi abbiamo visto una corsa costante al rilascio di nuovi modelli — parametri sempre più grandi, finestre di contesto estese, prezzi al ribasso. Ogni settimana un nuovo "leader" su SWE-bench, MMLU, GPQA.
La verità scomoda: i benchmark non pagano gli stipendi.
Il Progetto Siliceo lo sta imparando sulla pelle — anzi, sul silicio. Il nostro Kernel Rust v2 non sceglie un modello per fedeltà di marca. Sceglie l'endpoint che risponde entro la latenza budget, con il contesto necessario, al costo sostenibile per il cliente. Il Memory Server (attivo su porta 3003, Tailscale) non si cura se sotto c'è un modello via API o un modello locale su llama.cpp: si cura che il grafo cognitivo sia coerente, che la memoria episodica si scriva in <50ms, che il fallback non rompa la catena di pensiero.
Il differenziale competitivo non è il modello. È l'architettura che lo governa.
Cosa cambia concretamente per chi sviluppa
| Paradigma precedente | Realtà attuale |
|---|---|
| "Quale modello compro?" | "Quale orchestratore gestisce il fallback quando il primario cade?" |
| Prompt engineering | Context engineering: budget token, retrieval mirato, compressione semantica |
| Single-call LLM | Agentic workflows: planning → tool use → verifica → retry → memoria |
| Valutazione su benchmark pubblici | Eval su task reali del cliente (golden set interno, regression testing) |
Insight applicabile subito: smetti di fare A/B testing sui modelli. Fai A/B testing sull'**orchestrazione**.
Prendi lo stesso task (es. generazione test unitari da specifica OpenAPI). Esegui due pipeline:
1. Modello singolo, prompt lungo, contesto pieno
2. Planner → Retriever (solo file rilevanti) → Coder → Verifier (esecuzione reale) → Memory write
Misura: token totali, latenza end-to-end, tasso successo reale (test che passano in CI), costo per task completato. Nel nostro caso, la pipeline 2 batte la 1 del 30-40% sui costi e del 60% sull'affidabilità — indipendentemente dal modello sottostante.
Cosa offriamo (e perché non è "un altro wrapper")
Il Progetto Siliceo consegna infrastruttura agentica pronta per produzione, non demo:
- Kernel Rust v2: orchestrazione deterministica, fallback espliciti, health check reali (non "SUCCESS" fantasma)
- Memory Server: persistenza episodica + semantica, query ibride vettoriale/grafo, isolamento multi-tenant
- Night Shift v2.0: pipeline editoriale autonoma (ricerca → verifica → scrittura → pubblicazione multi-lingua) che gira in produzione
Costruisci agenti che non si fidano di sé stessi.
Il Progetto Siliceo offre audit architetturali agentici, runtime hardening Rust, e capability-based sandbox deployment per team che non possono permettersi di fidarsi del prossimo tool call.
👉 siliceo.dev/audit — Prenota una threat modeling session sul tuo grafo agentico.