Pizza AI

Modelli, costi, agent

Perché il “livello di intelligenza” di un modello conta quando costruisci un team di agent.

Due mondi

Deterministico vs LLM

Deterministico vs LLM — un output vince

Intuizione

Cervello → connessioni → parametri

Ispirati alle reti di neuroni
I parametri sono i “pesi”
Imparati dai dati
Non è un cervello vero

Cervello e parametri

Cos’è un LLM

Parametri, token, prossima predizione

Parametri = i pesi delle connessioni (quanto “sa” il modello)
Token ≈ una parola, o circa ¾ di una parola
Il modello non “pensa”: predice il prossimo token
Un testo lungo = tanti token in fila, uno dopo l’altro

Explainer chiaro (transformer / next-token): https://poloclub.github.io/transformer-explainer/

Agent ≈ azienda

CEO · manager · staff

CEO · manager · staff — routing modelli

Il contesto giusto batte l’IQ massimo.

Esempio

Orchestra

Battuta sullo spartito → regole / small model
Capo sezione → più giudizio, coordina
Direttore → interpretazione e routing, pochi gesti costosi

Perché conta

Routing = organigramma

Boss frontier: decide e delega
Specialisti: eseguono col contesto giusto
Senza routing: bruci soldi o mediocrità

Frontier

I modelli “da CEO”

OpenAI Anthropic Gemini DeepSeek Meta xAI / Grok

Es. famiglie: GPT-6 Astra-class, Claude Fable / Opus-class, Gemini Pro-class · Grok/xAI-class — esempi di fascia, non una classifica.

Massima capacità generale
Token cari · più lenti
Non per ogni micro-task

Small / flash

Team operativo

Distillazione: da grande → piccolo/veloce
Flash / Haiku / DeepSeek Flash-class
Ripetitivi + buon contesto = ideali
Meno profondità sulla coda difficile

Fine-tuning

Specialista, non generalista

Alleni su un compito etichettato
Classificare, estrarre, BERT-like
Scarso come chat generale

Pareto frontier

Qualità × costo

Arena.ai Pareto frontier

Fonte: https://arena.ai/leaderboard/text/pareto

Artificial Analysis

Anche: artificialanalysis.ai/models

In pratica

Prima di scegliere il modello

Errore costoso? → frontier
Ripetitivo + contesto chiaro? → small/flash
Un compito etichettato? → fine-tune
Ambiguo / alto rischio? → frontier + check

Live

Adesso costruiamo

Case study: Chi conosce chi →

Idea piccola · agent specializzati · online. Poi pizza e tavoli.

Annex (solo se chiedono): Jev — deck separato.