llmBlueGuard

Uso modelli e automazioni GenAI in contesti personali e di studio. Moltiplicandosi i client (script, UI, pipeline), diventa difficile sapere cosa viene inviato, cosa torna indietro e se rispetta regole sensate. Volevo un pezzo di infrastruttura, non una libreria da copiare in ogni progetto.

Senza un gateway dedicato, ogni integrazione parla direttamente con l’LLM. Si perde visibilità sul traffico, cresce il rischio di prompt abusivi o dati fuori posto, e le policy (se esistono) restano sparse e inconsistenti. Cambiare modello o provider significa ritoccare tutti i client.

BlueGuard si comporta come un proxy/gateway: i client puntano a lui, lui parla con il modello. Sul flusso si possono applicare controlli, logging e regole senza riscrivere ogni applicazione. È lo stesso pattern di un reverse proxy, ma pensato per il traffico conversazionale verso gli LLM.

1. 01

   Client

   App, script o automazione inviano la richiesta a BlueGuard invece che direttamente al provider.

2. 02

   Guardrail

   Il proxy applica policy, filtri e osservabilità in un punto unico, prima e/o dopo la chiamata al modello.

3. 03

   Modello

   Solo il traffico ammesso raggiunge l’LLM; la risposta torna al client passando dallo stesso controllo.

• Punto unico di ingresso

  Tutte le chiamate LLM passano dal proxy: meno superficie da proteggere e da capire.

• Filtri e policy

  Spazio per regole su input/output senza sparpagliarle nei singoli client.

• Osservabilità

  Visibilità centralizzata su cosa viene chiesto e restituito — base per debug e sicurezza.

• Disaccoppiamento

  I client non dipendono dai dettagli del provider: si può cambiare modello dietro il proxy.

• Lab GenAI + security

  Serve a sperimentare automazioni AI tenendo un occhio su abuse e confini d’uso.

• Evoluzione continua

  Progetto casalingo: cresce con i casi d’uso reali, non come prodotto commerciale chiuso.

• Proxy, non SDK ovunque

  Centralizzare batte duplicare controlli in ogni repository: un solo posto da aggiornare quando cambiano le regole.

• Compatibile con più client

  Qualsiasi cosa sappia parlare HTTP/API può passare da BlueGuard senza riscritture invasive.

• Security by design

  Il guardrail è il default del percorso, non un plugin opzionale dimenticato in produzione.

• Semplicità operativa

  Priorità a qualcosa di deployabile in lab e manutenibile, non a un framework enorme.

ProxyGuardrailLLMAI securityLab

È un lavoro personale in evoluzione: l’architettura a proxy è il nucleo “fatto”, mentre filtri e policy si raffinano con l’uso. Non è un SaaS — è infrastruttura per sperimentare GenAI in modo più consapevole.

Collega due temi che porto anche in consulenza: GenAI applicata e cybersecurity. Un guardrail concreto è più eloquente di una slide — mostra come si mette sicurezza e controllo sul percorso verso i modelli.