Oltre il guardrail
Filtri e policy sul contenuto sono utili, ma non possono compensare accessi troppo ampi, dati non classificati o strumenti invocabili senza controllo. La sicurezza deve limitare l’impatto possibile anche quando il modello sbaglia o viene manipolato.
Confini verificabili
Dati, strumenti e azioni devono avere confini separati. Le autorizzazioni vanno valutate al momento dell’uso; le fonti devono essere tracciabili; i passaggi tra componenti devono produrre evidenze osservabili.
Valutazione continua
Prompt injection, leakage e abuso degli strumenti non sono test da eseguire una volta. Scenari avversari, regressioni e cambiamenti della supply chain richiedono valutazioni ripetibili integrate nel ciclo operativo.