Immagini generative con controllo automatico e marcatura AI Act

Il problema

Un modello che genera immagini produce risultati plausibili ma non sempre corretti: testo inventato su cartelli e targhe, mani deformi, loghi riconoscibili, persone dove non dovrebbero esserci. Pubblicarli senza controllo significa errori visibili e rischi legali. Controllarli a mano significa perdere il vantaggio dell'automazione.

In più, dal 2 agosto 2026 l'art. 50 dell'AI Act chiede trasparenza sui contenuti generati: chi li pubblica deve poterli riconoscere e dichiarare.

Il sistema: tre difese

1. Filtro sul testo della richiesta, a costo zero: blocca le richieste che nominano persone, marchi o situazioni vietate dalla politica editoriale. Da solo non basta, ma elimina i casi ovvi.
2. Controllo semantico prima di generare: un modello valuta se la scena descritta implicherebbe la presenza di persone (per esempio “una mano che mescola” o “un banco che viene allestito”) e blocca la richiesta prima di spendere una generazione.
3. Ispezione dell'immagine generata: un secondo modello guarda il risultato e lo scarta se contiene testo leggibile, persone, marchi o difetti di resa. Al primo scarto la generazione viene ripetuta una volta con il vincolo rafforzato. È la difesa che conta, perché giudica il risultato e non l'intenzione.

Sulle ultime 177 immagini generate, 26 sono state scartate dall'ispezione automatica: 24 per testo leggibile (spesso targhe o insegne inventate), 2 per la presenza di persone. Nessuna di queste è arrivata online.

La parte di conformità

• Ogni file pubblicato, in tutte le sue versioni (AVIF, WebP, JPEG in più dimensioni), porta nei metadati la dichiarazione di contenuto sintetico secondo il vocabolario IPTC, con modello, editore e data. La conversione nei formati web cancella i metadati: per questo la marcatura viene riscritta su ogni derivata, e un comando di verifica controlla file per file.
• Il file originale conserva la provenienza firmata applicata dal fornitore del modello (manifesto C2PA e filigrana invisibile), insieme alla richiesta integrale e al referto dell'ispezione.
• Una pagina pubblica di trasparenza elenca tutte le immagini generate di ciascun sito, generata automaticamente dal registro.

Cosa abbiamo imparato

• I modelli di generazione aggiungono marchi da soli. Chiedere una padella “in ghisa” portava il modello a disegnare il logo di un produttore noto: tre scarti su tre. Ora i prompt descrivono oggetti senza riferimenti a prodotti tipici di una marca.
• Le azioni implicano persone. Descrivere un'azione (“mentre viene mescolato”) porta a disegnare una mano. Descrivere uno stato (“appena mescolato, il cucchiaio appoggiato al bordo”) no.
• Gli scarti costano: ogni tentativo consuma quota. Il controllo preventivo, che costa una frazione di una generazione, si ripaga da solo.

Perché vi riguarda

Lo stesso schema (genera, ispeziona con un secondo controllo, registra, marca) vale per qualsiasi contenuto prodotto dall'AI che arriva a clienti o al pubblico: risposte di un assistente, testi di marketing, documenti generati. Lo applichiamo nei progetti di integrazione LLM e nell'adeguamento all'AI Act.