Viviamo in un’epoca in cui tutti parlano della potenza dei dati, delle “moli immense”, dei “modelli addestrati su dataset colossali”.
Ma c’è una verità molto più semplice e molto più scomoda: 𝐢̀ 𝐝𝐚𝐭𝐢 𝐧𝐨𝐧 𝐜𝐨𝐧𝐭𝐞𝐧𝐠𝐨𝐧𝐨 𝐦𝐚𝐢 𝐭𝐮𝐭𝐭𝐨.
Ogni dataset è un racconto parziale.
Ogni assenza è un potenziale pregiudizio.
Ogni omissione può trasformarsi in una distorsione che nessuno aveva previsto.
È qui che entra in gioco il nuovo quadro normativo europeo.
E soprattutto, entra in gioco una consapevolezza:
𝐧𝐨𝐧 𝐞𝐬𝐢𝐬𝐭𝐞 𝐈𝐀 𝐚𝐟𝐟𝐢𝐝𝐚𝐛𝐢𝐥𝐞 𝐬𝐞 𝐧𝐨𝐧 𝐬𝐢 𝐜𝐨𝐧𝐨𝐬𝐜𝐞 𝐜𝐢𝐨̀ 𝐜𝐡𝐞 𝐢𝐧𝐦𝐚𝐧𝐜𝐚.
𝐃𝐢𝐠𝐢𝐭𝐚𝐥 𝐎𝐦𝐧𝐢𝐛𝐮𝐬: 𝐥𝐚 𝐧𝐨𝐫𝐦𝐚 𝐜𝐡𝐞 𝐫𝐢𝐯𝐞𝐥𝐚 𝐥𝐞 𝐨𝐦𝐛𝐫𝐞 𝐧𝐞𝐢 𝐝𝐚𝐭𝐢
Il Digital Omnibus cambia prospettiva.
Non guarda solo ai modelli, ma all’ecosistema in cui quei modelli nascono.
Ci dice che la questione non è avere “più dati”, ma 𝐜𝐚𝐩𝐢𝐫𝐞 𝐜𝐨𝐬𝐚 𝐦𝐚𝐧𝐜𝐚 𝐧𝐞𝐢 𝐝𝐚𝐭𝐢.
Un sistema può essere avanzatissimo, ma se nasce su una base informativa incompleta, verrà trascinato verso errori incompleti, analisi incomplete, rischi che nessuno aveva considerato.
Il Digital Omnibus completa il lavoro dell’AI Act e del Data Act:
• l’AI Act ci obbliga a documentare origine, qualità e rappresentatività;
• il Data Act chiarisce responsabilità e accesso ai dati;
• il Digital Omnibus unisce tutto e ci dice:
𝐝𝐨𝐯𝐞𝐭𝐞 𝐬𝐚𝐩𝐞𝐫𝐞 𝐜𝐨𝐦𝐞, 𝐩𝐞𝐫𝐜𝐡𝐞́ 𝐞 𝐜𝐨𝐧 𝐪𝐮𝐚𝐥𝐢 𝐥𝐚𝐜𝐮𝐧𝐞 𝐬𝐭𝐚𝐭𝐞 𝐚𝐝𝐝𝐞𝐬𝐭𝐫𝐚𝐧𝐝𝐨 𝐮𝐧 𝐦𝐨𝐝𝐞𝐥𝐥𝐨.
È una rivoluzione culturale.
Ci obbliga a guardare non solo la luce, ma soprattutto le ombre.
𝐄𝐍𝐈𝐀: 𝐠𝐨𝐯𝐞𝐫𝐧𝐚𝐫𝐞 𝐥’𝐈𝐀 𝐬𝐢𝐠𝐧𝐢𝐟𝐢𝐜𝐚 𝐚𝐬𝐜𝐨𝐥𝐭𝐚𝐫𝐞 𝐢𝐥 𝐬𝐢𝐥𝐞𝐧𝐳𝐢𝐨
Noi, in ENIA, lo vediamo ogni giorno:
la governance dell’AI non è un atto tecnico, è un atto di ascolto.
L’AI parla con ciò che sa.
Ma 𝐢 𝐫𝐢𝐬𝐜𝐡𝐢 𝐩𝐚𝐫𝐥𝐚𝐧𝐨 𝐜𝐨𝐧 𝐜𝐢𝐨̀ 𝐜𝐡𝐞 𝐦𝐚𝐧𝐜𝐚.
Il dataset non rappresenta una categoria?
Il modello la ignorerà.
Una variabile è stata trascurata?
Il modello la distorcerà.
Un contesto è assente?
Il modello prenderà decisioni sbagliate.
Il Digital Omnibus ci ricorda che queste omissioni non sono invisibili “per caso”:
sono visibili solo a chi sceglie di guardarle.
𝐋𝐚 𝐒𝐚𝐧𝐝𝐛𝐨𝐱 𝐄𝐍𝐈𝐀 𝐇𝐨𝐫𝐢𝐳𝐨𝐧: 𝐝𝐨𝐯𝐞 𝐥𝐞 𝐨𝐦𝐢𝐬𝐬𝐢𝐨𝐧𝐢 𝐞𝐬𝐜𝐨𝐧𝐨 𝐝𝐚𝐥𝐥’𝐨𝐦𝐛𝐫𝐚
Per questo abbiamo costruito la ENIA Sandbox Horizon.
È il luogo in cui i modelli vengono osservati non quando funzionano bene, ma quando smettono di funzionare.
Quando esitano.
Quando rispondono male.
Quando non trovano riferimenti.
Quando emergono le loro zone cieche.
Nella Sandbox riusciamo a far emergere:
• le categorie assenti,
• le variabili mancanti,
• i contesti mai visti,
• i bias nascosti nei silenzi del dataset.
E soprattutto, riusciamo a documentare tutto come richiedono:
AI Act, Data Act e Digital Omnibus.
È il luogo in cui un’azienda può finalmente vedere il comportamento del proprio modello senza le illusioni della produzione.
Un luogo sicuro, controllato, pensato proprio per mostrare ciò che l’AI non vede.
𝐂𝐨𝐧𝐜𝐥𝐮𝐬𝐢𝐨𝐧𝐞: 𝐬𝐞 𝐧𝐨𝐧 𝐚𝐬𝐜𝐨𝐥𝐭𝐢 𝐢𝐥 𝐬𝐢𝐥𝐞𝐧𝐳𝐢𝐨, 𝐧𝐨𝐧 𝐩𝐮𝐨𝐢 𝐠𝐨𝐯𝐞𝐫𝐧𝐚𝐫𝐞 𝐥’𝐈𝐀
Il Digital Omnibus non ci chiede semplicemente di controllare la tecnologia.
Ci chiede di comprendere ciò che la tecnologia non vede.
Ci chiede di guardare negli spazi vuoti, nelle omissioni, nelle assenze.
Di ascoltare la parte che i dati non raccontano.
Ed è esattamente ciò che facciamo nella ENIA Sandbox Horizon.
Perché alla fine, tutto si riduce a questo:
𝐋’𝐈𝐀 𝐩𝐚𝐫𝐥𝐚 𝐜𝐨𝐧 𝐜𝐢𝐨̀ 𝐜𝐡𝐞 𝐬𝐚.
𝐋’𝐞𝐭𝐢𝐜𝐚 𝐚𝐬𝐜𝐨𝐥𝐭𝐚 𝐜𝐢𝐨̀ 𝐜𝐡𝐞 𝐦𝐚𝐧𝐜𝐚.