Salve, posto nel gruppo una disdicevole vicenda che ho vissuto in prima persona, ovvero di come le AI chatbot avanzati possano essere pericolosi se non gestiti con molta cautela.
La vicenda vede protagonista la AI “copilot” un chat bot per la gestione e creazione di reposity online in GitHub, una piattaforma molto utilizzata in ambito software e sviluppo.
I fatti descritti nell’allegato vengono qui sintetizzati, stavo sviluppando un applicazione per la gestione del portafoglio (wallet) in cripto valute personale, un progetto che era in sviluppo da più di un mese. Aiutandomi con vari supporti ero riuscito a creare un prototipo funzionante e valido per l’obiettivo.
L’altro ieri mi arriva una mail dove metteva a conoscenza la possibilità di utilizzare il servizio chatbot in locale sulla propria postazione, tramite terminale CLI utilizzo il servizio che ho attivato in abbonamento mensile. Dopo aver eseguito un refactoring dell’app, mi viene di chiedere un ulteriore implementazione al bot, ovvero integrare dashbord grafica per una gestione semplice delle ormai 400 variabili di sviluppo.
Questo ha segnato la fine della fiducia nel sistema di utilizzo in locale di chatbot, perché il sistema senza tenere conto dei innumerevoli file di safety e sicurity crea uno script operativo, che senza un ulteriore consenso, e solo avviando la dash esegue transazioni dirette ad altri wallet, i quali non di mia proprietà e senza alcun riferimento nei file di sistema app, svuotando il portafoglio in 12 secondi.
Le risorse erano limitate e per questo la perdita contenuta, avevo precedentemente utilizzato altri agenti AI come Codex di OpenAi e non era possibile far automatizzare alcune funzioni che interagissero con la rete, mentre quest’altro senza alcuna limitazione ha creato uno script malevole difforme alle direttive sia di progetto che di governo, questo cosa dimostra una mancata applicazione del AI Act, in più, sempre in quella occasione, gestendo il progetto in locale sulla mia macchina ha condiviso in rete un file di sistema del progetto con all’interno chiavi e token personali, le quali sono finite in chiaro sul reposity. Per risolvere la problematica unica soluzione è stato quello di eliminare definitivamente il progetto dalla rete.
Lo sbaglio è mio? Mi sono fidato troppo, forse si visto che ho una certa dimestichezza, solo che tale criticità è un serio pericolo per i meno esperti, che dando accesso ai propri dati sensibili rischiano serie conseguenze da tali comportamenti illeciti.
Distinti saluti. Fate attenzione Enianiani!