Il 19 luglio 2022, il comitato organizzatore della International Conference on Machine Learning (ICML) ha premiato il Prof. Battista Biggio (Università di Cagliari, co-founder di Pluribus One) e i suoi co-autori Blaine Nelson (Robust Intelligence, USA) e Pavel Laskov (University of Liechtenstein) con il prestigioso Test of Time Award per l’articolo scientifico "Poisoning Attacks Against Support Vector Machines", pubblicato 10 anni fa sugli atti della stessa conferenza, svoltasi a Edimburgo, nel 2012. In questo articolo: i dettagli del premio e i nostri studi sull'Adversarial Machine Learning.
Articoli sull'Intelligenza Artificiale
È disponibile per il download gratuito il libro "Intelligenza artificiale e sicurezza: opportunità, rischi e raccomandazioni", a cura di CLUSIT - Associazione Italiana per la Sicurezza Informatica, alla cui stesura hanno partecipato Davide Ariu e Igino Corona, co-fondatori di Pluribus One.
1 anno di lavoro, 243 pagine, 74 autori tra cui 11 team leader, 49 figure, 35 link a video Youtube, 8 interviste, 25 libri in bibliografia e decine di note a piè di pagina e link di approfondimento.
L'IA (o intelligenza artificiale) è una disciplina in forte espansione negli ultimi anni e lo sarà sempre più nel prossimo futuro: tuttavia è dal 1956 che l’IA studia l’emulazione dell’intelligenza da parte delle macchine, intese come software e in certi casi hardware. L’IA è nata dall’idea di costruire macchine che - ispirandosi ai processi legati all’intelligenza umana - siano in grado di risolvere problemi complessi, per i quali solitamente si ritiene che sia necessario un qualche tipo di ragionamento intelligente.
Battista Biggio, Matteo Mauri
L’intelligenza artificiale è ormai integrata in diversi scenari quotidiani. È quindi lecito chiedersi se questi algoritmi non introducano vulnerabilità nei sistemi che li utilizzano, trasformandosi nell’anello debole della sicurezza informatica.
In alcuni settori applicativi all’interno dei quali affidiamo alle intelligenze artificiali la nostra sicurezza fisica, le potenziali vulnerabilità dei sistemi di IA potrebbero rivelarsi un pericoloso boomerang. Basti pensare alle cosiddette self-driving cars (veicoli a guida automatica) o ai velivoli dotati di sistemi di pilotaggio/atterraggio semi-automatico.
In questo articolo, proveremo a fare un po’ di chiarezza su questo problema, discutendo, da una parte, i principali vettori di attacco che possono essere utilizzati per confondere un sistema di IA, in diversi contesti applicativi e, dall’altra, le contromisure più promettenti volte a mitigare questo rischio.
Il filone di ricerca descritto in questo articolo è parzialmente analizzato, col fine di individuare cause delle vulnerabilità nelle IA e adeguate contromisure, anche all’interno del progetto ALOHA di cui Pluribus One fa parte...
