Che cos’è il data poisoning?

L’inquinamento dei dati può compromettere il lavoro dell’intelligenza artificiale e quindi anche per attentati terroristici.

Gli algoritmi di machine learning hanno la capacità di scovato le correlazione all’interno di sconfinamenti set di dati.

Il problema è che non possono integrare le loro scoperte sfruttando il principio di casualità o le relazioni logiche. Ovviamente questo si tratta di una debolezza che può essere facilmente sfruttata contro l’intelligenza artificiale stessa.

A tal proposito l’intelligenza artificiale rischia di restare vittima della tua stessa capacità di individuare esclusivamente correlazione,  Ecco perché gli algoritmi dei computer vengono utilizzati anche a scopi estremamente delicati tutto ciò presenta dei rischi. Software incaricato di individuare il tumore della pelle, Ah per esempio diagnosticato melanomi In ogni foto in cui erano presenti le indicazioni relative alla scala dell’immagine riprodotta,  a causa di un errore eseguito in fase di addestramento. Rappresentare ulteriori rischi il fenomeno noto come data poisoning, compiuto volontariamente da hacker esperti intelligenza artificiale con gli obiettivi più disparati. Come mostra un’analisi pubblicata da tectalk,  è possibile compromettere l’addestramento della macchina e fare in modo che come funda un segnale di stop con un limite di velocità nel caso in cui si tratti di un’auto a guida autonoma.

Ovviamente non si tratta di una missione semplice, per ogni caso di data poisoning pone problemi simili ai cosiddetti adversarial Attack in cui jager individuano quali modifiche a portare a un’immagine a un altro per confondere l’intelligenza artificiale.

In un mondo in cui gli strumenti sono sempre più utilizzati per scopi delicati questi avvenimenti non possono che dare preoccupazioni. I ricercatori sono già all’opera per rendere più resistente il machine learning, ma qualunque soluzione si trovi avrà sempre lo stesso limite: finché l’intelligenza artificiale continuerà a essere tutt’altro che intelligente: ingannarla sarà sempre più semplice di quanto si crede.