È possibile ingannare le intelligenze artificiali con una T-Shirt? Ecco lo studio di alcuni ricercatori.
Alcuni ricercatori, tra cui l’italiano Battista Biggio, hanno sviluppato alcuni sistemi per eludere i sistemi di sorveglianza gestiti da intelligenze artificiali, riproducendo alcuni motivi su delle T-Shirt.
In pratica, creando un motivo colorato caleidoscopico particolare, la T-Shirt interferisce con la rete neurale utilizzata per il rilevamento degli oggetti. Normalmente una rete neurale riconosce una persona o un oggetto in un’immagine, disegna un confine immaginario attorno ad essa e gli assegna un’etichetta.
I ricercatori allora sono riusciti a creare un tipo di design che confonda il sistema di classificazione ed “etichettatura” dell’intelligenza artificiale.
Ci sono due tipi di rete neurali comunemente usate per allenamento, YOLOv2 e R-CNN, e il team è riuscito a identificare le aree del corpo dove aggiungendo il cosidetto “pixel noise” è possibile confondere le loro reti neurali e rendere chi indossa tale pattern praticamente invisibile.
Già in passato era stato fatto un tentativo del genere: negli Stati Uniti alcuni ricercatori erano riusciti a creare degli occhiali in grado di confondere la tecnologia di riconoscimento facciale, e sempre negli USA si era riuscito a far credere a una rete neurale che un segnale di stop fosse in realtà un limite di velocità.
C’è differenza però tra un oggetto fermo e una persona in movimento, per cui utilizzando un “transformer”, un metodo che misura come si muove una T-Shirt indossata da un essere umano in movimento e mappandolo nel design, i ricercatori sono riusciti ad ottenere risultati abbastanza soddisfacenti.
Con questo pattern infatti, l’abilità di eludere la sorveglianza è salita dal 27 al 63% nei confronti di YOLOv2, e dall’11 al 52% nei confronti di R-CNN.
Non illudetevi però: non ce ne andremo in giro con magliette bizzarre per evitare i sistemi di sorveglianza. Si tratta di sistemi messi a punto proprio per trovare i punti deboli nelle reti neurale, in modo da aggiustarli.
(Fonte: Wired)
