I limiti del Machine Learning e dintorni

Waveharp

Moderatore
Staff Forum
5,384
2,823
Hardware Utente
CPU
Ryzen 5 3600 @ 4.2ghz 1.35v
Dissipatore
Custom Loop: wb cpu e gpu EK+HL gts 360/240
Scheda Madre
Asus Prime X470 Pro
Hard Disk
Samsung 960 Evo + Samsung 850 Evo
RAM
16 gb G skill Trident 3200mhz CL16
Scheda Video
Evga 1080TI Sc Black Gaming OC
Monitor
Acer Predator 27" 144hz 1440p IPS
Alimentatore
Evga 650W SuperNova G2
Case
Cooler Master H500M
Sistema Operativo
Win 10 Pro 64 bit

asdasd.jpg


Le IA cominciano a diffondersi sempre più nelle nostre applicazioni, tali algoritmi, sebbene mostruosamente efficaci, risultano sensibili ai cosiddetti "dati contraddittori" sui quali si basano attacchi di avvelenamento, evasione, ed altro ancora.

Questi dati, sebbene presenti in natura, possono essere creati aggiungendo del rumore (ad es. pochi e singoli pixel) che portando le IA ad una errata classificazione.
Una sorta di collisione delle label partendo da input tendenzialmente identici.

Si stanno diffondendo tecniche che ricreano IA parallele allenate sui risultati delle IA da aggredire, in un contesto puramente di Blackbox
La ricerca su questi temi è vivace, e si comincia a parlare di vaccini, che consentiranno di far imparare, con dataset contraddittori supervisionati, come e cosa classificare.

Sono tecniche di AdversarialTraining, che consentono di insegnare il contraddittorio alle macchine, in modo da essere più resistenti ad un attacco hacker.

(Fonte: Red Hot Cyber Facebook)
 
  • Mi piace
Reactions: TonyPg22

Entra

oppure Accedi utilizzando