| Naslov: | Primerjava metod napada na globoke nevronske mreže z nasprotniškimi primeri in pristopov k zaščiti pred njimi : magistrsko delo |
|---|
| Avtorji: | ID Novak, Robi (Avtor)
ID Strnad, Damjan (Mentor) Več o mentorju... 
ID Kohek, Štefan (Komentor) |
|---|
| Datoteke: |  MAG_Novak_Robi_2022.pdf (45,09 MB)
MD5: 28C564F58929C619AB04F9248269DE43
PID: 20.500.12556/dkum/18fb69ad-f246-4f6c-ab25-74d37deb8427
 MAG_Novak_Robi_2022.zip (65,17 KB)
MD5: 6458198C3B151733A1B0D41545B0815D
PID: 20.500.12556/dkum/bc3554d7-9a44-4d7d-a231-477d4932cab3
|
|---|
| Jezik: | Slovenski jezik |
|---|
| Vrsta gradiva: | Magistrsko delo/naloga |
|---|
| Tipologija: | 2.09 - Magistrsko delo |
|---|
| Organizacija: | FERI - Fakulteta za elektrotehniko, računalništvo in informatiko
|
|---|
| Opis: | Globoke nevronske mreže imajo ranljivosti, kot so nasprotniški primeri - neopazne namerne popačitve vhodnih podatkov, ki povzročijo neželeno spremembo izhoda. Ker so nasprotniški primeri prenosljivi, lahko popačitev tvorimo v scenariju črne škatle, brez da bi poznali strukturo ali uteži napadene mreže. V našem delu primerjamo več pristopov k napadu in zaščiti. Robustnost modela ovrednotimo glede na prepričanost v napačno klasifikacijo ter glede na statistično porazdelitev amplitud nasprotniških popačitev. Rezultati kažejo, da so amplitude uspešnih napadov tipično za en velikostni razred višje, če je napad izveden po scenariju črne škatle. Robustnost modela je odvisna od klasifikacijskega problema, arhitekture mreže ter pristopa k zaščiti. Za najbolj učinkovita napada sta se v scenariju bele škatle izkazala napada BIM in MI-FGSM, v scenariju črne škatle pa napada MI-FGSM in FGSM. Najučinkovitejša pristopa k zaščiti sta bila diskretizacija ter virtualno nasprotniško učenje. Pokazali smo tudi, da moramo za verodostojen preizkus učinkovitosti nasprotniškega učenja uporabiti napad, ki ni bil uporabljen v procesu učenja. |
|---|
| Ključne besede: | globoko učenje, nasprotniški primeri, nevronske mreže, strojno učenje |
|---|
| Kraj izida: | Maribor |
|---|
| Kraj izvedbe: | Maribor |
|---|
| Založnik: | [R. Novak] |
|---|
| Leto izida: | 2022 |
|---|
| Št. strani: | 1 spletni vir (1 datoteka PDF (XI, 76 f.)) |
|---|
| PID: | 20.500.12556/DKUM-81921 |
|---|
| UDK: | 004.85:004.032.26(043.2) |
|---|
| COBISS.SI-ID: | 116049411 |
|---|
| Datum objave v DKUM: | 06.07.2022 |
|---|
| Število ogledov: | 1085 |
|---|
| Število prenosov: | 194 |
|---|
| Metapodatki: |    |
|---|
| Področja: | KTFMB - FERI
|
|---|
|
:
|
Kopiraj citat |
|---|
| | | | Skupna ocena: | (0 glasov) |
|---|
| Vaša ocena: | Ocenjevanje je dovoljeno samo prijavljenim uporabnikom. |
|---|
| Objavi na: |  |
|---|
Postavite miškin kazalec na naslov za izpis povzetka. Klik na naslov izpiše
podrobnosti ali sproži prenos. |
