| Naslov: | Federativno učenje z nevronskimi mrežami : magistrsko delo |
|---|
| Avtorji: | ID Čugalj, Jaka (Avtor)
ID Strnad, Damjan (Mentor) Več o mentorju... 
ID Žalik, Mitja (Komentor) |
|---|
| Datoteke: |  MAG_Cugalj_Jaka_2024.pdf (6,46 MB)
MD5: A5200269D2B0B4D5A21C689B601E4B07
|
|---|
| Jezik: | Slovenski jezik |
|---|
| Vrsta gradiva: | Magistrsko delo/naloga |
|---|
| Tipologija: | 2.09 - Magistrsko delo |
|---|
| Organizacija: | FERI - Fakulteta za elektrotehniko, računalništvo in informatiko
|
|---|
| Opis: | V magistrskem delu raziščemo postopek učenja nevronskih mrež in predstavimo idejo federativnega učenja, ki omogoči sodelovanje več naprav pri učenju enega modela nevronske mreže brez izmenjave učnih primerov. Glavna prednost federativnega učenja je, da naprava svojih lokalnih podatkov ne deli z ostalimi napravami, zato ostanejo zasebni. Preučili smo algoritme federativnega učenja FedSGD, FedAvg, FedProx, SCAFFOLD, FedVARP, ClusterFedVARP in FedRolex, ki na različne načine rešujejo izzive takšnega načina učenja. Prav tako predstavimo novo rešitev, ki komplementarno združi nekatere naštete algoritme tako, da se lahko v nekaterih primerih ob istih pogojih učenje izvaja učinkoviteje. Učinkovitost učenja smo testirali na klasifikacijskem problemu razpoznave ročno napisanih števil podatkovne zbirke MNIST ter problemu napovedovanja naslednje črke v stavku, kjer smo učne primere generirali s pomočjo literarnih del Williama Shakespeara. Izvedli smo analizo vpliva različnih parametrov algoritmov na učenje nevronskih mrež in primerjali vpliv neenakomerne porazdelitve podatkov na hitrost konvergence posameznih algoritmov na različnih podatkovnih zbirkah. Implementirali smo simulator federativnega učenja z uporabniškim vmesnikom, preko katerega lahko uporabnik ureja parametre učnih algoritmov in odjemalcev ter izvaja učenje in testiranje različnih modelov v ločenih nitih. |
|---|
| Ključne besede: | nevronske mreže, federativno učenje, klasifikacija, MNIST, stohastični gradientni spust |
|---|
| Kraj izida: | Maribor |
|---|
| Kraj izvedbe: | Maribor |
|---|
| Založnik: | [J. Čugalj] |
|---|
| Leto izida: | 2024 |
|---|
| Št. strani: | 1 spletni vir (1 datoteka PDF (XI, 90 f.)) |
|---|
| PID: | 20.500.12556/DKUM-88491 |
|---|
| UDK: | 004.85:004.032.26(043.2) |
|---|
| COBISS.SI-ID: | 205879811 |
|---|
| Datum objave v DKUM: | 01.07.2024 |
|---|
| Število ogledov: | 347 |
|---|
| Število prenosov: | 98 |
|---|
| Metapodatki: |    |
|---|
| Področja: | KTFMB - FERI
|
|---|
|
:
|
Kopiraj citat |
|---|
| | | | Skupna ocena: | (0 glasov) |
|---|
| Vaša ocena: | Ocenjevanje je dovoljeno samo prijavljenim uporabnikom. |
|---|
| Objavi na: |  |
|---|
Postavite miškin kazalec na naslov za izpis povzetka. Klik na naslov izpiše
podrobnosti ali sproži prenos. |
