| | SLO | ENG | Piškotki in zasebnost

Večja pisava | Manjša pisava

Izpis gradiva Pomoč

Naslov:Učenje redkih nevronskih mrež z iterativnim rezanjem parametrov
Avtorji:ID Podvratnik, Nejc (Avtor)
ID Strnad, Damjan (Mentor) Več o mentorju... Novo okno
ID Horvat, Štefan (Komentor)
Datoteke:.pdf MAG_Podvratnik_Nejc_2025.pdf (2,88 MB)
MD5: 95912F2F4AD466C3AC0EE9DF8A2A6F54
 
Jezik:Slovenski jezik
Vrsta gradiva:Magistrsko delo/naloga
Tipologija:2.09 - Magistrsko delo
Organizacija:FERI - Fakulteta za elektrotehniko, računalništvo in informatiko
Opis:Moderno globoko učenje pogosto vključuje nevronske mreže, ki imajo nepotrebno veliko število parametrov oziroma povezav. Posledica tega je višja časovna in prostorska zahtevnost pri delu z mrežami. Možna rešitev problema je hipoteza loterijskih srečk, ki pravi, da v množici povezav vsake naprej povezane nevronske mreže obstaja podmnožica, ki je manjša in ohranja enako in v nekaterih primerih tudi večjo uspešnost. Imenujemo jo zmagovita srečka. V magistrskem delu je predstavljena in dokazana hipoteza loterijske srečke ter implementiran lasten algoritem za iterativno rezanje parametrov, ki je bil testiran in analiziran na različnih arhitekturah, podatkovnih zbirkah in hiperparametrih.
Ključne besede:strojno učenje, redka nevronska mreža, hipoteza loterijskih srečk, rezanje
Kraj izida:Maribor
Založnik:[N. Podvratnik]
Leto izida:2025
PID:20.500.12556/DKUM-91709 Novo okno
UDK:004.85:004.032.26(043.2)
COBISS.SI-ID:229524227 Novo okno
Datum objave v DKUM:04.03.2025
Število ogledov:158
Število prenosov:62
Metapodatki:XML DC-XML DC-RDF
Področja:KTFMB - FERI
:
Kopiraj citat
  
Skupna ocena:(0 glasov)
Vaša ocena:Ocenjevanje je dovoljeno samo prijavljenim uporabnikom.
Objavi na:Bookmark and Share



Postavite miškin kazalec na naslov za izpis povzetka. Klik na naslov izpiše podrobnosti ali sproži prenos.

Licence

Licenca:CC BY-NC-ND 4.0, Creative Commons Priznanje avtorstva-Nekomercialno-Brez predelav 4.0 Mednarodna
Povezava:http://creativecommons.org/licenses/by-nc-nd/4.0/deed.sl
Opis:Najbolj omejujoča licenca Creative Commons. Uporabniki lahko prenesejo in delijo delo v nekomercialne namene in ga ne smejo uporabiti za nobene druge namene.
Začetek licenciranja:29.01.2025

Sekundarni jezik

Jezik:Angleški jezik
Naslov:Sparse neural network learning with iterative parameter removal
Opis:Modern deep learning often involves neural networks that have an unnecessarily large number of parameters or connections. This results in a higher time and space complexity when working with networks. A possible solution to the problem is the lottery ticket hypothesis, which states that in a set of connections of any feedforward neural network there is a subset that is smaller and maintains the same and, in some cases, even higher effectiveness. We call them winning tickets. In the content of this work, we will present and prove the lottery ticket hypothesis, implement our own algorithm for iterative pruning of parameters and test and analyze it on various architectures, datasets and hyperparameters.
Ključne besede:machine learning, sparse neural network, lottery ticket hypothesis, pruning


Komentarji

Dodaj komentar

Za komentiranje se morate prijaviti.

Komentarji (0)
0 - 0 / 0
 
Ni komentarjev!

Nazaj
Logotipi partnerjev Univerza v Mariboru Univerza v Ljubljani Univerza na Primorskem Univerza v Novi Gorici