20.500.12556/DKUM-93623 Analiza ranljivosti in varnostni vidiki zastrupljanja podatkov pri učenju velikih jezikovnih modelov magistrsko delo Vulnerability analysis and security aspects of data poisoning in large language model training Predmet magistrske naloge je analiza ranljivosti velikih jezikovnih modelov ob zastrupljanju podatkov v fazi učenja. Delo se osredotoča na preučevanje, kako različni deleži in vrste zastrupljenih podatkov vplivajo na kakovost odgovorov modelov, pri čemer je poudarek na ciljnem in tematsko nepovezanem zastrupljanju. Raziskava temelji na eksperimentalnem pristopu z uporabo medicinskih učnih nizov ter vključuje analizo sprememb v vedenju modelov pri različnih scenarijih zastrupljanja. This master's thesis focuses on analyzing vulnerabilities in large language models resulting from data poisoning during the training phase. The work focuses on examining how different percentages and types of poisoned data affect the quality of model responses, with an emphasis on targeted and off-topic poisoning. The research is based on an experimental approach using medical training datasets and includes an analysis of behavioral changes in models under various poisoning scenarios. veliki jezikovni modeli zastrupljanje podatkov varnost umetne inteligence kakovost odgovorov medicinski podatki large language models data poisoning AI security answer quality medical datasets true true false [V. Dimkovska] Slovenski jezik Angleški jezik Magistrsko delo/naloga 2025-07-08 10:38:56 2025-08-13 12:48:31 2025-08-19 03:19:15 0000-00-00 00:00:00 2025 0 Maribor 0 Maribor 1 spletni vir (1 datoteka PDF (VIII, 69 str.)) 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 004.6.056:004.85(043.2) 245839875 MAG_Dimkovska_Vanja_2025.pdf MAG_Dimkovska_Vanja_2025.pdf 1 93DFFAB51AAB9F98F5944791E8E9FBBA ee9ccca9180c2d6eefb4bf2cb1b76238212a0297098a247544b45da0758ed0c3 12f3fdec-5bd9-11f0-8fa8-00155d000105 https://dk.um.si/Dokument.php?lang=slv&id=193344 Fakulteta za elektrotehniko, računalništvo in informatiko 0 0 0