Pozivni injekcijski napadi na velike jezikovne modeleBobnar, Matic (Avtor) Karakatič, Sašo (Mentor) Generativna umetna inteligencaGenerativni modeliVeliki jezikovni modeliPozivni injekcijski napadiInženering pozivovV magistrskem delu raziskujemo vlogo velikih jezikovnih modelov v vzponu generativne umetne inteligence. Predstavimo osnovne koncepte, kot so transformerji, žetoni in vektorske reprezentacije, ter opisujemo ključne prednosti, slabosti in izzive z generativnimi modeli. Posebno pozornost namenjamo izzivom varnosti, kot so pozivni injekcijski napadi. Podrobno analiziramo delovanje teh napadov, njihove vrste in predstavimo možne pristope za obrambo pred njimi. V okviru eksperimenta prikazujemo izdelavo spletne ankete, ki implementira različne jezikovne modele. S pomočjo pridobljenih podatkov iz ankete nato analiziramo občutljivost posameznih modelov na različne intenzitete injekcijskih napadov ter preučujemo njihove vplive na uporabniške dimenzije, kot so uporabnost, točnost, razumljivost in relevantnost. Na koncu ugotavljamo, kateri modeli se najbolje odzivajo na napade in predstavljajo najvarnejšo uporabo.[M. Bobnar]20252025-01-21 19:15:43Magistrsko delo/naloga91632UDK: 004.8.056(043.2)COBISS_ID: 226895619sl