Pozivni injekcijski napadi na velike jezikovne modele : magistrsko delo

Bobnar, Matic

| | SLO | ENG | Piškotki in zasebnost

Večja pisava | Manjša pisava

Prva stran > Izpis gradiva

Izpis gradiva

Naslov:	Pozivni injekcijski napadi na velike jezikovne modele : magistrsko delo
Avtorji:	ID Bobnar, Matic (Avtor) ID Karakatič, Sašo (Mentor) Več o mentorju...
Datoteke:	MAG_Bobnar_Matic_2025.pdf (2,82 MB) MD5: AF7B7660310E3B3E8821E2CCC74EA5FA
Jezik:	Slovenski jezik
Vrsta gradiva:	Magistrsko delo/naloga
Tipologija:	2.09 - Magistrsko delo
Organizacija:	FERI - Fakulteta za elektrotehniko, računalništvo in informatiko
Opis:	V magistrskem delu raziskujemo vlogo velikih jezikovnih modelov v vzponu generativne umetne inteligence. Predstavimo osnovne koncepte, kot so transformerji, žetoni in vektorske reprezentacije, ter opisujemo ključne prednosti, slabosti in izzive z generativnimi modeli. Posebno pozornost namenjamo izzivom varnosti, kot so pozivni injekcijski napadi. Podrobno analiziramo delovanje teh napadov, njihove vrste in predstavimo možne pristope za obrambo pred njimi. V okviru eksperimenta prikazujemo izdelavo spletne ankete, ki implementira različne jezikovne modele. S pomočjo pridobljenih podatkov iz ankete nato analiziramo občutljivost posameznih modelov na različne intenzitete injekcijskih napadov ter preučujemo njihove vplive na uporabniške dimenzije, kot so uporabnost, točnost, razumljivost in relevantnost. Na koncu ugotavljamo, kateri modeli se najbolje odzivajo na napade in predstavljajo najvarnejšo uporabo.
Ključne besede:	Generativna umetna inteligenca, Generativni modeli, Veliki jezikovni modeli, Pozivni injekcijski napadi, Inženering pozivov
Kraj izida:	Maribor
Kraj izvedbe:	Maribor
Založnik:	[M. Bobnar]
Leto izida:	2025
Št. strani:	1 spletni vir (1 datoteka PDF (XVII, 72 str.))
PID:	20.500.12556/DKUM-91632
UDK:	004.8.056(043.2)
COBISS.SI-ID:	226895619
Datum objave v DKUM:	06.02.2025
Število ogledov:	569
Število prenosov:	70
Metapodatki:
Področja:	KTFMB - FERI
:	Kopiraj citat

Skupna ocena:	(0 glasov)
Vaša ocena:	Ocenjevanje je dovoljeno samo prijavljenim uporabnikom.
Objavi na:

Postavite miškin kazalec na naslov za izpis povzetka. Klik na naslov izpiše podrobnosti ali sproži prenos.

Licence

Licenca:	CC BY-NC-ND 4.0, Creative Commons Priznanje avtorstva-Nekomercialno-Brez predelav 4.0 Mednarodna

Povezava:	http://creativecommons.org/licenses/by-nc-nd/4.0/deed.sl
Opis:	Najbolj omejujoča licenca Creative Commons. Uporabniki lahko prenesejo in delijo delo v nekomercialne namene in ga ne smejo uporabiti za nobene druge namene.
Začetek licenciranja:	21.01.2025

Sekundarni jezik

Jezik:	Angleški jezik
Naslov:	Prompt injection attacks on large language models
Opis:	In the master's thesis, we explore the role of large language models in the rise of generative artificial intelligence. We present fundamental concepts such as transformers, tokens, and vector representations, and describe the key advantages, disadvantages, and challenges of generative models. Special attention is given to security challenges, such as prompt injection attacks. We analyze the functioning of these attacks in detail, their types, and propose possible defense approaches. As part of the experiment, we develop an online survey application that implements various language models. Using the data collected from the survey, we analyze the sensitivity of individual models to different intensities of injection attacks and examine their impacts on user dimensions such as usability, accuracy, understandability, and relevance. Finally, we identify which models respond best to the attacks and represent the most secure usage.
Ključne besede:	Generative artificial intelligence, Generative models, Large language models, Prompt injection attacks, Prompt engeneering

Komentarji

Dodaj komentar

Za komentiranje se morate prijaviti.

Komentarji (0)

0 - 0 / 0

Ni komentarjev!

Nazaj