20.500.12556/DKUM-82103 Dejavniki kredibilnosti sintetične vsebine diplomsko delo visokošolskega študijskega programa Informacijska varnost Factors of deepfake credibility Sintetična vsebina krepi svojo prisotnost v digitalnem prostoru že nekaj let. Vsakodnevno raziskovalci z celega sveta odkrijejo nove načine ustvarjanja dovršene sintetične vsebine. Na različne načine želijo ustvariti popolno sintetično vsebino, ki jo uporabniki ne zmorejo ločiti od avtentične vsebine. Sintetična vsebina v svoji osnovi ni škodljiva in se odlično uporablja za popravljanje končnih izdelkov. Takšne tehnologije se že dolgo poslužuje filmska industrija, oglaševalske in tržne agencije ter drugi. Uporaba algoritmov za ustvarjanje sintetične vsebine zmanjša ceno in čas, ki sta potrebna za ustvarjanje dovršenih posnetkov. Zaradi učinkovitosti sintetične vsebine in njene lahke uporabe se je sintetična vsebina hitro začela uporabljati tudi v škodljive namene. V veliki meri je prizadela znane osebnosti in predvsem ženske, saj se je njena uporaba hitro razširila v industrijo za odrasle. Poleg uničevanja ugleda posameznikov je sintetična vsebina velikokrat uporabljena v politične namene in ustvarjanja kaosa. Zaradi povečanega števila škodljive sintetične vsebine so začele korporacije in ustanove pospešeno razvijati algoritme, ki bi bili sposobni prepoznati sintetično vsebino. Ker tudi uporabniki, ki so seznanjeni z obstojem sintetične vsebine ugibajo pri njeni prepoznavi, smo želeli ugotoviti človeško sposobnost prepoznave sintetične vsebine. Področje človeške prepoznave sintetične vsebine je premalo raziskano. Da bi ugotovili kateri dejavniki vplivajo na človeško prepoznavo sintetične vsebine smo izvedli kvazi eksperiment. Anketiranci so bili na kratko seznanjeni z sintetično vsebino in so poizkušali pravilno ugotoviti v katerih posnetkih je bila prisotna sintetična vsebina. Naše delo je le majhen korak v ugotavljanje dejavnikov kredibilnosti sintetične vsebine, z njem pa želimo povečati zanimanje za to področje. Deepfakes are becoming very common in social media. Researchers from around the globe are figuring out new ways of creating perfect deepfakes. They are trying to create detailed deepfakes which users are not able to distinguish from authentic video. Deepfakes in general are very useful and have been used for a long time to complete video scenes. Film industry and marketing corporations have been using deepfakes to their advantage for quite some time now. Using deepfakes for film production greatly decreases time and cost to produce minor adjustments. Because it has become increasingly easy to create deepfakes people have started to use them for malicious purposes. Deepfakes have quickly become known for their use in defamation of celebrities, creation of adult video content and creating user distrust. The increase in deepfake creation has also increased awareness of malicious implications of deepfakes and encouraged corporations to begin creating deepfake detection algorithms. The problem with deepfakes is that even users who are acquainted with such technology are unable to discern between authentic video and deepfakes. The field of user detection of deepfakes is poorly researched and there is only a handful of research done on factors of deepfake credibility. To better understand human perception of deepfakes we have conducted a quasi-experiment. First, we introduced our respondents to deepfakes and then they were shown a set of videos. We asked them to discern if the video they saw is fake or real. Our work is a small step towards understanding of human perception on deepfakes. With this research we are trying to figure out factors of deepfake credibility and encourage further research on this topic. diplomske naloge sintetična vsebina manipulacija posnetkov nevronske mreže Deepfakes video manipulation neural networks true true false [D. Kalšan] Slovenski jezik Angleški jezik Diplomsko delo/naloga 2022-07-13 18:24:07 2022-08-03 09:12:23 2022-08-10 01:05:45 0000-00-00 00:00:00 2022 0 Ljubljana 2022 Ljubljana VII, 35 str. 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 343.72:004(043.2) 117225987 VS_Kalsan_Domagoj_2022.pdf VS_Kalsan_Domagoj_2022.pdf 1 CF796E902ECFF620647FF14065EFE84C 88ab71436c315845ddece2b15d30a809bf3eb134ecaddb47fdf5fbb553574d51 9af3912f-0e5b-11ed-a1e8-00155d000105 20.500.12556/dkum/8104b477-6b69-44a1-9b56-a3c26d66de36 https://dk.um.si/Dokument.php?lang=slv&id=159613 Fakulteta za varnostne vede 0 0 0