20.500.12556/DKUM-96062 Razlaga odločitev umetne inteligence v obliki pogovorov z velikimi jezikovnimi modeli magistrsko delo Conversational explanations of AI decisions using Large Language Models Razlaga odločitev, sprejetih s pomočjo umetne inteligence, postaja vse pomembnejša, saj umetna inteligenca danes aktivno sodeluje v sistemih, ki se uporabljajo v kritičnih področjih, kot so medicina, energetika, bančništvo. Take odločitve imajo pomemben vpliv na naše življenje, zato je ključnega pomena, da so uporabnikom razumljive in transparentne. Čeprav so statične razlage kot na primer, SHAP in LIME, v praksi še vedno najpogosteje uporabljene, se pogosto izkaže, da ne naslovijo vseh vprašanj in dvomov uporabnikov. Zaradi tega postajajo vse bolj relevantne interaktivne razlage, ki omogočajo dialog z velikim jezikovnim modelom in s tem prilagojeno, pojasnjevalno izkušnjo. V okviru magistrskega dela smo izvedli eksperiment, v katerem smo primerjali vpliv statičnih in interaktivnih razlag na uporabniško izkušnjo. Za ta namen smo razvili spletno orodje, ki omogoča predstavitev obeh tipov razlag. Uporabniško razumevanje odločitev smo merili s pomočjo vedenjskih nalog, oblikovanih na podlagi metod za merjenje mentalnih modelov. Rezultati eksperimenta nudijo pomemben vpogled v to, kako uporabniki zaznavajo in vrednotijo različne oblike razlag ter razkrivajo njihove preference pri razumevanju odločitev umetne inteligence. Explaining decisions made with the help of artificial intelligence is becoming increasingly important, as AI systems are now actively involved in critical domains such as healthcare, energy, and banking. These decisions can significantly influence our lives, making it essential that they are transparent and understandable to users. The currently prevailing static explanations often fail to address all user questions, which is why interactive explanations where the user engages in a dialogue with a large language model are gaining relevance. In this master’s thesis, we conducted an experiment comparing the impact of static and interactive explanations on the user experience. We developed a tool that was used to carry out the experiment with both types of explanations. User understanding of AI decisions was measured through tasks derived from methods used for assessing mental models. The results of the experiment provided insight into user preferences regarding different types of explanations. veliki jezikovni modeli interaktivne razlage statične razlage razlaga odločitev razložljiva umetna inteligenca large language models interactive explanations static explanations decision explanation explainable artificial intelligence true true false [J. Sernec] Slovenski jezik Angleški jezik Magistrsko delo/naloga 2025-11-28 11:36:06 2025-12-22 09:36:11 2026-01-31 03:15:44 0000-00-00 00:00:00 2025 0 Maribor 0 Maribor 1 spletni vir (1 datoteka PDF (XV, 99 str.)) 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 004.8:519.766(043.2) 266786307 MAG_Sernec_Jan_2025.pdf MAG_Sernec_Jan_2025.pdf 1 19FE27753FFFAABEB574B58DB936F850 b47cb1ea79f618ad752b3ce42c6db50c5ede6f34247d9cbdd14413f4e4cc0648 8cf6cc6f-d6ae-11f0-b416-00155d000105 https://dk.um.si/Dokument.php?lang=slv&id=201370 Fakulteta za elektrotehniko, računalništvo in informatiko 0 0 0