20.500.12556/DKUM-80444 Uporaba nevronskih jezikovnih modelov za prepoznavanje imenskih entitet iz nestrukturiranih dokumentov diplomsko delo Named entity recognition on unstructured documents using neural language models Nestrukturirani dokumenti zajemajo informacije v oblikah in postavitvah, ki se lahko od enega primerka do drugega razlikujejo, kar lahko oteži in podraži nalogo pridobivanja informacij. Kot rešitev se je v zadnjih letih za razumevanje dokumentov na področju dokumentne inteligence pričela uporaba nevronskih jezikovnih modelov, usposobljenih na učnih množicah dokumentov. V diplomskem delu za pridobivanje informacij iz skeniranih trgovinskih računov uporabljamo prehodno učeni nevronski jezikovni model, zgrajen iz transformatorjev. Model je natančno učen z uporabo učne množice SROIE za izluščitev štirih kategorij, tj. imen in naslovov trgovin, datumov in skupnih cen. Za pridobivanje informacij smo uporabili prepoznavo imenskih entitet. Za primerjavo izvajamo poskuse s spreminjanem hiperparametrov modela. S spremembo nevronskega jezikovnega modela smo pri poskusih dosegli največjo natančnost klasifikacije: 96,7 %. Layouts and formats of information, in unstructured documents, can differ from one another and can make the extraction of information difficult and costly. Therefore, in recent years, the field of document intelligence began with the usage of neural language models trained on datasets of documents for document understanding. In the thesis, we adopt a pre-trained neural language model based on transformers, for information extraction out of scanned store invoices. The model is fine-tuned, using the SROIE dataset, based on four categories to extract store names and addresses, dates and total prices. For information extraction we used named entity recognition to classify tokens into the four prementioned categories. We conducted experiments using altered hyperparameters of the model for comparison. With the usage of the fine-tuned, altered neural language model, we achieved a maximum classification accuracy score of 96.7 %. Dokumentna inteligenca obdelava naravnih jezikov prepoznava imenskih entitet jezikovni modeli transformatorji Document intelligence natural language processing named entity recognition langauge models transformers true true false [U. Knupleš] Slovenski jezik Angleški jezik Diplomsko delo/naloga 2021-09-13 17:04:08 2021-10-18 09:11:25 2022-08-09 22:56:25 0000-00-00 00:00:00 2021 0 Maribor 0 Maribor IX, 35 str. 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 004.652.8(043.2) 95975171 UN_Knuples_Urban_2021.pdf UN_Knuples_Urban_2021.pdf 1 9593ED9635CEAAFC9FED4A1724E47A91 5c23b95828ed0dc102a008902ec97c77b8c0912330e57f789d9ce8ae6461a7cb cdc7cfed-16bb-11ec-8a3d-00155d581298 20.500.12556/dkum/285cb4cc-b93c-40f3-a17c-bbbfb9e1f2b5 https://dk.um.si/Dokument.php?lang=slv&id=153989 Fakulteta za elektrotehniko, računalništvo in informatiko 0 0 0