Search

Ovaj rad istražuje primjenu statističkih metoda i metoda strojnog učenja u analizi podataka iz zdravstva. Primjena strojnog učenja u zdravstvenom sektoru uključuje klasifikaciju bolesti, predviđanje dijagnoza, otkrivanje prijevara u zdravstvenom osiguranju, personalizaciju tretmana i analizu medicinskih slika. Rad proučava podatkovni skup u svrhu identifikacije rizičnih faktora i predviđanja dijagnoze raka pluća. Provedena je eksploratorna analiza s ciljem boljeg shvaćanja skupa te su zatim, uz stečena saznanja o značajkama skupa, implementirana četiri prediktivna modela čiji su rezultati prikazani i međusobno uspoređeni. This paper explores the application of statistical methods and machine learning techniques in healthcare data analysis. The use of machine learning in the healthcare sector includes disease classification, diagnosis prediction, fraud detection in health insurance, treatment personalization and medical image analysis. The paper explores the dataset with the aim of identifying risk factors and predicting lung cancer diagnosis. An exploratory analysis was conducted to gain a better understanding of the dataset. Based on the acquired knowledge of the dataset's features, four predictive models were implemented and their results were presented and compared.

U radu je provedena analiza podataka na povijesnim podacima o utrkama Formule 1. Na temelju analize su izvedeni zaključci o značajkama koje bi mogle utjecati na vjerojatnost pobjede vozača. Odabrane su najbitnije značajke i kombinirane u skup podataka koji je korišten za treniranje modela. Problem je tretiran i kao klasifikacijski i kao regresijski pa su korištene prikladne metode strojnog učenja. Prikazani su i uspoređeni rezultati korištenih metoda. In the paper, data analysis was performed on historical data on Formula 1 races. Based on the research, conclusions were drawn about the features that could affect the probability of a driver's victory. The most important features were selected and combined into a dataset that was used to train the model. The problem was treated as both classification and regression, so appropriate machine learning methods were used. The results of the methods used are presented and compared.

Konformna predikcija neparametarska je metoda za kvantificiranje neizvjesnosti modela strojnog učenja. Može se koristiti povrh bilo kojeg modela strojnog učenja. Konformna predikcija proizvodi kalibrirane prediktivne skupove i garantira marginalnu pokrivnost točne vrijednosti koristeći konačan broj podatkovnih točaka, bilo koji model i bilo koju podatkovnu distribuciju. Mjerna nekonformnosti je ključan koncept konformne predikcije i mjera je koliko se novi primjerak ne konformira viđenim primjercima. Kalibracija prediktivnih skupova obavlja se koristeći nekonformnost kalibracijskog skupa. Conformal prediction is a distribution-free method for uncertainty quantification of machine learning models. It can be used as a wrapper around any machine learning model. Conformal prediction produces calibrated predictive sets instead of point outputs and guarantees marginal coverage of prediction sets using a finite number of data points, any model, and any data distribution. Nonconformity measure is the key concept of conformal prediction, which measures how strange new examples are given the seen examples. Calibration of prediction sets is performed using nonconformity score distribution obtained on the calibration data.

Turistički sektor može polučiti velike benefite od kvalitetne primjene analize podataka. Kvalitetan uvid u dinamiku rezervacija smještaja, potražnju i potrebe klijenata može ponuđaču turističkih usluga dati mogućnost donošenja poslovnih odluka koje će s jedne strane dodatno podići kvalitetu ponude i zadovoljstvo klijenata, a s druge rezultirati većim profitima. Zadatak ovog rada jest prikupiti podatkovni skup povezan uz turistički sektor, provesti eksploratornu analizu nad tim podacima i razviti prediktivni model za odabrane zavisne varijable. Konačno rješenje potrebno je realizirati u obliku programske skripte koje će implementirati razvijene modele i evaluirati njihovu učinkovitost uz komparativnu analizu korištenih metoda. The tourism sector can benefit from the quality application of data analysis. Quality insight into the dynamics of accommodation reservations, demand and customer needs can give the tourism service provider the opportunity to make business decisions that will on the one hand, further raise the quality of the offer and customer satisfaction, and on the other hand, result higher profits. The task of this paper is to collect a data set related to the tourism sector, to implement exploratory analysis of these data and develop a predictive model for selected dependent variables. The final solution needs to be implemented in the form of a program script that will implement the developed models and evaluate their effectiveness with comparative analysis of used methods.

Rad se bavi metodama objašnjivosti koje se koriste na nekoliko često korištenih vrsta umjetnih neuronskih mreža.Na studijskom primjeru procjene starosti školjaka se prikazuje rad nekoliko agnostičnih metoda i onih specifičnih za umjetne neuronske mreže.Razmatraju se i specifični postupci za konvolucijske i povratne umjetne neuronske mreže te neke od vrsta podataka na kojima su one često primijenjene. The paper deals with explanatory methods used on several commonly used types of artificial neural networks. On the case study of estimating the age of shellfish, it shows the work of several agnostic methods and those specific to artificial neural networks. Specific methods for convolutional and recurrent artificial neural networks are also described, as well as some of the types of data on which they are often applied.

U današnje vrijeme, kada se većina ekonomskih, komercijalnih, kulturalnih, socijalnih i upravnih aktivnosti odvija "online", kibernetička sigurnost ima vrlo važnu ulogu. Eksponencijalni rast broja i raznolikosti kibernetičkih napada doveo je do potrebe za automatizacijom procesa ekstrakcije znanja iz svakim danom sve većeg broja podataka, a idealnim alatom za to pokazalo se strojno učenje. Kako bi modelima strojnog učenja implementiranima u svrhe očuvanja kibernetičke sigurnosti bilo moguće vjerovati, odnosno kako bi se povećala količina ljudskog znanja o domeni te spriječile potencijalne netočne i nepouzdane predikcije, potrebno je da implementirani modeli budu interpretabilni. Interpretabilnost modela strojnog učenja moguće je postići korištenjem "white-box" modela koji su jednostavni te pri treningu koriste metode koje ekstrahiraju znanje u ljudski interpretabilnom obliku, no takvi modeli često nisu dovoljno kompleksni te ih svojim performansama nadmašuju puno moćniji, no nažalost neinterpretabilni "black-box" modeli. Potreba za iskorištavanjem prediktivne moći "black-box" modela uz zadržavanje interpretabilnosti dovela je do razvoja područja objašnjivosti u strojnom učenju. Ovaj rad fokusira se na korištenje agnostičkih metoda objašnjivosti kako bi se interpretirao rad "black-box" modela treniranih nad skupom podataka vezanim uz kibernetičku sigurnost. Globalne agnostičke metode korištene su u svrhu generalne interpretacije te potencijalne redukcije broja značajki implementiranih modela, dok su lokalne agnostičke metode korištene u svrhu dobivanja detaljnih objašnjenja nad individualnim predikcijama. Rezultati "black-box" modela te pravila ekstrahirana agnostičkim metodama uspoređeni su s rezultatima i pravilima ekstrahiranima iz "white-box" modela treniranih pod istim uvjetima nad istim podatkovnim skupom. Today, when most of the economic, commercial, cultural, social and government activities are carried out online, cybersecurity plays a very important role. Exponential growth in the number and variety of cyber-attacks created a need for the automation of knowledge extraction from the constantly growing amount of data. The ideal tool for such automation turned out to be machine learning. To create confidence in machine learning algorithms implemented in order to obtain cybersecurity, to increase the amount of cybersecurity knowledge and to prevent potentially incorrect and unreliable predictions, the implemented algorithms need to be interpretable. Interpretability of the machine learning models can be achieved by using simple "white-box" models that extract knowledge in a human-friendly format in the process of learning, but such models are usually not complex enough and thus outperformed by the powerful, but not easily interpretable "black-box" models. In order to keep both the predictive power of "black-box" models and the interpretability of "white-box" model, a new field in machine learning was developed that focused explicitly on the interpretability. This thesis focuses on using model agnostic methods to explain the predictions made by "black-box" models trained on a cybersecurity-related dataset. The global agnostic methods are used to explain the general model behavior and potentially reduce the number of features necessary for the model training, while the local agnostic methods are used to provide detailed explanations on individual predictions. The results of the implemented "black-box" models and the rules extracted by the model agnostic methods are compared with the results and rules provided by the "white-box" models trained under the same conditions on the same dataset.

Napadi na komunikacijsku mrežu predstavljaju problem ostvarenja sigurnosti podataka. Detekcija napada i provođenje ispravnih postupaka za njegovo otklanjanje jedan su od glavnih načina borbe protiv napada. Tema napisanog rada je analiza podataka koji predstavljaju promet mreže i gradnja klasifikatora koji bi prepoznavali razrede napada. Analizom podataka ustanovljena je neravnomjerna rasprostranjenost podataka između razreda. Naduzorkovanjem pa poduzorkovanjem je uklonjen taj problem te su ponovljeni algoritmi klasifikacije. Pokazalo se da su se rezultati klasifikatora poboljšali. Modeli s najboljim rezultatima su ekstremno pojačavanje gradijenta i stroj potpornih vektora. Klasifikatori su postizali točnost od 49\% do 79\%. Model koji je imao najlošiju točnost prije naduzorkovanja i poduzorkovanja, ali kojem se i točnost povećala za 15\% je naivni Bayesov klasifikator. Attacks on the communication network are a problem of data security. Detecting an attack and carrying out the correct procedures to eliminate it are one of the main ways to fight an attack. The topic of this paper is the analysis of data representing network traffic and the construction of classifiers that would identify attack classes. Data analysis revealed an uneven distribution of data between classes. Oversampling and then undersampling over data removed this problem and the classification algorithms were repeated. Classifier results have been shown to improve. Model with best results are Extreme gradient boosting and Support vector machines. Classifiers achieved accuracy from 49% to 79%. The model that had the worst accuracy before oversampling and undersampling, but whose accuracy also increased by 15% is Naive Bayes classifier.

Sustavi za obranu mreže od malicioznih paketa ili općenito pokušaja prodora rukovode s ogromnim količinama mrežnih podataka iz kojih se primjenom strojnog učenja može izvući znanje i prepoznati određene pravilnosti kako bi se obrana mreže automatizirala. Takvi podaci često nisu označeni ili ih je skupo označavati pa je potrebno pronaći model ili skupinu modela s obzirom na prirodu samog problema. Primjenom programskog okruženja Python i određenih modula za strojno učenje, obradu i vizualizaciju podataka razvijen je sustav za automatsko grupiranje, detekciju anomalija i klasifikaciju mrežnih podataka u svrhu odjeljivanja primjera koje mreža treba propustiti i onih koje ne smije. Objašnjena je cijela faza predobrade i eksploratorne analize podataka te svih korištenih modela. Mjere za vrednovanje modela opisane su i primijenjene na izrađene modele te su rezultati komentirani. Network security systems while defending network from malicious packets or attempted intrusions manage huge amounts of network data from which knowledge and certain patterns can be recognized by applying machine learning methods in order to automate network defense. Such data are often unlabeled or expensive to label, so it is necessary to find a model or group of models given the nature of the problem itself. Using the Python software environment and certain modules for machine learning, data processing and visualization, a system for automatic grouping, anomaly detection and classification of network data has been developed in order to separate examples that need to be pass through network and those that should not be. The whole phase of pre-processing and exploratory data analysis and all used models are explained. Measures for model evaluation are described and applied to the developed models and finally the results are commented.

U ovom radu cilj je bilo pronaći podatke vezane u COVID-19, razviti prediktivne modele strojnog učenja, te vidjeti iskoristivost MCMC metoda u tu svrhu. Modeli strojnog učenja nam mogu prikazivati razvoj COVID-19 pandemije u budućnosti i koliko nam neke značajke utječu na rješenje. MCMC modele koristili smo kako bi dobili distribuciju s kojom možemo vidjeti nalazimo li se u vrhuncu pandemije, kada je počeo i kada je završio. Kroz diplomski rad može se vidjet kratki uvod u strojno učenje i MCMC metode, te rješenja za različite modele koji su opisani. In this work, the aim was to find data related to COVID-19, develop predictive models of machine learning, and to find usage of MCMC methods for these purposes. Machine learning models can show us development of COVID-19 pandemic in the future and how much some features affect our solution. MCMC models were used to get distribution which shows us peak of pandemic when it started and when it ended. Through this work you can see brief introduction to machine learning and MCMC methods, and solutions for the various models described.

U ovom radu provedena je eksploratorna analiza podatkovnog skupa teniskih mečeva te su na osnovu značajki iz tog skupa izrađeni prediktivni modeli za predviđanje pobjednika u teniskom meču. U prvim poglavljima opisana su pravila tenisa te dijelovi statističke analize podataka, statistički modeli i modeli strojnog korišteni kasnije u radu. U drugom dijelu rada izrađeni su izloženi prediktivni modeli te su prikazani rezultati predviđanja na osnovu raznih kombinacija ulaznih varijabli. In this paper, an exploratory analysis of the data set containing data about tennis matches was performed, and based on the features extracted from that data set, predictive models were developed to predict the winner of a tennis match. The first chapter describes rules of tennis and parts of statistical data analysis as well as statistical and machine learning models used later in the paper. In the second part of the paper, previously described models are developed and the results of predictions with various combinations of input variables are presented.

Ovaj rad daje uvid u primjenu metoda statističke i eksploratorne analize i algoritama strojnog učenja u domeni sporta. Opisan je postupak prikupljanja statističkih podataka košarkaških utakmica NBA lige, a zatim je provedena eksploratorna analiza nad podacima. Algoritmima strojnog učenja razvijena su tri različita modela za predviđanje ishoda utakmice i dana je međusobna usporedba i evaluacija rezultata modela. This paper provides insight into the application of statistical and exploratory analysis and machine learning algorithms in the field of sports. We described the process of collecting statistical data of NBA basketball games, and then an exploratory analysis of the data was performed. Using machine learning algorithms, we developed three different models for predicting the outcome of a match and a mutual comparison and evaluation of models has been given.

Ovaj rad analizira potrebu računarske sigurnosti, potrebu kibernetičke sigur- nosti i problem zlonamjernih programa te njihov utjecaj na računalne sustave. Analiziraju se i opisuju izvršne datoteke programa operacijskog sustava Microsoft Windows i njihovo PE zaglavlje koje sadrži razne vrijednosti od kojih neke uka- zuju na legitimnost, odnosno zlonamjernost programa. Rad zatim opisuje teoriju nekoliko izabranih algoritama nadziranog strojnog učenja, područja umjetne in- teligencije, a to su logistička regresija, stablo odluke, slučajna šuma i neuronske mreže. Koristeći metode Znanosti o podacima te pomoću izabranih algoritama, nad skupom podataka koji je preuzet s interneta i nad kojim je provedena eks- ploratorna analiza podataka te koji pripremljen za strojno učenje, grade se klasi- fikacijski modeli. Završni rad uspoređuje izgrađene modele i donosi zaključke. This paper analyses the need for computer security, for cybersecurity and the effect of malware and malicious programs on computer systems. Executable files for Microsoft Windows operating systems are examined, specifically their PE headers which they all contain and which are used for identifying the legi- timacy of a program. Following that this paper examines the field of Artificial intelligence and describes select supervised learning machine learning algorithms, specifically Logistic regression algorithm, Decision tree algorithm, Random Forest algorithm and Neural networks. Using the field of Data science and the menti- oned algorithms this paper builds several classification models and trains them on a downloaded dataset which is explored and prepared for machine learning consumption. Finally, the built models are compared, and conclusions are given.

Kolaborativno učenje je novi pristup treniranju modela umjetne inteligencije na distribuiranim podacima i uređajima. Ovakvim pristupom podaci ostaju pohranjeni lokalno i time se čuva privatnost. Treniranje modela u tako heterogenom sustavu dovodi do novih izazova različitih od već dobro utvrđenih metoda. U radu su opisane uobičajene metode kolaborativnog procesa, a dokaz koncepta ukazuje na utjecaj hiperparametara na proces. Dokaz koncepta pokazuje izazove koji se mogu pojaviti u procesu treniranja nad akademskim podacima kategorizacije MNIST brojeva i kako ih se može ublažiti dobrim odabirom hiperparametara, ovisno o problemu. Federated learning is a new approach to train models of artificial intelligence on distributed data and devices. With this approach data can be left stored locally and will preserve privacy. Training models in such elaborate system induces new challenges in contrast to well established methods. Paper describes common methods to achieve such process as well gives proof of concept to demonstrate significance of hyperparameters on the process. Proof of concept demonstrates challenges models might occur in process of training on academic data of categorizing MNIST numbers and how it can be alleviated via good hyperparameter selection depending on problem.

Rijetki događaji u podatkovnim skupovima predstavljaju velik problem zbog velike zahtjevnosti njihove klasifikacije. Problem proizlazi iz neuravnoteženosti instanci normalnih i rijetkih događaja. Upravo zbog toga je potrebno promijeniti pristup izrade predikcijskog modela koji bi ih uspješno klasificirao. Ovakve situacije se često javljaju u područjima medicine i informacijske sigurnosti, sve do prijevara u kartičnom poslovanju, čijom problematikom se ovaj rad bavi. Za savladavanje neuravnoteženosti podataka koriste se metode poduzorkovanja i preuzorkovanja, a za izradu modela koriste se algoritmi logističke regresije, k-najbližih susjeda, slučajnih šuma i neuronskih mreža. Iz dobivenih rezultata vidljivo je da je metoda SMOTE preuzorkovanja povoljnija zato što, za razliku od poduzorkovanja, ne dolazi do gubitka informacija. Što se modela tiče, najbolji rezultati dobiveni su za algoritme k-najbližih susjeda i slučajnih šuma. No, kako je svaki bolji za određenu metriku, jedino krajnji korisnik može odlučiti o tome koji mu je prihvatljiviji, što je u ovom slučaju banka. Zbog velike širine područja klasifikacije, koristili su se jednostavni algoritmi strojnog učenja te su dobiveni rezultati, s tim na umu, zadovoljavajući. Rare events in data sets pose a major problem due to the high complexity of their classification. The problem stems from an imbalance of instances of normal and rare events. That is why it is necessary to change the approach to creating a prediction model that would successfully classify them. Such situations often occur in the fields of medicine and information security, all the way to fraud in the card business, the issues of which this paper deals with. Undersampling and oversampling methods are used to overcome data imbalances, and logistic regression algorithms, k-nearest neighbors, random forests, and neural networks are used to model. From the obtained results it is clear that the SMOTE method of oversampling is more favorable because, unlike undersampling, there is no loss of information. As for the model, the best results were obtained for the algorithms of k-nearest neighbors and random forests. But as each is better for a particular metric, only the end-user can decide which is more acceptable to him, which in this case is the bank. Due to the large breadth of the classification area, simple machine learning algorithms were used and the results obtained, with this in mind, were satisfactory.

Analiza sentimenta zadatak je obrade prirodnog jezika čiji je cilj stvoriti automatizirani sustav koji je stanju odrediti sentiment tekstova pisanih prirodnim jezikom. U ovom radu provedena je analiza sentimenta na skupu tweetova pisanih hrvatskim jezikom. Za svaki je tweet u podatkovnom skupu ručno označen njegov sentiment. Tweetovi su najprije pretprocesirani. Pretprocesiranjem je iz tweetova uklonjen šum te su nakon toga oni tokenizirani i lematizirani. Zatim je provedena eksploratorna analiza korištenog skupa tweetova, a nakon toga klasifikacija sentimenta primjenom metoda strojnog učenja. Za potrebe klasifikacije sentimenta istrenirani su naivni Bayesov klasifikator, logistička regresija i stroj potpornih vektora te njihov glasački ansambl i stacking ansambl s logističkom regresijom, odnosno strojem potpornih vektora kao završnim estimatorom. Klasifikatori su trenirani na podatkovnim skupovima tweetova u kojima su emotikoni zamijenjeni odgovarajućim tekstom ili s uklonjenim emotikonima čije su značajke izdvajane metodom vreće riječi ili TF-IDF metodom. Dobiveni su zadovoljavajući rezultati. Točnosti klasifikatora kreću se od 62% do 65%, a njihove F1 mjere od 67% do 71%. Klasifikatori su postigli slične rezultate na skupovima tweetova s emotikonima i bez njih, ali nešto bolje rezultate uz TF-IDF metodu izdvajanja značajki. Sentiment analysis is a task of natural language processing whose goal is to create an automated system that is able to determine the sentiment of texts written in natural language. In this paper, the sentiment analysis was performed on a data set of tweets written in the Croatian language. For each tweet in the data set, its sentiment is manually annotated. Tweets are firstly pre-processed. As a part of pre-processing noise was removed from the tweets, after which they were tokenized and lemmatized. An exploratory analysis of the set of tweets used was then performed, followed by the sentiment classification using machine learning methods. For sentiment classification, the naive Bayes classifier, logistic regression and support vector machine, their voting ensemble and stacking ensemble with logistic regression or support vector machine as the final estimator were trained. The classifiers were trained on tweet data sets in which the emoticons were replaced with appropriate text or were removed. The features from the tweets datasets were extracted using TF-IDF and bag-of-words methods. Obtained results are satisfactory. The accuracy of the classifiers ranges from 62% to 65%, and their F1 measures from 67% to 71%. Classifiers achieved similar results on tweet data sets with and without emoticons, but slightly better results with the TF-IDF method of feature extraction.

Eksploratorna i dubinska analiza bave se proučavanjem podatkovnih skupova te izvlačenja korisnih informacija iz njih primjenom metoda statistike i strojnog učenja. Primjena ovakvih metoda u domeni medicine danas je od velike važnosti zbog mogućnosti poboljšanja dijagnosticiranja različitih bolesti, pa čak i u slučaju pandemija poput aktualnog Covid-19, za kontrolu širenja epidemija odnosno pandemija. Primjene eksploratorne i dubinske analize su beskonačne te postoji još puno područja i potpodručja koja nisu zahvaćena ovakvom analizom, a mogla bi biti u potpunosti promijenjena. U ovom radu bavio sam se analizom podatkovnog skupa ljudi sa srčanim udarom te pokušao predvidjeti koji bi od njih mogli imati isti. Exploratory and depth analysis deals with the study of data sets and the extraction of information from them using the methods of statistics and machine learning. The application of such methods in fields of medicine is of great importance today, because of the possibility of improving the diagnosis of various diseases, and even in case of pandemic, like Covid-19, to control the spread of virus. The use of exploratory and depth analysis is endless and there are still many different areas and subareas that have not been covered with this kind of analysis. In this work, I analyzed the data set of people with heart attack and tried to predict which of them might have one.

Obrada velikih podataka zahtijeva korištenje posebnih platformi koje omogućavaju paraleliziranu i raspodijeljenu obradu velikih podataka. Spark je danas jedna od vodećih platformi za velike podatke. R je vodeći programski jezik za statistiku i eksploratornu analizu podataka uz ograničenje da tradicionalno radi s podacima koji su učitani u radnu memoriju. R i Spark se mogu integrirati u moćan radni okvir za analizu velikih podataka i izradu prediktivnih modela uz pomoć paketa sparklyr. Osnovna ideja korištenja R-a kao sučelja prema Sparku je da se sva računanja obavljaju u Spark grozdu, dok R prima rezultate od Sparka. Processing big data requires specialized platforms for parallel and distributed computing. Spark is today one of the most important big data platforms. R is the leading programming language for statistics and exploratory data analysis, but its limitation is that it traditionally works with data loaded into RAM. R and Spark can be integrated into a powerful framework for big data analysis and predictive modelling with the help of R package sparklyr. The basic idea of using R as an interface to the Spark is to let Spark cluster handle all computational jobs, while R session collects results from Spark.

Identifikacija sudionika u transkriptu razgovora je problem koji je predstavljen kao uvod u veći problem, a to je rudarenje karaktera. Problem se rješava rezolucijom koreferentnosti, ali prijašnjim modelima je tekst u obliku dijaloga bio mana. Model rezolucije koreferentnosti zasnovan na parovima spominjanja se koristi u ovom radu, koji uz pomoć više tipova značajki grupira spominjanja u koreferentne lance. Sustav nakon toga povezuje entitete s tim lancima pomoću algoritma zasnovanog na glasanju. Ugniježđena unakrsna provjera i nekolicina modela su korištena pri evaluaciji sustava. Character identification on multiparty conversation is a problem introduced as an intro to a bigger problem called character mining. Usually, the problem is solved using coreference resolution, but coreference resolution models at the time were struggling with data as dialogue. Mention-pair model is used for coreference resolution in this thesis, which links mentions in coreference chains. After that, the system links entities with chains using a voting scheme. Nested cross-validation and a number of models were used during the evaluation of the system.

Povratna informacija o proizvodu može biti od velike važnosti proizvođačima te im pomaže unaprijediti svoje poslovanje. Ovaj rad se bavi implementacijom sustava za klasifikaciju povratnih informacija o proizvodu. U uvodnim poglavljima opisani su pojmovi strojnog i dubokog učenja te metode obrade prirodnog jezika potrebne za implementaciju sustava. Implementirano je nekoliko modela konvencionalnih metoda strojnog učenja te LSTM arhitektura dubokog učenja. Naposljetku su prikazani rezultati modela s optimalnim hiperparametrima te je dan zaključak ukupnog rada. Product feedback can be of great importance to manufacturers in improving their business. This thesis deals with the implementation of the product feedback classification system. The introductory chapters describe the concepts of machine learning, deep learning and natural language processing methods required for system implementation. Several models of conventional machine learning methods and the LSTM deep model were implemented. Finally, the results of the models with optimal hyperparameters are presented and the conclusion of the overall work is given.

Ovaj rad obrađuje primjenu algoritama strojnog učenja nad tokovima podataka za dubinsku analizu podataka. Prvo je dana definicija strojnog učenja. Definirane su različite vrste strojnog učenja i njihove razlike. Dodatno je objašnjeno nenadzirano učenje, odnosno grupiranje podataka. Zatim su definirani tokovi podataka, objašnjena njihova ograničenja pri rađenju analize i opisana moguća rješenja za primjenu algoritma grupiranja nad njima. Opisana je važnost telekomunikacija, definirane telekomunikacijske prijevare i objašnjeno je kako ih se algoritmima strojnog učenje mogu otkriti. U konačnici implementiran je E-Stream algoritam grupiranja tokova podataka i evaluiran nad sintetičkim skupom podataka. This thesis deals with using machine learning on data streams for data analysis. Firstly, the definition of machine learning is given. Then explained differences between different types of machine learning. Additionally unsupervised learning and clustering was explained. Then data streams are defined, explained their limitations in the data analysis and described possible solutions for applying the clustering algorithms on them. After that, importance of telecommunications is explained, telecommunication fraud is defined and it is explained how frauds could be detected using machine learning algorithms. Finally, E-Stream algorithm for clustering data streams is implemented and evaluated using synthetic dataset.

U ovom radu opisana su i objašnjena kljucna znanstvena polja te cjelokupan proces za dubinsku analizu podataka nad podacima iz edukacijske domene. Objašnjene su i veoma bitne regresijske metode te kako ih pravilno upotrijebiti za rješavanje danih problema, takožer su i objašnjene bitne tehnike koje nam pomažu pri primjeni takvih metoda Osim teorijskog dijela, u sklopu rada provedena je i konkretna analiza u kojoj su primjenjene prethodno opisane metode, tehnike i znanja. Na kraju su prezentirani rezultati predvižanja novih podataka dobivenih korištenjem regresijskih metoda. This works describes and explains important science fields and whole process of educational data mining. Also, it explains very important regression methods and how to apply them properly on given problems, with addition of explaining useful tehniques during application of such methods. In addition to the theoretical part of this paper, a concrete analysis was carried out in which were applied previously mentioned methods and tehniques. At the end are presented the analysis results of predicting new values with regression methods.

U ovom radu obrađena je dubinska analiza teksta na studijskom primjeru kategorizacije novinskih članaka Novog Lista. Problem je podijeljen u tri djela: dohvat, pripremu i obradu teksta. U dohvatu obrađeni su izvori informacija te je rečeno da su novinski članci dobar izvor podataka. U pripremi dobiveni članci su korjenovani, izbačene su zaustavne riječi i strukturirani su u format pogodan za obradu. Kod obrade teksta obrađen je algoritam stroja potpornih vektora, i pomoću njega članci su klasificirani. Rezultati klasifikacije su analizirani i prihvaćeni kao vrlo dobri. In this thesis text mining methods are explained and applied on the example of newspaper article categorization. The problem was divided in three parts: retrieval, preparation and processing of text. For retrieval, the information sources were detailed and the articles were accepted as a valid source of data. For preparation, the articles were stemmed, the stop words were removed and the articles were converted into a format ready for processing. In processing, the support vector machine was explained and used to classify the articles. The results of the classification were analysed and accepted as very good.

U ovom radu obradili smo proces dubinske analize podataka u edukacijskoj domeni (EDM). Kroz prvih par poglavlja, fokusirali smo se na znanstvene discipline iz kojih je proizašao i čijim se metodama koristi EDM, a to su rudarenje podataka i strojno učenje. Također, objasnili smo i kako se razvijalo polje EDM-a te pristupe koji se koriste u analizi. U zadnjem poglavlju smo odradili praktični dio završnog rada, a to je primjena klasifikacijskih metoda kod dubinske analize podataka u edukacijskoj domeni. Analize smo proveli koristeći programski jezik R i dva klasifikacijska algoritma (k-NN algoritam i logistička regresija) te smo prikazali njihov način učenja, a u konačnici i rezultate (uspješnost učenja) tih algoritama. In this thesis we have described the educational data mining process. Through the first few chapters, our main focus was on science fields which have preceded and whose methods are used in EDM, which are data mining and machine learning. Also, we have explained development of EDM and main approaches that are used in analysis. In the last chapter we did the practical part of this work, and that was application of classification methods in educational data mining. Analysis were conducted using programming language R and two classification algorithms (k-NN algorithm and logistic regression) and in those analysis we have shown in which way are these algorithms learning and results (level of success) which they produce.

Anomalije su pojave koje su neobične i odstupaju od zakonitosti, pravila i uobičajenog. Detekcija anomalija ima primjenu u mnogim područjima, između ostalog i u kontekstu detekcije prijevara. U okruženju velikih podataka otvaraju se novi problemi koji se ne mogu riješiti primjenom tradicionalnih alata i tehnologija. Primjenom tehnologija za rad s velikim podacima, poput Apache Sparka, mnogi takvi problemi postaju rješivi i otvaraju se nove mogućnosti za detekciju anomalija. Prije svega, omogućuju obradu puno veće količine podataka i samim time pružaju više znanja o podacima. U radu je napravljena detekcija anomalija nad podacima o telefonskim pozivima koristeći Apache Spark. Za detekciju anomalija korištene su dvije metode: z-ocjena i algoritam k-srednjih vrijednosti. Osim Apache Sparka koji je korišten za obradu podataka i detekciju anomalija, korišten je programski jezik R za vizualizaciju i analizu konačnih rezultata. Anomalies are observations that are unusual and deviate from rules and normal observations. Anomaly detection is applicable in numerous fields, especially in fraud detection.There are many problems in big data environments that cannot be solved using traditional tools and technologies. With the use of big data technologies, such as Apache Spark, many of those problems could be solved and new opportunities for anomaly detection would be made available. Those technologies allow for processing of big data while simultaneously increasing understanding of the data itself. In this thesis anomaly detection is done using Apache Spark on telephone calls data. For anomaly detection two methods have been used: z-score and k-means algorithm. Besides Apache Spark, which is used primarily for data processing and anomaly detection, R programming language is used for visualization and results analysis.