Search

Dissertação de mestrado em Physics, O colapso gravitacional do núcleo de estrelas massivas e a sua subsequente explosão como Supernovas (SN) é uma das fontes de ondas gravitacionais (GW) mais interessantes que esperamos detetar nos próximos anos. As supernovas de colapso nuclear (CCSNe) apresentam um grande interesse científico pois a análise das suas complexas ondas pode potencialmente providenciar informação valiosa sobre os processos físicos que ocorrem durante o colapso gravitacional dos núcleos de ferro de estrelas massivas. Neste trabalho, usam-se técnicas de Aprendizagem Profunda para analisar sinais de GW de CCSN em rotação, classificando-as e separando-as do ruído de fundo dos detetores e estimando alguns parâmetros físicos dos sistemas que produzem estes sinais. Para detetar GW de CCSN em rotação em dados com ruído de detetores, treinou-se uma rede de classificação com um conjunto de dados de Series Temporais de GW de CCSN geradas numericamente e injetadas em ruído real dos detetores Advanced LIGO e Advanced Virgo (correspondente ao período de observação O3a). O teste de classificação alcançou resultados significativos, atingindo uma precisão de 98% para o melhor modelo e nunca confundindo Series Temporais de ruído com sinais (taxa de falsos positivos = 0). Notamos ainda que a maioria dos sinais classificados como ruído tinham razões sinalruído (SNRs) inferiores a 10. Além disso, uma rede adicional para regressão é implementada para estimar alguns parâmetros físicos do sistema, especificamente, a amplitude da GW (Δℎ) e a frequência máxima (pico) do sinal (𝑓peak), obtida durante o ressalto do núcleo, usando um conjunto de dados semelhante. Verifica-se que nos testes de regressão se obtêm melhores resultados nas previsões da 𝑓peak do que para o Δℎ. A performance do treino está correlacionada com o SNR mínimo definido para o conjunto de dados: o melhor resultado foi obtido para um valor mínimo de SNR de 20, que usando Analise de Componentes Principais (PCA) nos gráficos de calibração dos valores previstos em função dos valores reais, fornece uma distribuição com variação 𝜎Δℎ = 0.232 e desvio do declive de 7.70% para o Δℎ e uma distribuição com variação 𝜎𝑓peak = 0.174 Hz e desvio do declive de 4.90% para a 𝑓peak., The gravitational collapse of the core of massive stars and the subsequent explosion of such stars as a Supernova (SN) is one of the most interesting sources of Gravitational Waves (GWs) expected to be detected in the coming years. Core-Collapse Supernovae (CCSNe) hold great scientific interest as the analysis of their complex waveforms can potentially provide valuable information about the underlying physical processes operating during the gravitational collapse of the iron cores of massive stars. In this work, Deep Learning (DL) techniques are used to analyze rotational CCSNe GW signals by classifying them and correctly separating them from the background noise of the detectors and by estimating some physical parameters of the systems that produce these signals. To detect the presence of astrophysical GW from rotational CCSNe in noisy detector data, a classifi cation network is trained using a dataset of Time Series from numerically generated CCSNe waveforms injected into the real noise of the Advanced LIGO and Advanced Virgo detectors (corresponding to the O3a observing run). The classification model achieves significant results, reaching an accuracy of 98% for the best model and never confusing strains of noise with signals (false positive rate = 0). It can also be noted that most of the injected signals classified as noise had Signal-to-Noise Ratios (SNRs) below 10. Moreover, an additional regression network is implemented to perform estimation on some physical parameters of the system, specifically, the GW strain amplitude (Δℎ) and the maximum (peak) frequency of the signal (𝑓peak), attained at core bounce, using a similar dataset. We find that the regression tests yield better results for the estimation of the 𝑓peak than for Δℎ. The performance of the training was correlated with the minimum SNR set for the dataset: the best results were obtained for a minimum SNR of 20, which by using Principal Component Analysis (PCA) of the calibration plots of the predicted values vs real values gives a distribution’s variation of 𝜎Δℎ = 0.232 and a slope deviation of 7.70% for Δℎ and a distribution’s variation of 𝜎𝑓peak = 0.174 Hz and slope deviation of 4.90% for the 𝑓peak.

This article aims to look to the obligations of States towards International Humanitarian Law when deploying Autonomous WeaponSystems. This article aims to revise the rules of mens rea regarding AWS’ designers and programmers.

Dissertação de mestrado integrado em Informatics Engineering, Q-Learning is one of the most popular reinforcement learning algorithms. It can solve different complex problems with interesting tasks where decisions have to be made, all the while using the same algorithm with no interfer ence from the developer about specific strategies. This is achieved by processing a reward received after each decision is made. In order to evaluate the performance of Q-Learning on different problems, video games prove to be a great asset for testing purposes, as each game has its own unique mechanics and some kind of objective that needs to be learned. Furthermore, the results from testing different algorithms on the same conditions can be easily compared. This thesis presents a study on Q-Learning, from its origins and how it operates, showcasing various state of the art techniques used to improve the algorithm and detailing the procedures that have become standard when training Q-Learning agents to play video games for the Atari 2600. Our implementation of the algorithm following the same techniques and procedures is ran on different video games. The training performance is compared to the one obtained in articles that trained on the same games and attained state of the art performance. Additionally, we explored crafting new reward schemes modifying game default rewards. Various custom rewards were created and combined to evaluate how they affect performance. During these tests, we found that the use of rewards that inform about both good and bad behaviour led to better performance, as opposed to rewards that only inform about good behaviour, which is done by default in some games. It was also found that the use of more game specific rewards could attain better results, but these also required a more careful analysis of each game, not being easily transferable into other games. As a more general approach, we tested reward changes that could incentivize exploration for games that were harder to navigate, and thus harder to learn from. We found that not only did these changes improve exploration, but they also improved the performance obtained after some parameter tuning. These algorithms are designed to teach the agent to accumulate rewards. But how does this relate to game score? To assess this question, we present some preliminary experiments showing the relationship between the evolution of reward accumulation and game score., Q-Learning é um dos algoritmos mais populares de aprendizagem por reforço. Este consegue resolver vários problemas complexos que tenham tarefas interessantes e decisões que devem ser tomadas. Para todos os problemas, o mesmo algoritmo é utilizado sem haver interferência por parte do desenvolvedor sobre estratégias específicas que existam. Isto tudo é alcançado processando uma recompensa que é recebida após tomar cada decisão. Para avaliar o desempenho de Q-Learning em problemas diferentes, os jogos eletrónicos trazem grandes vantagens para fins de teste, pois cada jogo tem as suas próprias regras e algum tipo de objetivo que precisa de ser compreendido. Além disso, os resultados dos testes usando diferentes algoritmos nas mesmas condições podem ser facilmente comparados. Esta tese apresenta um estudo sobre Q-Learning, explicando as suas origens e como funciona, apresentando várias técnicas de estado da arte usadas para melhorar o algoritmo e detalhando os procedimentos padrão usados para treinar agentes de Q-Learning a jogar jogos eletrónicos da Atari 2600. A nossa implementação do algoritmo seguindo as mesmas técnicas e procedimentos é executada em diferentes jogos eletrónicos. O desempenho durante o treino é comparado ao desempenho obtido em artigos que treinaram nos mesmos jogos e atingiram resultados de estado da arte. Além disso, exploramos a criação de novos esquemas de recompensas, modificando as recompensas usadas nos jogos por defeito. Várias recompensas novas foram criadas e combinadas para avaliar como afetam o desempenho do agente. Durante estes testes, observamos que o uso de recompensas que informam tanto sobre o bom como o mau comportamento levaram a um melhor desempenho, ao contrário de recompensas que apenas informam sobre o bom comportamento, que acontece em alguns jogos usando as recompensas por defeito. Também se observou que o uso de recompensas mais específicas para um jogo pode levar a melhores resultados, mas essas recompensas também exigem uma análise mais cuidadosa de cada jogo e não são facilmente transferíveis para outros jogos. Numa abordagem mais geral, testamos mudanças de recompensas que poderiam incentivar a exploração em jogos mais difíceis de navegar e, portanto, mais difíceis de aprender. Observamos que estas mudanças não só melhoraram a exploração, como também o desempenho obtido após alguns ajustes de parâmetros. Estes algoritmos têm como objetivo ensinar o agente a acumular recompensas. Como é que isto está relacionado com a pontuação obtida no jogo? Para abordar esta questão, apresentamos alguns testes preliminares que mostram a relação entre a evolução da acumulação de recompensas e da pontuação no jogo.

Os mecanismos neurobiológicos essenciais para a formação de memórias são ainda pouco compreendidos. No entanto, sabe-se que as sinapses, sub-compartimentos neuronais essenciais para a transmissão de informação nas redes neuronais, são elementos imprescindíveis para este processo. Diferentes formas de plasticidade (hebbiano e homeostáticos) estão na base de modificações sinápticas que acontecem durante a formação de memórias. A interação destes mecanismos controlam o equilíbrio entre a flexibilidade e a estabilidade neuronal mantendo assim a sua actividade dentro de uma janela fisiológica. É, portanto, necessário conhecer melhor estes mecanismos de plasticidade e assim identificar que tipo de alterações nas unidades básicas deste sistema podem estar na origem de distúrbios do funcionamento do cérebro. Neste artigo, reflito sobre a potencial implicação destas alterações nas fases iniciais da doença de Alzheimer.

Dissertação de Mestrado em Matemática apresentada à Faculdade de Ciências e Tecnologia As bases de Gröbner são um conceito fundamental em álgebra computacional. Desde a criação desta teoria, em 1949, por Wolfgang Gröbner, elas tornaram-se numa ferramenta importante emqualquer área onde exista computação polinomial, tanto na teoria como na prática. Embora se tenham demonstrado extremamente úteis, o seu cálculo é muito pesado em certos casos. O primeiro algoritmo desenvolvido para calcular estas bases é chamado Algoritmo de Buchberger, que ainda é um dos algoritmos mais utilizados para esse fim. Como passo preliminar para melhorar a eficiência do algoritmo, gostaríamos de poder prever, dado um ideal, quão complicado é calcular a respetiva base de Gröbner usando o Algoritmo de Buchberger. Nesta dissertação, abordamos precisamente esta questão, seguindo o trabalho recente de Mojsilovic, Peifer e Petrovic. Criamos um dataset que consiste em algumas distribuições de ideais binomiais e tóricos. Algumas propriedades dos mesmos foram estudadas de forma a procurar uma correlação entre essas características e o número de adições polinomiais. Depois introduzimos e aplicamos ferramentas de regressão linear e um modelo de rede neuronal simples para tentar prever o número de iterações necessárias usando as caracteristicas dos ideais definidas. De seguida, é usado redes neuronais recorrentes, para estudar a relação entre os expoentes dos ideais e o número de adições polinomiais. A performance tos três modelos é comparada e mostramos que existe uma melhoria considerável usando redes neuronais recurrentes, e que concluímos é possível prever o número de adições polinomiais, em alguns casos. Gröbner bases are a fundamental concept in computational algebra. Since the creation of the theory behind them in 1949, by Wolfgang Gröbner, they became an important tool in any area where polynomial computations play a part, both in theory and in practice. Although they have proved to be very useful, their calculation is very expensive in certain cases. The first algorithm ever developed to compute these bases is the so-called Buchberger’s Algorithm and is still one of the most commonly used algorithms for this purpose. As a preliminary step in improving the efficiency of the algorithm, one would like to be able to predict, given an ideal, how complicated it is to compute its Gröbner basis using Buchberger’s Algorithm. In this dissertation, we address precisely this issue, following the work of Mojsilovic, Peifer and Petrovic. We create a dataset consisting of some binomial and toric distributions. Some of their properties were studied in order to seek the relationship between these characteristics and the number of polynomial additions. Then we introduce linear regression and a simple neural network model to try to predict the number of iterations using the ideals properties. Then, it is used a recurrent neural network to study the relationship between the exponents of ideals and that of polynomial additions is studied. The performance of the three models is compared and we show that there is a considerable improvement when using a recurrent neural network model and conclude that we are able to predict the number of polynomial additions, in some cases.

Dissertação de Mestrado em Física apresentada à Faculdade de Ciências e Tecnologia The increase in the number of materials in public databases like Materials Project and the advent of faster GPUs and CPUs made Machine Learning a prominent subject in materials science due to the promise of high accuracy at a much lower computational cost than standard methods. Among the recent state-of-the-art methods in use are crystal graph convolution networks (CGNNs). CGNNs are neural networks that operate on graph-structured data. The network consists of a series of connected nodes, each of which represents a vertex in the graph. The edges of the graph are used to connect the nodes and define the relationship between them.In recent years, the search for super-hard materials has been a hot topic due to their specific characteristics and possible applications. Most of these searches are performed by screening various materials using Density Functional Theory (DFT) calculations, which, despite being very accurate, have a high computational cost.In this work, a CGCNN was trained to predict the shear and bulk moduli and Vickers’ hardness of a dataset containing 1 million materials of a recently created dataset. For the most promising candidates, DFT calculations were performed to validate the predictions made by the CGCNN. Young’s modulus and Poisson’s ratio of the these candidates were also calculated using Mazhnik and Oganov’s model. A good agreement between predictions and calculations was observed, and an interesting candidate with Vickers’s hardness above 40 GPa was identified. O aumento do número de materiais nas bases de dados públicas como o Materials Project e o aparecimento de GPUs e CPUs mais rápidos tornaram o Machine Learning num tema proeminente em ciência dos materiais devido à promessa de uma elevada precisão com custo computacional inferior ao dos métodos convencionais. Entre os métodos de última geração encontram-se as crystal graph convolution networks (CGNNs). As CGCNNs são redes neuronais que utilizam dados estruturados em grafos. A rede é formada por uma série de nós conectados, onde cada um representa um vértice no grafo. As arestas do grafo são usadas usadas para conectar os nós e definir a relação entre eles.Nos últimos anos, a busca por materiais super-duros tem sido um tema em destaque devido às suas características específicas e aplicações possíveis. Grande parte destas buscas são efetuadas através da análise de vários materiais recorrendo a cálculos de Density Functional Theory (DFT) que, apesar de serem muito precisos, têm um elevado custo computacional.Nesta tese foi treinada uma CGCNN para prever o módulo de cisalhamento, o módulo volumétrico e a dureza de Vickers de um dataset com um milhão de materiais provenientes de um dataset criado recentemente. Para os candidatos mais promissores foram efectuados cálculos de DFT para validar as previsões efectuadas pela CGNN. O módulo de Young e o rácio de Poisson destes candidatos também foram calculados utilizando o modelo de Mazhnik e Oganov. Foi encontrada uma boa concordância entres as previsões e os cálculos tendo ainda sido identificado um candidato de interesse com dureza de Vickers acima de 40 GPa.

Nas últimas décadas, os confrontos militares têm dependido, a uma larga escala, de novas e avançadas tecnologias, conduzindo a uma mudança de paradigma ao que respeita as operações militares. Esta mudança deve-se, essencialmente, à tentativa de mitigar erros que se verificaram em operações passadas, otimizar recursos e salvaguardar vidas humanas, garantindo ao mesmo tempo o sucesso e estado final desejado de qualquer operação. É neste espectro que são introduzidos os Unmanned Aerial Vehicles (UAVs) e a significante vantagem que os mesmos possuem em prol de qualquer operação, desde a redução do custo de vidas humanas, ao apoio direto e indireto no campo de batalha, ao aumento do conhecimento situacional do terreno e do inimigo. Neste trabalho, é apresentado como, a partir de uma câmara integrada de um UAV, é possível fazer a deteção automática de alvos terrestres (militares) e a sua diferenciação com civis, em tempo real, usando uma rede neuronal de deteção de objetos. Partindo da aquisição de uma base de dados, grande e variada, capturada por drones comerciais e imagens extraídas da Internet. Após isto, foi necessário fazer a escolha da rede neuronal para este fim, que recaiu sobre o YOLOv4-tiny, sendo uma rede rápida na deteção de objetos em tempo real e com bons resultados de precisão. De seguida, foi necessário realizar a anotação de todos os militares em cada imagem, utilizando um programa gratuito de anotação de imagens (DarkLabel 2.4). Após isto, treinámos, validámos e testámos a rede, aferindo quais os melhores resultados e pesos a serem utilizados na deteção de militares. Por fim, olhámos para as limitações e trabalhos futuros a serem desenvolvidos na continuidade deste trabalho In recent decades, military clashes have depended on a wide range of new and advanced technologies, leading to a paradigm shift in military operations. This change is mainly due to the attempt to mitigate errors that have occurred in past operations, optimize resources and safeguard human lives, while ensuring the success and desired end state of any operation. It is in this spectrum that Unmanned Aerial Vehicles (UAVs) are introduced and their significant advantage in favor of any operation, from the reduction of the cost of human lives, to direct and indirect support on the battlefield, to the increase of situational awareness of the terrain and the enemy. In this paper, it is presented how, from an UAV camera, it is possible to make the automatic detection of ground targets (military) and its differentiation with civilians, in real time, using a neural network of object detection. Starting with the acquisition of a database, large and varied, captured by commercial drones and images extracted from the Internet. After this, it was necessary to choose the neural network, which fell on YOLOv4-tiny, being a fast network in detecting objects in real time and with good accuracy results. Next, it was necessary to perform the annotation of all the military objects in each image, using a free image annotation program (DarkLabel 2.4). After this, we trained, validated and tested the network, to know which results and weights were best to use for military detection. Finally, we looked at the limitations and future work to be done in continuing this work.

Dissertação de Mestrado em Engenharia Eletrotécnica e de Computadores apresentada à Faculdade de Ciências e Tecnologia Machine Learning (ML) has possibly become the biggest research topic in computer science, aiming to improve how tasks are performed and automate computer learning,making use of the ever increasing data available on every major subject, from economics to health. Due to the high number of computations necessary to train ML models it is a very energy intensive process.Optimizing the training process leads to faster and less costly models and allows them to run on less powerful devices. By running the models at reduced precision significant savings can be attained both in memory requirements and power consumption. Most optimization techniques focus on training the network at float precision, converting the model to 16 or 8 bits and running inference on the converted model.This study focuses on the effects of applying quantization during training, making use of the QKeras library. It offers the flexibility to choose the precision used by the model by defining the number of bits at each layer. A class of Neural Networks (NNs) denominated Recurrent Neural Networks (RNNs) will be the focus of the study, comparing the performance of 3 of the most used algorithms, Simple RNN, Long Short-Term Memory (LSTM) and Gated Recurrent Unit (GRU). The models were trained on a selection of SMILES, a form of line notation for molecular information, from the PubChem database. Quantization performance was compared to their float equivalent for several combinations of tuneable parameters. The goal of the program used for testing is to generate a large number of novel SMILES, facilitating the process of Drug Discovery that is traditionally very expensive and difficult.By understanding how the behavior of quantized networks deviates from the regular model, in relation to the parameters used, the process of choosing whether to quantize a model and to which degree becomes more efficient. This study was able to achieve good performance even on 4 bit models making use of LSTM and GRU layers and concluded that Simple RNN quantization is not worth it. Machine Learning (ML) tornou-se, nos últimos anos, num dos principais tópicos de pesquisa em ciência de computadores, tendo como principal objetivo melhorar a forma como as tarefas são executadas e automatizar a aprendizagem por computador, fazendo uso da maior disponibilidade de dados sobre as mais variadas áreas, da economia à saúde. Devido ao elevado número de cálculos necessários para treinar modelos de ML, , este é um processo que implica elevados custos energéticos. A otimização do processo de treino leva à obtenção de modelos mais rápidos e menos dispendiosos, permitindo que eles sejam executados em dispositivos menos potentes. Ao executar os modelos com precisão reduzida, é possível obter poupanças significativas nos requisitos de memória e no consumo de energia.A maioria das técnicas de otimização concentra-se em treinar a rede com precisão float, convertendo a seguir o modelo para 16 ou 8 bits e executando a inferência no modelo convertido.Este estudo foca-se nos efeitos da aplicação de quantização durante o treino, recorrendo à biblioteca QKeras. Esta oferece a flexibilidade de escolher a precisão usada pelo modelo, definindo o número de bits em cada camada. A classe de Redes Neuronais denominada Redes Neuronais Recurrentes será o foco do estudo, comparando o desempenho de 3 dos algoritmos mais utilizados, RNN simples, LSTM e GRU. Os modelos foram treinados numa seleção de SMILES, uma forma de notação de linha com informações moleculares, retiradas do banco de dados PubChem. O desempenho dos modelos quantizados foi comparado ao seu equivalente float para várias combinações de parâmetros ajustáveis. O objetivo do programa usado para teste é gerar um grande número de novos SMILES, facilitando o processo de descoberta de novos fármacos, tradicionalmente muito caro e de difícil execução. ̃Ao entender como o comportamento das redes quantizadas se desvia do modelo regular, para cada combinação de parâmetros utilizados, o processo de escolher quantizar um modelo ou não e em que grau o fazer torna-se mais eficiente. Este estudo conseguiu obter um bom desempenho mesmo em modelos de 4 bits, fazendo uso de camadas LSTM e GRU e concluiu que a quantização de modelos usando de camadas RNN simples leva a uma elevada degradação de desempenho. Outro - This work was partially supported by Instituto de Telecomunicações and Fundação para a Ciência e a Tecnologia, Portugal, under grants UIDB/EEA/50008/2020 and EXPL/EEI-HAC/1511/2021.

[Objective] The transformation from RGB to Munsell color space is a relevant issue for different tasks, such as the identification of soil taxonomy, organic materials, rock materials, skin types, among others. This research aims to develop alternatives based on feedforward networks and the convolutional neural networks to predict the hue, value, and chroma in the Munsell soil-color charts (MSCCs) from RGB images. [Methodology] We used images of Munsell soil-color charts from 2000 and 2009 versions taken from Millota et al. (2018) to train and test the models. A division of 2856 images in 10% for testing, 20% for validation, and 70% for training was used to build the models. [Results] The best approach was the convolutional neural networks for classification with 93% of total accuracy of hue, value, and chroma combination; it comprises three CNN, one for the hue prediction, another for value prediction, and the last one for chroma prediction. However, the three best models show closeness between the prediction and real values according to the CIEDE2000 distance. The cases classified incorrectly with this approach had a CIEDE2000 average of 0.27 and a standard deviation of 1.06. [Conclusions] The models demonstrated better color recognition in uncontrolled environments than the Transformation of Centore, which is the classical method to transform from RGB to HVC. The results were promising, but the model should be tested with real images at different applications, such as soil real images, to classify the soil color., [Objetivo] La transformación del espacio de color RGB al de color Munsell es un tema relevante para diferentes tareas como la identificación de: la taxonomía del suelo, materiales orgánicos, materiales rocosos. tipo de piel entre otros. Esta investigación tiene como objetivo desarrollar alternativas basadas en las redes feedforward y las Redes Neuronales Convolucionales para predecir el tono, el valor y el croma en las cartas de color del suelo de Munsell (MSCC) a partir de imágenes RGB. [Metodología] Con el fin de entrenar y probar los modelos, usamos imágenes de los gráficos de colores de suelo de Munsell de las versiones 2000 y 2009 tomadas de Millota et al. (2018). Se utilizó una división de 2856 imágenes en 10% para pruebas, 20% para validación y 70% para entrenamiento con miras a construir los modelos. [Resultados] El mejor enfoque fueron las redes neuronales convolucionales para la clasificación con un 93% de precisión total de la combinación de tono, valor y croma (consta de tres CNN, uno para la predicción de tono, otra para la de valor y la última para la de croma), aunque los tres mejores modelos muestran cercanía entre la predicción y los valores reales según la distancia CIEDE2000. Los casos clasificados incorrectamente con este enfoque tuvieron un promedio CIEDE2000 de 0.27 y una desviación estándar de 1.06. [Conclusiones] Los modelos demostraron un mejor reconocimiento de color en entornos no controlados que la transformación de Centore, la cual es el método clásico para transformar de RGB a HVC. Los resultados fueron prometedores, pero el modelo debe evaluarse ampliamente con imágenes reales del suelo para clasificar su color., [Objetivo] A conversão do espaço de cor RGB para o espaço de cores Munsell é um tema relevante para diferentes tarefas como a identificação: da taxonomia do solo, dos materiais orgânicos, dos materiais rochosos, do tipo de pele, dentre outros. Esta pesquisa tem como objetivo desenvolver alternativas baseadas nas redes feed-forward e nas Redes Neurais Convolucionais (CNN) para prever o matiz, o valor e o croma nas cartas de cores do solo de Munsell (MSCC) a partir de imagens RGB. [Metodologia] Para treinar e testar os modelos, usamos imagens dos gráficos de cores do solo de Munsell das versões 2000 e 2009 tomadas de Millota et al. (2018). Foi usada uma divisão de 2856 imagens em 10% para testes, 20% para validação e 70% para treinamento com o intuito de construir os modelos. [Resultados] O melhor enfoque foram as redes neurais convolucionais para a classificação com 93% de precisão total da combinação de matiz, valor e croma (consta de três CNN, um para a previsão de matiz, outra para a previsão de valor e a última para a previsão de croma), embora três melhores modelos tenham mostrado proximidade entre a previsão e os valores reais dependendo da distância CIEDE2000. Os casos classificados incorretamente com este enfoque tiveram uma média CIEDE2000 de 0,27 e um desvio padrão de 1,06. [Conclusões] Os modelos demonstraram um melhor reconhecimento de cor em ambientes não controlados que a conversão de Centore, que é o método clássico para converter de RGB a HVC. Os resultados foram prometedores, mas o modelo deve ser amplamente avaliado com imagens reais de solo para classificar sua cor.

Dissertação de mestrado integrado em Engenharia Informática, Since the last century, concerns about safety and welfare issues have increased at the same pace as technolo gical advances. Synthetic Aperture Radar (SAR) is one way of creating images using active sensors, which has the advantage that it can be used in any climate and time of day. Due to its complexity, the use of these images is time consuming and requires an experienced user. This study aims to find a way to handle these images, in terms of geographic registration and image interpretation, in a more efficient way. Based on the literature on geographic registration techniques, image comparison and segmentation in SAR images, those with the greatest potential to solve the problems identified are developed and tested. The analysis of the solutions demonstrates that the developed methods have the ability to evolve into complete and efficient tools which are capable of answering the identified problems. The results indicate that the SAR-Harris SAR image comparator proves to be a stable enough algorithm to include in a semi-automatic registration tool. Concerning the SAR image classification and segmentation, the U-Net neural network presented values of accuracy near 70%, exhibiting the ability of the network to integrate a SAR image classification system. In the case of the C Means algorithm, despite not reaching the U-Net accuracy values, accuracy values in range 50-60% , it presents itself as an extremely versatile algorithm, also useful in the segmentation task. Still, there is a great margin of progress in the automation of the processes of geographic registration and segmentation of SAR images., Desde o século passado, as preocupações em assuntos de segurança e bem-estar têm aumentado ao mesmo ritmo que os avanços tecnológicos. Synthetic Aperture Radar (SAR) é uma das formas de criar imagens utilizando sensores ativos, que possuem a vantagem de poder ser utilizado em qualquer clima e hora do dia. Devido à sua complexidade, a utilização destas imagens é muito custosa em termos de tempo e requer mão-de-obra qualificada. Este estudo tem o objetivo de encontrar uma forma de lidar com estas imagens, em termos de registo geográfico e interpretação da imagem, de forma mais eficiente. Com base na literatura acerca de técnicas registo geográfico, comparação entre imagens e segmentação em imagens SAR, são desenvolvidas e testadas aquelas que apresentam maior potencial para resolver os pro blemas identificados. A análise das soluções demonstram que os métodos estudados e desenvolvidos tem a capacidade de evoluir para ferramentas mais completas e eficientes capazes de responder aos problemas iden tificados. Os resultados indicam que o comparador de imagens SAR SAR-Harris revela ser um algoritmo estável e robusto o suficiente para originar uma ferramenta de registo semi-automática. Já em termos de classificação e segmentação de imagens SAR, a rede neuronal U-Net apresenta valores de accuracy próximos dos 70%, exibindo a capacidade da rede de integrar um sistema de classificação de imagens SAR. No caso do algoritmo C-Means apesar de não atingir os valores de precisão da U-Net, atingindo valores de 50-60%, apresenta-se como um algoritmo extremamente versátil e robusto, características úteis na tarefa de segmentação. Ainda assim, há uma grande margem de progressão na automatização dos processos de registo geográfico e de segmentação de imagens SAR.

Dissertation presented as the partial requirement for obtaining a Master's degree in Information Management, specialization in Knowledge Management and Business Intelligence Existe um pré-pagamento quando ocorre um reembolso antecipado de um empréstimo por parte do tomador, i.e., o tomador paga mais que o montante contratual acordado. Tal pode ocorrer como parte do principal em dívida (reembolso parcial) ou o valor total do principal em dívida (reembolso total). Do ponto de vista de um banco, o estudo do reembolso antecipado - seja total ou parcial - é importante, pois resulta numa mudança nos fluxos de caixa calendarizados. Em particular, há uma diminuição nos fluxos de caixa futuros resultantes de um evento futuro desconhecido. Assim, o principal objetivo deste estudo é a modelação dos eventos de pré-pagamento no crédito à habitação de um grande banco português, através de uma abordagem de machine learning, avaliando o seu desempenho através da utilização de técnicas como a Area Under the Receiver Operating Characteristic Curve (ROC), o gain or lift e Kolmogorov-Smirnov. Tal permite o estudo do fenómeno das amortizações antecipadas (ou pré-pagamentos) no mercado Português, utilizando dados reais, e através de modelos de machine learning. Uma vez que foram utilizados dados reais, a primeira parte deste estudo prendeu-se com o préprocessamento dos dados, de modo a garantir que os modelos não incluíam ruído e problemas de qualidade de dados. A segunda parte prendeu-se com a computação dos modelos de machine learning, testando modelos de artificial neural network e random forest, com a comparação da performance destes através de métricas como o ROC, gain or lift e Kolmogorov-Smirnov. Os resultados obtidos revelam que os modelos de pré-pagamento total e parcial apresentam bom desempenho nas três métricas de desempenho analisadas. Ambos os modelos apresentam resultados positivos e demonstram que os modelos apresentam bons resultados preditivos e capacidade discriminatória, sendo o modelo de amortização parcial superior ao modelo de amortização total, com uma diferença que, embora não muito grande, merece destaque. Este estudo é particularmente relevante dada a sua análise num banco português, e a aplicação de modelos de machine learning na modelação de pré-pagamento, para os quais os estudos são escassos. Por outro lado, têm recentemente ocorrido esforços (por parte do banco onde o estudo se encontra incluído) para a atualização dos modelos tradicionais atualmente em vigor. There is a loan prepayment when there is an early repayment of a loan from the borrower, i.e. the borrower pays more than the contractual amount due. The repayment may be part of the outstanding principal (partial repayment) or the total principal outstanding (full repayment). From a Bank’s perspective, the study of early repayment – be it full or partial – is relevant as they result in a change in the schedule cash flows. In particular, there is a decrease in the future cash flows resulting from an unknown future event. Hence, the primary purpose of this study is the modelling of the prepayment events in the mortgage loans of a large Portuguese bank, through a machine learning approach, assessing its performance through the use of techniques such as the Area Under the Receiver Operating Characteristic Curve (ROC), the Gain or Lift, and Kolmogorov-Smirnov statistic. This allows for the test of the prepayment phenomena in the Portuguese reality, using real Bank data, and through the use of machine learning models. As there was a use of real-life data, the first part of this study implied the pre-processing of the data, to ensure that the noise and data quality problems were not part of the models. The second stage implied the computation of the machine learning models, which occurred through the testing of Artificial Neural Network and Random Forest models, with the comparison of its performance using the ROC, Gain or Lift and Kolmogorov-Smirnov statistic. The results obtained reveal that both the total and partial prepayment models perform well in all the three performance metrics analysed. Both models present positive results and demonstrate that the models have good predictive results and discriminatory capacity. The partial repayment model is superior to the full repayment model, with a difference that is worthy of mention although not very large. This study is particularly relevant given its analysis in a Portuguese bank and the application of machine learning models in modelling prepayment, for which studies are scarce. Furthermore, there have been occurring efforts (in the bank where this study is framed) to update the traditional models currently in force.

Dissertação de mestrado integrado em Informatics Engineering, This thesis explores the detection of impacts that cause damage based on data retrieved by an accelerometer placed inside a vehicle and subsequently classified by deep learning algorithms. The real world application of this work inserts itself in the car sharing market, by providing an automated service that allows constant monitoring on the vehicle status. The proposed solution was set as an alternative to the current machine learning algorithms in use. Previous research showed that deep learning algorithms are achieving better performance results when compared to non deep learning algorithms. We use data retrieved from two types of events: Normal driving and damage causing situations to test if the models are capable of generalising damage events. The approach to achieve this objective consisted in exploring and testing different algorithms: Multi Layer Perceptron (MLP), Convolutional Neural Network (CNN) and Recurrent Neural Network (RNN). Results revealed promising performance, with the MLP reaching a 82% true positive rate. Despite not matching the result obtained by the current non deep learning algorithm allows us to assess that deep learning is a strong alternative in the long term as more data is collected., O principal objectivo desta tese foi a exploração e detecção de impactos que causam danos com base em dados recolhidos por um acelerómetro colocado no interior um veículo e posteriormente classificados por algoritmos de deep learning. A aplicação deste trabalho no mundo real insere-se no mercado de partilha de veículos, ao fornecer um serviço automático que permite uma monitorização constante do estado do veículo. A solução proposta foi definida como uma alternativa aos actuais algoritmos de machine learning em uso. A revisão de literatura revelou que algoritmos de deep learning estão a alcançar melhores resultados de desempenho quando comparados com algoritmos de machine learning. Utilizamos dados recolhidos de dois tipos de eventos: Condução normal e situações que causam dano e testar se os modelos são capazes de generalizar os eventos de danos. A abordagem para alcançar este objectivo consistiu em explorar e testar diferentes algoritmos: MLP, CNN e RNN. Os resultados revelaram um desempenho promissor, com a MLP a atingir uma taxa de 82% de verdadeiros positivos. Apesar de não corresponder ao melhor resultado obtido pelo actual algoritmo de machine learning em uso permite-nos avaliar que deep learning é uma forte alternativa a longo prazo à medida que mais dados forem recolhidos.

A extreme learning machine (ELM) é unha popular rede neuronal que ten dous importantes inconvintes con datos grandes: a necesidade de sintonizar o número de neuronas ocultas e a pseudo-inversión da matriz coas actividades destas neuronas. Este tese desenvolve algoritmos que conservan a simplicidade e velocidade da rede ELM e: 1) evitan a sintonización e limitan o tamano da matriz de activacións na capa oculta; 2) melloran a calidade da rede ELM cunha elección axeitada dos valores aleatorios das polarizacións ocultas; 3) aceleran a sintonización do hiper-parámetro reducindo o número de entrenamentos necesarios.

Mestrado em IPB-ESTG A inteligência artificial em videojogos é uma área de investigação de longa data. É um conceito importante em muitos jogos e estuda como utilizar tecnologias de IA para alcançar o desempenho a nível humano durante o jogo. No entanto, quando se trata de IA e videojogos, a Reinforcement Learning tem de ser mencionada. RL define os agentes que enfrentam os problemas que aprendem a tomar boas decisões apenas através da acção e observação. Este projecto centra-se na integração de um algoritmo de Machine Learning chamado Reinforcement Learning no desenvolvimento de um videojogo do género Tower Defense. O projeto foi desenvolvido pelo motor Unity3D que incorpora um agente que utiliza a técnica RL para simular o comportamento de um jogador humano e continuar a melhorá-lo, com base em experiências de jogo anteriores, até ser totalmente optimizado com uma pontuação imbatível pelo jogador médio. O agente irá imitar o comportamento de um humano, comprando, actualizando e colocando torres enquanto obtém a pontuação mais alta, utilizando o menor número de moedas. Além disso, o relatório irá também rever vários conceitos de Aprendizagem Automática, incluindo o Processo de Decisão de Markov e o Q-Learning. Artificial intelligence in video games is a longstanding research area. It is a major concept in a lot of games and it studies how to use AI technologies to achieve human-level performance when playing games. However, when it comes to AI and video games, Reinforcement Learning has to be mentioned. RL defines the problem-facing agents that learn to make good decisions through action and observation alone. This project focuses on integrating a Machine Learning algorithm called Reinforcement Learning in the development of a video game of the Tower Defense genre developed by the Unity3D engine that incorporates an agent that uses the RL technique to simulate the behavior of a human player and keep on improving it, based on previous game experiences, until it’s fully optimized with a score unbeatable by the average player. The agent will imitate the behavior of a human, buying, upgrading, and placing towers while getting the highest score by using the lowest number of currencies. Moreover, the report will also review several Machine Learning concepts, including Markov-Decision Process and Q-Learning.

Mestrado em IPB-ESTG RESUMOA voz é uma ferramenta de comunicação primordial nas relações inter-humanas, por meio de inflexões, pausas, variações de ritmo e de intensidade. É considerada a integridade da nossa identidade, pois através dela somos reconhecidos e a sua qualidade permite-nos expressar eficazmente. As patologias vocais encontram-se presentes na nossa sociedade, com profundo impacto na qualidade de vida das pessoas. A origem deve-se a várias causas e apresentam diferentes graus de gravidade. A patologia pode progredir de forma benigna ou maligna, por isso é de extrema importância ter atenção aos sinais de alteração. Um diagnóstico precoce é muito relevante para o tratamento. Porém, as formas de avaliação existentes nesta área são invasivas e desagradáveis, sendo incomodativas para o paciente. Estes aspetos motivaram o desenvolvimento de métodos não invasivos, que possam fazer uma avaliação exata e possam ser utilizados como um método de ajuda ao diagnóstico eficaz. Neste trabalho desenvolveu-se um sistema de suporte à decisão médica no diagnóstico de patologias vocais. Para o desenvolvimento deste sistema foi necessário o estudo de um conjunto de parâmetros acústicos, bem como de classificadores, como rede neuronal artificial (RNA), com o objetivo de fazer a classificação final do paciente entre saudável e patológico. Os parâmetros utilizados neste trabalho são: Jitter Absoluto (Jitta), Jitter Relativo (Jitter), Shimmer Absoluto (ShdB), Shimmer Relativo (Shim) , Harmonic to Noise Ratio (HNR), e a Autocorrelacão. E como classificador o modelo da rede neuronal Multi Layer Perceptron (MLP). O sistema interface gráfica desenvolvido neste trabalho servirá como um método complementar no pré-diagnóstico de patologias da voz. O modelo MLP utilizada obteve uma taxa de exatidão de 98.86% que se encontra entre os melhores valores tendo em conta estado a arte, no entanto a possibilidade da inserção deste sistema em clínicas e hospitais contribuirá para o seu aperfeiçoamento por meio de familiarização com profissionais de saúde. Voice is a powerful tool that make possible the communication between humans being, by way of inflections, pauses, variations in rhythm and intensity. As the integrity of our identity, it is considered to allow us to express ourselves effectively to be recognized. Vocal pathology become a reality in modern society, having a deep impact by affecting people life quality. it is extremely important to be aware of signs of alterations that can be derived from different causes, with different degrees of severity, which evolve in a benign or malignant. Early diagnostic intervention revealed to be extremely crucial to treatment. However, the already existed examination procedures in this field show to be invasive and unpleasant, which can be uncomfortable to the patient. Therefore, the need to develop a non-invasive method emerged in order to delivery an accurate and effective diagnosis. In this work, a medical decision support system in the diagnosis of vocal pathologies was developed. For the development of this system, it was necessary to study a set of acoustic parameters, as well as classifiers, of artificial neural networks (ANN), with the objective of making the final classification of the patient between healthy and pathological. The parameters used in this work are Absolute Jitter (Jitta), Relative Jitter (Jitt), Absolute Shimmer (ShdB), Relative Shimmer (Shim), Harmonic to Noise Ratio (HNR), and Autocorrelation. And as a classifier, the Multi-Layer Perception (MLP) neural network model. The graphic interface system developed in this work will serve as a complementary method in the pre-diagnosis of voice pathologies. The MLP model used obtained a success rate of 98.86%, which is among the best values taking into account the state of the art, however the possibility of inserting this system in clinics and hospitals will contribute to its improvement through familiarization with health professionals.

This article aims to introduce some concepts related to Artificial Intelligence, more specifically Machine Learning, and to present an example of a project related to the classification of handwritten digits in Python. To do so, this article follows a project studied in one of our classes of «AI», complemented by literature on the subject. Finally, the article presents results obtained by testing the algorithms in question, a corresponding interpretation, along with a discussion on the applicability and viability of this approach in real-life conditions.

Dissertation presented as the partial requirement for obtaining a Master's degree in Data Science and Advanced Analytics Given a neural network, how many di erent problems can it solve? This important and open question in deep learning is usually referred to as the problem of the expressive power of a neural network. Previous research has tackled this issue through statistical and geometrical methods. This work proposes a new method based on a topological perspective. Topology is the eld of mathematics aimed at describing spaces and functions through robust characterizing features. Topological Data Analysis is the young eld developed to extract topological insight from data. We rst show that topological features of the decision boundary describe the closest notion of the intrinsic complexity of a classi cation problem. These topological features divide classi cation problems into several equivalence classes. Linear-separability is an example of such a class. We establish the topological expressive power of a network architecture as the number of di erent topological classes it is able to express. Being a novel work in a young research eld, most of the thesis is devoted to developing this perspective and creating the tools required. The main objective of this thesis is to tackle neural network’s understanding in general and architecture selection in particular, through a novel approach. Our results show that topological expressiveness has a complex correlation with many features in a neural network’s architecture depending weakly on the total number of parameters. Some of our results recapitulate previous research on geometrical properties, while others are unique to this novel topological point of view, sometimes challenging previous research. Quantos problemas di erentes consegue uma dada rede neuronal resolver? Esta pergunta aberta é central no ramo de aprendizagem profunda e conhecida como o poder expressivo de uma rede neuronal. Tentativas anteriores em resolver este problema zeram-no usando métodos estatísticos ou geométricos. Este trabalho apresenta um novo método baseado numa prespectiva topologica. Topologia é o ramo de matemática responsável por descrever espaços e transformações com base em caracteristicas fundamentais. Topological Data Analysis (Análise Topológica de Dados) é o recente ramo de investigação desenvolvido para extrair conhecimento Topológico de dados. Começamos por mostrar que uma caraterização topológica da barreira de decisão é a noção mais próxima da complexidade de um problema de classi cação. Estas caracteristicas topoólicas dividas os problemas de classi cação em diversas classes de equivalência. O conjunto de problemas separaveis por uma reta são um exemplo de uma destas classes. Establecemos que a expressividade topológica de uma architectura neuronal é equivalente a quantas destas classes consegue resolver. Dado que é um método novo num ramo de investigação recente, grande parte desta tese foca-se em desenvolver esta perspectiva e em criar as ferramentas necessárias para o seu estudo. O objectivo desta dissertação é, apartir de uma abordagem original, enfrentar a falta de compreensão de redes neuronais no geral e, em particular, informar a escolha de arquitecturas. Os resultados obtidos mostram que a expressividade topológica tem correlações complexas com diversos elementos da arquitectura de uma rede, mostrando uma depêndencia ténue no número total de parametros. Alguns resultados seguem a mesma linha que a investigação gemétrica anterior, outros são únicos à perspectiva apresentada e complementando resultados anteriores.

Mestrado Bolonha em Métodos Quantitativos para a Decisão Económica e Empresarial O consumo sustentável é um tema cada vez mais debatido na atualidade. Com o aumento da população mundial e a diminuição de recursos naturais, é necessário aplicar técnicas que conduzam a uma produção controlada combatendo assim o desperdício, pelo que a previsão da qualidade de produtos agrícolas é um tópico crucial na tomada de decisão. As áreas de Machine Learning e de Remote Sensing têm contribuído significativamente para responder a estas dificuldades, na medida em que o tempo de processamento desde a recolha de dados à previsão dos mesmos é relativamente curto. Desta forma, o principal propósito deste trabalho é estudar o potencial das imagens Sentinel-2, em parceria com a empresa Forging Lab, para a análise e previsão da qualidade de produtos agrícolas, pelo valor Brix, para que, posteriormente, se possam mitigar os riscos de perda e consequentemente aumentar os lucros. Ao longo do estudo utilizam-se várias abordagens de Machine Learning do ramo da aprendizagem supervisionada, nomeadamente, Regressão Linear (OLS), Support Vector Regression, Redes Neuronais, Random Forest e LightGBM. Na comparação dos resultados de previsão obtidos pelas várias abordagens em estudo, verifica-se que os modelos em que se aplicou o algoritmo Random Forest geram maior precisão e menores erros de previsão. O melhor modelo, do algoritmo Random Forest, apresentou um coeficiente de determinação de 87,87%, com erro absoluto médio de 0,2985 e erro quadrático médio de 0,2741. Sustainable consumption is an increasingly debated topic these days. Due to the current increase in population and the depletion of natural resources, it is urgent that we implement production control techniques so that, in turn, we can effectively combat waste. Thus, agricultural product quality prediction is a crucial topic in decision-making. Machine Learning and Remote Sensing have played a significant role in response to these challenges, as the processing time from data collection to data prediction is relatively short. Bearing this in mind, with this thesis we aim to study, in partnership with the company Forging Lab, the potential of Sentinel-2 images in agricultural product quality analysis and prediction, according to the Brix value, so that the risk of loss can be later mitigated and profit can, consequently, increase. Several approaches in the Machine Learning field are used in this research, namely Linear Regression (OLS), Support Vector Regression, Neural Networks, Random Forest, and LightGBM. When we compare the predicted results obtained by the approaches used in this study, we verify that the models in which the Random Forest algorithm was used generate higher accuracy and smaller forecast errors. The best Random Forest algorithm model presented a coefficient of determination of 87,87%, with a mean absolute error of 0,2985 and a mean square error of 0,2741. info:eu-repo/semantics/publishedVersion

Dissertação de Mestrado Integrado em Engenharia Biomédica apresentada à Faculdade de Ciências e Tecnologia A doença de Alzheimer é um transtorno neurodegenerativo progressivo cujo diagnóstico permanece um desafio, pois este só é possível quando já ocorreram danos neurológicos significativos. Dado que a retina e o cérebro têm a mesma origem embrionária, cada vez mais se tem vindo a utilizar a retina como uma janela para o cérebro. Este estudo teve como objetivo identificar alterações características em imagens da retina de modelos animais da doença de Alzheimer, imagens reconstruídas a partir de dados de tomografia de coerência ótica nos estádios iniciais da doença. Para alcançar este objetivo, foi utilizada uma abordagem de aprendizagem profunda. Em primeiro lugar, foram criadas seis redes neuronais de convolução (CNNs) para determinar se as imagens de cada camada ou conjunto de camadas agregadas da retina eram distintas entre ratos do tipo selvagem e ratos transgénicos (modelos da doença de Alzheimer). Em seguida, o método Gradient-weighted Class Activation Mapping (Grad-CAM) foi utilizado para avaliar em que áreas (regiões) das imagens se encontrava a informação conducente à distinção entre grupos. Adicionalmente, foi também realizada uma experiência para verificar se os olhos direito e esquerdo partilham as mesmas características. Por último, uma rede neuronal foi desenvolvida para avaliar se a combinação das classificações resultantes das seis CNNs melhoraria o desempenho na distinção entre grupos. Com base nesta última tarefa, duas técnicas (algoritmo de conexão de pesos e método de perturbação) foram utilizadas para descobrir que camadas/conjunto de camadas mais contribuíram para a classificação nos grupos de controlo e transgénico. As CNNs provaram conseguir classificar corretamente as imagens usadas considerando apenas uma camada/conjunto de camadas, com uma exatidão entre 79,0% e 89,2% no grupo de teste, indicando assim que todas as camadas contêm informação suficiente para discriminar ratos do tipo selvagem de ratos transgénicos. Em geral, os mapas de calor sugeriram que as características essenciais estão presentes numa área mais extensa em imagens classificadas como transgénicas do que em imagens classificadas como do tipo selvagem, e que essas áreas não estão localizadas nas mesmas regiões entre as várias camadas/conjunto de camadas da retina. Além disso, as imagens do olho direito e esquerdo não partilham as mesmas características. Por fim, a combinação dos dados provenientes das seis camadas/conjunto de camadas não melhorou o desempenho da classificação, atingindo uma exatidão de 85,4%. Nesta tarefa, a camada nuclear interna (INL) foi a que mais contribuiu, ao contrário da camada plexiforme interna (IPL) e das camadas das fibras nervosas e das células ganglionares (RNFL-GCL) que tiveram uma contribuição residual. Alzheimer's disease (AD) is a progressive neurodegenerative disorder whose diagnosis remains a considerable challenge as it is only possible when significant neurological damage has occurred. Given that the retina and the brain have the same embryonic origin, increasing attention has focused on using the retina as a window into the brain. This study aimed to identify the characteristic changes in computed optical coherence tomography ocular fundus images of animal models of AD in the early stages of the disease. To achieve this goal, a deep learning approach was used. Firstly, six Convolutional Neural Networks (CNNs) were created to determine if the computed fundus images of each retinal layer/layer-aggregate were distinct between wild-type and transgenic mice. Afterwards, the Gradient-weighted Class Activation Mapping (Grad-CAM) method was applied to assess which image areas were decisive to distinguish groups. An additional experiment was also made to ascertain if the right and left eyes share the same characteristics. Lastly, a neural network was developed to assess if combining the six CNNs predictions would improve the performance. Based on this last task, two techniques (connection weights algorithm and perturbation method) were used to discover which layers/layer-aggregates had a higher contribution to classification. The CNNs proved able to classify correctly the fundus images belonging to only one layer/layer-aggregate, with accuracies between 79.0% and 89.2% on the test set, implying that all layers have helpful information to discriminate wild-type from transgenic mice. In general, the heatmaps suggested that the meaningful characteristics in images classified as transgenic were present in a more extensive area than the wild-type, and those areas were not located in the same places between retinal layers/layer-aggregates. Moreover, the right- and left-eye images did not convey the same information. Finally, combining data from the six layers/layer-aggregates did not improve further the classification performance, reaching an accuracy of 85.4%. The Inner Nuclear Layer (INL) was the most contributing layer in this task, and the Inner Plexiform Layer (IPL) and Retinal Nerve Fibre and Ganglion Cell Layers (RNFL-GCL) had a residual contribution. FCT

espanolEste articulo es derivado de un proyecto de investigacion en el cual se realizo el desarrollo de una aplicacion para la prediccion de ingredientes y recetas por medio de TensorFlow y maquinas de soporte vectorial. Se realizo un esquema de la arquitectura general, luego se desarrollo una red neuronal y despues se efectuo la ejecucion de la maquina de soporte vectorial. Finalmente, se realizo la integracion en una aplicacion que permite al usuario seleccionar imagenes de los ingredientes para su prediccion y de la receta de cocina para desayunos de manera didactica. Se concluyo que el sistema tiene un promedio de precision del 75,8 % para las 17 categorias de ingredientes y de 71 % para el clasificador de recetas. Adicionalmente, se realizo un analisis de esta estabilidad y se observo que todos los resultados eran iguales en terminos estadisticos. EnglishThis article is derived from a research project in which an application for the prediction of ingredients and recipes by TensorFlow and suppor-t-vector machines was developed. A scheme with general architecture was developed, then a neural network was implemented, and then, the support-vector machine was run. After that, they were integrated via an application that allows the user to select ingredients’ images for their prediction and the prediction of kitchens recipe in a didactic manner. It was concluded that the system has an average precision value of 75.8% and 71% for 17 ingredients categories and recipes classifier. In addition, sensitivity testing was performed on the application resulting on statis-tically equivalent results portuguesEste artigo e derivado de um projeto de pesquisa no qual se realizou o desenvolvimento de um aplicativo para a predicao de ingredientes e recei-tas por meio de TensorFlow e maquinas de suporte vetorial. Realizou-se um esquema da arquitetura geral, desenvolveu-se uma rede neuronal e depois efetuou-se a execucao da maquina de suporte vetorial. Finalmente, realizou-se a integracao num aplicativo que permite ao usuario selecionar imagens dos ingredientes para sua predicao e da receita de cozinha para cafes da manha de maneira didatica. Concluiu-se que o sistema tem uma media de precisao de 75,8 % para as 17 categorias de ingredientes e de 71 % para o classificador de receitas. Adicionalmente, realizou-se uma analise dessa estabilidade e observou-se que todos os resultados eram iguais em termos estatisticos.

A visão por computador, tem-se revelado fundamental na inovação e evolução tecnológica, com um crescimento exponencial ao longo dos últimos anos. As técnicas tradicionais do processamento de imagem, nem sempre são suficientemente capazes de resolver problemas reais de elevada complexidade. A utilização de técnicas deep learning, permitirão desenvolver capacidades de aprendizagem com melhores desempenhos. Na presente dissertação, desenvolvida no INESC TEC nos laboratórios do CRIIS, pretende-se explorar a utilidade do deep learning através da comparação e avaliação de quatro modelos deep learning, YOLOv4, Single Shot Multibox Detector (SSD) ResNet 50, SSD Inception v2, SSD MobileNet v2, para deteção de frutos, designadamente tomate em estufa. O objetivo principal desta comparação é avaliar a rede neuronal com melhor desempenho em inferência, assim como a viabilidade de utilização de dois datasets distintos. Foi utilizado um dataset de tomate adquirido, contra um dataset público Open Image Dataset v6 (OIDv6), para o treino dos quatro modelos. Para a avaliação do desempenho, recorreu-se a um dataset de teste próprio, de tomate em estufa. No final os resultados demonstraram grandes benefícios na utilização do dataset de tomate adquirido, no qual a YOLOv4 obteve o melhor desempenho, com uma precisão de 91%. No caso do OIDv6 os resultados foram muito baixos, devido às caraterísticas do dataset serem muito díspares do dataset de teste. Após a análise das redes neuronais, explorou-se o desenvolvimento da unidade de processamento FPGA (Field Programmable Gate Array ), com o objetivo de avaliar o seu desempenho ao nível de inferência, eficiência energética e tempo de inferência. Iniciou-se pela configuração do modelo YOLOv4 no formato adequado para a FPGA e a preparação de um script para deteção. Posteriormente foi proposta uma arquitetura distribuída, para automatização do processo de envio de imagens do sistema ROS (Robot Operating System), para realização de inferência na FPGA e os respetivos resultados das deteções. Apesar da sua viabilidade de aplicação, foram obtidos resultados significativamente inferiores ao nível de desempenho na inferência (-28%), devido aos vários processos de conversão e configuração da rede neuronal na FPGA. No que diz respeito ao consumo energético, durante a inferência obteve-se 1650 mA, representando um aumento de 28.9% relativamente ao funcionamento operacional e um tempo médio de inferência de 79 mili segundos. Em suma a opção de utilização de uma FPGA, revelou-se viável para inferência, apesar de necessitar de melhorias nos procedimentos de configuração das redes neuronais. Computer vision has been fundamental in innovation and technological evolution, with exponential growth over the last years. Traditional image processing techniques are not always sufficiently capable of solving real problems of high complexity. The use of deep learning techniques will allow the development of learning capabilities with better performance. In this dissertation, developed at INESC TEC in the CRIIS laboratories, we intend to explore the usefulness of deep learning through the comparison and evaluation of four deep learning models, YOLOv4, Single Shot Multibox Detector (SSD) ResNet 50, SSD Inception v2, SSD MobileNet v2, for fruit detection, namely greenhouse tomatoes. The main objective of this comparison is to evaluate the best performing neuronal network in inference, as well as the feasibility of using two different datasets. An acquired tomato dataset was used against a public Open Image Dataset v6 (OIDv6) to train the four models. For performance evaluation, a proprietary test dataset of tomatoes in a greenhouse was used. In the end, the results showed great benefits in using the acquired tomato dataset, in which YOLOv4 obtained the best performance, with an accuracy of 91%. In the case of OIDv6, the results were very low, due to the characteristics of the dataset being very different from the test dataset. After the analysis of the neural networks, the development of the FPGA (Field Programmable Gate Array) processing unit was explored, to evaluate its performance in terms of inference, energy efficiency, and inference time. We started by configuring the YOLOv4 model in the appropriate format for the FPGA and preparing a script for detection. Later, a distributed architecture was proposed to automate the process of sending images from the ROS (Robot Operating System) system, to perform inference in the FPGA and the respective detection results. Despite its application feasibility, significantly lower results were obtained in the inference performance level (-28%), due to the various conversion and configuration processes of the neural network in the FPGA. Concerning power consumption, 1650 mA was obtained during inference, representing an increase of 28.9% over the operational operation and an average inference time of 79 mili seconds. In summary, the option of using an FPGA proved to be viable for inference, despite the need for improvements in the neural network configuration procedures. Mestrado em Engenharia de Automação Industrial

Dissertação de mestrado em Matemática e Computação, Na maior parte das cidades, encontrar um lugar de estacionamento disponível é uma tarefa com plicada, o que leva ao aumento do trânsito, da poluição, do stress e do tempo perdido por parte dos condutores. Nesta dissertação, é apresentada uma solução completa e genérica, para a gestão dos estaciona mentos de veículos. Esta solução pode ser implementada em qualquer cidade, pois a mesma é capaz de se adaptar a diferentes necessidades e especificidades, através do uso de inteligência artificial ou através de leitura remota de dados. A solução aqui apresentada consiste na elaboração de um sistema de detecção de lugares livres, um servidor, uma aplicação para telemóvel e um back office. O sistema de deteção é opcional, sendo somente instalado quando se pretende ter acesso ao número de lugares vagos em tempo real. O próprio sistema pode ser adaptado consoante as características do local, o orçamento disponível e a precisão desejada. A aplicação para telemóvel permite que os utilizadores consigam ter acesso às informações dos es tacionamentos disponíveis, indiquem as suas preferências e o seu destino e recebam depois sugestões de estacionamento por parte do servidor. Esta aplicação permite também que os utilizadores compar tilhem informações sobre as lotações dos parques, as quais são recolhidas pelo servidor com a finali dade de treinar a rede neuronal e melhorar o seu desempenho. A rede neuronal fará as devidas previ sões e, ao longo do tempo, irá aumentar a precisão do modelo de previsão. Um exemplo de funciona mento da aplicação pode ser visto em: https://www.youtube.com/watch?v=G-MdzFcsBWw (consultado a 7 de fevereiro de 2021). O servidor recebe, armazena e distribui as informações dos estacionamentos, além de sugerir aos utilizadores um conjunto de estacionamentos que melhor se adaptam às suas preferências. A sugestão é apresentada com base nas características dos estacionamentos disponíveis, através de uma previsão de uma rede neuronal, treinada com todos os dados adquiridos do histórico de lotação do parque. O back office permite que se gira o sistema de uma forma simples e agradável. Pode então dizer-se que é possível implementar esta solução em todas as cidades e em todo o tipo de parques de estacionamento, auxiliando os utilizadores da aplicação, e permitindo que os mesmos encontrem, de forma eficaz e eficiente, um lugar de estacionamento., In most cities, finding a vacant parking space is a complicated task, which leads to increased traffic, pollution, stress, and a waste of drivers’ time. In this Master thesis, a complete and generic solution for the management of vehicle parking is presented. This can be implemented in any city, as it is able to adapt to different needs and specificities, through the use of artificial intelligence or through remote data reading. The solution presented here consists of the elaboration of a system for the detection of free parking spaces, a server, a mobile application and a back office. The detection system is optional, being installed only when you want to have access to the number of vacant places in real time. The system itself can be adapted according to the characteristics of the park, the available budget, and the desired precision. The mobile application allows users to access parking information, indicate their preferences and destination, and consequently receive parking suggestions from the server. It also allows users to share information about the park capacity, which is collected by the server for the purpose of training the neural network. The neural network will make appropriate predictions, and over time it will increase the accuracy of the forecasting model. An example of how the application works can be seen at: https://www.youtube.com/watch?v=G-MdzFcsBWw (consulted on february 7 th, 2021). The server receives, stores and distributes parking information, and, suggests to users a set of parking spaces that best fit their preferences. The suggestion is made based on the characteristics of the parking lots and through a forecast made by a neuronal network, trained with all the data acquired from the park’s capacity history. The back office allows one to manage the system in a simple and pleasant way. It can then be said that it is possible to implement this solution in all cities and in all types of parking lots, assisting the users of the application, and allowing them to find, effectively and efficiently, a parking spot.

Tese no âmbito do Programa de Doutoramento em Ciências e Tecnologias da Informação, apresentada ao Departamento de Engenharia Informática da Faculdade de Ciências e Tecnologia da Universidade de Coimbra. Os dispositivos móveis substituíram os computadores pessoais e portáteis em muitos aspectos da rotina diária das pessoas. Na practica, eles transformaramse em impressões digitais que carregam uma quantidade crítica de informações pessoais, que variam desde conteúdo multimedia e registos de comunicação, a geolocalização e dados de transações eletrônicas. No entanto, o uso de dispositivos móveis não se limita às interacções pessoais de um indivíduo. Os dispositivos móveis podem constituir partes de redes de comunicação corporativas ou dedicadas. As redes corporativas e da emergência como os sistemas de Proteção Pública e Mitigação de Desastres (PPDR), exigem o estabelecimento de um ambiente altamente seguro, para proteger vários bens críticos. Além disso, organizações como a Polícia Judiciária acedem dados de dispositivos móveis de terceiras entidades como provas para investigações criminais. A aquisição e análise forense móvel têm um papel crucial tanto na proteção de um ambiente PPDR contra ataques intencionais ou uso indevido dos utilizadores, como na condução de uma investigação criminal robusta. Esta tese estuda o papel da aquisição e análise forense para sistemas PPDR, introduzindo uma metodologia para perfs digitais automatizados e identifcação de padrões suspeitos a partir de dados e metadados de dispositivos móveis. Três técnicas de computação inteligente, nomeadamente Fuzzy Systems, Redes Neuronais (RNs) e Adaptive Neuro-Fuzzy Inference System (ANFIS) são usadas para construir perfs criminais e identifcar padrões suspeitos em dados e metadados provenientes de chamadas e SMS para três cenários de casos de uso diferentes. Mais especifcamente, os Sistemas Fuzzy servíram como prova de conceito para detectar a deserção de agentes PPDR realizada por SMS. Um cenário mais complexo envolveu o uso de RNs e ANFIS, que foram empregados como meio de identifcação de padrões suspeitos de chamadas e SMS para casos de cyberbullying e de tráfico de droga. Os resultados que foram produzidos durante todas as fases experimentais foram bastante satisfatórios e foram comparados para defnir a técnica mais apropriada para a identifcação de padrões suspeitos. Mobile devices have substituted desktop and portable computers in many aspects of people’s everyday routine. Practically, they have become digital fngerprints that carry a critical amount of personal information, varying from multimedia and communication logs to geolocation and electronic transaction data. Moreover, the usage of mobile devices is not limited to an individual’s personal interactions. The aforementioned devices may also constitute parts of corporate or dedicated communication networks. Enterprise and frst-responder communication networks, such as Public Protection and Disaster Relief (PPDR) systems require the establishment of a highly secured environment, in order to protect various critical assets. Moreover, services such as law enforcement may need to access third-party mobile device data as evidence for criminal investigations. Mobile forensic acquisition and analysis play a crucial role towards both the protection of a PPDR environment against intentional attacks or potential user misuse and the conduction of a robust criminal investigation. The current thesis studies the role of forensic analysis in use cases related to law enforcement investigations by introducing a methodology for automated digital profling and suspicious pattern identifcation from mobile device data and metadata. Three intelligent computation techniques, namely Fuzzy Systems, Neural Networks (NNs) and the Adaptive Neuro-Fuzzy Inference System (ANFIS) are used for constructing criminal profles and identifying suspicious patterns in calls and SMS evidence data and metadata for three different use case scenarios. More specifcally, Fuzzy Systems served as proof-of-concept for detecting PPDR ofcers’ defection performed by SMS. A more complex scenario for call and SMS suspicious pattern identifcation of cyberbullying and low-level drug dealing cases was documented with the use of NNs and ANFIS.

Nos últimos 70 anos o consumo de energia foi superior aos 12 mil anos anteriores [1]. Seguindo a mesma tendência o consumo de energia elétrica também tem aumentado. Este facto é justificável pela utilização generalizada de energia elétrica nos mais variados setores, os setores industrial e doméstico apresentam a maior quantidade de energia consumida nos últimos anos. Atualmente, essa dependência prende-se com o facto de existirem inúmeros equipamentos que necessitam de eletricidade ininterruptamente para a sua correta operação, como exemplo temos: sistemas de segurança, equipamentos frigoríficos, entre outros. O aumento de equipamentos presentes nas habitações também é um fator relevante, acarretando maiores consumos ao nível de energia elétrica e consequentemente um aumento da fatura elétrica. Todas as mudanças nos hábitos de consumo obrigaram a repensar os sistemas de fornecimento de energia aos locais de consumo. Ao longo dos últimos anos, a liberalização do mercado português, associada ao mercado de energia elétrica, tem culminado no surgimento de novos tipos de tarifas, nomeadamente o mercado de tarifas dinâmicas. Com o intuito de obter melhorias durante a utilização de energia elétrica, foram utilizadas Redes Neuronais que permitiram uma aprendizagem constante com a utilização de preços precedentes para a realização dessa mesma aprendizagem. Desta forma, recorreu-se a softwares de Inteligência Artificial, cada vez mais procurados e que têm permitido a realização de inúmeras operações tais como a previsão de acontecimentos. Tendo em conta os pontos apresentados anteriormente, surgiu a ideia de criar uma ferramenta que permitisse prever preços de energia elétrica e, concludentemente, realizasse uma gestão de cargas que seriam deslocadas e alocadas em espaços temporais onde o preço de eletricidade fosse o mais reduzido. Esta ferramenta tem como principal objetivo proporcionar uma redução da fatura de eletricidade, tendo por base uma boa gestão de cargas baseada na previsão proveniente da rede neuronal implementada. In the last 70 years energy consumption has been higher than in the previous 12,000 years [1]. Following the same trend, the consumption of electrical energy has also increased. This fact is justified by the widespread use of electricity in the most varied sectors, among them the industrial and domestic sectors adding up to the largest amount of energy consumed in recent years. Currently, this dependence happens because there are several equipments that need electricity uninterruptedly for correct operation, such as security systems, refrigerating equipment and others. The increase in equipments present in homes is also a relevant factor, leading to greater consumption of electricity and consequently an increase in the electric bill. All the changes in consumption habits have forced a change in the way energy reaches our homes. Over the past few years, the liberalization of the Portuguese market, associated with the electricity market, has culminated in the emergence of new types of tariffs, namely the dynamic tariff market. In order to obtain improvements during the use of electricity, Neural Networks were used, which allowed constant learning and the use of previous prices. In this way, Artificial Intelligence software was used, which is increasingly sought after, and which has allowed for numerous operations such as event forecasting. Due to the points presented above, the idea arose of creating a tool that would make it possible to predict electricity prices and, conclusively, to manage loads that would be displaced and allocated in temporal spaces where the price of electricity was lower. The implementation of this tool has as its main objective to provide a reduction in the electricity bill whenever good load management occurs based on the forecast coming from the implemented neuronal network.

Os processos não-lineares, processos onde não se conseguem prever acon-tecimentos futuros dada a sua natureza, são de ocorrência frequente, por isso, é importante o entendimento deste tipo de procedimentos. Esta dissertação tem como principal objetivo a implementação, teste e mo-delação de metodologias não-lineares para a modelação do sistema de Três Tan-ques, partindo de uma abordagem Caixa-Preta baseada em Redes Neuronais, e de uma abordagem Caixa-Cinzenta baseada em Princípios Físico-Matemáticos. As metodologias desenvolvidas são validadas usando o sistema de Três Tanques, sistema esse, com características MIMO, onde o objetivo é obter um modelo capaz de modelar eficazmente sistemas não-lineares. The non-linear processes, processes where it is not possible to predict future events due to their nature, are of frequent occurrence, therefore it is important understanding this type of procedures. The main goal of this thesis is the implementation of methodologies for the modeling of the Three Tank system, starting from a Black Box approach, based on Neural Networks, and a Gray Box approach, based on Mathematical and / or Physical Principles. The developed approach is validated using the Three Tank system, a sys-tem with MIMO characteristics, where the objective is to obtain a model capable of effectively model non-linear systems.

Dissertação de mestrado em Engenharia de Sistemas, Todos os dias milhares de produtos são colocados à disposição de consumidores ou organizações, via produtores, grossitas ou retalhistas, quer fisicamente ou online. Independentemente da indústria, do canal ou do volume, a disposição de mercadoria pressupõe uma alocação e um processo de planeamento para que esses mesmos produtos ou serviços estejam disponíveis no momento em que são procurados. Seria ideal que as empresas conseguissem antecipar o futuro e saber com exatidão o que venderão e quanto venderão. No entanto, ainda só é possível ter certezas sobre o passado e o presente, pelo que o futuro pode apenas ser tocado através da previsão. A previsão da procura não se traduz em garantia, mas permite reduzir a incerteza do lado da oferta até que o risco de tomar decisões se torne tolerável e claramente inferior ao valor que assunção da previsão como próxima da realidade permite aportar. É precisamente na previsão da procura que se focará este caso de estudo, mais concretamente na previsão da procura das lojas do retalhista equatoriano Favorita. A disponibilização dos dados de vendas deste comerciante servirá de base à análise da previsão da procura dos artigos comercializados pela Favorita, através da aplicação de métodos de Machine Learning. A procura dos artigos do retalhista será prevista recorrendo ao uso de redes neuronais recorrentes de memória de longo-curto prazo (Long Short-term Memory, LSTM). No entanto, tendo em conta a complexa natureza do sortido do negócio a que se aplica este caso, será testado o efeito mediador da aplicação de clustering ao conjunto de produtos da Favorita nos resultados da previsão. Assim, será possível segmentar a informação que é facultada à rede neuronal de previsão e perceber se esta responde melhor ao receber um conjunto não organizado de informação de vendas de todos os artigos ou se é mais eficiente na previsão quando esses artigos estão organizados pela sua semelhança. Adicionalmente, serão também exploradas duas abordagens na aplicação de clustering, de forma iterativa, que permitirão consolidar a conclusão de que a mediação de clustering parece ter efeitos positivos na melhoria dos resultados da previsão da procura dos artigos da Favorita através de redes neuronais LSTM., Everyday thousands of products are made available to consumers or organizations, via producers, wholesalers, or retailers, either physically or online. Regardless of industry, channel or volume, merchandise placement presupposes an allocation and a planning process so that those same products or services are available when they are in demand. Ideally, companies should be able to anticipate the future and know exactly what they will sell and how much they will sell. However, it is still only possible to be certain about the past and the present, so the future can only be touched by forecasting. Demand forecasting does not translate into guarantees, but it allows to reduce uncertainty on the supply side until the risk of taking decisions becomes tolerable and clearly lower than the value that the assumption of the forecast as close to reality allows for. It is precisely on forecasting demand that this case study will be focused, more specifically on forecasting demand for Ecuadorian wholesaler Favorita stores. The availability of sales data from this merchant will serve as a basis for analyzing the forecast demand for products sold by Favorita, through the application of Machine Learning methods. The demand for the wholesaler's items will be forecasted using Long-Short Term Memory (LSTM) recurrent neural networks. However, considering the complex nature of the business assortment to which this case applies, the mediating effect of applying clustering to Favorita's product set on the forecast results will be tested. Thus, it will be possible to segment the information that is provided to the predictor neural network and see if it responds better when receiving an unorganized set of sales information for all items or if it is more efficient in the prediction when these items are organized by their similarity. Additionally, two approaches in the application of clustering will also be explored, in an iterative manner, which will allow consolidating the conclusion that clustering mediation seems to have positive effects in improving the results of forecasting the demand for Favorita’s products through LSTM neural networks.

Submitted by Ana Maria de Sousa Rebelo (amsr@isep.ipp.pt) on 2022-01-07T16:33:16Z No. of bitstreams: 1 DM_FilipeCorreia_2021_MEI.pdf: 6500848 bytes, checksum: 900584b790eb83a56c5427891825bf31 (MD5) Approved for entry into archive by Ana Maria de Sousa Rebelo (amsr@isep.ipp.pt) on 2022-01-07T16:33:57Z (GMT) No. of bitstreams: 1 DM_FilipeCorreia_2021_MEI.pdf: 6500848 bytes, checksum: 900584b790eb83a56c5427891825bf31 (MD5) Made available in DSpace on 2022-01-07T16:33:58Z (GMT). No. of bitstreams: 1 DM_FilipeCorreia_2021_MEI.pdf: 6500848 bytes, checksum: 900584b790eb83a56c5427891825bf31 (MD5) Previous issue date: 2021

Submitted by Ana Maria de Sousa Rebelo (amsr@isep.ipp.pt) on 2022-02-09T16:30:38Z No. of bitstreams: 1 DM_MiguelLopes_2021_MEEC.pdf: 5841925 bytes, checksum: eb79ac3125f703f7f0f7cdf62cbcb4ee (MD5) Approved for entry into archive by Ana Maria de Sousa Rebelo (amsr@isep.ipp.pt) on 2022-02-09T16:30:57Z (GMT) No. of bitstreams: 1 DM_MiguelLopes_2021_MEEC.pdf: 5841925 bytes, checksum: eb79ac3125f703f7f0f7cdf62cbcb4ee (MD5) Made available in DSpace on 2022-02-09T16:30:57Z (GMT). No. of bitstreams: 1 DM_MiguelLopes_2021_MEEC.pdf: 5841925 bytes, checksum: eb79ac3125f703f7f0f7cdf62cbcb4ee (MD5) Previous issue date: 2021

Tese de mestrado, Informática, Universidade de Lisboa, Faculdade de Ciências, 2021 Submitted by Teresa Boa (tdboa@fc.ul.pt) on 2021-08-30T10:31:31Z No. of bitstreams: 1 TM_Francisco_Mendonça.pdf: 1943755 bytes, checksum: dbb93bd4e4b0f1b28347029d94850473 (MD5) Made available in DSpace on 2021-08-30T10:31:41Z (GMT). No. of bitstreams: 1 TM_Francisco_Mendonça.pdf: 1943755 bytes, checksum: dbb93bd4e4b0f1b28347029d94850473 (MD5) Previous issue date: 2021

Mestrado de dupla diplomação com o Centro Federal de Educação Tecnológica Celso Suckow da Fonseca - CEFET/RJ Este trabalho tem como objetivo prever o resultado em forma de vitória/empate/derrota do confronto de duas equipas de futebol usando redes neuronais artificiais e dados estatísticos da performance das duas equipas e seus jogadores ao longo do tempo. É também um objetivo verificar se é realmente possível realizar essa previsão. Foram coletadas estatísticas de cerca de 26 mil partidas de 13 ligas diferentes, entre elas o número de cantos, golos, avaliações dos jogadores. Depois, foi feita uma análise visual do conjunto de dados e realizado testes com diferentes formas de organizações históricas das estatísticas que comprovou que a média simples de 20 partidas anteriores apresenta a melhor performance, entre outras testadas. Foi utilizada inicialmente uma rede neuronal “feedforward” com 100 neurônios em sua camada de entrada, 80 na camada seguinte, 5 e 3 nas camadas restantes. Além disso foi utilizada camadas de regularização do modo “dropout” entre todas as camadas de neurônios. Com esse modelo foi obtido 51.8% de exatidão no conjunto teste de 2500 partidas. Em seguida foi feita uma análise da relevância de cada dado estatístico e a criação de novos dados a partir dos dados iniciais. Além de realizar a otimização automática dos hiperparâmetros da rede neuronal utilizando a pesquisa em grade a fim de obter a melhor performance. Após os procedimentos descritos, foi obtido, entre outros, 60,9% de exatidão nas partidas da Liga NOS de Portugal, 58,1% em partidas da Liga da Turquia e 57,2% nas partidas da Premier League da Inglaterra. Como resultado final, o modelo obteve 52,8% de exatidão no conjunto teste de 2500 partidas. Em alguns casos, por exemplo quando o modelo previu com uma probabilidade maior que 60% da equipa da casa vencer, a exatidão subiu para 80,3%. Esses resultados comprovam que é possível realizar a previsão de partidas de futebol utilizando redes neuronais artificiais. This study aims to predict soccer matches in the form of victory, draw or defeat and observe if soccer matches are predictable. Artificial Intelligence techniques were used in the form of Artificial Neuronal Networks in addition with statistics data from past matches such as players and team ratings, corners, goals. Data from more than 26,000 matches were collected from 13 different leagues throughout the world. Furthermore, graphics were plotted to visualize the distribution of the variables between the three different outcomes to conclude if the data, in fact, have correlation with the results. In addition, the data was organized in historical form and tested in different ways such as weighted average of past 7 matches, average of past 20 matches and exponential weighted moving average with different alphas. Moreover, more statistics were generated with the initial dataset such as Pi-rating and Streak. To test the different historical organization of the data, a feed-forward Neuronal Network with 100 neurons on the first layer, 80 on the second, 5 on the third and 3 on the last layer was used. Between the layers a Dropout layer was used to prevent the model of overfitting. The average of the 20 past matches had the best result with 51.8% of accuracy on the 2500 matches of the test dataset. Furthermore, more data was generated using the original ones to increase the accuracy. In addition, a grid-search was used to find the hyper-parameters which had the best performance. Moreover, the model successfully predicted 60.9% matches of Portugal Liga NOS, 58.1% matches of Super Lig of Turkey, 57.2% matches of England Premier League. The artificial neuronal network successfully predicted the 2,500 matches of the test data with an accuracy of 52.8%. In addition, in some specific cases, for example when the network predicted that home team would win with more than 60% probability, the accuracy increased up to 80.3%. This conclude that, in fact, soccer matches can be predicted using neuronal networks.

Submitted by Sandra Domingues (sandra.domingues@campus.ul.pt) on 2021-03-24T16:52:17Z No. of bitstreams: 1 Tavares_Fabio_TM_2021.pdf: 9315637 bytes, checksum: 1de58f25c9348d516068d4b25eb42dcb (MD5) Made available in DSpace on 2021-03-24T16:52:36Z (GMT). No. of bitstreams: 1 Tavares_Fabio_TM_2021.pdf: 9315637 bytes, checksum: 1de58f25c9348d516068d4b25eb42dcb (MD5) Previous issue date: 2020-12-17

Projecto final para obtenção do grau de mestre em Engenharia de Redes de Comunicação e Multimédia Submitted by Sónia Mestre (sonia.mestre@isel.pt) on 2021-02-18T21:30:13Z No. of bitstreams: 1 Dissertação_2167.pdf: 8419277 bytes, checksum: 80dc3c899d9dd0bc46a621e3e0871684 (MD5) Made available in DSpace on 2021-02-18T21:30:13Z (GMT). No. of bitstreams: 1 Dissertação_2167.pdf: 8419277 bytes, checksum: 80dc3c899d9dd0bc46a621e3e0871684 (MD5) Previous issue date: 2020-12-10 N/A

With the increase in computation power, coupled with the advancements in the field in the form of GANs and cGANs, Neural Networks have become an attractive proposition for content generation. This opened opportunities for Procedural Content Generation algorithms (PCG) to tap Neural Networks generative power to create tools that allow developers to remove part of creative and developmental burden imposed throughout the gaming industry, be it from investors looking for a return on their investment and from consumers that want more and better content, fast. This dissertation sets out to develop a PCG mixed-initiative tool, leveraging cGANs, to create authored 3D terrains, allowing users to directly influence the resulting generated content without the need for formal training on terrain generation or complex interactions with the tool to influence the generative output, as opposed to state of the art generative algorithms that only allow for random content generation or are needlessly complex. Testing done to 113 people online, as well as in-person testing done to 30 people, revealed that it is indeed possible to develop a tool that allows users from any level of terrain creation knowledge, and minimal tool training, to easily create a 3D terrain that is more realistic looking than those generated by state-of-the-art solutions such as Perlin Noise. Com o aumento do poder de computação, juntamente com os avanços neste campo na forma de GANs e cGANs, as Redes Neurais tornaram-se numa proposta atrativa para a geração de conteúdos. Graças a estes avanços, abriram-se oportunidades para os algoritmos de Geração de Conteúdos Procedimentais(PCG) explorarem o poder generativo das Redes Neurais para a criação de ferramentas que permitam aos programadores remover parte da carga criativa e de desenvolvimento imposta em toda a indústria dos jogos, seja por parte dos investidores que procuram um retorno do seu investimento ou por parte dos consumidores que querem mais e melhor conteúdo, o mais rápido possível. Esta dissertação pretende desenvolver uma ferramenta de iniciativa mista PCG, alavancando cGANs, para criar terrenos 3D cocriados, permitindo aos utilizadores influenciarem diretamente o conteúdo gerado sem necessidade de terem formação formal sobre a criação de terrenos 3D ou interações complexas com a ferramenta para influenciar a produção generativa, opondo-se assim a algoritmos generativos comummente utilizados, que apenas permitem a geração de conteúdo aleatório ou que são desnecessariamente complexos. Um conjunto de testes feitos a 113 pessoas online e a 30 pessoas presencialmente, revelaram que é de facto possível desenvolver uma ferramenta que permita aos utilizadores, de qualquer nível de conhecimento sobre criação de terrenos, e com uma formação mínima na ferramenta, criar um terreno 3D mais realista do que os terrenos gerados a partir da solução de estado da arte, como o Perlin Noise, e de uma forma fácil.

Multiple sclerosis (MS) is a type of neurological disease commonly diagnosed in young adult patients, with often unknown causes that can impact the quality of life of the affected person. The objective of this study is to present the peculiarities and applications of imaging diagnostic tests, more specifically magnetic resonance imaging in the diagnosis of multiple sclerosis through a literature review. The present work is a research proposal outlined and based on literature review studies for an integrative review. The result has been that magnetic resonance imaging, due to its high resolution images, has played an increasingly unique role in the diagnosis and treatment of multiple sclerosis patients, enabling the detection of small lesions. It is concluded that MRI can be considered an important resource to assist in the diagnosis of multiple sclerosis due to its relationships between the combinations of different types of pulse sequences and protocols, which make it possible to visualize the lesions, confirm the picture of MS and exclude the supposed alternative diagnoses that are similar. La esclerosis múltiple (EM) es un tipo de enfermedad neurológica que se diagnostica comúnmente en pacientes adultos jóvenes, con causas a menudo desconocidas que pueden afectar la calidad de vida de la persona afectada. El objetivo de este estudio es presentar las peculiaridades y aplicaciones de las pruebas de diagnóstico por imágenes, más específicamente la resonancia magnética en el diagnóstico de la esclerosis múltiple a través de una revisión de la literatura. El presente trabajo es una propuesta de investigación esbozada y basada en estudios de revisión de la literatura para una revisión integral. El resultado ha sido que la resonancia magnética, debido a sus imágenes de alta resolución, ha desempeñado un papel cada vez más singular en el diagnóstico y el tratamiento de los pacientes con esclerosis múltiple, permitiendo la detección de pequeñas lesiones. Se llega a la conclusión de que la resonancia magnética puede considerarse un recurso importante para ayudar en el diagnóstico de la esclerosis múltiple debido a sus relaciones entre las combinaciones de diferentes tipos de secuencias y protocolos de pulso, que permiten visualizar las lesiones, confirmar el cuadro de la esclerosis múltiple y excluir los supuestos diagnósticos alternativos que son similares. A esclerose múltipla (EM) é um tipo de doença neurológica comumente diagnosticada em pacientes jovens adultos, com causas muitas vezes desconhecidas e que podem implicar na qualidade de vida da pessoa acometida. O objetivo desse estudo é apresentar as peculiaridades e aplicações dos exames de diagnóstico por imagem, mais especificadamente a ressonância magnética no diagnóstico da esclerose múltipla através de uma revisão de literatura. O presente trabalho trata-se de uma proposta de pesquisa delineada e embasada em estudos de revisão de literatura, para realização de uma revisão integrativa. Onde resultou que o exame de ressonância magnética por apresentar imagens com alta resolução tem vindo a desencadear um papel cada vez maior e único no diagnóstico e tratamento de doentes com esclerose múltipla, possibilitando a detecção de lesões com pequenas dimensões. Conclui-se que a RM pode ser considerada como um recurso importante para auxílio ao diagnóstico da esclerose múltipla, devido suas relações entre as combinações de diferentes tipos de sequências de pulsos e protocolos, que possibilitam visualizar as lesões, confirmar o quadro de EM e excluir os supostos diagnósticos alternativos que se assemelham.