Search

Con el rápido crecimiento de la Inteligencia Artificial (IA) a nivel mundial, se ha puesto de manifiesto la necesidad de que los modelos de IA sean confiables y transparentes, condición esencial para que sean adoptados de forma generalizada en ámbitos como el sanitario, financiero o legislativo, que involucran la toma de decisiones críticas que pueden afectar a la vida de las personas. Los profesionales necesitan estar seguros de que las decisiones automatizadas son correctas, justas y libres de sesgos. Además, la interpretabilidad de los modelos de IA es fundamental para la identificación y mitigación de errores, especialmente aquellos basados en redes neuronales profundas, que a menudo funcionan como una “caja negra”, donde los procesos internos que llevan a una decisión son opacos y difíciles de interpretar. Esta necesidad ha dado lugar al desarrollo de la Inteligencia Artificial eXplicable (o XAI, por sus siglas en inglés), que se enfoca en la precisión de los modelos, pero también en su interpretabilidad y en la capacidad de los usuarios para comprender y confiar en las decisiones tomadas por estos sistemas. Este trabajo se centra en la aplicación de la IA para resolver el problema de la clasificación automática de fracturas de cadera en radiografías, que representa un desafío relevante, puesto que ciertos tipos de fracturas pueden pasar desapercibidos en una primera evaluación clínica. En él, presentamos un modelo basado en redes neuronales convolucionales (CNN) para la clasificación de fracturas de cadera. Además, exploramos diversos métodos de explicación dentro del marco de la XAI, que tienen el potencial de ser de gran utilidad en una aplicación clínica, tanto para los médicos especialistas como para los propios pacientes., With the rapid global growth of Artificial Intelligence (AI), the need for AI models to be reliable and transparent has become evident. This is essential for their widespread adoption in critical decision-making fields such as healthcare, finance, and legislation. Professionals need to be assured that automated decisions are accurate, fair, and free from biases. Moreover, the interpretability of AI models is fundamental for the identification and mitigation of errors, especially those based on deep neural networks, which often function as “black boxes”, where the internal processes leading to a decision are opaque and difficult to interpret. This necessity has led to the development of eXplainable Artificial Intelligence (XAI), which focuses not only on the accuracy of models but also on their interpretability and the ability of users to understand and trust the decisions made by these systems. This work focuses on the specific application of AI to the automatic classification of hip fractures in X-rays, which represent a significant challenge as certain types of fractures can go unnoticed during an initial clinical evaluation. We present a model based on Convolutional Neural Networks (CNN) for the classification of hip fractures. Additionally, we explore various explanation methods within the XAI framework, which have the potential to be highly useful in a clinical setting, both for specialist physicians and for patients themselves.

Con la popularización y el rápido crecimiento de la Inteligencia Artificial, algunos modelos de aprendizaje automático, en especial de aprendizaje supervisado, están siendo usados para sistematizar el proceso de detección de emociones en imágenes. Debido a que el enfoque es relativamente nuevo, en este trabajo se pretende explorar las posibilidades y analizar la precisión de estos modelos para finalmente determinar qué combinación de características conlleva a una mejor precisión por parte de los modelos. Aparte de esto, el problema al que se enfrentan a menudo aquellas personas que tratan con estos modelos es, a no ser capaces de explicar la atribución de emociones distintas para imágenes de entrada parecidas. Por este motivo, en este trabajo se pretende que los modelos muestren, mediante algoritmos de explicabilidad IA, las regiones de las imágenes que son decisivas en las predicciones de emociones para poder así explicar las decisiones tomadas por los modelos y dar a conocer los beneficios de aplicar algoritmos de explicabilidad., With the popularization and fast development of Artificial Intelligence, some models of machine learning, specifically those oriented to supervised learning, are being used to systematize the process of emotion detection in images. Since this approach is relatively new, this thesis aims to explore the possibilities and analyse the accuracy of these models to determine which combination of characteristics leads the models to obtain the best accuracy. Apart from this, the problem often faced by those who deal with this kind of models is not being able to explain the attribution of different emotions for similar input images. For this reason, in this thesis is intended to show, using AI explainability algorithms, the regions of the images that are decisive in the emotion prediction to finally explain the decisions made by the models and show off the benefits of the appliance of AI explainability algorithms.

Deep learning is especially remarkable in terms of image classification. However, the outcomes of models are not explainable to users due to their complex nature, having an impact on the users’ trust in the provided classifications. To solve this problem, several explanation techniques have been proposed, but they greatly depend on the nature of the images being classified and the users’ perception of the explanations. In this work, we present Case-Based Reasoning as a learning-based solution to the problem of selecting the best explanation method for the image classifications obtained by models. We propose the elicitation of a case base that reflects the human perception of the quality of the explanations and how to reuse this knowledge to select the best explanation approach for a given image classification., Depto. de Ingeniería de Software e Inteligencia Artificial (ISIA), Fac. de Informática, TRUE, pub