Search

Submitted by Daniella Santos (daniella.santos@ufma.br) on 2022-06-13T17:25:37Z No. of bitstreams: 1 GiovanniLuccaFrançadaSilva.pdf: 7192346 bytes, checksum: 71622678dd8a601b0721148844fb0e7f (MD5) Made available in DSpace on 2022-06-13T17:25:37Z (GMT). No. of bitstreams: 1 GiovanniLuccaFrançadaSilva.pdf: 7192346 bytes, checksum: 71622678dd8a601b0721148844fb0e7f (MD5) Previous issue date: 2021-03-16 CAPES Prostate cancer is the second most common cancer in men in the world. In Brazil, there are an estimated 65,840 new cases of prostate cancer for each year of the 2020-2022 triennium. The automatic segmentation of the prostate is an important factor to assist in the diagnosis and treatment of cancer, such as orientation of the biopsy procedure and radiotherapy. However, automatic segmentation is challenging due to the great variation in the anatomy of the prostate due to pathological changes, tissue similar to Organs adjacent organs and different image acquisition protocols. Therefore, this work proposes three computational methods based on superpixels for automatic segmentation of the prostate in 3D magnetic resonance (MR) images. All the proposed methods consider the following steps: 1) description of the materials, 2) prostate detection, 3) image enhancement, 4) prostate segmentation, 5) refinement of the segmentation, and 6) evaluation of the results. The differences between the proposed methods are found in the segmentation of the prostate with the subset of superpixels classification. The first proposed method presents a classification approach based on the deep learning technique Convolutional Neural Network (CNN) and the particle swarm optimization algorithm (PSO) to optimize the filters in the convolutional layers, the second proposed method describes a classification approach conventional based on texture descriptors, using phylogenetic indices, the eXtreme Gradient Boosting (XGBoost) algorithm and the PSO algorithm to optimize the XGBoost hyperparameters, and finally, the third proposed method details a hybrid classification approach based on the CNN technique, the XGBoost algorithm and the PSO algorithm to optimize the type of connection used in the convolutional layers. The proposed methods were evaluated on the databases Prostate 3T and PROMISE12 using the performance metrics Dice similarity coefficient, relative volume difference, volumetric similarity, average distance surface and Hausdorff distance. The results of the application of the first method showed 87.67%, 2.83%, 0.96, 0.89 mm, and 13.65 mm, respectively, in the corresponding values of the mentioned performance metrics. The second proposed method obtained 85.64%, 7.68%, 0.96, 1.22 mm, and 15.13 mm, respectively. Finally, the proposed third method reached 87.65%, 3.18%, 0.96, 0.88 mm, and 13.51 mm, respectively. It was found that the first and the third method showed similar results in the segmentation of the prostate, being superior to the results obtained in the second method. In addition, the third method had a lower standard deviation in the metrics and a higher rate of hit in the prostate superpixels than the other methods. The experimental results demonstrate the performance potential of the proposed methods compared to those recently published in the literature. O câncer de próstata é o segundo câncer mais frequente em homens no mundo. No Brasil, estimam-se 65.840 casos novos de câncer de próstata para cada ano do triênio 2020-2022. A segmentação automática da próstata é um fator importante para auxiliar o diagnóstico e o tratamento do câncer, como orientação do procedimento de biópsia e a radioterapia. No entanto, a segmentação automática é desafiadora devido à grande variação na anatomia da próstata por conta das alterações patológicas, tecido semelhante aos órgãos adjacentes e diferentes protocolos de aquisição das imagens. Portanto, esta tese propõe três métodos computacionais baseados em superpixels para segmentação automática da próstata em imagens de ressonância magnética (RM) 3D. Todos os métodos propostos consideram as seguintes etapas: 1) descrição dos materiais, 2) detecção da próstata, 3) melhoramento das imagens, 4) segmentação da próstata, 5) refinamento da segmentação, e a 6) avaliação dos resultados. As diferenças entre os métodos propostos encontram-se na etapa de segmentação da próstata com a subetapa de classificação dos superpixels. O primeiro método proposto apresenta uma abordagem de classificação baseada na t´técnica de aprendizagem profunda Convolutional Neural Network (CNN) e o algoritmo de otimização por enxame de partículas (PSO) para otimizar os filtros nas camadas convolucionais, o segundo m´etodo proposto descreve uma abordagem de classificação convencional baseada em descritores de textura, usando os ´índices filogenéticos, o algoritmo eXtreme Gradient Boosting (XGBoost) e o algoritmo PSO para otimizar os hiperparâmetros do XGBoost, e por fim, o terceiro método proposto detalha uma abordagem de classificação híbrida baseada na técnica CNN, o algoritmo XGBoost e o algoritmo PSO para otimizar o tipo de conexão utilizada nas camadas convolucionais. Os métodos propostos foram avaliados nas bases de imagens de RM 3D Prostate 3T e PROMISE12 usando as métricas de desempenho coeficiente de similaridade Dice, volume relativo da diferença, similaridade volumétrica, distância média da superfície e distância de Hausdorff. Os resultados da aplicação do primeiro método apresentaram 87,67%, 2,83%, 0,96, 0,89 mm, e 13,65 mm, respectivamente nos valores correspondentes das métricas de desempenho mencionadas. O segundo método proposto obteve 85,64%, 7,68%, 0,96, 1,22 mm, e 15,13 mm, respectivamente. Finalmente, o terceiro método proposto alcançou 87,65%, 3,18%, 0,96, 0,88 mm, e 13,51 mm, respectivamente. Constatou-se que o primeiro e o terceiro m´método apresentaram resultados similares na segmentação da próstata, sendo eles superiores aos resultados obtidos no segundo método. Além disso, o terceiro m´método apresentou um menor desvio padrão nas métricas e uma taxa de acerto no superpixels de próstata superior aos demais m´métodos. Os resultados experimentais demonstram o potencial de desempenho dos métodos propostos comparados aos publicados recentemente na literatura. Palavras-chave: Segmentação da próstata, Superpixels, Convolutional neural network, Índices filogenéticos, Algoritmo XGBoost, Otimização por enxame de partículas