An analysis of deep neural networks for texture classification

Abstract

Resumo: Classifica¸c˜ao de texturas 'e um problema na 'area de Reconhecimento de Padr˜oes com uma ampla gama de aplica¸c˜oes. Esse problema 'e geralmente tratado com o uso de descritores de texturas e modelos de reconhecimento de padr˜oes, tais como M'aquinas de Vetores de Suporte (SVM) e Regra dos K vizinhos mais pr'oximos (KNN). O m'etodo cl'assico para endere¸car o problema depende do conhecimento de especialistas no dom'ýnio para a cria¸c˜ao de extratores de caracter'ýsticas relevantes (discriminantes), criando-se v'arios descritores de textura, cada um voltado para diferentes cen'arios (por exemplo, descritores de textura que s˜ao invariantes 'a rota¸c˜ao, ou invariantes ao borramento da imagem). Uma estrat'egia diferente para o problema 'e utilizar algoritmos para aprender os descritores de textura, ao inv'es de constru'ý-los manualmente. Esse 'e um dos objetivos centrais de modelos de Arquitetura Profunda – modelos compostos por m'ultiplas camadas, que tem recebido grande aten¸c˜ao nos 'ultimos anos. Um desses m'etodos, chamado de Rede Neural Convolucional, tem sido utilizado para atingir o estado da arte em v'arios problemas de vis˜ao computacional como, por exemplo, no problema de reconhecimento de objetos. Entretanto, esses m'etodos ainda n˜ao s˜ao amplamente explorados para o problema de classifica¸c˜ao de texturas. A presente disserta¸c˜ao preenche essa lacuna, propondo um m'etodo para treinar Redes Neurais Convolucionais para problemas de classifica¸c˜ao de textura, lidando com os desafios e tomando em considera¸c˜ao as caracter'ýsticas particulares desse tipo de problema. O m'etodo proposto foi testado em seis bases de dados de texturas, cada uma apresentando um desafio diferente, e resultados pr'oximos ao estado da arte foram observados para a maioria das bases, obtendo-se resultados superiores em duas das seis bases de dados. Por fim, 'e apresentado um m'etodo para transferˆencia de conhecimento entre diferentes problemas de classifica¸c˜ao de texturas, usando Redes Neurais Convolucionais. Os experimentos conduzidos demonstraram que essa t'ecnica pode melhorar o desempenho dos classificadores em problemas de textura com bases de dados pequenas, utilizando o conhecimento aprendido em um problema similar, que possua uma grande base de dados. Palavras chave: Reconhecimento de padr˜oes; Classifica¸c˜ao de Texturas; Redes Neurais Convolucionais

Abstract: Texture classification is a Pattern Recognition problem with a wide range of applications. This task is commonly addressed using texture descriptors designed by domain experts, and standard pattern recognition models, such as Support Vector Machines (SVM) and K-Nearest Neighbors (KNN). The classical method to address the problem relies on expert knowledge to build relevant (discriminative) feature extractors. Experts are required to create multiple texture descriptors targeting different scenarios (e.g. features that are invariant to image rotation, or invariant to blur). A different approach for this problem is to learn the feature extractors instead of using human knowledge to build them. This is a core idea behind Deep Learning, a set of models composed by multiple layers that are receiving increased attention in recent years. One of these methods, Convolutional Neural Networks, has been used to set the state-of-the-art in many computer vision tasks, such as object recognition, but are not yet widely explored for the task of texture classification. The present work address this gap, by proposing a method to train Convolutional Neural Networks for texture classification tasks, facing the challenges of texture recognition and taking advantage of particular characteristics of textures. We tested our method on six texture datasets, each one posing different challenges, and achieved results close to the state-of-the-art in the majority of the datasets, surpassing the best previous results in two of the six tasks. We also present a method to transfer learning across different texture classification problems using Convolutional Neural Networks. Our experiments demonstrated that this technique can improve the performance on tasks with small datasets, by leveraging knowledge learned from tasks with larger datasets. Keywords: Pattern Recognition; Texture Classification; Convolutional Neural Networks