Aspectos matemáticos do treinamento de redes neurais artificiais

Abstract

Resumo : Neste trabalho são apresentados os aspectos matemáticos de um algoritmo de treinamento de redes neurais artificiais, que são um modelo de aprendizagem de máquina. Como objetivo, buscamos descrever a estrutura de uma rede neural feedforward em detalhes para, então, apresentar os cálculos utilizados no treinamento do modelo. Aplicando conceitos de otimização contínua, são calculadas as derivadas parciais necessárias para a atualização dos parâmetros da rede, utilizando o método de retropropagação (backpropagation). O algoritmo estudado foi implementado na linguagem de programação Python e testado, como prova de conceito, em um problema de reconhecimento de imagem. Nos experimentos realizados com o algoritmo, foi possível obter uma acurácia de teste de 94,86% com uma estrutura simples de rede neural, com apenas uma camada intermediária

Abstract : In this work, we present the mathematical aspects of a training algorithm used in artificial neural networks, a machine learning model. The aim is to provide detailed descriptions of the structure of a feedforward neural network in order to present the calculations used to train the network. Applying concepts of continuous optimization, we calculate the partial derivatives needed to update the network parameters using the backpropagation method. The algorithm is implemented in the programming language Python and tested in the context of an image recognition problem as a proof of concept. In the experiments conducted with the algorithm, we achieved a test accuracy of 94.86% with a simple neural network structure, featuring only one intermediate layer