Método do gradiente estocástico para otimização de funções separáveis em aprendizagem de máquina

Abstract

Resumo : Neste trabalho estudamos e implementamos os algoritmos do Gradiente Descendente e Gradiente Estocástico com mini-batch, algoritmos clássicos do contexto da Aprendizagem de Máquina implementados aqui em um pacote de linguagem Julia para a resolução de problemas de Regressão Linear e Logística. Apresentamos os conceitos e definições básicas da Aprendizagem de Máquina e a formulação dos problemas de Regressão Linear e Logística. Para a resolução destes problemas, são introduzidos conceitos de otimização e a construção dos algoritmos com seus devidos embasamentos teóricos. Além disso, são apontados os detalhes e particularidades da implementação do algoritmo, com suas motivações e testes de funcionalidade