Bootstrap e modelos de Support Vector Machine - SVM

Abstract

Resumo: A tese apresenta duas metodologias novas para a fase de ajuste de modelos de Máquinas de Vetores Suporte (Support Vector Machines - SVM) aplicados tanto em problemas de classificação de padrões, quanto em problemas de regressão (Support Vector Regression - SVR), e uma metodologia de obtenção de margens alternativa as já existentes para modelos SVR. Para as metodologias propostas, são apresentadas aplicações na medicina tais como: na classificação de grau da doença Ceratocone que atinge a córnea, na previsão do grau de astigmatismo com base nos exames clínicos. Apresenta, também, aplicação na climatologia, na previsão da temperatura e aplicação na parte hídrica quanto à previsão da evaporação de água em reservatórios. O primeiro método se baseia na criação de uma constante reguladora para as variáveis independentes dos modelos, levando em consideração o valor da correlação das mesmas com a variável dependente. Já o segundo método, utiliza a técnica computacionalmente intensiva de reamostragens Bootstrap para a fase de ajuste dos modelos SVM, liberando observações originais para a fase de teste. O Bootstrap é usado, ainda, na criação de novas margens flexíveis para os modelos SVR, com base no intervalo de confiança bootstrap-t, gerando uma forma alternativa de se obter as margens flexíveis. As soluções das modelagens foram obtidas pelo método Least Squares Support Vector Machine - LS-SVM, devido a sua menor complexidade matemática e computacional, em relação à solução dos modelos SVM. Em todas as aplicações, as metodologias desenvolvidas neste trabalho obtiveram resultados para a raiz do erro médio quadrático (RMSE) menores que para os modelos SVM convencionais, evidenciando assim a eficiência dos métodos desenvolvidos. Palavras-Chave: Bootstrap, Support Vector Machine, Classificação, Regressão.

Abstract: The thesis presents two new methodologies for adjust phase for models based on Support Vector Machines (Support Vector Machines - SVM) applied both in pattern classification problems, as in regression problems (Support Vector Regression - SVR), and a methodology of obtaining alternative margins existing for SVR models. The paper presents applications in medicine: classification of Keratoconus disease degree that affects the cornea, in predicting the degree of astigmatism based on clinical examinations; weather: on the forecast of temperature and finally in with forecast of evaporation of water in reservoirs. The first method is based on the creation of a regulatory constant for the independent variables of the model, taking into account the value of their correlation with the dependent variable. The second method uses the Bootstrap resampling for the training phase of the SVM models, releasing the original samples for testing phase. The third is to use the Bootstrap method to create the new flexible margins for SVR models, based on the bootstrap-t confidence interval, generating an alternative way to obtain the flexible margins. The solutions of the moldings were obtained by the least squares method Support Vector Machine - LS-SVM due to its smaller mathematical and computational complexity compared to the solution of SVM models. In all applications, the methodologies developed in this thesis obtained results for mean square error (RMSE) lower than for conventional SVM models, thus demonstrating the effectiveness of the methods developed. Key-Words: Bootstrap, Support Vector Machine, Classification, Regression.