Um estudo de buscas unidirecionais aplicadas ao método BFGS

Abstract

Resumo: Os processos iterativos existentes para a resolução do problema de minimizar uma função contínua muitas vezes realizam buscas unidirecionais. As buscas unidirecionais são importantes para garantir a convergência global de métodos de Otimização. Neste trabalho, analisamos algumas buscas unidirecionais propostas na literatura e seus resultados teóricos. Damos maior ênfase às buscas monótonas clássicas de Armijo, de Wolfe e de Goldstein, além das não monótonas de Grippo, Lamparielo e Lucidi, de Dai e de Zhang e Hager. As buscas unidirecionais não monótonas, ao contrário das monótonas, permitem vários acréscimos consecutivos na função objetivo. As buscas unidirecionais monótonas de Zhang, Zhou e Li e de Shi e Shen e as buscas não monótonas de Diniz-Ehrhardt, Martínez e Raydan, de Cheng e Li, de Yin e Du e de Shi e Shen são propostas que também foram abordadas no texto. Todas as buscas estudadas neste trabalho foram comparadas em seu desempenho através de suas utilizações no algoritmo BFGS de Otimização irrestrita. Cada busca foi testada em várias versões, mediante ampla variação dos parâmetros que a definem. Analisamos os resultados numéricos referentes à robustez e à eficiência em termos de trabalho na resolução de problemas clássicos da literatura.

Abstract: The iterative processes for solving the problem of minimizing a continuous function are commonly based on line searches. Line searches are important for ensuring global convergence of optimization methods. In this work, we analyze some line searches and their theorical results. We focus mainly on the classical monotone searches of Armijo, Wolfe and Goldstein, besides the nonmonotone proposals of Grippo, Lamparielo and Lucidi, Dai and Zhang and Hager. The monotone line searches of Zhang, Zhou and Lie, Shi and Shen and the nonmonotone searches of Diniz-Ehrhardt, Martínez and Raydan, Cheng and Lie, Yin and Du and Shi and Shen are also approached in the text. All the searches studied in this work were compared in terms of performance when applied to BFGS algorithm for unconstrained optimization. Each search was tested in several versions, varying widely the parameters which define it. We analyzed the numerical results concerning the robustness and eficiency in solving classical problems from the literature.