A successive least squares method for nonlinear least squares problems

Abstract

Resumo: Problemas de mínimos quadrados não-lineares aparecem em muitas aplicações importantes. Por exemplo, processamento de sinal e aproximações funcionais. A maioria dos métodos destinados à resolução de problemas de mínimos quadra dos não-lineares está baseada na minimização de subproblemas mas estes métodos não preservam a estrutura da matriz dos erros como a matriz dos dados. Nesta dissertação propomos um novo método destinado à resolução de problemas de mínimos quadrados não-lineares. Chamamos este método de método dos Mínimos Quadrados Não-lineares Sucessivos. Baseado na idéia recentemente desenvolvida por Yalamov e Yuan (2000), o método dos Mínimos Quadrados Não-lineares Sucessivos difere das abordagens existentes por que este método preserva a estrutura da matriz dos erros. O método dos Mínimos Quadrados Não-lineares Sucessivos consiste na solução de sucessivos problemas de mínimos quadrados através da formulação de mínimos quadrados totais. Este método resolve problemas gerais de mínimos quadrados não-lineares e é muito adequado à resolução de problemas de mínimos quadrados não-lineares estruturados. Alguns testes numéricos foram realizados para matrizes Toeplitz e Vandermonde e problemas de estimativa de parâmetros são apresentados. Testes numéricos mostram que o algoritmo converge rapidamente e fornece boas aproximações para a solução exata dos nossos problemas testes

Abstract: Nonlinear least squares (NLS) problems appear in many important practicai applications, for instance, signal processing and functional approximations. The majority of the methods for solving NLS problems is based on a minimization of subproblems, but they do not keep the error structure as the data structure. In this dissertation we propose a new method for solving NLS problems. We call this method Successive Nonlinear Least Squares (SNLS). Based on the idea developed recently by Yalamov and Yuan (2000), the SNLS method differs from the existing approaches because it preserves the structure of the error. The SNLS method con- sists of the Solutions of successive least squares (LS) problems by the total least squares (TLS) formulation. The SNLS method is general NLS problem solver and is quite suitable for structured NLS problems. Some numérica! tests for Toeplitz and Vandermonde matrices and parameter estimation problems are presented. Nu- merical results illustrate that the SNLS algorithm converges fast and provides good approximations to the exact solution of the NLS problems for our test problems