Uncertainty analysis in the statistical and stochastic context of water quality time series

Abstract

Resumo: A análise de incertezas é um tópico de pesquisa desafiador em gestão de recursos hídricos. A aplicação de métodos estatísticos para as pesquisas em recursos hídricos requer que as séries temporais estejam de acordo com as hipóteses de aleatoriedade, homogeneidade, independência e estacionariedade (RHIS). O não atendimento a estes pré-requisitos pode ocorrer quando tendências, ciclos e/ou deslocamentos estão presentes. No entanto, as incertezas e a subjetividade associada à sua avaliação e a expressão podem dificultar a detecção desses padrões de variabilidade. Uma abordagem tradicional para lidar com incertezas em estudos hidrológicos é a aplicação de modelos autoregressivos (ARIMA). No entanto, sua aplicação em estudos de qualidade da água é dificultada devido às características de séries temporais típicas, como frequência curta e frequência irregular. Uma maneira de superar esses problemas é o uso de técnicas de regressão entre vazões e concentrações. No entanto, a variabilidade das concentrações não depende apenas da variabilidade de vazões, especialmente em bacias hidrográficas urbanas. Uma análise de incerteza integrada, envolvendo incertezas de medição, métodos e de representatividade fazse necessária para validar a aplicação de abordagens estocásticas em estudos de qualidade da água. Nesta pesquisa, uma avaliação das incertezas relacionadas à identificação e avaliação padrões de variabilidade em dados de frequência irregular foi realizada através da geração de séries temporais sintéticas (STS) a partir das incertezas de medição das vazões e da qualidade da água. Três cenários de incerteza foram definidos, nível baixo (LL: 10-30%), nível médio (ML: 30-50%) e nível alto (LH: 50-70%). O método de Monte Carlo (MCM) foi aplicado com as distribuições de probabilidade uniforme, normal e lognormal. Em cada cenário, as médias e os desvios padrão (std) foram calculados como uma medida da incerteza dos p-valores. A significância das tendências, ciclos e/ou deslocamentos foi avaliada testando-se as hipóteses de RHIS com os testes Single-Sample runs, de Mann-Whitney, de Wald e Wolfowitz e de Mann-Kendall, respectivamente. Os testes foram aplicados com um número crescente de elementos (N). As incertezas relacionadas ao uso de modelos auto-regressivos para séries temporais de qualidade de água foram avaliadas pela aplicação de um modelo auto-regressivo (modelo de Markov) para as vazões, concepção de um modelo de regressão entre vazões e concentrações, e estimativa de concentrações e cargas diárias a partir das vazões diárias. Os resultados indicam que no atual contexto de incertezas na gestão dos recursos hídricos, a representatividade desempenha o papel mais importante. O problema da representatividade não está no passado, mas no futuro, pois, apesar das dificuldades na detecção de tendências, ciclos e/ou deslocamentos, esses padrões podem levar vários anos para causar mudanças significativas nas estatísticas. A modelagem estocástica da qualidade da água a partir de vazões diárias e séries temporais de frequência irregular parece ser uma opção razoável pois, os principais obstáculos causados por frequências irregulares e períodos curtos, podem ser superados através de técnicas de regressão sem comprometimento das características estatísticas. As séries temporais de qualidade da água de estratégias tradicionais de monitoramento podem ser utilizadas para o planejamento sem grandes incertezas relacionadas a padrões e medições de variabilidade. No entanto, a estatística descritiva terá incertezas relacionadas à representatividade temporal. Palavras-chave: Incertezas. Séries históricas de qualidade da água. Gestão de recursos hídricos.

Abstract: Uncertainty analysis is a recent research topic in water resources management. The application of statistical methods for water resources research requires time series to be compliant with the hypotheses of randomness, homogeneity, independence, and stationarity (RHIS). Noncompliance may occur when trends, cycles, and/or shifts are present. However, the uncertainties and associated subjectivity in assessment and expression may make it difficult to detect these patterns of variability. A traditional approach for dealing with uncertainties in hydrological studies is the application autoregressive models (ARIMA). However, its application in water quality studies is hampered by short and irregular-frequency time series. One way to overcome these problems is the use of regression techniques between flows and concentrations. However, the concentrations variability is not only dependent on the flows variability, especially in urban watershed. An integrated uncertainty analysis, involving measurement, methods, and representativeness uncertainties is needed to validate the application of stochastic approaches in water quality studies. In this research, an assessment of the uncertainties related to identification and evaluation of variability patterns in irregular-frequency data was performed through the generation of synthetic time series (STS) from the uncertainties of flows and water quality measurements. Three uncertainty scenarios were defined, the low level (LL: 10-30%), mid level (ML: 30-50%) and high level (HL: 50-70%). The Monte Carlo Method (MCM) was applied with uniform, normal and lognormal probability distributions. In each scenario, averages and standard deviations (std) were calculated as a measure of the p-values uncertainty. The significance of trends, cycles and/or shifts was evaluated by testing the RHIS hypotheses with the Single-Sample Runs, Mann-Whitney, Wald and Wolfowitz, and Mann-Kendall tests, respectively. The tests were applied with an increasing number of elements (N). The uncertainty related to the use of autoregressive models for typical water quality time series was assessed by application of an autoregressive model (Markov model) for the flows, conception of a regression model between flows and concentration, and estimation of daily concentrations and loads from daily flows. The results indicate that in the current context of uncertainty concerns in water resources management, the representativeness plays the most important role. The problem of representativeness is not in the past, but in the future, since despite the difficulties in detection of trends, cycles and/or shifts in typical water quality time series, these patterns may probably take a several years to cause significant changes in statistics. The stochastic water quality modeling from daily flows and irregular-frequency times series seems to be a reasonable option since the main obstacles, caused by irregular frequency and short periods, can be overcome by using regression techniques without compromising statistical characteristics. The water quality time series from traditional monitoring strategies can be used for the planning without high uncertainties related to variability patterns and measurements. However, the descriptive statistics will have uncertainties related to temporal representativeness. Key-words: Uncertainties. Water Resources Management. Time Series. Statistical Analysis.