Outro problema comum encontrado em casos reais na química da atmosfera são as unidades da análise usadas e suas conversões. O número de densidade é dado em moléculas / cm³, mas é possível realizar conversões para g/cm³, ou em proporções de mistura, unidades adimensionais comumente usadas como ppm, ppb e ppt que significam partes por milhão, por bilhão e por trilhão, respectivamente, enquanto ainda é possível expressar também em densidade de coluna dado em molécula/cm.
A seguir,têm-se algumas relações de conversão entre estas unida- des:
^ = +=⋅ —6
> Eq. 3.29
A Eq. 3.29 converte número de densidade + (moléc./cm³) em con- centração de massa ^ (g/cm³). Onde=> = 6,0221420 × 10Q™ moléc./mol é a constante de Avogrado; e —6 é a massa molar da espécie B convertida.
“š = +=›
> ↔ + = “š
=>
› Eq. 3.30
A Eq. 3.30 converte número de densidade + (moléc./cm³) em pro- porção de mistura por volume “š (adimensional). Onde› é o volume molar que depende da temperatura (medida em Kelvin - K) e da pressão (medida em Pascal - Pa), em condições padrão (œ = 101325 Pa e • = 273,15 K), tem-se › = 22414 cm³.
49 “š = +=1
>
•
œœ• › = +=1>Ÿ•œ = ^—16Ÿ•œ Eq. 3.31 Em que Ÿ = 8,315 J/mol·K é a constante universal dos gases.
Deste modo, um gás com concentração “š de 1 ppb, i.e., 10–12, a- presenta um número de densidade + de 2,687 · 107 moléculas/cm³ (em condi-
ções padrão), enquanto na mesma pressão e a uma temperatura de 293,15 K (20 °C), o número de densidade + será 2,503 × 107 moléculas/cm³.
A densidade de coluna (moléculas/cm) depende da distância en- volvida, pois é o produto entre + e .
3.3.3 Decomposição de
No processo de decomposição de sinais ( ) em suas componen- tes de baixa e alta frequência, respectivamente, apresentou-se uma aborda- gem através de regressão polinomial, contudo apesar de ainda visto em alguns trabalhos, é uma prática em desuso.
Isto se deve ao fato de não haver garantia de se aplicar um trata- mento igual à todos os sinais, como uma filtragem (por exemplo, passa-baixas, passa-altas, passa-faixa ou rejeita-faixa), seja no domínio do tempo ou na fre- quência, iria conseguir alcançar (PLATT; STUTZ, 2008).
Para ilustrar este tratamento ‘desigual’ que a filtragem polinomial traz, basta considerarmos um intervalo de comprimento de onda diferente. Consideremos um intervalor menor e contido no intervalo original, o conjunto de dados a serem interpolados será outro, possivelmente resultando numa cur- va diferente (coeficientes diferentes), uma vez que se busca o polinômio de melhor encaixe à massa de dados em estudo.
Em contra partida, se for utilizado um filtro ℎ para filtrar o sinal de origem e decompô-lo em suas componentes de alta e baixa frequência, será indiferente a escolha do intervalo de comprimento de onda utilizado, pois cada
50 ponto do sinal filtrado será proveniente de uma combinação da vizinhança, de- finida por ℎ .
Assim sendo, apenas os pontos marginais do intervalo de estudo te- rão alguma distorção mínima, quando comparados aos respectivos pontos do sinal filtrado no intervalo original (maior), enquanto que os demais pontos no intervalo reduzido serão idênticos ao do intervalo original.
3.3.4 Reamostragem de ′
Outro aspecto importante que deve ser considerado é a reamostra- gem dos dados ( ′ ), para alinhamento de amostras medidas com diferentes resoluções e em intervalos diferentes.
Em trabalhos onde medições distintas são usadas, é preciso levar is- to em consideração, pois apenas em um mesmo ‘referencial’, i.e., sinais com o mesmo suporte, que é possível realizar operações entre eles, para montar as misturas a serem estudas e comparar o desempenho das técnicas.
No banco de dados do Instituto de Química Max-Planck (KELLER- RUDEK et al., 2013; Id. 2015), apresentado na seçãoseguinte, encontram-se à disposição da comunidade científica diversas medições realizadas com resolu- ções e intervalos diferentes, logo é preciso trabalhar nestes sinais, reamostran- do-os num mesmo suporte para estudo, permitindo a realizaçãodos experimen- tos desejados.
Stutz e Platt (1996) discutem o processo de reamostragem. O gran- de problema é qual deve ser o valor do sinal na posição do suporte novo, quando o sinal não é definido naquele ponto.
Por exemplo, suponhamos um sinal definido para I = {1; 2; 3; 4; 5} e o novo suporte seja Q = {1,5; 2,5; 3,5; 4,5}. Possivelmente não seria próprio apenas considerar a média da vizinhança ( Q , = C I , + I , + 1 D 2⁄ ), pois algumas tendências do sinal poderiam estar sendo desprezada de alguma forma.
51 É possível buscar técnicas mais precisas que uma simples média, além do mais, quando o suporte novo não estiver no meio do suporte anterior, como no exemplo apresentado, a média já não seria uma abordagem razoável, mesmo sendo ponderada.
Para tratar este problema, Stutz e Platt (1996) sugerem interpolar os dados através de spline cúbica, redefinindo o sinal no novo suporte, i.e., rea- mostrando com base num sinal ‘contínuo’ definido a partir da spline cúbica, que leva em consideração as tendências do sinal original, permitindo uma reamos- tragem mais fiel com baixíssima distorção.
Este procedimento preserva a essência da curva original, podendo ser visto como uma pré-filtragem de ruído de medição, logo será a forma utili- zada para levar os espectros estudados para um mesmo referencial, i.e. para um mesmo suporte.
Na seção seguinte, isto será mais bem ilustrado através daFigura 3-4.
52
3.4 Base de dados
Felizmente, mesmo sem dispor de instrumentos de medição DOAS, é possível desenvolver trabalhos e fazer contribuições na área, pois há um banco de dados on-line com diversas medições já realizadas e devidamente catalogadas (KELLER-RUDEK et al.,2013; Id. 2015). Trata-se de um catálogo on-line do Instituto de Química Max-Planck.
Neste é possível encontrar para diversas espécies químicas, tanto referente a compostos orgânicos como inorgânicos, contando com 5974 arquivos com secções de choque ( ) referentes a 994 espécies químicas (KELLER-RUDEK et al., 2013; Id. 2015).
No acervo também há representação gráfica dos dados (2620), para fins de visualização e comparação de uma medição para outra da mesma es- pécie química na mesma banda. A seguir, tem-se o gráfico, retirado deste re- positório, que contém os dados de SO2 utilizados na Figura 2-2 e na Figura 2-3
de Vandaeleet al (1994), além de outras medições:
Figura 3-3 - Exemplo de gráfico presente na base de dados usada (KELLER-RUDEK et al., 2015). No eixo das abscissas tem-se o comprimento de onda em nm e no eixo
53 das ordenas a seção de choque de absorção em cm²/molécula. O título original do gráfico (abaixo do nome do eixo das abscissas) pode ser traduzido como “Seções de
choque de absorção em baixa e média resolução de dióxido de enxofre (SO2) a
temperatura ambiente (240 - 340 nm)”.
Os arquivos contêm os pares ordenados ( , ), contudo para rea- lizar um estudo com várias espécies distintas, é preciso alinhar todos os dados para um mesmo referencial, i.e., todos os a serem trabalhados, precisam estar associados ao mesmo vetor . Assim, com o mesmo suporte, será possí- vel produzir uma combinação linear dos sinais para simular a mistura de inte- resse.
Stutz e Platt (1996) apresentam uma forma de realizar essa mudan- ça de base (reamostrando o sinal) com baixo prejuízo à sua forma de onda, trata-se de uma interpolação com spline cúbica para alcançar dados “contí- nuos” amostrados na nova base desejada.
Na Figura 3-4 a seguir, têm-se sinais oriundos da base de dados an- tes da reamostragem discutida (Figura 3-4 (a)) e após o ajuste para o suporte usado neste trabalho (Figura 3-4 (b)). Os gráficos foram gerados neste traba- lho.
(a) (b)
54
3.5 Parâmetros de simulação
Para aplicar essa reamostragem, optou-se por com 512 elementos entre 287nm e 323nm, espaçados uniformemente. Para a simulação, utiliza- ram-se as seguintes espécies químicas: O3 (BASS; PAUR, 1985), NO2 (SCH-
NEIDER et al., 1987), SO2 (VANDAELE et al., 1994) e HCHO (MELLER; MO-
ORTGAT, 2000), presentes naFigura 3-3.
As principais características dos sinais são preservadas, conforme se percebe na Figura 3-4. Esta reamostragem tem efeito similar ao de um filtro retirando ruído de medição. Após a reamostragem, todos os sinais possuem o mesmo suporte, sendo possível combiná-los de forma a gerar misturas e simu- lar atmosferas distintas.
Em termos de transformada wavelet, utilizou-se de 1 (um) até 5 (cin- co) níveis de decomposição; atenuação abrupta (hard-thresholding); e o limiar proposto por Donoho (1995), por ser um critério mais abrangente e geral.
Quanto às famílias, usaram-se as seguintes transformadas: Daube- chie (db1 até db10), Symlets (sym2 até sym8), Coiflets (coif1 até coif5), Biorto- gonais e reversa (bior e rbio) e Meyer discreta (dmey). Totalizando 53 wavelets.
Nos gráficos com os resultados, as wavelets são apresentadas no eixo das abcissas na seguinte ordem: db1, db2, db3, db4, db5, db6, db7, db8, db9, db10, sym2, sym3, sym4, sym5, sym6, sym7, sym8, coif1,coif2, coif3, coif4, coif5, bior1.1, bior1.3, bior1.5, bior2.2, bior2.4, bior2.6, bior2.8, bior3.1, bior3.3, bior3.5, bior3.7, bior3.9, bior4.4, bior5.5, bior6.8, rbio1.1, rbio1.3, rbi- o1.5, rbio2.2, rbio2.4, rbio2.6, rbio2.8, rbio3.1, rbio3.3, rbio3.5, rbio3.7, rbio3.9, rbio4.4, rbio5.5, rbio6.8, dmey. Variando de 1 (db1) até 53 (dmey).
Para a análise estatística dos experimentos, usou-se ruído branco com até 10 (dez) níveis de ruído distintos (desvio-padrão) para contaminar os sinais: 0,01; 0,025; 0,05; 0,075; 0,1; 0,25; 0,5; 0,75; 1,0; e 1,25.
Na definição do ruído branco, usou-se a energia do sinal de interes- se e o ruído colocado aqui, deste modo, o ruído aplicado teria de 1% da ener-
55 gia do sinal estudado até 125%. Com essa diversidade, buscou-se observar qual transformada era mais apropriada a cada nível, ou faixa de contaminação.
A medida de erro (j) usada para avaliar o processo de filtragem foi definida como segue:
j = 5 v¢ £ − v £ Q ¤IQ
¥•I
Eq. 3.32
Onde vt é o sinal filtrado; v é o sinal orginal; £ é o índice do sinal; e j é a medida de erro que será avaliada ao longo do trabalho.
Cada cenário (DWT, nível de decomposição, nível de ruído e sinal analisado) foi avaliado 1000 (mil) vezes e sua estatística do conjunto de jasso- ciados a cada cenário analisada, através de descritores estatísticos, como as medidas de tendência central (média) e de dispersão (desvio-padrão e amplitu- de - máximo e mínimo).
Com o objetivo de atestar a eficiência do uso de wavelets para me- lhorar os resultados de DOAS, organizou-se 3 (três) experimentos. Testes pre- liminares (4.1 e 4.2) foram realizados, para verificar vantagens em usar a DWT, em amostras individuais (4.1) e em misturas (4.2). Já nos testes finais (4.3 e 4.4), foi realizada a etapa de regressão (4.3), chegando-se às concentrações e confrontando com o esperado (4.4).
Para os testes finais (4.3 e 4.4), compararam-se as concentrações obtidas através dos mínimos quadrados com as concentrações originais e a medida de erro tomada foi conforme segue:
j = ¦§N¨©6ªN§ − §N;6«6+:P
N;6«6+:P ¦ × 100% Eq. 3.33
Outro ponto levado em conta no processo de compilação da massa de dados gerada foi a utilização de uma pontuação (score). Dessa forma, bus- cou-se verificar as DWT que mais se destacavam em cada cenário (nível de decomposição e sinal de análise), considerando todos os erros analisados.
56 Essa abordagem foi usada nos testes preliminares (4.1 e 4.2), para compor tabelas que indicassem a frequência das melhores DWT, observando- se apenas o erro médio das 1000 (mil) iterações por cenário (DWT, nível de decomposição, nível de ruído e sinal analisado).
57
4 RESULTADOS
Durante o planejamento do trabalho, considerou-se um conjunto de 3 experimentos a serem realizados, em busca de melhorias de DOAS com o uso de DWT. Nesta seção são apresentados os resultados destes expeimen- tos, com breves comentários.
O experimento I (4.1) consiste de uma remoção de ruído em sinais individuais de ′ selecionados. A partir disto, estudou-se misturas com esses gases e a remoção de ruído neles, este foi o objetivo do experimento II (4.2). Estes experimentos foram considerados preliminares.
O experimento final foi dividido em duas etapas, pois se trata da re- moção de ruído com DWT, seguido de regressão linar (mínimos quadrados) e avaliação do desempenho apenas com uso da regressão linear.
A primeira etapa do experimento III consiste na regressão linear (IIIa em 4.3), enquanto a segunda etapa, na comparação com pré-processamento usando-se DWT (IIIb em 4.4).
58
4.1 Experimento I - Análise individual dos espectros
O primeiro experimento tem por objetivo atestar a viabilidade do uso da transformada wavelet para remoção de ruído dos sinais presentes em DO- AS, através da identificação de DWT que atinjam mais resultados bons que outras, indicando uma tendência de melhor desempenho.
Cada sinal isolado original ( ′ ) foi normalizado com relação ao seu desvio-padrão, i.e., o desvio-padrão dos sinais usados ficou igual a1 (hum) e, pela própria natureza da filtragem polinomial, os sinais resultantes possuem média zero.Daí, contaminou-secada sinal com ruído branco, filtrou-se e compa- rou-se ao seu sinal original.
O indicador observado é a energia do erro, como indicado emEq. 3.32. Com isso, é possível realizar uma análise dos resultados para classificar as melhores DWTem cada cenário/situação.
Em busca de tratar a massa de dados produzida pelos experimentos e para conseguir consolidar o resultado,constitui-se um rankingcom as5 (cinco) melhores DWT para cada nível de ruído, nível de decomposição e gás-traço (i.e., cenário).
A partir destes rankings, as DWT presentes no “Top 5” recebiam um
score simples e igual a 1 (hum), ou seja, se de 10 (dez) cenários avaliados, em
4 (quatro) a DWT db3 aparecesse no “Top 5”, ela teria um score de 4, indepen- dente das posições de cada ocorrência no ranking.
Este foi o procedimento utilizado neste e nos demais experimentos para tentar tratar a massa de dados produzida pelos experimentos, pois se produz uma quantidade bem significativa de informação.
Como exemploeste primeiro experimento, uma vez que são 10 (dez) níveis de ruído, 5 (cinco) níveis de decomposição e 4 (quatro) gases-traço, tem-se 200 cenários nos quais cada uma das 53 DWT terá uma posição distin- ta no rankingou ainda um desempenho distinto, alcançando um energia de erro maior ou menor, em decorrência dos 1000 (mil) testes realizados.
59 Assim, chegou-se às tabelas apresentadas a seguir (Tabela 4-1, Ta- bela 4-2, Tabela 4-3 e Tabela 4-4).Note-se que cada DWT pode ter no máximo 10 (dez) ocorrências, conforme explicado anteriormente. Cada tabela apresen- ta o ‘score’ de um gás-traço, nas linhas cada nível de decomposição e associa- do a essas informações, a lista final com o score das DWT que apareceram em pelo menos um “Top 5”.
Tabela 4-1 - Melhores wavelets para SO2 e por nível de decomposição da DWT. Nível de
decomp. DWT (vezes que esteve no top 5)
1 db7 (9) / db8 (9) / db9 (8) / sym4 (1) / sym5 (9) / sym6 (2) / sym8 (1) / bior2.4 (2) / bior2.6 (1) / bior3.5 (1) / bior3.7 (1) / bior3.9 (1) / rbio1.3 (5)
2 db5 (10) / db8 (9) / sym6 (10) / bior3.7 (7) / bior5.5 (6) / bior6.8 (4) / rbio5.5 (1) / rbio6.8 (2) / dmey (1)
3 db9 (3) / sym4 (2) / sym6 (10) / sym7 (1) / coif3 (3) / bior2.4 (8) / bior2.8 (4) / bior3.3 (2) / bior3.7 (7) / bior5.5 (7) / rbio5.5 (3)
4 sym4 (7) / sym6 (1) / coif5 (3) / bior2.4 (9) / bior3.3 (2) / bior3.7 (8) / bior3.9 (8) / rbio4.4 (1) / rbio5.5 (10) / dmey (1)
5 sym4 (2) / bior2.4 (4) / bior2.6 (1) / bior2.8 (8) / bior3.3 (7) / bior3.7 (8) / bior3.9 (8) / bior6.8 (1) / rbio5.5 (10) / dmey (1)
Tabela 4-2 - Melhores wavelets para O3 e por nível de decomposição da DWT. Nível de
decomp. DWT (vezes que esteve no top 5)
1 db2 (6) / db3 (8) / db8 (1) / db9 (9) / sym2 (4) / sym3 (8) / sym5 (1) / bior2.4 (1) / bior2.6 (1) / bior3.5 (1) / bior3.7 (1) / bior3.9 (1) / rbio3.5 (5) / rbio5.5 (3) 2 db7 (5) / db10 (10) / coif4 (3) / coif5 (10) / bior3.5 (5) / bior3.9 (7) / dmey (10) 3 db8 (10) / db10 (10) / sym6 (10) / sym8 (1) / coif4 (3) / bior3.7 (2) / bior3.9 (3) /
bior4.4 (2) / bior5.5 (8) / dmey (1)
4 sym6 (10) / sym8 (8) / coif2 (1) / bior2.4 (9) / bior2.6 (3) / bior6.8 (1) / rbio4.4 (8) / rbio5.5 (10)
5 db10 (2) / sym6 (10) / sym8 (7) / coif3 (3) / bior2.4 (8) / bior2.6 (3) / bior3.7 (5) / bior3.9 (2) / rbio5.5 (10)
60 Tabela 4-3 - Melhores wavelets para NO2 e por nível de decomposição da DWT. Nível de
decomp. DWT (vezes que esteve no top 5)
1
db2 (3) / db8 (2) / db9 (2) / sym2 (3) / sym5 (1) / bior2.4 (1) / bior2.6 (1) / bi- or3.5 (1) / bior3.7 (1) / bior3.9 (1) / rbio2.2 (7) / rbio2.4 (5) / rbio2.6 (1) / rbio3.3
(2) / rbio3.5 (5) / rbio3.7 (7) / rbio3.9 (7) 2
db2 (2) / db5 (2) / sym2 (1) / sym6 (1) / coif4 (1) / coif5 (1) / bior6.8 (1) / rbio2.4 (8) / rbio2.6 (8) / rbio2.8 (5) / rbio3.5 (3) / rbio3.7 (7) / rbio3.9 (7) / rbio5.5 (1) /
dmey (2)
3 db6 (1) / db8 (3) / db10 (9) / sym6 (1) / coif3 (2) / coif4 (3) / coif5 (2) / rbio2.6 (8) / rbio2.8 (6) / rbio3.7 (6) / rbio3.9 (7) / dmey (2)
4 db2 (5) / db8 (10) / sym2 (3) / sym5 (3) / coif4 (5) / coif5 (9) / bior3.7 (3) / bi- or3.9 (1) / rbio5.5 (1) / dmey (10)
5 db2 (6) / db8 (2) / sym2 (3) / sym6 (1) / coif4 (2) / bior2.4 (1) / bior3.5 (2) / bi- or3.7 (8) / bior3.9 (8) / rbio5.5 (10) / dmey (7)
Tabela 4-4 - Melhores wavelets para HCHO e por nível de decomposição da DWT.
Nível de
decomp. DWT (vezes que esteve no top 5)
1 db1 (2) / sym4 (5) / sym6 (2) / coif1 (9) / bior1.1 (1) / bior2.4 (10) / bior2.6 (7) / bior2.8 (5) / bior3.7 (1) / bior3.9 (1) / rbio2.2 (6) / rbio2.4 (1)
2 db7 (2) / db10 (9) / sym8 (7) / coif3 (1) / coif4 (10) / coif5 (10) / rbio5.5 (1)/dmey (10)
3 db5 (7) / db7 (9) / db9 (10) / sym6 (2) / coif3 (1) / coif4 (1) / coif5 (10) / dmey (10)
4 db5 (1) / db10 (9) / sym5 (2) / sym7 (5) / coif3 (2) / coif4 (3) / bior3.3 (6) / bi- or3.5 (7) / bior3.7 (7) / rbio5.5 (7) / dmey (1)
5 db10 (2) / sym5 (4) / coif3 (1) / bior2.6 (9) / bior2.8 (1) / bior3.3 (6) / bior3.5 (8) / bior3.7 (8) / rbio5.5 (10) / dmey (1)
Como dito anteriormente, as análises levaram em conta o valor do erro médio quadrático. Graficamente, o erro dos experimentos ficou conforme a Figura 4-1 indica a seguir:
61 Figura 4-1 - Análise para SO2, com nível 4. (Azul - valor médio, vermelho - mínimo,
verde - máximo, as barras verticais em azul indicam o desvio-padrão).
No eixo das abcissas estão as famílias wavelets com os erros asso- ciados no eixo ordenado.
O aspecto que mais chama a atenção, não é o destaque da melhor wavelet, mas sim da pior, pois há wavelets que apresentam um notório mal de- sempenho no processo de filtragem.
Não se considerou isso como aspecto negativo do estudo, pois isto aponta que não é qualquer wavelet que apresentará desempenho satisfatório.
Portanto, mesmo não sendo muito conclusivo detectar um pequeno conjunto de melhores DWT para filtrar cada sinal, verificou-se um aspecto per- tinente que é a não escolha de qualquer DWT para o procedimento.
Como esta etapa buscava mais uma avaliação qualitativa que quan- titativa, não se elencou um conjunto sugerido para cada sinal (gás-traço), de
62 modo a seguir nos experimentos seguintes apenas com o uso destas DWT, uma vez que elas eram as melhores para os ′ base.
63
4.2 Experimento II - Análise dos espectros combinados
No segundo experimento, usaram-se dados apresentados no traba- lho de Stutz e Platt (1996), para trabalhar com valores reais. Para combinar os gases, as concentrações e variações presentes na referência foram usadas, conforme segue:
Tabela 4-5 - Concentrações de referência usadas.
Gás-traço Concentração média (ppb) Variação (ppb)
SO2 1.25 0.02
O3 16.6 0.8
NO2 4.6 0.6
HCHO 2.0 0.3
NaFigura 4-2 a seguir, tem-se a mistura de referência:
64 Com base nissa mistura de referência, outros 8 (oito) misturas foram confeccionadas, cada uma com uma das variações para mais ou para menos do valor médio, totalizando 9 (nove) misturas.
Para este experimento, usou-se apenas 6 (seis) níveis de ruído: 0,01;0,025;0,05;0,075;0,1; e0,25.
Verificou-se que, para uma mesma contaminação, as análises da remoçãode ruído dos sinais (misturas) são muito próximas, i.e., essas varia- ções não provocaram uma mudança forte o suficiente na forma de onda do si- nal, para se observar divergência quanto à melhor DWT a desempenhar a fil- tragem.
Assim como no experimento I, apresentado no item 4.1, elaborou-se a Tabela 4-6 com as melhores DWT para cada nível de decomposição da mis- tura de referência. Note-se que a pontuação máxima de cada DWT é 6 (seis), pois só há seis níveis de ruído para cada cenário.
Tabela 4-6 - Melhores wavelets para a mistura de referência e por nível de decomposição da DWT.
Nível de
decomp. DWT (vezes que esteve no top 5)
1 db8 (6) / db9 (6) / db10 (1) / sym5 (6) / sym7 (1) / bior5.5 (5) / rbio5.5 (5) 2 sym6 (6) / bior3.7 (6) / bior4.4 (6) / bior6.8 (6) / rbio6.8 (6)
3 db9 (6) / sym6 (6) / bior2.4 (6) / bior3.3 (6) / rbio5.5 (6) 4 db9 (6) / sym6 (6) / bior2.4 (6) / rbio4.4 (6) / rbio5.5 (6)
5 sym6 (6) / bior2.4 (6) / bior3.3 (1) / bior3.7 (2) / bior3.9 (4) / rbio4.4 (5) / rbio5.5 (6)
Apesar de as variações não serem muito significativas graficamente, observou-se algumas pequenas mudanças nos ranques elaborados para todos os últimos (5) níveis de decomposição e em alguns casos no 4º e 3º também. A Tabela 4-7a seguir indica as variações que ocorreram:
65 Tabela 4-7 - Variações nos resultados das misturas com relação à de referência.
Nível de decomp. Mistura DWT (vezes que esteve no top 5) 5 SO2+ bior3.3 (+3) / bior3.9 (-3) 5 SO2- bior3.7 (-1) / bior3.9 (+1) 3 O3+ sym6 (-1) / bior2.6 (+1) 4 O3+ sym6 (-2) / coif5 (+2) 5 O3+ bior3.7 (-2) / bior3.9 (+2) 5 O3- bior3.3 (+3) / bior3.9 (-3) 5 NO2+ bior3.7 (-2) / bior3.9 (+2)
5 NO2- bior3.3 (+3) / bior3.7 (-1) / bior3.9 (-2)
4 HCHO+ bior2.4 (-1) / bior3.9 (+1) 5 HCHO+ bior3.3 (+2) / bior3.7 (-1) / rbio4.4 (-1) 5 HCHO- bior3.7 (-2) / bior3.9 (+2)
O gráfico a seguir ilustra este cenário discutido:
66 Para ilustrar a proximidade das análises, a seguir na Figura 4-4tem- se os gráficos de erro das 9 (nove) misturas para um desvio-padrão de 0,1 e nível 4:
Figura 4-4 - Erros das misturas para um ruído de 0,1 e nível 4 (Azul - valor médio, vermelho - mínimo, verde - máximo, as barras verticais em azul indicam o desvio-
padrão).
O sinal de ‘+’ (mais) indica que a concentração do gás usada na mis- tura é com a variação positiva, e.g.,1.25 + 0.02 para o SO2, enquanto o sinal de
‘-’ (menos) indica uma variação negativa, e.g., 1.25 - 0.02 para o SO2. O sinal
de referência (‘Ref’) possui apenas a concentração de referência, sem varia- ção.
Novamente, observa-se semelhança entre os resultados, inclusive com poucas mudanças de uma mistura para a de referência.
Este experimento não consiste de uma análise de estabilidade, pois para tal seria necessário todo um conjunto a mais de validações, inclusive com formalismo matemático. Contudo, tornou-se válido para testar como o conjunto
67 solução se comportaria para pequenas variações reais. Verificiou-se que as mudanças são mínimas.
68
4.3 Experimento IIIa - Método clássico (mínimos quadra-
dos)
Este experimento consiste no DOAS clássico, apenas com os míni- mos quadrados. Então, tem-seos seguintes resultados na regressão:
Tabela 4-8- Resultadodo método clássico, para ruído de 0,25 em porcentagem.
Erro \ Gás-traço SO2 O3 NO2 HCHO
Mínimo -5.2177 -10.1522 -25.1518 -23.8929 Máximo 5.1376 7.4905 27.6255 23.3963
Média -0.0206 -0.0079 -0.0255 -0.1012 Desvio-padrão 1.4689 2.2392 8.4727 6.9709
Graficamente, isto pode ser visto no histograma da Figura 4-5 a se- guir:
Figura 4-5 - Histograma dos erros percentuais nas estimativas das concentrações, pelo método clássico para ruído de 0,25.
69 Os testes realizados usaram os 10 (dez) níveis de ruído, com 1000 (mil) testes de cada cenário.
A Tabela 4-9 a seguir indica os resultados do experimento com mí- nimos quadrados para o cenário de maior ruído (1,25):
Tabela 4-9 - Resultados para os mínimos quadrados (ruído = 1,25), em percentagem.
Descritor\Gás SO2 O3 NO2 HCHO
Mínimo -26.0885 -50.7609 -125.7590 -119.4646 Máximo 25.6879 37.4525 138.1274 116.9816
Média -0.1028 -0.0393 -0.1275 -0.5060 Desvio-padrão 7.3446 11.1958 42.3637 34.8544
Para o cálculo do erro, usou-se a definição na Eq. 3.33.
A seguir, têm-se os resultados para os demais níveis de ruído simu- lados:
Tabela 4-10 - Resultados para os mínimos quadrados (ruído = 0,01), em percentagem. Descritor\Gás SO2 O3 NO2 HCHO Mínimo -0.2087 -0.4061 -1.0061 -0.9557 Máximo 0.2055 0.2996 1.1050 0.9359 Média -0.00082 -0.00031 -0.0010 -0.0040 Desvio-padrão 0.0588 0.0896 0.3389 0.2788
Tabela 4-11 - Resultados para os mínimos quadrados (ruído = 0,025), em percentagem. Descritor\Gás SO2 O3 NO2 HCHO Mínimo -0.5218 -1.0152 -2.5152 -2.3893 Máximo 0.5138 0.7491 2.7625 2.3396 Média -0.0021 -0.00079 -0.0025 -0.0101 Desvio-padrão 0.1469 0.2239 0.8473 0.6971
70 Tabela 4-12 - Resultados para os mínimos quadrados (ruído = 0,05), em
percentagem. Descritor\Gás SO2 O3 NO2 HCHO Mínimo -1.0435 -2.0304 -5.0304 -4.7786 Máximo 1.0275 1.4981 5.5251 4.6793 Média -0.0041 -0.0016 -0.0051 -0.0202 Desvio-padrão 0.2938 0.4478 16.945 1.3942
Tabela 4-13 - Resultados para os mínimos quadrados (ruído = 0,075), em percentagem. Descritor\Gás SO2 O3 NO2 HCHO Mínimo -1.5653 -3.0457 -7.5455 -7.1679 Máximo 1.5413 2.2472 8.2876 7.0189 Média -0.0062 -0.0024 -0.0076 -0.0304 Desvio-padrão 0.4407 0.6718 25.418 2.0913
Tabela 4-14 - Resultados para os mínimos quadrados (ruído = 0,1), em percentagem.
Descritor\Gás SO2 O3 NO2 HCHO
Mínimo -2.0871 -4.0609 -10.0607 -9.5572
Máximo 2.0550 2.9962 11.0502 9.3585
Média -0.0082 -0.0031 -0.0102 -0.0405 Desvio-padrão 0.5876 0.8957 33.891 2.7884
Tabela 4-15 - Resultados para os mínimos quadrados (ruído = 0,25), em percentagem. Descritor\Gás SO2 O3 NO2 HCHO Mínimo -5.2177 -101.522 -25.1518 -23.8929 Máximo 5.1376 7.4905 27.6255 23.3963