Kodeveksling hos Dag

Para Rossi, Lipsey e Freeman (2004) a relação entre os diferentes tipos de avaliação acaba por definir uma hierarquia de avaliação cuja estruturação tem implicações e

questionamentos (categorias) específicos. Para visualizar os tipos de avaliação proposta por esses autores ver Figura 05:

Figura 05- Hierarquia da avaliação de programas governamentais.

Fonte: Rossi, Lipsey e Freeman (2004, p. 80).

Depreende-se que o critério adotado está enquadrado no momento em que se pretende avaliar o programa, ou seja, o que alguns autores denominam de timing de avaliação onde a ênfase é o status do programa no momento em que se executa a avaliação propriamente dita. Se ainda estiver na perspectiva do desenho, a quem atingir suas funcionalidades, disposição de recursos, tem-se a avaliação da necessidade do programa. Subindo na hierarquia, deve-se dispor do que Meny e Thoenig (1992) denominam de teoria da mudança, ou seja, a que veio essa política, o que ela proporcionará ao meio social diretamente ou indiretamente. O terceiro momento seria discutir a própria implementação do programa e seu processo em si, destacando quais elementos estão corroborando para o melhor desenvolvimento e quais devem ser extirpados ou reavaliados.

O quarto momento da avaliação proposta no modelo dos autores é a avaliação dos impactos e produtos do programa. Neste contexto não há diferenciação entre efeito e impacto, mas para os estudiosos são os resultados alcançados na ação governamental e quais suas consequências para os respectivos públicos alvo do programa. Por último, destaca-se a avaliação de custo e eficiência que tangencia a forma de identificar quantitativamente os investimentos nos insumos (inputs) e os resultados proporcionados por tais recursos.

Para Stephanou (2005) existem basicamente dois enfoques de análise na avaliação de políticas públicas: o primeiro refere-se ao funcionamento do programa e o segundo enfatiza o resultados da ação governamental. Feita essa separação o autor apresenta quatro tipologias

clássicas de avaliação definido-as como avaliação da efetividade, eficácia, eficiência e de impacto. A avaliação tem sido usualmente classificada em função do seu timing, de maneira que se considera como base analítica o antes, durante ou depois da implementação da política ou programa. Seguidamente pondera-se a posição do avaliador em relação ao objeto avaliado (interna, externa ou semi-independente) e por fim, a natureza do programa ou política avaliada (resultados, insumos, processos e seu contexto) (COTTA, 2001).

Para Cohen e Franco (2008), Izquierdo (2008), Fischer et al. (2007) e Draibe (2001) a avaliação ainda pode ser enquadrada em face do momento em que a política se encontra, se materializando como ex ante, durante e ex post, conforme Quadro 13 a seguir:

Quadro 13 – Classificação da avaliação quanto ao momento (timing)

Momento da

Política/programa Características do tipo de avaliação

Ex- ante

Tipo de avaliação realizada antes do começo de um programa, com o objetivo maior de dar suporte à decisão de implementar ou não o programa, e ordenar os vários projetos segundo sua eficiência para alcançar os objetivos determinados pela administração. O elemento central da avaliação ex-ante é o diagnóstico, que auxilia na alocação dos recursos disponíveis de acordo com os objetivos propostos. Para os autores esta avaliação pode se valer de técnicas como a Análise Custo- Benefício e Análise Custo-Efetividade. A base é a possibilidade de proporcionar critérios racionais para uma decisão qualitativa crucial.

Durante (avaliação da gestão)

Tipo de avaliação realizada durante a implementação dos programas governamentais, identifica como vem sendo executada, compara com as metas estabelecidas, recursos e disposição dos órgãos em gestores. Analisa desde o sistema logístico (entrega do produto do programa), sistema de comunicação (captação de beneficiários) até os meios de monitoramento adotados para geração e tratamento das informações.

Ex-post

Esse tipo de avaliação é realizada durante a execução de um programa ou ao seu final, quando as decisões são baseadas nos resultados alcançados. Neste tipo de avaliação julga-se, quando um programa está em execução, se ele deve continuar ou não, com base nos resultados obtidos até o momento e, se a resposta for positiva, se deve manter a formulação original ou sofrer modificações. Quando o programa já foi concluído, julga-se a pertinência do uso futuro da experiência, ou seja, se o mesmo tipo de programa deve ser implementado novamente ou não. A avaliação ex-post é a mais desenvolvida metodologicamente e a que tem tido maior aplicação.

Fonte: Elaborado a partir de Aguilar e Ander-Egg (1994), Cohen e Franco (2008), Izquierdo (2008), Lobo (2007), Draibe (2001) e Fischer et al. (2007).

Cozby (2003) comenta que os estudos de avaliação de necessidades questionam se de fato existem problemas merecedores de atenção na população-alvo, e fazem um levantamento para identificarem quais são estas demandas. Desta forma, uma vez estabelecidas as necessidades da população-alvo, podem-se planejar programas voltados para saná-las.

Logo, o tipo de avaliação ex- ante consiste no levantamento das necessidades que irão orientar a formulação e o desenvolvimento do programa, incluindo definição de seus objetivos, formas de aplicação, caracterização dos beneficiários e suas necessidades. Faria (2007) lembra que este tipo de avaliação é formulado antes da elaboração do programa.

A função deste tipo de avaliação é verificar o que os destinatários da política pública precisam, evitando, desta forma, a realização de um programa que não esteja adequado à necessidade daquela população. Este tipo de pesquisa é de extrema relevância, pois implica direcionar o gasto público, aplicando-o nas áreas prioritárias, segundo a comunidade, evitando o desperdício de dinheiro público com programas irrelevantes para aquele momento.

Depois de planejado e implementado o programa social, vê-se a necessidade de realizar um novo tipo de avaliação, a ex-post. Neste momento, o que se pretende é comparar os objetivos do programa aos resultados alcançados, para verificar se os objetivos propostos foram obtidos. Essa avaliação pode ser realizada com o intuito de investigar e contrapor se as metas propostas foram cumpridas, mas, em alguns casos, pode-se avaliar também se os instrumentos previstos pela avaliação de uma política foram efetivamente empregados. Isso consiste em examinar os meios, os processos, a realidade concreta (instrumental e material), sua adequação e coerência para a operacionalização do programa em questão.

Neste instante a ex-post classifica-se quanto ao timing da avaliação e quanto ao seu foco, a exemplo do que Faria (2005) argumenta ao apresentar que a eficácia é uma dimensão do processo de desenvolvimento e implementação de um programa. Ainda para Faria (2005) o papel deste tipo de avaliação é buscar o aprimoramento do programa durante o processo de sua elaboração; isto é, pode ser usada para testar, rever e redefinir o programa de forma global ou em seus diversos componentes. Neste mesmo direcionamento, Cohen e Franco (2008) propõem que existem, duas possibilidades de decisão no universo da avaliação ex-post, cuja explicitação está disposta nas Figuras 06 e 07, a seguir.

Fonte: Cohen e Franco (2008, p. 110).

Analisando a Figura 06, depreende-se que as decisões podem ser tomadas em tempo real dentro dos aspectos que envolvem a própria execução do programa, sejam elas decisões de cunho qualitativo ou quantitativo. Não obstante, assevera-se que ainda em processo o gestor pode optar por alterar o caminho da ação governamental ou não, de maneira que suas decisões ainda podem conceber alterações na eficiência operacional e, por conseguinte até alterar o status dos impactos gerados aos beneficiários, em que necessariamente requererá um esforço mais concentrado de quem gere a estrutura administrativa e operacional do programa.

Figura 07 - Diagrama de decisão na avaliação ex-post no caso de projetos terminados.

Fonte: Cohen e Franco (2008, p.110).

Quanto às possibilidades de decisão no programa governamental como está proposta na Figura 07, observa-se claramente que não há o que ser alterado no processo gestionário do

programa, em nenhum dos universos “decisionais”, nem o qualitativo e nem o quantitativo.

No entanto, a administração pública pode se valer de leituras para decisões que envolvam uma reflexão sobre o conteúdo do programa de maneira a avaliar os impactos gerados pela intervenção, e, em seguida, proceder aos redesenhos necessários seja mudando a programação

da política no universo quantitativo ou discutir qualitativamente as possibilidades de implementar outros projetos com objetivos similares. Ou seja, aqui as decisões passam representativamente pelos resultados/impactos do programa, tendo em vista que o mesmo já se encerrou.

Nesse sentido, Perez (2007) argumenta que a avaliação processual (aqui compreendida como a que acontece durante a execução do programa) é uma atividade bastante promissora já que representa a possibilidade de monitoração dos processos responsáveis pela produção do efeito esperado pelo programa, implicando alteração da dinâmica do curso das decisões e atividade-meio.

O conceito de processo de implementação não possui consenso na literatura. Todavia Perez (2007, p. 66) afirma que enquanto alguns autores conceituam o processo de

implementação como sendo “todo o processo iniciado com o estabelecimento da política até o

seu impacto”, outros estudiosos afirmam que a implementação não se confunde com o

resultado (produto), sendo basicamente “um processo de uma série de decisões e de ações postas pela autoridade legislativa central”.

Na visão de Arretche (2007) o papel do avaliador na avaliação de processos é o de estabelecer uma equação entre as metas propostas pelo programa e as metas alcançadas, e a partir destas informações concluir pelo sucesso ou fracasso da política.

Para Faria (2007) neste tipo de pesquisa a essência do trabalho do avaliador é de acompanhar, observar e testar o desempenho do programa para aprimorá-lo. “Este acompanhamento inclui o diagnóstico das eventuais falhas dos instrumentos, procedimentos, conteúdos e métodos, bem como da adequação ao público-alvo e do impacto do programa,

aumentando sua adequação aos seus objetivos e metas” (FARIA, 2007, p. 45). Isto é, este tipo

de avaliação se concentra nos aspectos intrínsecos ao programa com o intuito de incrementá- lo e aperfeiçoar seus resultados.

Este tipo de avaliação é a mais usual no contexto das políticas públicas, pois é menos custosa e mais factível. Todavia, sua maior dificuldade é garantir à confiabilidade das informações obtidas acerca do funcionamento concreto do programa sob análise. Para tanto, a realização de pesquisas de campo para aferir e reconstituir o processo de implantação e implementação da política são soluções válidas (para alguns casos).