Colin Robson hevder at evaluering ikke er en egen forskningsdisiplin: ”An evaluation is a study which has a distinctive purpose; it is not a new or different research strategy.” (1993:170). Jeg anser det også som nytting å se på Luftforsvarets mentorprogram i lys av evalueringsforsking generelt, og ikke bare med forankret i teori rundt overføring av læring spesifikt.
Det finne mange ulike definisjoner på evaluering. En bred definisjon på begrepet finner vi hos Patton (1990:11): ”[evaluation…] Any effort to increase human effectiveness through systematic data –based inquiry.”. En annen definisjon av Weiss (1998) er mer spesifikk. Her blir evaluering betraktet som ”…the systematic assessment of the operation and/or the outcomes of a program or policy compared to a set of explicit or implicit standards, as a mean of contribute to the improvement of the program or policy.” (ibid.:6). Jeg finner at begge definisjonene fremhever betydningen av evaluering som en systematisk aktivitet, men også at den bør ha et klar klart fokus og formål.
2.4.1 Fokus i evaluering
Det er i praksis to hovedtyper evalueringer, henholdsvis formativ- og summativ evaluering (Robson, 1993). En formativ evaluering fokuserer på å bistå utvikling av et evalueringsobjekt. I et lederutviklingsprogram kan dette bety fokus på læringsprosessen eller hva som bidrar til denne. Formative evalueringer foretas gjerne underveis for å bidra til utvikling av evalueringsobjektet. Til forskjell har en summativ evaluering fokus på å anslå verdier og måle effekter. Et slik fokus retter oppmerksomheten inn mot læringsresultatene og gjennomføres normalt i etterkant av tiltaket eller aktiviteten (ibid.). Det finnes mange kombinasjonsmuligheter, og overgangene er flytende.
I tillegg til skillet mellom formativ- og summativ evaluering, skiller Weiss (1998) også mellom prosess- og produktevaluering. Prossevaluering foregår gjerne underveis, mens en
produktevaluering normalt skjer i etterkant. Skillet mellom prosess- og produktevaluering handler primært om i hvilken fase evalueringen er i. Distinksjonen mellom summativ- og formativ evaluering handler i større grad om intensjonen til den som evaluerer - skal hun/ham bidra til å utvikle programmet eller skal vedkommende gjøre en vurdering av programmet (ibid.).
Lai (2006) har en annen inndeling. Hun skiller mellom målbasert evaluering, prosessevaluering, pilotevaluering og interessentevaluering. Målbasert evaluering er den termen av evaluering som relateres til i hvilken grad man har oppnådd ønskede effekter. En prosessevaluering vil derimot fokusere på alle aktiviteter som har inngått i planlegging, gjennomføring og evaluering av et tiltak. Med pilotevaluering menes uttesting av et nyutviklet tiltak på en begrenset gruppe.
Formålet med en pilotevaluering er å identifisere mangler og implementere forbedring før tiltaket iverksettes i full skala. Fokus i en interessentevaluering er å belyse hvilke grupper som berøres av et tiltak, samt hvordan og i hvilken grad de berøres av tiltaket. Slik det framgår over finnes det klare paralleller mellom målbasert evaluering og prosessevaluering, og henholdsvis formativ/summativ- og produkt/prosess evaluering. Av den grunn vil det også her kunne være flytende overganger.
Min undersøkelse kan sies å relatere seg til flere ulike fokus slik presentert her. Undersøkelsen kan på den ene siden hevdes å ha et formativt fokus gjennom å undersøke hva som påvirker effekten av Luftforsvarets mentorprogram. På den andre siden befatter undersøkelsen seg med måling av effekter, og således hevdes å være en summativ evaluering. Mitt utgangspunkt er imidlertid at en klassifisering i stor grad avhenger av hva en velger å benytte resultatene til.
Siden denne undersøkelsen ikke er ”oppdragsforskning”, men gjennomført på et fritt grunnlag, anser jeg det ikke hensiktsmessig å framholde ett spesielt fokus som viktigere enn andre.
2.4.2 Formålet med evaluering
En evaluering av Luftforsvarets mentorprogram kan anta ulike retninger avhengig av hva som er formålet med undersøkelsen eller hva skal informasjonen benyttes til. Jeg vil i det videre gi en kort oversikt over ulike perspektiv på formålet med evaluering.
Easterbury-Smith (1986) skiller mellom 3 overordnede formål med en evaluering – læring, forbedring og vurdering. Han hevder at siden formålene har ulike krav til metodiske opplegg og ressursforbruk, vil de fleste evalueringer ikke befatte seg med mer enn ett formål om gangen.
Avklaringen er viktig siden de metodiske utfordringene med måling av effekter vil variere med hvilket formål evalueringen har (Busch, 1993a). Dette har videre implikasjoner for hvilke krav
som skal settes til validitet og reliabilitet, samt hvilke ressursmessige rammer en evalueringsforsker må arbeide innenfor (ibid.).
Newby og Bramley (1984) har en annen inndeling. De skiller mellom tilbakemelding, kontroll, forskning, forandring og maktspill. Tilbakemelding relaterer seg til kvalitet på og gjennomføring av tiltaket, samt grad av måloppnåelse tiltaket kan fremvise. Hvis formålet er å oppnå og utøve kontroll, undersøkes tiltakets innhold og opplegg samt gjennomføring i forhold til plan. Videre undersøkes ressursbruk i forhold til budsjetter og forventet nytte. Evaluering med forskning som formål kan potensielt bidra til å forbedre praksis i og på tvers av organisasjoner. Fordi forskning er knyttet til strenge metodiske krav, jfr. Easterbury-Smith over, kan dette vanskelig utføres uten spesifikk kompetanse. Evaluering og evalueringsmetoder vil kunne påvirke oppfatningene av et tiltak. Eksempelvis vil planmessig- og systematiske evalueringer, kunne gi signaler internt i en organisasjon om betydningen av et tiltak. Slik sett kan evalueringen benyttes som virkemiddel for å påvirke faktorer (forandring) som har betydning for sammenhenger utover tiltaket i seg selv. Sist men ikke minst kan evalueringer også generere negative effekter. Weiner (1970) peker på at evalueringer både kan misbrukes og feiltolkes, samt forsøkes bruk til å skape et inntrykk av rasjonalitet og troverdighet og effektivitet (sek. ref. Busch, 1993a). Dermed ser en konturene av at en evaluering kan benyttes i et maktspill av interessenter med skjulte agendaer.
Det siste poenget er fanget opp av Busch (1993a:4). ”Evalueringens legitimitet er at den gir interessentene et bedre beslutningsgrunnlag (Edvards mv.fl., 1983).”. Han hevder at i tillegg til å avklare formålet med evalueringen, må forskeren også avklare hvem som er interessenter og mottakere av informasjonen. Gjennom å sette seg inn i disses behov og verdivurderinger, vil forskeren ytterligere bidra til formålet med undersøkelsen. Ved læring gis informasjonen til de som gjennomgår selve utdanningen (”kursdeltaker”), og evalueringsresultatene inngår som en del av læringsprosessen. Dersom formålet er forbedring er evalueringen rettet mot å framskaffe informasjon til de som gjennomfører utdanningen (”kursansvarlig”). Er formålet vurdering er interessentene primært de som tar beslutning om tiltaket skal gjennomføres eller ikke (”kurseier”). Ved forskning gis informasjonen til de som vil øke egen innsikt i overførings- og læringsprosesser (Busch, 1993a:3).
Kurt Kraiger (2002) hevder at trenings- og utviklingstiltak kan evalueres ut fra tre formål – (1) innhold og utforming av tiltaket, (2) endringer blant deltakerne og (3) utbytte for organisasjonen.
Det første formålet er å skape et beslutningsgrunnlag gjennom innspill til videre ressursbruk. Det andre formålet er å gi tilbakemelding til de som har utformet tiltaket, samt de som er ansvarlige
for gjennomføringen. Det tredje formålet er markedsføring ovenfor andre bedrifter og potensielt framtidige deltakere på programmet (Dysvik, 2008). Jeg oppfatter en slik inndeling som god i den forstand at den fanger opp både formålet med evalueringen, men også interessentene eller mottakerne av en eventuell evaluering. Samtidig likestiller Kraiger formålene med evaluering (ibid.). Dette gir signaler om at ingen formål er viktigere enn andre, samt at evaluering bør gjennomføres - til tross for metodiske utfordringer og krav til kompetanse på området.
2.4.3 Oppsummering
Som antydet innledningsvis er hensikten med oppgaven å gjennomføre en evaluering av Luftforsvarets mentorprogram, hvor formålet er å undersøke hvorvidt programmet kan vise til eventuelle langtidseffekter. Tilsvarende som redegjort for når det gjelder ulike fokus i en evaluering, betrakter jeg formålet i stor grad å være avhengig av de sammenhenger min oppgave er i stand til å påvise, og hvilke interessenter som ønsker å benytte funnene. Jeg anser derfor at min undersøkelse kan fylle flere hensikter, formål og ha ulike interessenter. Dette er etter mitt skjønn en styrke, til tross for enkelte metodiske utfordringer jeg vil komme tilbake til.