Ansvar i organisasjoner

Funn 7: Varierende grad av behov for ansvarsdiskusjon før innføring av KI

Organisasjonene i utvalget diskuterte ansvar i varierende grad før organisasjonen innførte KI.

To av respondentene jobber i organisasjoner som drev med statikk og matematiske modeller før de innførte KI. De forklarte at sine organisasjoner ikke hadde diskutert ansvar før innføring av KI. En av de nevnte respondentene forklarte:

«Det har noe å gjøre med at det ikke er noe nytt vi gjør med kunstig intelligens. Vi gjør det bare litt annerledes, så ansvaret er der fra før. Vi endrer ikke nødvendigvis på ansvaret med å sette på en algoritme.»

Andre respondenter forklarte at organisasjonen ikke hadde diskutert ansvar, de hadde kun diskutert hvilke prosesser som var egnet for en KI-løsning. En respondent presenterte et eksempel hvor de ansatte diskuterte forskjellige prosesser hvor de ville innføre KI. Videre forklarte respondenten at en prosess ble valgt «fordi det var veldig lav risiko, hvor det er ingen som dør hvis vi gjør noe feil». Begrepet ansvar ble derfor ikke nevnt i diskusjonen før innføringen av KI, men å diskutere konsekvensene og risiko handler om å ta ansvar. Å diskutere og vurdere risiko er dermed en form for å diskutere ansvar.

Til slutt var det også noen respondenter som forklarte at ansvar ble diskutert før organisasjonen innførte KI. En respondent forklarte at diskusjon før innføringen kom naturlig for dem: «Det kommer fra samfunnsoppdraget vi har. Så ansvar er den store tunge driveren bak det vi har gjort». Det tyder på at nødvendigheten av ansvarsdiskusjon avhenger av organisasjonens formål.

Samlet sett viser utvalget at det er varierende grad av ansvarsdiskusjoner før organisasjoner innfører KI. Organisasjoner som før innføringen av KI brukte statistikk og matematikk virker ikke å ha et behov for en ytterligere ansvarsdiskusjon. Andre organisasjoner har derimot en større overgang og trenger å diskutere for eksempel risiko tilhørende ulike prosesser.

Oppsummering

Blant respondentenes organisasjoner var det varierende grad av ansvarsdiskusjoner før organisasjonene innførte KI. Hvorvidt det er nødvendig å diskutere ansvar før innføringen kommer blant annet an på organisasjonenes syn på KI. Ser organisasjonen på innføringen av KI som en stor overgang er det hensiktsmessig å ta en ytterligere ansvarsdiskusjon.

Funn 8: Organisasjoner har jevnlige ansvarsdiskusjoner etter innføring av KI

Ansvar blir stadig tatt opp og diskutert innad i organisasjonene etter organisasjonene tok i bruk KI, som ikke er overraskende da ansvar er et omfattende begrep. Respondentene forklarte at ansvarsdiskusjonen kommer opp som et kontinuerlig tema gjennom alt fra lovverk til etiske dilemma. Diskusjoner knyttet til ansvar og lovverk er spesielt knyttet til bruk og oppbevaring av data. En respondent presiserte: «Vi har gode juridiske prosesser mellom myndighetene for utveksling av informasjon om databehandling». Etiske dilemmaer var også jevnlig diskutert:

«Ansvar er på agendaen hele tiden. Etikk var for eksempel i fokus på en workshop med ledergruppen for litt siden (...). Slike typer diskusjoner er på radaren».

Jevnlige diskusjoner rundt lovverk og etikk viser til et behov for kontinuerlige diskusjoner rundt ansvar etter innføring av KI. En respondent forklarte at ansvarsdiskusjoner er spesielt viktige når KI-løsninger skal settes i produksjon. «En har ansvar med seg hele tiden. Det er spesielt jo nærmere en kommer produksjonen, jo lengere frem er ansvarsbevisstheten for de som eier det.»

Likevel var flest respondenter enige i at å bruke KI-løsninger i organisasjonen krevde en kontinuerlig bevissthet rundt ansvar. At ansvar jevnlig blir diskutert i organisasjoner som bruker KI underbygger at ansvar er et viktig aspekt.

Oppsummering

Respondentene forklarte at organisasjonene har jevnlige diskusjoner rundt lovverk og etiske dilemma etter innføring av KI. Tidligere funn viser at ansvar er et omfattende begrep og det er dermed ikke overraskende at ansvar krever jevnlige diskusjoner. Å innføre KI-løsninger i organisasjonen krever at organisasjonen kontinuerlig har et bevisst forhold til ansvar.

Funn 9: Ansvar fordelt på flere roller og ulike områder

Mange av respondentene mente organisasjonen de arbeidet i ikke hadde en bestemt rolle direkte knyttet til ansvar for KI. Til tross for at de ikke hadde en slik bestemt rolle, hadde organisasjonene likevel gode ordninger for fordeling av ansvar. Gjennom intervjuene ble det tydelig at ansvaret i organisasjonene var fordelt på flere. En respondent forklarte: «Det er flere roller relatert til ansvar for den samme algoritmen eller systemet». Til tross for ansvaret var fordelt på flere var det likevel klart hvem ansatte skal forholde seg til dersom det kommer eventuelle tvister. Noen av respondentene mente lederen for det aktuelle området har ansvaret, men at denne personen får veiledning og hjelp til juridiske betraktninger fra konsernjuridisk avdeling. Blant offentlige organisasjoner er det vanlig å ha et personvernombud som har en viktig rolle vedrørende ansvar. Andre respondenter forklarte at de har prosesseiere som står som eier av datakilder. Disse har ansvar for å forvalte god sikkerhet og riktig bruk av dataene.

En respondent forklarte ansvarsfordelingen på denne måten:

«Vi har ulike profiler eller fagansvarlige. Vi har for eksempel en leder for sikkerhet. Han sørger for at alle dataene ligger der de skal ligge uten at det skal være mulig å hacke eller stjele disse dataene ut av systemene våre. Så har vi en fagdirektør som er ansvarlig for kontroll. Han sørger for at kontrollaktivitetene vi gjør er i henhold til regelverket. Også har vi juristene. De sjekker hele tiden at det vi gjør er riktig. Også har vi domeneeksperter som sjekker om vi er på rett spor eller ikke.»

Oppsummering

Til tross for ingen rolle som er direkte koblet til ansvar i organisasjonene er det gode løsninger for ansvarsfordeling. At organisasjonene har gode løsninger for ansvarsfordelingen, er ikke overraskende da ansvarsfordeling generelt er viktig i organisasjoner. Imidlertid var det forskjeller mellom hvordan organisasjonene fordelte ansvar på ulike roller og områder for KI.

Dermed er det enighet om at ansvar fordeles på ulike roller i organisasjoner, til tross for at det ikke er en fasit på hvordan ansvar bør fordeles.