RISK AI - Responsible Innovation and Social Knowledge in Artificial Intelligence

Prosjektbeskrivelse

Kunstig intelligens (KI) er allerede i ferd med å påvirke samfunnet og helsesektoren i betydelig grad. Spørsmålet er derfor ikke lenger om KI vil få stor samfunnseffekt, men hvor, hvordan og for hvem risikoen oppstår, og hvilke tiltak som kan redusere den. Samtidig utvikler reguleringen seg raskt for å møte disse endringene. EUs KI-forordning (AI Act) er et sentralt svar på denne utviklingen og vil få stor betydning for utvikling, bruk og styring av KI-løsninger på tvers av sektorer i Europa.

AI Act er en risikobasert regulering som skal balansere digital innovasjon med hensyn til personvern, pasientsikkerhet og grunnleggende rettigheter. For helsefeltet innebærer dette særlige utfordringer, fordi KI-løsninger ofte vil bli klassifisert som høyrisiko når de påvirker enkeltpersoner direkte, for eksempel i diagnostikk eller behandling. Dette skaper behov for bedre forståelse av hvordan risiko oppstår gjennom hele KI-livssyklusen, ikke bare som tekniske feil, men også gjennom brukskontekst, arbeidsprosesser, organisering og sosialt samspill.

Prosjektet tar utgangspunkt i at ansvarlig KI og risikostyring må ses i sammenheng. Vi foreslår et nytt begrepsrammeverk kalt “Responsible Risk”, som kobler samfunnsmessige og etiske prinsipper for ansvarlig KI med organisatoriske og regulatoriske krav til risikohåndtering. Målet er å utvikle kunnskap og kapasitet som gjør helsetjenester bedre i stand til å forstå, vurdere og håndtere risiko ved bruk av KI i tråd med AI Act.

Prosjektet vil undersøke hvordan nordisk-baltiske helseorganisasjoner møter kravene fra AI Act, og hvordan governance-modeller utformes på tvers av nivåer og aktører. Det skal også identifisere hva som kan regnes som akseptabel klinisk risiko, og hvilke strategier som kan brukes for å håndtere usikkerhet og konsekvenser i praksis. Videre skal begrepet Responsible Risk prøves ut i to kliniske settinger ved hjelp av et validert instrument, for å utvikle mer handlingsrettet kunnskap om risikoreduksjon og trygg implementering av KI.

Mål

Gjennom dette skal prosjektet bidra til bedre forståelse av hvordan KI kan innføres på en ansvarlig, lovmessig og bærekraftig måte i helsetjenesten. Ambisjonen er å styrke både profesjonell kompetanse og organisatorisk beredskap, slik at helseaktører i Norden og Baltikum kan møte fremtidens krav til sikker, etisk og tillitsvekkende bruk av KI.