AI Act – Slik forbereder du din bedrift på fremtidens reguleringer

Boneprox – Inventas var med i utviklingen av Boneprox der bruk av KI brukes til beslutningsstøtte i arbeid med deteksjon av beinskjørhet fra tannlegerøntgen.

Kunstig intelligens(KI), eller Artificial Intelligence(AI), er allerede en uunnværlig del av vår hverdag, men med denne utviklingen kommer også nye krav og reguleringer. 21. mai 2024 tok EU-kommisjonen et stort steg ved å godkjenne AI Act, verdens første juridiske rammeverk som spesifikt regulerer kunstig intelligens. Dette lovverket representerer en viktig milepæl for reguleringen av KI-teknologier og legger omfattende krav på produkter som inneholder KI.

AI Act har allerede trådt i kraft med en toårig implementeringsperiode. For bedrifter som utvikler KI-baserte produkter, er det nå avgjørende å sikre at disse produktene overholder de nye reguleringene.

Hva er KI?

Kunstig intelligens er ikke bare fremtidens teknologi. Det er en kraft som allerede begynner å forme hvordan vi lever, arbeider og kommuniserer.

Det er systemer som kan lære, tilpasse seg og utføre oppgaver som normalt krever menneskelig intelligens. Dette inkluderer maskinlæring, som gjør at datamaskiner kan lære av erfaring. I tillegg har vi naturlig språkbehandling. De lar maskiner forstå og kommunisere med deg på en mer menneskelig måte.

Lyst til å lære mer om hva maskinlæring egentlig er? Finn ut hvordan det kan være relevant for din bedrift her.

Denne teknologien tilbyr en rekke fordeler i produktutvikling, og kan hjelpe bedrifter med å forbli konkurransedyktige og innovative.

KI kan blant annet: 

• automatisere tidkrevende oppgaver innen medisinsk teknologi, som celletelling, skille ut kreftvev og screening av prøver. Dette øker effektiviteten og frigjør spesialister til å fokusere på mer komplekse oppgaver. Sykehusdata kan benyttes til å forbedre diagnostikk, selv om det ofte kreves ekspertise for å lage sannhetsmarkeringer.

• optimalisere medisinsk utstyr ved å forbedre diagnostikk, behandling og pasientoppfølging – noe som kan bidra til mer presise og effektive helsetjenester. KI kan tjene som et kostnadseffektivt supplement til menneskelig ekspertise og forbedre kvaliteten på beslutningsprosesser.

• utvikle autonome kjøretøy. Selvkjørende biler og busser benytter KI, og Norge er ledende på autonome busser. Teknologien kombinerer data fra kamera, radar og lidar for å skape en modell av omgivelsene. Autonome skip, som Yara Birkelands containerskip og den førerløse fergen milliAmpére, er også under utvikling.

• optimalisere presisjonslandbruk. KI brukes til å optimalisere bruken av sprøytemidler og til automatisk plukking av jordbær. Innen havbruk benyttes KI til automatisert veiing og telling av laks, som rapporteres til Mattilsynet. Dette gir mer nøyaktige målinger og forbedrer dyrevelferden ved å unngå håndtering av fisk utenfor merden.

• forbedre prosessering på sensornivå (Edge-computing). I stedet for å sende data fra sensorer og kameraer til skyen, kan prosessering gjøres direkte på sensornivå med mikrokontrollere og FPGA. Dette gjør det mulig å overvåke tilstanden til utstyr i sanntid og varsle om feil før de oppstår, noe som reduserer nedetid og vedlikeholdskostnader.

• gi et konkurransefortrinn ved å tilby mer sofistikerte og tilpassede løsninger. KI kan effektivisere forretningsprosesser og hjelpe bedrifter med å reagere raskere på endringer i markedet.

Begrensninger å være oppmerksom på: Selv om KI har mange fordeler, er det viktig å være klar over at verktøyene kan gi feilaktige eller inkonsistente svar. Dette betyr at all KI-generert informasjon bør valideres manuelt for å sikre nøyaktighet og pålitelighet.

Viktigheten av å overholde AI Act

AI Act er utformet for å regulere utvikling, markedsføring og bruk av kunstig intelligens i EU. Formålet er å sikre at KI-systemer som utvikles og brukes i Europa er trygge, pålitelige og etisk forsvarlige. Lovverket stiller strenge krav til dokumentasjon, risikovurdering og etiske retningslinjer for KI-produkter overholdes. 

Målet med AI Act er å:

• beskytte brukerens rettigheter og personvern 

• fremme innovasjon innen KI på en ansvarlig måte

• styrke forbrukertilliten til KI-teknologier

Å overholde AI Act gir flere kritiske fordeler for både bedrifter og samfunnet som helhet. Reguleringene sikrer at KI-baserte produkter er trygge å bruke og oppfører seg pålitelig under alle forhold. Dette reduserer risikoen for feil og potensielle skader på brukerne. 

I tillegg bidrar reguleringene til at KI brukes på en etisk måte, beskytter brukerens rettigheter og personvern og forhindrer misbruk av teknologien. Bedrifter som ikke følger lovgivningen kan føre til alvorlige juridiske konsekvenser, inkludert bøter og tilbakekalling av produkter – noe som kan skade både bedriftens omdømme og økonomi. 

Overholdelse av internasjonale reguleringer er nødvendig for å få tilgang til globale markeder og er en forutsetning for å drive lovlig handel. 

Denne veien mot 2027 er ikke bare en teknologisk og regulatorisk utfordring, men også en juridisk og etisk reise. Bedrifter må allerede nå begynne å vurdere hvordan deres nåværende KI-systemer fungerer, og hva som må tilpasses for å sikre samsvar med AI Act.

«High-Risk»-AI-systemer

Når vi snakker om KI, er det ikke bare selve applikasjonene som varierer, men også de feltene der KI brukes. Noen områder er mer sensitive enn andre, spesielt de som klassifiseres som «high-risk» under AI Act. For eksempel, KI som brukes i medisinsk utstyr, transport og energi faller automatisk inn under denne kategorien – uavhengig av den konkrete risikoen KI-komponenten utgjør. Dette skyldes at disse feltene har direkte innvirkning på kritisk infrastruktur og grunnleggende menneskerettigheter.

Hvis bedriften din opererer innenfor disse feltene og bruker KI i sine produkter, er det avgjørende å ha en klar forståelse av hvilke krav som gjelder, og hvordan du kan sikre at produktene dine er i samsvar med regelverket. Dette krever ikke bare teknologisk tilpasning, men også et bevisst fokus på regulatorisk dokumentasjon. 

Enten du jobber med «high-risk»-produkter eller ikke, er det viktig å sørge for at både nye og eksisterende produkter oppfyller AI Act. Dette gjelder også produkter som allerede er på markedet, da de må oppdateres i henhold til de nye kravene.

Våre tips – og hvordan vi kan hjelpe deg

Når du navigerer i det komplekse landskapet som AI Act skaper, er det viktig å ha flere ting i bakhodet. 

Det er viktig å sikre at dataene som brukes til å trene KI-systemer er i samsvar med AI Act, slik at algoritmene kan fortsette å være gyldige også etter 2027. 

Tenk deg at du har en algoritme som er trent på data fra 2023 – er den fortsatt gyldig og følger kravene i AI Act i 2027? Dette er spørsmålet du bør stille deg.

Som en ledende aktør innen produktutvikling er Inventas her for å hjelpe. Vi vet at de nye reguleringene kan virke overveldende, men med riktig veiledning kan du møte kravene og samtidig dra nytte av AI-teknologiens mange muligheter. 

Her er våre beste råd:

• Start samtalene nå: Det er viktig å begynne dialogen med investorer og ledelsen om AI Act så tidlig som mulig. Jo før du tar tak i dette, desto bedre forberedt vil bedriften din være.

• Sett sammen et tverrfaglig team: Involver regulatoriske eksperter, dataforvaltere, programvareutviklere og advokater. Dette teamet vil være avgjørende for å sikre at KI-produktene dine overholder AI Act.

• Sikre samsvar med AI Act allerede i dag: Hvis du trener KI-systemer nå, sørg for at dataene du bruker er i samsvar med de kommende reguleringene. Da er du trygg på at algoritmene dine fortsatt er gyldige etter 2027.

• Utfør en GAP-analyse: Identifiser eventuelle mangler i dokumentasjonen, særlig når det gjelder trenings-, tilpasnings- og testdatasett. Dette vil hjelpe deg med å unngå problemer senere.

• Forbudte KI-systemer: Sørg for at du ikke bruker KI-systemer som er forbudt under AI Act. Dette er essensielt for å unngå juridiske utfordringer i fremtiden.

• Sjekk sertifiseringen: Hvis du allerede har et kontrollorgan (Notified Body), undersøk om de også vil være godkjent for AI Act. Dette kan spare deg for både tid og penger.

• Budsjetter for økte kostnader: Vær forberedt på at teknisk dokumentasjonsgjennomgang kan bli dyrere enn du kanskje tror. Sørg for at budsjettet ditt tar høyde for disse økte kostnadene.

• Skaff deg ekspertise: Sørg for at du har intern kompetanse på AI Act, eller kontakt eksterne rådgivere som oss i Inventas. Vi har ekspertisen som trengs for å guide deg gjennom hele prosessen.

Vi hjelper deg på veien mot 2027

AI Act er her, og det er på tide å handle. For bedrifter som ønsker å ligge i forkant av utviklingen, er det avgjørende å forstå hva som kreves og hvordan man kan tilpasse seg de nye reguleringene. Inventas er her for å støtte deg på denne reisen. 

Med vår ekspertise innen regulering og utvikling kan vi hjelpe deg, og sikre at dine KI-produkter er i samsvar med lovgivningen. 

Ta kontakt med oss i dag, og la oss sammen sikre at din bedrift er klar for fremtiden.

Les mer: Hva gjør kunstig intelligens med kreativiteten vår?