Lov om supplerende bestemmelser til forordningen om kunstig intelligens § 10

Der er på nuværende tidspunkt ikke fastsat regler i dansk ret om straf for overtrædelse af regler i forordningen om kunstig intelligens.

Det følger af artikel 99, stk. 1, i forordningen om kunstig intelligens, at i overensstemmelse med de vilkår og betingelser, der er fastsat i denne forordning, fastsætter medlemsstaterne regler om sanktioner og andre håndhævelsesforanstaltninger, som også kan omfatte advarsler og ikkeøkonomiske foranstaltninger, for operatørers overtrædelse af denne forordning og træffer alle nødvendige foranstaltninger for at sikre, at de gennemføres korrekt og effektivt, og dermed tager hensyn til de retningslinjer, som Kommissionen har udstedt i henhold til artikel 96.

Af præambelbetragtning nr. 41 i forordningen om kunstig intelligens følger det, at i medfør af artikel 2 og 2a i protokol nr. 22 om Danmarks stilling, der er knyttet som bilag til TEU og TEUF, er de regler, der er fastsat i forordningen om kunstig intelligens artikel 5, stk. 1, første afsnit, litra g), i det omfang den finder anvendelse på brugen af systemer til biometrisk kategorisering til aktiviteter inden for politisamarbejde og retligt samarbejde i straffesager, artikel 5, stk. 1, første afsnit, litra d), i det omfang den finder anvendelse på brugen af AI-systemer, der er omfattet af nævnte bestemmelse, artikel 5, stk. 1, første afsnit, litra h), og stk. 2-6, og artikel 26, stk. 10, der er vedtaget på grundlag af artikel 16 i TEUF vedrørende medlemsstaternes behandling af personoplysninger under udøvelsen af aktiviteter, der er omfattet af tredje del, afsnit V, kapitel 4 eller 5, i TEUF, ikke bindende for og finder ikke anvendelse i Danmark.

Det foreslås i lovforslagets stk. 1, at det fastsættes, hvilke bestemmelser i forordningen og loven, der er strafbelagt ved overtrædelser.

Det foreslås i stk. 1, nr. 1, at den, der overtræder bestemmelserne om forbudte former for AI-praksis i henhold til artikel 5, stk. 1, litra a-g i forordningen om kunstig intelligens straffes med bøde, medmindre højere straf er forskyldt efter anden lovgivning.

Med den foreslåede bestemmelse straffes overtrædelse af artikel 5, stk. 1, litra a-g, i forordningen om kunstig intelligens.

Digitaliseringsstyrelsen er markedsovervågningsmyndighed for de forbudte former for AI-praksis, som er omfattet af artikel 5, stk. 1, litra a-c, og artikel 5, stk. 1, litra e-f, i forordningen om kunstig intelligens. Artikel 5, stk. 1, litra a-c, vedrører forbudte former for AI-praksis, herunder blandt andet visse AI-systemer, der anvender subliminale, bevidst manipulerende eller vildledende teknikker, visse AI-systemer, der udnytter sårbarheder på grundlag af alder, handicap eller en særlig social eller økonomisk situation, og visse AI-systemer, som bruges til evaluering eller klassificering af fysiske personer, hvis sociale bedømmelse fører til visse former for skadelig eller ugunstig behandling af fysiske personer eller grupper af personer. Artikel 5, stk. 1, litra e-f, vedrører blandt andet AI-systemer, der opretter eller udvider ansigtsgenkendelsesdatabaser gennem ikkemålrettet indsamling af ansigtsbilleder fra internettet eller kameraovervågning og visse AI-systemer, der bruges til at udlede følelser hos en fysisk person på arbejdspladser og uddannelsesinstitutioner. Disse forbudte former for AI-praksis kan med den foreslåede bestemmelse straffes med bøde.

Datatilsynet er markedsovervågningsmyndighed for de forbudte former for AI-praksis, der er omfattet af artikel 5, stk. 1, litra d og artikel 5, stk. 1, litra g, i det omfang disse ikke er omfattet af det danske retsforbehold. Artikel 5, stk. 1, litra d, vedrører visse AI-systemer, som bruges til at foretage risikovurderinger baseret på profilering af en fysisk person eller en vurdering af deres personlighedstræk og personlige egenskaber for at vurdere eller forudsige risikoen for, at en fysisk person begår en strafbar handling. Artikel 5, stk. 1, litra g, vedrører blandt andet AI-systemer, der bruges til biometrisk kategorisering, som kategoriserer fysiske personer individuelt på grundlag af deres biometriske data med henblik på at udlede deres race, politiske anskuelser, fagforeningsmedlemskab, religiøse eller filosofiske overbevisning, seksuelle forhold eller seksuelle orientering. Disse forbudte former for AI-praksis kan med den foreslåede bestemmelse også straffes med bøde, i det omfang disse ikke er omfattet af det danske retsforbehold. Danmark er som følge af retsforbeholdet ikke bundet af forordningens artikel 5, stk. 1, litra g, i det omfang den finder anvendelse på brugen af systemer til biometrisk kategorisering til aktiviteter inden for politisamarbejde og retligt samarbejde i straffesager, og artikel 5, stk. 1, litra d, i det omfang den finder anvendelse på brugen af AI-systemer, der er omfattet af nævnte bestemmelse.

Domstolsstyrelsen er markedsovervågningsmyndighed for de dele af tilsynet med forbudte former for AI-systemer, som vedrører domstolenes administrative anvendelse af AI-systemer. Afgørelser om domstolenes anvendelse af AI-systemer, når disse anvendes som led i domstolenes judicielle funktioner, træffes dog af vedkommende ret.

Det foreslås i stk. 1, nr. 2, at den, der afgiver ukorrekte, ufuldstændige eller vildledende oplysninger til bemyndigede organer eller nationale kompetente myndigheder som svar på en anmodning i henhold til artikel 99, stk. 5, kan straffes med bøde.

De foreslåede bestemmelser tjener to formål:

– At opfylde forordningens krav om sanktionering efter artikel 99, stk. 3, jf. stk. 9, hvor forordningen har et loft for bøder på 35.000.000 euro eller, hvis lovovertræderen er en virksomhed, op til 7 pct. af dens samlede globale årlige omsætning i det foregående regnskabsår, alt efter hvilket beløb der er størst.

– At opfylde forordningens krav om sanktionering efter artikel 99, stk. 5, jf. stk. 9, hvor forordningen har et loft for bøder på 7.500.000 euro eller, hvis lovovertræderen er en virksomhed, op til 1 pct. af dens samlede globale omsætning i det foregående regnskabsår, alt efter hvilket beløb der er størst.

Forbeholdet om, at højere straf kan være forskyldt efter den øvrige lovgivning, har til formål at sikre, at handlinger, der tillige indebærer en overtrædelse af bestemmelser, der kan medføre højere straf, kan henføres under sådanne bestemmelser. Hvis det strafbare forhold omfattes af § 10, stk. 1, nr. 2, samt straffelovens §§ 162 og 163 om afgivelse af urigtige oplysninger til offentlige myndigheder, henhører forholdet således under den bestemmelse, hvorefter den højeste straf er forskyldt.

Formålet med den foreslåede bestemmelse er at supplere artikel 99, stk. 1, i forordningen om kunstig intelligens, hvorefter medlemsstaterne – i overensstemmelse med de vilkår og betingelser, der er fastsat i forordningen – fastsætter regler om blandt andet sanktioner.

Det bemærkes, at det følger af forordningens artikel 99, stk. 6, at for SMV’er, herunder iværksættervirksomheder, skal hver bøde, der er omhandlet i artikel 99 være op til den procentsats eller det beløb, der er omhandlet i blandt andet stk. 3 og 5, alt efter hvilken af dem der er lavest.

Det bemærkes hertil, at ved udmåling af bødestraf skal de fastsatte beløbsgrænser i henhold til artikel 99, stk. 3 og 5, i forordningen om kunstig intelligens overholdes.

Det foreslås i stk. 1, nr. 3, at den, der undlader at give markedsovervågningsmyndighederne oplysninger efter § 5 straffes med bøde, medmindre højere straf er forskyldt efter anden lovgivning.

Med den foreslåede bestemmelse sikres det, at det kan sanktioneres, hvis fysiske og juridiske personer undlader at imødekomme krav fra markedsovervågningsmyndighederne om at afgive oplysninger, som er nødvendige for myndighedernes tilsynsvirksomhed, herunder til fastlæggelse af, om et forhold hører under myndighedernes kompetence.

Den foreslåede bestemmelse afgrænses af det almindelige forbud mod at udsætte andre for selvinkriminering, som det blandt andet kan udledes af Den Europæiske Menneskerettighedskonventions artikel 6 og § 10 i retssikkerhedsloven.

Det foreslås i stk. 1, nr. 4, at den, der undlader at give markedsovervågningsmyndighederne adgang eller hindrer markedsovervågningsmyndighederne i at foretage tekniske undersøgelser af et AI-system efter § 6, stk. 1 og 2, straffes med bøde, medmindre højere straf er forskyldt efter anden lovgivning.

Med den foreslåede bestemmelse sikres det, at det kan sanktioneres, hvis de fysiske og juridiske personer, som er omfattet af artikel 2, stk. 1, litra a-f, i forordningen om kunstig intelligens, ikke giver markedsovervågningsmyndigheden adgang til lokaliteter omfattet af den foreslåede § 6, stk. 1. Tilsvarende sikres det, at det kan sanktioneres, hvis de fysiske og juridiske personer, som er omfattet af artikel 2, stk. 1, litra a-f, i forordningen om kunstig intelligens, hindrer markedsovervågningsmyndigheden i at foretage tekniske undersøgelser af et AI-system på stedet.

Eksempelvis kan der sanktioneres, hvis en kontrolunderlagt nægter at udlevere adgangskoder, som markedsovervågningsmyndigheden skal bruge for at få adgang til nødvendige oplysninger på en computerterminal eller server. Tilsvarende kan det sanktioneres, hvis den kontrolunderlagte krypterer alle oplysninger, så myndighederne skal omgå krypteringen for at få adgang. Endvidere kan der sanktioneres ved fysisk hindring, f.eks. hvis den kontrolunderlagte blokerer adgangen til lokaliteter, som markedsovervågningsmyndigheden har behov for at tilgå i forbindelse med deres undersøgelser.

Det foreslås endeligt i stk. 1, nr. 5, at den, der undlader at efterkomme påbud eller forbud efter § 8, kan straffes med bøde.

Med den foreslåede bestemmelse vil eksempelvis et midlertidigt forbud om at tilgængeliggøre et AI-system, der er udstedt af markedsovervågningsmyndighederne efter § 8, stk. 2, således kunne medføre bødestraf, medmindre højere straf er forskyldt efter anden lovgivning.

Det bemærkes, at strafudmålingen for overtrædelser omfattet af § 10, stk. 1, skal følge artikel 99, stk. 7, i forordningen om kunstig intelligens. Det indebærer, at der i hver enkelt sag skal tages behørigt hensyn til de oplistede hensyn i artikel 99, stk. 7, i forordningen om kunstig intelligens. Der skal eksempelvis tages hensyn til overtrædelsens art, grovhed og varighed, om der er andre skærpende eller formildende faktorer ved sagens omstændigheder såsom opnåede økonomiske fordele eller undgåede tab som direkte eller indirekte følge af overtrædelsen, den måde, hvorpå de nationale kompetente myndigheder fik kendskab til overtrædelsen, navnlig om operatøren har underrettet om overtrædelsen og i givet fald i hvilket omfang. Straffelovens § 51, stk. 3 og 10. kapitel om straffens fastsættelse finder i øvrigt anvendelse.

Der henvises i øvrigt til pkt. 2.4.2.2 i lovforslagets almindelige bemærkninger om udmøntningen af forordningens bestemmelser om administrative bøder i dansk ret.

Det foreslås i stk. 2, at i forskrifter, der udstedes i medfør af loven, kan der fastsættes straf af bøde for overtrædelse af bestemmelser i forskrifterne.

Forslaget indebærer således, at der er adgang til at fastsætte straffebestemmelser i forskrifter, der udstedes i medfør af loven, herunder ved manglende overholdelse af udstedte forbud.

Det foreslås i stk. 3, at der kan pålægges selskaber m.v. (juridiske personer) strafansvar efter reglerne i straffelovens 5. kapitel.

Det bemærkes, at det fremgår af artikel 99, stk. 8, i forordningen om kunstig intelligens, at hver medlemsstat fastsætter regler om, i hvilket omfang administrative bøder kan pålægges offentlige myndigheder og organer, der er etableret i den pågældende medlemsstat.

Statslige myndigheder og kommuner kan ifølge straffelovens § 27, stk. 2, alene straffes i anledning af overtrædelser, der begås ved udøvelse af virksomhed, der svarer til eller kan sidestilles med virksomhed udøvet af private. Offentlige myndigheder kan således alene ifalde strafansvar efter reglerne i straffelovens kapitel 5, i det omfang myndigheden optræder på en måde, der kan sammenlignes med virksomhed, der udøves af en privatperson eller af et selskab, det vil sige i egenskab af driftsherre.

Reglerne i straffelovens kapitel 5 omfatter derimod ikke lovovertrædelser, der begås som led i myndighedsudøvelse. I sådanne tilfælde kan der alene blive tale om personligt strafansvar for de ansvarlige enkeltpersoner.

Det foreslås i stk. 4, at forældelsesfristen for overtrædelse af forordningen om kunstig intelligens, denne lov, eller regler udstedt i medfør heraf er 5 år.

Af straffelovens § 93, stk. 1, følger de almindelige forældelsesfrister for strafbare lovovertrædelser, der skal beregnes efter det strafmaksimum, der er foreskrevet for lovovertrædelsen. Det er således strafferammen for den pågældende lovovertrædelse og ikke den konkrete forskyldte straf, som er afgørende for beregningen af forældelsesfristen. Forældelsesfristen er efter straffelovens § 93, stk. 11, 2 år, når der ikke er hjemlet højere straf end fængsel i 1 år for overtrædelsen.

Den foreslåede bestemmelse vil indebære, at forældelsesfristen for overtrædelse af den foreslåede lov, regler udstedt i medfør af loven eller forordningen om kunstig intelligens fastsættes til 5 år, under hensyntagen til, at de omfattede straffesager kan antage en vis størrelse og kompleksitet.

Der henvises i øvrigt til pkt. 2.4.2 i lovforslagets almindelige bemærkninger.