Lov om supplerende bestemmelser til forordningen om kunstig intelligens § 8

Der er på nuværende tidspunkt ikke fastsat regler i dansk ret om markedsovervågningsmyndighedernes opgaver i forbindelse med tilsynet i henhold til forordningen om kunstig intelligens.

Det foreslås i stk. 1, at markedsovervågningsmyndighederne kan udstede påbud om overholdelse af artikel 5, stk. 1, litra a-g, i forordningen om kunstig intelligens, denne lov og regler fastsat i medfør af denne lov.

Den foreslåede ordning i § 8 medfører, at markedsovervågningsmyndighederne vil kunne påbyde fysiske og juridiske personer omfattet af artikel 2, stk. 1, litra a-f, i forordningen om kunstig intelligens, at overholde artikel 5, stk. 1, litra a-g, i forordningen om kunstig intelligens, denne lov og regler fastsat i medfør af denne lov.

Det foreslås i stk. 2, at markedsovervågningsmyndighederne kan udstede et midlertidigt forbud mod levering, markedsføring, udstilling eller anden tilgængeliggørelse af et AI-system, hvis AI-systemet vurderes at kunne udgøre en risiko. Forbuddet kan rettes mod de fysiske og juridiske personer, som er omfattet af artikel 2, stk. 1, litra a-f, i forordningen om kunstig intelligens. Forbuddets varighed kan ikke strække sig ud over, hvad der er nødvendigt for at træffe kontrolforanstaltninger til brug for undersøgelser eller vurderinger af AI-systemets sikkerhed.

Med den foreslåede bestemmelse kan markedsovervågningsmyndighederne udstede midlertidige forbud mod levering, markedsføring, udstilling eller anden tilgængeliggørelse af etAI-system, hvis AI-systemet vurderes at kunne udgøre et forbudt AI-system i henhold til artikel 5, stk. 1, litra a-g. Et forbud efter den foreslåede bestemmelse vil kunne rettes mod fysiske og juridiske personer i henhold til artikel 2, stk. 1, litra a-f.

Bestemmelsen giver mulighed for at træffe en midlertidig afgørelse om forbud mod et AI-system, mens markedsovervågningsmyndighedernes sagsbehandling og oplysning af sagen pågår. Markedsovervågningsmyndighederne foretager i den forbindelse en proportionalitetsafvejning, så de midler, der anvendes, ikke er mere indgribende end nødvendigt i forhold til det formål, markedsovervågningsmyndighederne ønsker at opnå.

Den foreslåede bestemmelse finder anvendelse i sager, hvor der er en formodning om, at et AI-system udgør en fare, og hvor hensynet til brugeren gør, at det ud fra et forsigtighedsprincip vurderes uforsvarligt, at AI-systemet fortsat er i omsætning, imens markedsovervågningsmyndigheden foretager de nødvendige undersøgelser systemet for derved endeligt at afklare risikoen og træffe endelig afgørelse.

Det er en forudsætning for anvendelsen af bestemmelsen, at der ikke blot er tale om mindre eller formelle mangler, som ikke medfører en reel fare. En bagatelagtig mangel kunne eksempelvis være mindre administrative fejl uden betydning for systemets sikkerhed. Forbuddets varighed må ikke overstige, hvad der er nødvendigt for at gennemføre de relevante undersøgelser og vurderinger. Proportionalitetsprincippet sikrer, at markedsovervågningsmyndighederne handler hurtigt og effektivt for at minimere unødige gener for de involverede parter.

Det foreslås i 2. pkt., at forbuddet kan rettes mod fysiske og juridiske personer omfattet af artikel 2, stk. 1, litra a-f, i forordningen om kunstig intelligens. Den foreslåede bestemmelse finder derfor anvendelse på udbydere, der bringer AI-systemer i omsætning eller ibrugtager sådanne eller bringer AI-modeller til almen brug i omsætning i Unionen, uanset om udbyderne er etableret i eller uden for Unionen; idriftsættere af AI- systemer, der er etableret eller befinder sig i et tredjeland, hvis det output, der produceres af systemet, anvendes i Unionen; importører og distributører af AI-systemer; producenter af et produkt, der sammen med deres produkt og under eget navn eller varemærke bringer et AI-system i omsætning eller ibrugtager det samt bemyndigede repræsentanter for udbydere, der ikke er etableret i Unionen.

Det foreslås i 3. pkt., at forbuddets varighed ikke kan strække sig ud over, hvad der er nødvendigt for at træffe kontrolforanstaltninger til brug for undersøgelser eller vurderinger af AI-systemets sikkerhed.

Angivelsen af, at forbuddets varighed ikke kan strække sig ud over, hvad der er nødvendigt for at foretage de nævnte undersøgelser, er ligeledes udtryk for det almindelige proportionalitetsprincip. Markedsovervågningsmyndighederne sikrer i den forbindelse, at de nødvendige undersøgelser foretages uden unødigt ophold for derved at mindske eventuelle gener for den erhvervsdrivende.