Lov om supplerende bestemmelser til forordningen om kunstig intelligens § 6

Der er på nuværende tidspunkt ikke fastsat regler i dansk ret om markedsovervågningsmyndighedernes mulighed for at foretage kontrolbesøg som led i et tilsyn i henhold til forordningen om kunstig intelligens.

Det fremgår af præambelbetragtning nr. 156 i forordningen om kunstig intelligens, at markedsovervågningsmyndigheder, der er udpeget i henhold til forordningen, alle bør have håndhævelsesbeføjelser som fastsat i forordningen om kunstig intelligens og forordning (EU) 2019/1020 om markedsovervågning og produktoverensstemmelse (markedsovervågningsforordningen).

Det følger af markedsovervågningsforordningens artikel 14, stk. 4, litra d og e, at markedsovervågningsmyndigheden som minimum skal tillægges beføjelsen til uden forudgående varsel at foretage inspektion på stedet og fysisk kontrol af produkter, samt beføjelsen til at få adgang til alle lokaler, arealer eller transportmidler, som den pågældende erhvervsdrivende anvender som led i sit erhverv, sin forretning, sit livsværk eller sit fag, for at identificere manglende overensstemmelse og indhente dokumentation.

Det foreslås i stk. 1, at markedsovervågningsmyndighederne til enhver tid mod behørig legitimation og uden retskendelse har adgang til alle erhvervsmæssige lokaliteter hos fysiske og juridiske personer omfattet af artikel 2, stk. 1, litra a-f, i forordningen om kunstig intelligens, når det er nødvendigt for at påse overholdelse af forordningen om kunstig intelligens, denne lov eller regler udstedt i medfør af loven.

Den foreslåede bestemmelse har til formål at sikre, at markedsovervågningsmyndighederne kan udføre en effektiv kontrol med overholdelse af forordningen om kunstig intelligens. Bestemmelsen sikrer, at markedsovervågningsmyndighederne har adgang til alle erhvervsmæssige lokaliteter hos fysiske og juridiske personer omfattet af artikel 2, stk. 1, litra a-f, i forordningen om kunstig intelligens, når det er nødvendigt for at påse overholdelse af forordningen om kunstig intelligens, denne lov eller regler udstedt i medfør heraf.

Den foreslåede ordning vurderes at være proportional, da markedsovervågningsmyndighederne alene vil kunne anvende kontroladgangen i sager, hvor det er afgørende for kontrollens effektivitet. Ligeledes vurderes ordningen at være nødvendig af hensyn til formålet med forordningen om kunstig intelligens, da adgangen til kontrolbesøg skal sikre beskyttelse af borgere mod farerne ved forbudte AI-systemer. Det bemærkes, at krav om forudgående retskendelse er ressourcekrævende, og en fastholdelse af et krav om retskendelse kan derfor medføre en unødig forsinkelse af myndighedens kontrolindsats. Herudover vil et krav om forudgående retskendelse blot være af formel karakter, da kontroladgangen netop er nødvendig af hensyn til effektiv kontrol med overholdelse af forordningen om kunstig intelligens.

På ovenstående baggrund vurderes det, at den foreslåede ordning med kontrolbesøg uden retskendelse fremmer en effektiv håndhævelse af forordningen om kunstig intelligens, beskytter samfundets og borgernes interesser, forebygger misbrug og skaber en afskrækkende effekt mod overtrædelser af forordningen om kunstig intelligens. Det er dog afgørende, at disse besøg sker under betryggende retssikkerhedsgarantier.

Adgangen til kontrolbesøg uden retskendelse vil således ske under strenge retningslinjer og kun efter en konkret vurdering. Kontrolbesøg skal altid dokumenteres, og virksomheder har mulighed for at klage over kontrolbesøg. Kontrolbesøg i henhold til § 6, stk. 1, vil således forudsætte, at markedsovervågningsmyndighederne i det konkrete tilfælde vurderer, at det ikke er muligt at udøve effektiv kontrol med mindre indgribende midler. Markedsovervågningsmyndighederne skal derfor i det konkrete tilfælde vurdere, at kontrolbesøget er nødvendigt af hensyn til formålet med kontrolbesøget samt proportionalt. Dette vil indebære, at markedsovervågningsmyndighederne forinden skal forsøge at indhente oplysninger efter lovforslagets § 5, medmindre formålet med kontrollen ikke kan opnås herved i det konkrete tilfælde.

Den foreslåede bestemmelse giver markedsovervågningsmyndighederne adgang til alle lokaler eller arealer, som den erhvervsdrivende anvender som led i sit erhverv, sin forretning, sit håndværk eller sit fag. Det vil blandt andet omfatte fabrikations-, salgs- og lagerlokaliteter og kan eksempelvis også være kontorlokaler, baglokaler eller udendørs områder tilhørende den erhvervsdrivende. Bestemmelsen giver dog ikke en udvidet adgang til lokaler hos private.

Anvendelsen af den foreslåede bestemmelse vil skulle ske under hensyntagen til bestemmelserne i retssikkerhedsloven, herunder de almindelige regler om fravigelse af varsling af tilsyn. Herudover skal særligt retssikkerhedslovens § 10, om retten til ikke at inkriminere sig selv, iagttages ved anvendelsen af bestemmelsen.

Det vil kun være muligt for markedsovervågningsmyndighederne at anvende den foreslåede bestemmelse til at tilvejebringe oplysninger til brug for kontrollen. Det betyder, at bestemmelsen kan anvendes med henblik på at konstatere, om AI-systemer, der henhører under anvendelsesområdet i forordningen om kunstig intelligens, er i overensstemmelse med reglerne, eller om en erhvervsdrivende lever op til sine forpligtelser. Det kan f.eks. være en kontrol, hvor der er behov for at føre tilsyn med AI-systemer fra en lokalitet uden offentlig adgang. Det skal således være formålet med adgangen, at der skal indhentes oplysninger, der er nødvendige for selve kontrollen. Adgangshjemlen gælder både i relation til proaktive kontroller, hvor markedsovervågningsmyndighederne har planlagt kontrolopgaven på forhånd, og reaktive kontrolopgaver, som oftest sker efter en udefrakommende begivenhed, som f.eks. en anmeldelse eller ulykke.

Hvis det ud fra en samlet betragtning af blandt andet ovenstående elementer vurderes, at det vil være nødvendigt at kontrollere AI-systemer fra ikke-offentligt tilgængelige lokaliteter, vil markedsovervågningsmyndighederne således kunne anvende bestemmelsen.

Konkret vil det f.eks. være nødvendigt, hvis markedsovervågningsmyndighederne ikke kan foretage en effektiv kontrol, fordi der kræves en teknisk vurdering af AI-systemet med assistance fra en teknisk ekspert.

Den foreslåede bestemmelse giver desuden mulighed for, at kontrollen kan finde sted uanmeldt, såfremt myndigheden konkret vurderer, at formålet med kontrollen forspildes ved en forudgående anmeldelse over for den kontrolunderlagte. Det er afgørende for kontrollens effektivitet, at kontrollen kan ske uanmeldt, da varsling kan give virksomheder mulighed for at fjerne dokumentationen for overtrædelserne.

Markedsovervågningsmyndighederne vil kunne foretage uanmeldt kontrol, hvor der vurderes at foreligge dokumentation for en overtrædelse hos den kontrolunderlagte. Konkrete eksempler kan være, hvis en udbyder forsætligt tilgængeliggør et forbudt AI-system, og markedsovervågningsmyndigheden har en formodning om, at dette foreligger dokumenteret hos udbyderen. Myndighedens formodning kan eksempelvis være baseret på oplysninger modtaget fra presseomtale.

Uanmeldte kontrolbesøg tænkes alene anvendt, når der er risiko for, at dokumentationen for den formodede overtrædelse vil kunne bortskaffes eller gå tabt ved en anmeldt kontrolundersøgelse. Hvis dette ikke er tilfældet, skal myndigheden anmelde kontrolbesøget.

Hvis det derimod ikke vil være nødvendigt, herunder proportionalt med det markedsovervågningsmyndigheden vil opnå ved at få adgang til de pågældende lokaler, vil bestemmelsen ikke kunne anvendes. Markedsovervågningsmyndighederne er så henvist til at føre tilsyn fra lokaler, der er offentligt tilgængelige, eller til at afkræve oplysninger i medfør af den foreslåede § 5.

Det foreslås i stk. 2, at markedsovervågningsmyndighederne som led i kontrolbesøget kan foretage tekniske undersøgelser af et AI-system på stedet.

Den foreslåede bestemmelse har til formål at sikre, at markedsovervågningsmyndighederne kan udføre effektiv kontrol ved at sikre, at markedsovervågningsmyndighederne kan foretage tekniske undersøgelser under kontrolbesøg, jf. stk. 1, med henblik på at påse overholdelse af forordningen om kunstig intelligens, denne lov eller regler udstedt i medfør af loven.

Den foreslåede bestemmelse vil kunne anvendes, når markedsovervågningsmyndighederne vurderer, at det er nødvendigt at foretage en teknisk undersøgelse som led i et kontrolbesøg, jf. stk. 1, for at sikre en korrekt sagsoplysning med henblik på at kunne vurdere, om der foreligger en overtrædelse af forordningen om kunstig intelligens, denne lov eller regler udstedt i medfør af loven. Det vil blandt andet kunne omfatte undersøgelser af datasæt og algoritmer til brug for vurdering af, hvorvidt et AI-system anvendes til brug for følelsesgenkendelse.

Bestemmelsen vil eksempelvis være anvendelig i tilfælde af, at omstændigheder under kontrolbesøget nødvendiggør, at undersøgelser eller tests udføres på stedet, mens kontrolbesøget pågår. Det kan eksempelvis være, hvis udbyderens datasæt er af en sådan størrelse, at markedsovermyndigheden ikke har den tekniske kapacitet eller IT-faciliteter til at modtage datasættet og udføre tests heraf internt hos markedsovervågningsmyndigheden selv.

Det foreslås i stk. 3, at markedsovervågningsmyndighederne kan være bistået af en eller flere uafhængige sagkyndige i forbindelse med adgangen efter stk. 1 og tekniske undersøgelser efter stk. 2.

I forbindelse med kontrol, der kræver særligt udstyr eller specialistviden, kan markedsovervågningsmyndighederne have behov for bistand fra en eller flere sagkyndige med henblik på at oplyse sagen i tilstrækkeligt omfang. Den eller de sagkyndige har med den foreslåede bestemmelse adgang til samme sted som markedsovervågningsmyndigheden, så længe den eller de sagkyndige ledsages af mindst en medarbejder fra markedsovervågningsmyndigheden.

Det beror på en konkret og individuel vurdering, om en sagkyndig er uafhængig. Eksempelvis kan markedsovervågningsmyndigheden ikke medbringe en sagkyndig til et kontrolbesøg hos en erhvervsdrivende, hvis den pågældende sagkyndige samtidig er konkurrent til den erhvervsdrivende. Er der tale om et område, hvor der er meget få sagkyndige, vil der således skulle foretages en afvejning af, hvor stort behovet er for at medbringe en sagkyndig over for beskyttelsen af den erhvervsdrivendes forretningshemmeligheder, der må anses som tungtvejende.

Det foreslås i stk. 4, at politiet om nødvendigt yder bistand til kontrollens gennemførelse.

Politiets bistand kan være aktuel i en situation, hvor markedsovervågningsmyndighederne nægtes adgang til en lokalitet ad frivillighedens vej. Der kan i sådanne særlige tilfælde være behov for, at politiet anvender magt for at få adgang til lokaliteten.