Her gennemgår vi AI-forordningens nøgleelementer, så du nemt kan navigere i EU’s regler og sikre korrekt anvendelse af kunstig intelligens. Hvis du ønsker at slå op i AI-forordningen, så kan du gøre det her: Gå til AI-forordningen.
Introduktion til AI-regler
En oversigt over AI-forordningens grundlæggende principper og formål.
Risikovurdering
Detaljer om klassificering af AI-systemer efter risiko niveau og krav.
Overvågning og overholdelse
Information om kontrolmekanismer og ansvar ved brug af AI.
Hvad er AI-forordningen?
Her får du et let overblik over forordningens kapitler. Vælg det kapitel, du vil vide mere om, og fold det ud. Under hvert kapitel finder du en kort forklaring i klart sprog og med fokus på praksis.
Kapitel 1: Almindelige bestemmelser
Artikel 1: Gentand
Forordningen skal:
– Beskytte mennesker og deres rettigheder, når kunstig intelligens anvendes.
– Skabe fælles regler for kunstig intelligens i hele EU.
– Fremme sikker, ansvarlig og menneskecentreret kunstig intelligens.
– Gøre det nemmere at udvikle og bruge kunstig intelligens i alle EU-lande.
Artikel 2: Anvendelsesområde
AI-Forordningen gælder for:
– Alle, der udvikler, sælger eller bruger kunstig intelligens i EU.
– Også hvis kunstig intelligens kommer fra et land uden for EU, men bruges i EU.
AI-Forordningen gælder ikke for:
– Kunstig intelligens, som bruges til militære formål.
– Privat brug af kunstig intelligens, som ikke har noget med arbejde eller erhverv at gøre.
Artikel 3: Definitioner
Her forklares nøglebegreber, bl.a.:
– AI-system: Et system, som bruger data til at give output, fx beslutninger, anbefalinger eller forudsigelser – med en vis grad af selvstændighed.
– Udbyder: Den, som udvikler eller sælger AI-systemet.
– Idriftsætter: Den, som bruger AI-systemet.
– Der er også definitioner af fx biometrisk data, højrisikosystemer og brugere.
Artikel 4: Forhold til anden EU-lovgivning
Forordningen gælder sammen med andre EU-love. Den ophæver ikke andre regler, men supplerer dem.
Hvis der er forskel mellem AI-forordningen og andre EU-regler, gælder den regel, som giver bedst beskyttelse af personer og samfundsinteresser.
Kapitel 2: Forbudte former for AI-praksis
Artikel 5: Forbudte former for AI-praksis
Denne artikel oplister AI-praksisser, som er forbudt i hele EU. Disse praksisser anses for at være i strid med grundlæggende rettigheder og værdier i EU.
Følgende typer AI er forbudt:
1. Skjult manipulation af mennesker
> AI, som bevidst påvirker menneskers adfærd på en måde, der kan skade dem.
> For eksempel hvis et AI-system bruger psykiske tricks til at få en person til at handle imod sine egne interesser.
2. Udnyttelse af sårbarheder
> AI, som udnytter særlige grupper, for eksempel børn eller personer med handicap, fordi de er lettere at påvirke.
3. Social Scoring
> AI, som vurderer og rangerer personer baseret på deres sociale adfærd eller karakter.
> For eksempel hvis en myndighed bruger AI til at bestemme, hvem der fortjener goder eller straffes.
4. Biometrisk fjernidentifikation i realtid i det offentlige rum til politiarbejde
> Det er som udgangspunkt forbudt at bruge AI til at genkende personer med ansigtsgenkendelse eller lignende i realtid i offentlige områder.
> Artikel 5: Forbudte former for AI-praksis
Denne artikel oplister AI-praksisser, som er forbudt i hele EU. Disse praksisser anses for at være i strid med grundlæggende rettigheder og værdier i EU.
Følgende typer AI er forbudt:
1. Skjult manipulation af mennesker
> AI, som bevidst påvirker menneskers adfærd på en måde, der kan skade dem.
> For eksempel hvis et AI-system bruger psykiske tricks til at få en person til at handle imod sine egne interesser.
2. Udnyttelse af sårbarheder
> AI, som udnytter særlige grupper, for eksempel børn eller personer med handicap, fordi de er lettere at påvirke.
3. Social Scoring
> AI, som vurderer og rangerer personer baseret på deres sociale adfærd eller karakter.
> For eksempel hvis en myndighed bruger AI til at bestemme, hvem der fortjener goder eller straffes.
4. Biometrisk fjernidentifikation i realtid i det offentlige rum til politiarbejde
> Det er som udgangspunkt forbudt at bruge AI til at genkende personer med ansigtsgenkendelse eller lignende i realtid i offentlige områder.
> Der er enkelte undtagelser, men de kræver særlig tilladelse og skal overholde strenge betingelser
5. Brug af AI til at bestemme, hvem der må straffes
> For eksempel systemer, som automatisk vurderer en persons risiko for at begå kriminalitet, uden mulighed for menneskelig vurdering og kontrol.
6. Biometrisk kategorisering
> AI-systemer, som forsøger at gruppere personer efter følsomme oplysninger som race, religion eller seksuel orientering, er forbudt, medmindre der er et meget specifikt og lovligt formål.
Kapitel 3: Højrisiko-AI-systemer
Kapitel 3 handler om AI-systemer, der vurderes som højrisiko. Det vil sige systemer, som kan få alvorlige konsekvenser for mennesker eller samfund, hvis de ikke virker korrekt.
Kapitlet er delt op i tre afdelinger:
1. Klassificering af højrisiko-AI-systemer
2. Krav til højrisiko-AI-systemer
3. Undtagelser og særlige forhold
Afdeling 1: Klassificering som højrisiko
Artikel 6: Hvornår er et AI-system højrisiko?
Et AI-system er højrisiko, hvis:
1. Det er en del af et produkt, som allerede er omfattet af EU’s regler om produktsikkerhed (f.eks. medicinsk udstyr, biler, legetøj eller maskiner).
2. Det bruges i særligt følsomme områder, som EU har oplistet. Det gælder blandt andet:
> Adgang til uddannelse (f.eks. optagelsesprøver)
> Ansættelse og jobrekruttering
> Adgang til offentlige ydelser og sociale ydelser
> Kreditvurdering
> Retshåndhævelse (f.eks. politiets brug)
> Migration og grænsekontrol
> Retsvæsenet og retlige afgørelser
Artikel 7: Ændring af listen over højrisikoanvendelser
EU-Kommissionen kan udvide eller ændre listen over højrisikoområder, hvis der opstår nye teknologier eller risici.
Afdeling 2: Krav til højrisiko-AI-systemer
Denne afdeling stiller krav, der skal overholdes, før et højrisiko-AI-system må tages i brug.
Artikel 8: Risikostyringssystem
Udbyderen skal indføre et system, der identificerer og begrænser risici ved AI-systemet. Systemet skal følge hele AI-systemets livscyklus – fra udvikling til brug.
Artikel 9: Datastyring
AI-systemer skal trænes og testes på relevante, korrekte og repræsentative data. Dataene må ikke føre til diskrimination eller forkerte resultater.
Artikel 10: Teknisk dokumentation
Udbyderen skal lave og opdatere dokumentation, som viser, at systemet overholder reglerne. Dokumentationen skal være tilgængelig for tilsynsmyndighederne.
Artikel 11: Overensstemmelsesvurdering
Udbyderen skal teste og dokumentere, at systemet overholder alle krav. Der findes forskellige procedurer, afhængigt af systemets type.
Artikel 12: Logning
AI-systemet skal kunne gemme logfiler, så man kan se, hvordan det har truffet beslutninger. Dette skal gøre det muligt at spore fejl og uregelmæssigheder.
Artikel 13: Gennemsigtighed og brugervejledning
Systemet skal være gennemsigtigt. Brugeren skal kunne forstå, hvordan det virker. Der skal følge tydelige vejledninger med, så brugeren ved, hvordan systemet skal bruges korrekt og sikkert.
Artikel 14: Menneskelig kontrol
Der skal altid være mulighed for, at et menneske kan overvåge og gribe ind, hvis AI-systemet opfører sig forkert. Systemet må ikke fungere helt uden menneskelig opsyn.
Artikel 15: Robusthed, nøjagtighed og cybersikkerhed
AI-systemet skal være teknisk stabilt og sikkert. Det skal kunne modstå fejl, angreb og uventede situationer – og stadig fungere korrekt.
Afdeling 3: Forpligtelser for udbydere og idriftsættere af højrisiko-AI-systemer og andre parter
Artikel 16: Brug af højrisiko-AI internt i organisationer
Hvis en virksomhed eller myndighed bruger et højrisiko-AI-system, som de selv har udviklet og kun bruger internt, gælder nogle af kravene i kapitel 3 ikke fuldt ud. De skal dog stadig sikre, at systemet er sikkert og overholder grundlæggende rettigheder.
Artikel 17: Ændringer i AI-systemer
Hvis man ændrer væsentlige dele af et højrisiko-AI-system (f.eks. funktion, formål eller datakilder), skal man gennemføre en ny vurdering af, om det stadig overholder reglerne.
Opsummering
Kapitel 3 er centralt i AI-forordningen. Det fastlægger:
> Hvornår et AI-system er højrisiko
> Hvilke krav der gælder
> Hvordan systemerne skal udvikles, testes, dokumenteres og overvåges
> At mennesker altid skal kunne gribe ind
> At der skal være gennemsigtighed og sikkerhed
Disse krav skal beskytte borgerne og sikre, at kunstig intelligens anvendes ansvarligt og retfærdigt i samfundet.
Kapitel 4: Gennemsigtighedsforpligtelse for udbydere og idriftsættere af visse AI-systemer
Kapitel 4 handler om, hvem der har ansvar, og hvad de skal gøre, når et højrisiko-AI-system udvikles, sælges, importeres eller tages i brug.
Kapitlet gælder for alle aktører i AI-systemets livscyklus, både udviklere, leverandører og brugere.
Formålet er at sikre, at højrisiko-AI overholder loven hele vejen, fra udvikling til faktisk brug i samfundet.
Artikel 18: Generelle forpligtelser for udbydere
Udbydere af højrisiko-AI-systemer skal:
> Sikre, at systemet overholder alle krav i AI-forordningen
> Have teknisk dokumentation klar
> Gennemføre overensstemmelsesvurdering
> Registrere systemet i EU-databasen, før det bruges
> Sørge for, at systemet fortsat opfylder kravene, også efter det er sat i drift
> Undersøge og rapportere alvorlige hændelser og fejl
Artikel 19: Kvalitetsstyringssystem
Udbyderen skal have et internt system, som sikrer, at AI-systemet hele tiden udvikles og vedligeholdes korrekt og sikkert.
Artikel 20: Overensstemmelseserklæring
Udbyderen skal udfylde og underskrive en erklæring, hvor de selv bekræfter, at AI-systemet overholder loven.
Artikel 21: Registrering i EU-database
Før et højrisiko-AI-system må tages i brug, skal udbyderen registrere det i en central EU-database. Oplysningerne skal være tydelige og opdaterede.
Artikel 22: Afhjælpende foranstaltninger
Hvis udbyderen opdager, at systemet ikke overholder reglerne, skal vedkommende:
> Trække systemet tilbage fra markedet, eller
> Rette fejlen, og
> Informere myndighederne og brugerne
Afdeling 2: Forpligtelser for importører og distributører
Artikel 23: Importørens ansvar
Importøren (den der bringer systemet ind i EU) skal:
> Sikre, at det importerede AI-system er lovligt og korrekt CE-mærket
> Opbevare dokumentation i 10 år
> Handle, hvis der opstår problemer med systemet
Artikel 24: Distributørens ansvar
Distributører (dem der videresælger systemet) skal:
> Tjekke, at produktet er korrekt mærket og dokumenteret
> Handle, hvis de bliver opmærksomme på mangler
> Standses salg, hvis systemet er ulovligt
Artikel 25: Identifikation i værdikæden
Alle aktører (udbydere, importører, distributører) skal kunne vise, hvor de har fået systemet fra, og hvem de har solgt det til. Dette skal dokumenteres i mindst 10 år.
Artikel 26: Ændringer i AI-systemet
Hvis systemet ændres væsentligt, er det den, der foretager ændringen, som overtager ansvaret som udbyder. En væsentlig ændring kan være ændring af formål, funktion eller data.
Afdeling 4: Idriftsætterens (brugerens) ansvar
Artikel 27: Idriftsætterens forpligtelser
Den, der bruger et højrisiko-AI-system, skal:
> Følge udbyderens vejledning
> Overvåge systemets funktion og fejl
> Gennemføre egen vurdering af risici, hvis systemet bruges på en ny måde
> Rapporter fejl og uønskede hændelser til udbyderen og myndighederne
Afdeling 5: Autoriseret repræsentant
Artikel 28: Repræsentantens ansvar
Hvis udbyderen er etableret uden for EU, skal vedkommende have en autoriseret repræsentant i EU.
Denne repræsentant skal:
> Være kontaktpunkt over for myndigheder
> Sikre, at udbyderen opfylder alle krav
> Have adgang til dokumentation
Afdeling 6: Specifikke regler for visse brugssituationer
Artikel 29: Brug til test i virkelige omgivelser
Et højrisiko-AI-system må testes i virkelige omgivelser, hvis:
> Det sker under sikre forhold
> Registrerede personer er beskyttet
> Der er givet tilladelse fra relevante myndigheder
Opsummering
Kapitel 4 fastlægger hvem der har ansvar for hvad, når det gælder højrisiko-AI.
Det omfatter:
> Udbydere
> Importører
> Distributører
> Brugere (idriftsættere)
> Repræsentanter
Målet er at sikre, at AI bruges forsvarligt og kontrolleret hele vejen fra udvikling til praktisk anvendelse – og at der altid er klarhed over, hvem der har ansvar, hvis noget går galt.
Kapitel 5: AI-modeller til almen brug
XXXX
Kapitel 6: Foranstaltninger til støtte for innovation
XXXX
Kapitel 7: Forvaltning
XXXX
Kapitel 8: EU-Database for højrisiko-AI-systemer
XXXX
Kapitel 9: Overvågning efter omsætningen, udveksling af oplysninger og markedsovervågning
XXXX
Kapitel 10: Adfærdskodekser og retningslinjer
XXXX
Kapitel 11: Delegation af beføjelser og udvalgsprocedure
XXXX
Kapitel 12: Sanktioner
XXXX
Kapitel 13: Afsluttende bestemmelser
XXXX