Overholder din virksomhed de nye regler i AI-forordningen?
Fra den 2. februar 2025 skulle virksomheder og andre organisationer som enten udbyder eller benytter AI-systemer, sikre at deres personale har de fornødne AI-færdigheder. Det er Digitaliseringsstyrelsen, som varetager rollen som tilsynsmyndighed for AI-forordningen.
I 2023 blev verdens første regulering af kunstig intelligens udarbejdet af Europa-Parlamentet m.fl., hvilket er blevet til AI-forordningen.
AI-forordningens formål er at fastlægge ensartede retlige rammer for udvikling, omsætning, ibrugtagning og anvendelse af AI-systemer. Forordningen beskriver dermed, hvordan kunstig intelligens må og ikke må benyttes. Ligeledes er formålet med AI-forordningen at beskytte sundhed, sikkerhed, borgernes rettigheder og demokrati.
AI-forordningen bygger på en risikobaseret tilgang, da den sondrer mellem følgende fire risikokategorier:
- AI-systemer med minimal eller ingen risiko
- AI-systemer med begrænset risiko
- AI-systemer med høj risiko
- Forbudte AI-systemer
AI-systemer med minimal eller ingen risiko er ikke underlagt særlige krav i AI-forordningen. Eksempler på denne type AI-system er anbefalingssystemer i fx streamingplatforme, som bidrager med anbefalinger af enten musik eller film. Andre eksempler kunne være autokorrektur og navigation.
AI-systemer med begrænset risiko skal overholde specifikke gennemsigtighedskrav. Et eksempel på denne type AI-system er chatbots. Her skal brugeren af chatbotten oplyses om, at man kommunikerer med et AI-system. Det samme gør sig gældende for AI genereret materiale, hvor det skal oplyses, at materialet er genereret ved hjælp af AI. Ikrafttrædelsestidspunktet for reglerne forbundet til disse AI-systemer er den 2. august 2026.
AI-systemer med høj risiko er underlagt følgende krav: detaljeret dokumentation, risikostyring, overvågning og ansvarlighed. AI-systemer med høj risiko er AI-systemer, der anvendes kritisk infrastruktur, uddannelse, ansættelse, sikkerhedskomponenter i produkter og væsentlige private og offentlige tjenester. Ikrafttrædelsestidspunktet for reglerne forbundet til denne type AI-system delvist den 2. august 2026 og den 2. august 2027.
De forbudte AI-systemer udgør ifølge AI-forordningen en trussel mod sikkerhed, borgernes rettigheder eller værdighed, hvilket medfører forbuddet mod brugen af disse systemer. Et eksempel på denne type AI-system, er den AI der anvendes til masseovervågning. Ikrafttrædelsestidspunktet for reglerne forbundet til denne type AI-system er 2. februar 2025, hvorfor dette forbud allerede er trådt i kraft
AI-forordningens artikel 4 om AI-færdigheder er ligeledes trådt i kraft den 2. februar 2025. Bestemmelsen medfører, at alle organisationer der udbyder og benytter AI-systemer, skal sikre at deres personale har de nødvendige AI-færdigheder, herunder teknisk viden, erfaring og uddannelse. AI-forordningen fastlægger ikke en specifik procedure til at efterleve kravet om AI-færdigheder, hvilket efterlader organisationerne med en konkret vurdering af, hvad der er tilstrækkeligt i pågældende organisation. Der stilles imidlertid større krav til uddannelse mv. af medarbejdere, der anvender AI på områder med en større risiko. Hvis der fx er tale om et system til kreditvurdering af risikobetonede lån, vil kravene til AI-færdigheder være højere, end hvis systemet skal anvendes til at understøtte simple oversættelsesopgaver.
Hvis du vil vide mere om AI-forordningen, eller ønsker du hjælp eller rådgivning vedrørende kravet til medarbejders AI-færdigheder, kan du kontakte advokatfuldmægtig Christian Fig på cf@orato.dk, tlf. 93102287.
