Endringene innebærer blant annet følgende:
- Reglene for frittstående høyrisiko-AI-systemer etter Annex III gjelder fra 2. desember 2027 (eksempelvis AI i utdanning og HR), og høyrisiko-AI-systemer som inngår i regulerte produkter etter Annex I, omfattes fra 2. august 2028.
- Vurderingen av hva som utgjør en sikkerhetskomponent presiseres. Dette innebærer blant annet at produkter med AI-funksjoner som kun bistår brukere eller optimaliserer ytelse ikke anses som høyrisiko-AI, forutsatt at feil eller svikt ikke medfører risiko for helse eller sikkerhet.
- Forordningen skal redusere dobbeltregulering mellom AI-forordningen og sektorspesifikt regelverk, blant annet for medisinsk utstyr, maskiner og leker.
- Enkelte forenklede krav og andre lettelser utvides til små og mellomstore virksomheter (SMEs) og små mid-cap-virksomheter (SMCs).
- Det blir forbudt med AI-systemer som genererer eller manipulerer materiale som viser seksuelt misbruk av barn, samt ikke-samtykket intimt eller seksuelt eksplisitt innhold som fremstiller identifiserbare personer. Forbudet gjelder der slik generering er det tiltenkte formålet med AI-systemet, og der tilbyderne og idriftsettere ikke har iverksatt tilstrekkelige tekniske sikkerhetstiltak for å hindre generering av slikt innhold.
- Tilbydere og idriftsettere av AI-systemer har ikke lenger en plikt til å "sikre" AI-kompetanse, men får i stedet en plikt til å iverksette tiltak for å støtte utviklingen av tilstrekkelig AI-kompetanse blant ansatte og andre som bruker AI-systemer på deres vegne. EU-kommisjonen og medlemsstatene skal bidra med støtte og praktisk veiledning.
- Det åpnes for behandling av særlige kategorier av personopplysninger når dette er strengt nødvendig for å avdekke og korrigere skjevheter i AI-systemer, under nærmere angitte sikkerhetskrav.
- AI Office får utvidede tilsyns- og håndhevingsmyndigheter over enkelte AI-systemer knyttet til General Purpose AI-modeller, samt AI-systemer som utgjør eller er integrert i svært store nettplattformer og søkemotorer omfattet av Digital Services Act.