EU-lovgivning for å beskytte innbyggerne mot KI

Det er et ordtak som sier at ny teknologi ofte blir oppfunnet i USA, produsert i Kina og regulert i Europa.

Om dette alltid er tilfelle – og hvor effektiv lovgivningen i så fall er – gjenstår å se, men det som er sikkert, er at EU nå innfører lovgivning for å beskytte innbyggerne mot de negative konsekvensene av kunstig intelligens.

Den nye såkalte regulering av kunstig intelligens (artificial intelligence act) har nettopp blitt vedtatt av Det europeiske råd og vil tre i kraft før sommerferien.

Det ledende prinsippet i forordningen er at KI-teknologier skal kategoriseres etter hvor stor potensiell risiko en gitt teknologi utgjør for samfunnet. Jo større risiko, desto strengere regler.

Kunstig intelligens som kun utgjør en begrenset risiko, vil være underlagt svært enkle krav om åpenhet, mens kunstig intelligens med høy risiko vil bli godkjent, men underlagt en rekke krav og forpliktelser for å få tilgang til EU-markedet.

Vedtaket av KI-loven er en viktig milepæl for EU. Denne banebrytende loven, den første i sitt slag i verden, tar for seg en global teknologisk utfordring som også skaper muligheter for samfunnene og økonomiene våre. Med KI-loven understreker Europa viktigheten av tillit, åpenhet og ansvarlighet i forbindelse med ny teknologi, samtidig som vi sikrer at denne teknologien, som er i rask endring, kan blomstre og fremme europeisk innovasjon.» sier Mathieu Michel, Belgias digitaliseringsminister, i en pressemelding om den nye lovgivningen.

KI-teknologier som kognitiv atferdsmanipulering eller sosial scoring vil bli fullstendig forbudt i EU fordi risikoen anses som uakseptabel.

Loven forbyr også bruk av kunstig intelligens til såkalt prediktiv politiarbeid (tenk «Minority Report») basert på profilering og systemer som bruker biometriske data til å kategorisere mennesker i henhold til spesifikke kategorier som rase, religion eller seksuell legning.