AI-verktøy i arbeidslivet krever strengere kontroll mot diskriminering

Bedrifter som implementerer AI-verktøy i HR-prosesser, fra rekruttering til medarbeiderevalueringer, må forberede seg på skjerpede krav. Disse verktøyene kan strømlinjeforme prosesser, men de skaper også risiko for diskriminering, personvernbrudd og manglende effektivitet. Amerikanske og europeiske myndigheter er i ferd med å innføre strengere regler. For eksempel krever New York Citys Local Law 144 uavhengige revisjoner av AI-systemer for ansettelser og forfremmelser, der resultatene må offentliggjøres. EUs AI Act klassifiserer mange HR-verktøy som høyrisiko og vil kreve menneskelig overvåking og informasjon til ansatte fra 2027. Dette betyr at norske arbeidsgivere må ta proaktive grep for å sikre at AI-verktøy ikke uforvarende diskriminerer kandidater basert på for eksempel alder eller etnisitet. En AI som foretrekker kandidater fra et bestemt postnummer, risikerer å diskriminere indirekte hvis dette korrelerer med beskyttede egenskaper. Det er derfor avgjørende å utføre løpende skjevhetstesting, ikke bare ved innkjøp, men også som en del av den løpende driften, da modellene og dataene de behandler endrer seg over tid. Før anskaffelse av nye AI-verktøy bør bedrifter vurdere om verktøyet kan forklare sine beslutninger, hvordan det sikrer personvern, og om det er rom for menneskelig overprøving. En betydelig utfordring er at mange lover ikke bare omfatter AI som fullt ut erstatter menneskelige beslutninger, men også systemer som "vesentlig påvirker" eller "fasiliteterer" dem. Dette utvider spekteret av verktøy som faller inn under regelverket, og øker behovet for grundig due diligence og robust etisk forvaltning.