Avstrija - algoritem razvrščanja, ki se uporablja v zaposlitveni agenciji
Avstrijska zaposlitvena agencija, znana po nemškem akronimu AMS, je državno podjetje, ki skrbi za iskanje iskalcev zaposlitve. Leta 2016 je agencija začela s programom za oceno določenih skupin na trgu dela. Kmalu pa bo uvedla še algoritem razvrščanja, ki ženskam in invalidom daje nižje ocene.
AMS bo začel samodejno dodeljevati rezultate vsakemu iskalcu zaposlitve na podlagi več lastnosti. Iskalci zaposlitve bodo glede na oceno pristali v eni od treh skupin: skupina A za ljudi, ki ne potrebujejo pomoči pri iskanju nove zaposlitve, skupina B za ljudi, ki bi se lahko preusmerili, in skupina C za ljudi, ki se štejejo za brezposelne ter bodo s strani AMS prejeli manj pomoči (mogoče bodo tovrstne delavce celo prepustiti drugim institucijam).
Algoritem je sestavljen iz niza statističnih modelov, ki temeljijo na preteklih evidencah zaposlitve, ki napovedujejo možnosti posameznika za iskanje zaposlitve. Algoritem je bil vzpostavljen za namen povečanja učinkovitosti agencije, saj ji omogoča, da ne zapravlja virov za podporo ljudem, ki niso ocenjeni kot dobro zaposljivi delavci.
Potencialna diskriminacija uporabe algoritemskega razvrščanja
Iz dela analize, ki je bil pred kratim tudi javno objavljen je razvidno, da se v skladu z algoritmom ženskam, invalidom in osebam, starejšim od 30 let, pa tudi ženskam z otroki prisuje negativni rezultat. V primerjavi z moškimi z otroki, katerim algoritem presenetljivo ne pripisuje negativnih točk.
Z drugimi besedami, bolj verjetno bo, da algoritem AMS brezposelne ženske razvrsti v nižjo skupino, tudi če se njene izkušnje in kvalifikacije ujemajo z moškimi.
Delavci naj bi imeli v tem primeru določeno diskrecijsko pravico glede uporabe algoritma, saj je vsaka oblika diskriminacije, neposredna ali posredna, prepovedana (gre za kršitev Direktive 2006/54, ki je glavni protidiskriminacijski instrument v Evropski uniji). Pravo EU in sodna praksa imata široko stališče do diskriminacije, saj jo dopuščata le v zelo specifičnih primerih, na primer pri rekrutiranju gledališča za moško vlogo. Algoritem bi tako težko zdržal utemeljitve, ki bi lahko dopuščala tovrstno diskriminacijo.
S podjetja AMS sporočajo, da je algoritem "skladen z vsemi protidiskriminacijskimi predpisi". Dodajajo še, da se bodo zavezali, da polovico svojih sredstev porabijo za podporo ženskam in da so ženske premalo zastopane med brezposelnimi v skupini C.
V Avstriji je bil algoritem AMS ostro kritiziran. Strokovnjaki in aktivisti, vključno z AlgorithmWatch, že dolgo opozarjajo, da algoritmi pod pretvezo znanstvenosti tvegajo ponovitev in širjenje strukturne nepravičnosti in predsodkov (vir).
Anglija - uvedba programske opreme za analizo video intervjujev (AI)
Podjetje Unilever trdi, da prihrani stotine tisoč funtov na leto z nadomeščanjem HR agentov s sistemom umetne inteligence (AI).
Uniliver je s programom za analizo videov za namen zaposlovanja ljudi v zadnjem letu prihranil več kot 100.000 ur. Sistem pregleda izraze obrazov kandidatov (obrvi, nasmehi in razširitev oči), govorico telesa in izbiro besed (aktivne ali pasivne fraze, ton glasu in hitrost) ter jih preveri z lastnostmi, ki se asociirajo z uspehom na delovnem mestu.
Iz podjetja so povedali, da so video intervjuji neobvezni, kandidati pa so morali dovoliti samodejno odločanja njihovega video intervjuja. Poslali so jim informacije o tem, kako se predhodno pripraviti na intervju, vedno pa so imeli možnost, da razgovor opravijo z HR službo podjetja. Sistem, naj bi zagotavljal bolj etnično in spolno raznoliko delovno silo.
Potencialna diskriminacija uporabe AI
Raziskave med tem ugotavljajo, da le 32% ljudi ve, da se AI na splošno uporablja za odločanje. Ozaveščenost o samodejnem odločanju na delovnih mestih in v kazenskem pravosodju je še manjša, in sicer 14% oziroma 9%. Uporaba algoritmov v postopkih odločanja pa z leti le narašča – v javnih storitvah, na trgu dela in v zdravstvu.
Prejšnji mesec je v poročilu, ki ga je naročil vladni Center za podatkovno etiko in inovacije, Royal United Services Institute, opozoril na "nepošteno diskriminacijo" glede analize podatkov in algoritmov pri policiji. Visoko sodišče je medtem razsodilo, da je uporaba programske opreme za prepoznavanje obraza v južnem Walesu zakonita, kljub trditvi, da je kršila zakone o varstvu podatkov in enakosti.
Tako tudi v Angliji ugotavljajo, da bi algoritmi lahko sprejemali pravičnejše in manj pristranske odločitve o stvareh, kot so povišanje plač ali napredovanje. Kljub temu pa Center priznava, da so programi za prepoznavanje obraza morda bolj objektivni kot človeški policisti.
Glede na vedno močnejše trende uporabe algoritmov pri zaposlovanju ter uporabe AI pri analizi zaposlitvenih intervjujev obstaja možnost, da bo tudi v Sloveniji to postala popolnoma običajna praksa.
Iz avstrijske in angleške praksa pa je vendarle razvidno, da uporabo nove tehnologije pri zaposlitvenih procesih ne smemo jemati tako zlahka. Programi nas lahko namreč hitro reducirajo na želeno ciljno publiko ter nas izločijo ter ocenijo kot nezaželen ti delavca.
Uporaba tehnologije v zaposlitvenem procesu more tako v prvi vrsti omogočati varstvo človekovih pravic, spodbujati etično in spolno raznolikost ter omogočati poštene zaposlitvene možnosti za vse delavce.
