Upotreba sistema vještačke inteligencije (Artificial Intelligence – AI) u svijetu rada više nije futuristička tema, već svakodnevna praksa. U Evropi i širom svijeta AI se sve češće koristi u zapošljavanju i selekciji radnika, procjeni učinka i produktivnosti, raspoređivanju smjena, ali i u nadzoru radnika putem kamera, softvera za praćenje ponašanja ili analize podataka.

Upravo zbog ozbiljnih rizika i uticaja koje takva tehnologija donosi po prava, dostojanstvo i sigurnost radnika, Evropska unija je 13. jula 2024. godine usvojila EU AI Act, prvi sveobuhvatni propis koji reguliše upotrebu vještačke inteligencije.

Posebna pažnja posvećena je radnim odnosima, jer se upravo tu AI sistemi mogu pretvoriti u alat kontrole, diskriminacije i dehumanizacije rada. EU AI Act šalje jasnu poruku da tehnologija mora služiti čovjeku, a ne obrnuto.

1. Zabrane i stroga ograničenja u nadzoru radnika

EU AI Act izričito zabranjuje određene AI prakse koje se smatraju neprihvatljivim rizikom, a druge podvrgava režimu strogih uslova i nadzora.

Zabranjeno je korištenje AI sistema za:

• emocionalno prepoznavanje i profiliranje radnika na radnom mjestu ili u vezi s radnim odnosom (analiza stresa, raspoloženja, lojalnosti ili psihološkog stanja)
• biometrijsku kategorizaciju radnika na osnovu osjetljivih ličnih karakteristika
• prikrivenu ili obmanjujuću upotrebu AI sistema nad radnicima

Upotreba AI sistema za nadzor radnika, uključujući praćenje rada, ponašanja ili učinka, smatra se visokorizičnom i dozvoljena je isključivo ako su ispunjeni svi zakonom propisani uslovi, uključujući:

• jasno definisanu svrhu
• zakonit pravni osnov
• transparentnost prema radnicima
• stvarni ljudski nadzor
• poštivanje radnog prava, prava na privatnost i propisa o zaštiti podataka

Radnik mora biti unaprijed informisan o tome da se koristi AI sistem, u koju svrhu i kakav uticaj taj sistem ima ili može imati na njegov radni status.

2. Zabrana automatizovanog odlučivanja o pravima radnika

Jedno od temeljnih načela EU AI Acta jeste obaveza ljudskog nadzora nad AI sistemima koji utiču na prava i obaveze radnika. Nije dozvoljeno donošenje odluka koje proizvode pravne ili slične značajne posljedice po radnika isključivo na osnovu automatizovane obrade.

Zabranjeno je:

• automatsko donošenje odluka o otkazu
• automatsko proglašavanje tehnološkog viška
• automatska degradacija ili premještaj
• automatsko smanjenje plate, dodataka ili bonusa
• automatsko izricanje disciplinskih mjera
• formalno potvrđivanje odluka AI sistema bez stvarne ljudske procjene i odgovornosti

AI sistem može služiti kao pomoćno sredstvo u odlučivanju, ali odluku mora donijeti odgovorno ljudsko lice, odluka mora biti obrazložena, mora postojati mogućnost preispitivanja, izmjene ili poništavanja algoritamske procjene, a radnik mora imati pravo na prigovor i pravnu zaštitu.

Automatizovane odluke su dozvoljene samo kada se radi o tehničkim ili organizacionim pitanjima koja nemaju pravne posljedice po radnika (poput automatskog raspoređivanja zadataka ili optimizacije smjena).

Zabrana “automatskog otkaza” proizilazi iz kombinacije EU AI Acta i GDPR-a (General Data Protection Regulation, član 22.) koji daje pravo da osoba ne može biti predmet odluke isključivo zasnovane na automatizovanoj obradi.

3. Pravo na informisanost i transparentnost

EU AI Act propisuje obavezu transparentnosti u korištenju AI sistema.

Radnici imaju pravo da budu informisani:

• da li se u radnom procesu koristi AI
• koje vrste AI sistema se koriste
• u koje svrhe se AI koristi
• da li i na koji način AI utiče na ocjenu rada, radne obaveze ili prava

Upotreba netransparentnih ili „tajnih“ algoritama koji utiču na radnike nije dozvoljena – transparentnost nije pitanje dobre volje poslodavca, već zakonska obaveza.

4. Odgovornost za diskriminaciju i nezakonite posljedice

EU AI Act posebno naglašava zabranu diskriminacije.

• Poslodavac je odgovoran za zakonitu upotrebu AI sistema
• Za sprečavanje diskriminatornih efekata
• Za dokazivanje da AI sistem ne proizvodi pristrasne rezultate

Ako AI sistem dovede do diskriminacije po osnovu spola, starosti, zdravstvenog stanja, porijekla, invaliditeta, sindikalne aktivnosti ili bilo koje druge zaštićene osnove, odgovornost snosi poslodavac, bez mogućnosti prebacivanja krivice na algoritam, softver ili treće lice.

5. Uloga sindikata i socijalnog dijaloga

EU AI Act se primjenjuje u kombinaciji s nacionalnim radnim zakonodavstvom i kolektivnim radnim pravom.

• Upotreba AI u radnim odnosima predstavlja legitimnu temu socijalnog dijaloga
• Sindikati i radnički predstavnici imaju pravo da budu informisani i konsultovani
• Pitanja uvođenja, obima i načina korištenja AI mogu se uređivati kolektivnim ugovorima

AI sistemi ne smiju biti uvedeni kao jednostrana odluka uprave bez uključenja radničkih predstavnika u skladu s važećim propisima.

6. Sankcije za kršenje EU AI Acta

• Novčane kazne do 35 miliona eura
• Ili do 7% ukupnog godišnjeg globalnog prometa
• Zabranu korištenja nezakonitog AI sistema

7. Posebni standardi za industriju i proizvodna radna mjesta

Korištenje AI sistema u industriji i proizvodnji mora biti u skladu s principom zaštite zdravlja i sigurnosti radnika.

Nije dozvoljeno korištenje AI sistema koji forsiraju tempo rada preko propisanih sigurnosnih normi, ignorišu umor, fizičko opterećenje, vrućinu, buku ili druge rizike, niti optimizuju proizvodnju na štetu sigurnosti radnika. EU AI Act zahtijeva da visokorizični sistemi, uključujući sigurnosne komponente u mašinama, prođu procjenu uticaja na osnovna prava radnika, uključujući pravo na fizički integritet i zdrave uslove rada.

AI se ne smije koristiti kao stalni digitalni nadzornik za kontinuirano praćenje brzine rada i pokreta, bodovanje radnika u realnom vremenu ili automatsko rangiranje radnika.

Kod ocjenjivanja učinka, kriteriji moraju biti jasni, mjerljivi i provjerljivi, a algoritamske procjene moraju biti objašnjive. Nije dozvoljeno korištenje skrivenih kriterija ili istorijskih podataka koji proizvode diskriminaciju. AI ne može potisnuti stručno znanje i iskustvo radnika, zamijeniti profesionalnu procjenu majstora i inženjera, niti degradirati kvalifikacije radnika u korist automatizacije.

8. Obuka, zaštita i odgovornost

• Prethodna obuka radnika
• Prilagođavanje radnih normi
• Zaštita postojećih radnih mjesta
• Prekvalifikacija i dokvalifikacija

Digitalizacija ne smije imati za posljedicu masovno otpuštanje niti gubitak prava radnika.

Odgovornost za odluke donesene uz pomoć AI uvijek ostaje ljudska. Nije dozvoljeno pozivanje na AI sistem uz obrazloženje da je „sistem tako odlučio“.

Zaključno, EU AI Act jasno uspostavlja granicu između dopuštene tehnološke podrške i nedopuštene automatizovane kontrole nad ljudima. On postavlja temelje koji će oblikovati budućnost radnih odnosa ne samo u EU, već i šire. Razumijevanje ovih propisa ključno je za zaštitu prava radnika u eri digitalizacije. Vještačka inteligencija može pomagati u radu, ali ne smije odlučivati umjesto ljudi kada su u pitanju prava, status, sigurnost, dostojanstvo i egzistencija radnika.

Obradio:
Kenan Mujkanović, dipl. pravnik