Teisė ISSN 1392-1274 eISSN 2424-6050

2026, Vol. 138, pp. 75–96 DOI: https://doi.org/10.15388/Teise.2026.138.5

Darbuotojų algoritminė diskriminacija

Ineta Breskienė
Vilniaus universiteto Teisės fakulteto
Privatinės teisės katedros doktorantė
Saulėtekio al. 9, I rūmai, LT-10222 Vilnius, Lietuva
Tel.: (+370 5) 236 61 70
El. paštas: ineta.breskiene@tf.vu.lt

Algorithmic Discrimination against Employees

Ineta Breskienė
(Vilnius University (Lithuania))

Discrimination against candidates, employees, and platform workers is prohibited. In recent years, employers have increasingly relied on automated systems in employment relationships, and the outputs generated by these systems (including decisions, recommendations to employers, and others) may infringe on the principle of equal treatment. When automated systems produce discriminatory outcomes or base their outputs on prohibited grounds of discrimination, algorithmic discrimination arises. This article aims to formulate a definition of algorithmic discrimination in employment relationships and to analyse its forms of occurrence in the context of anti-discrimination law. The object of the study is the forms of occurrence of algorithmic discrimination in employment relationships and its assessment under international, European Union, and national legal acts establishing the prohibition of discrimination, as well as relevant case law. The article formulates and presents a definition of algorithmic discrimination, linking it to the generation of discriminatory outputs by automated systems, which result in negative consequences for protected groups distinguished by prohibited discrimination grounds. It examines forms of direct and indirect algorithmic discrimination in the context of employment relations. The study concludes that direct algorithmic discrimination arises when an automated system generates outputs based on prohibited discrimination grounds (for example, sex, age, and other aspects), whereas indirect algorithmic discrimination occurs when an apparently neutral practice (such as an algorithmic score and the criteria determining it) produces a disproportionately adverse effect on a group distinguished on prohibited discrimination grounds, and such an effect cannot be objectively justified.
Keywords: algorithmic discrimination, candidate, employee, platform workers, employer, automated system, output.

Darbuotojų algoritminė diskriminacija

Ineta Breskienė
(Vilniaus universitetas (Lietuva))

Kandidatų, darbuotojų, platformų darbuotojų diskriminacija yra draudžiama. Pastaruoju metu darbdaviai vis dažniau naudoja automatizuotas sistemas darbo santykiuose ir šios sistemos savo generuojamais išvediniais (sprendimais, rekomendacijomis darbdaviui ir kita) gali pažeisti asmenų lygiateisiškumo principą. Tais atvejais, kai automatizuotų sistemų veikimo rezultatai sukuria diskriminacinį poveikį arba tiesiogiai grindžia priimamus išvedinius draudžiamaisiais diskriminacijos pagrindais, pasireiškia algoritminė diskriminacija. Šio straipsnio tyrimo tikslas – suformuluoti algoritminės diskriminacijos darbo santykiuose apibrėžtį ir išanalizuoti jos reiškimosi formas diskriminacijos draudimo normų kontekste. Straipsnio tyrimo objektas – algoritminės diskriminacijos reiškimasis darbo santykiuose ir jos vertinimas pagal tarptautinius, Europos Sąjungos ir nacionalinius teisės aktus, įtvirtinančius diskriminacijos draudimą ir teismų praktiką. Straipsnyje formuluojama ir pateikiama algoritminės diskriminacijos apibrėžtis, siejama su diskriminuojančių išvedinių generavimu per automatizuotas sistemas, dėl kurių neigiamų padarinių patiria draudžiamaisiais diskriminacijos pagrindais išskiriamos saugomos asmenų grupės. Straipsnyje analizuojamos tiesioginės algoritminės diskriminacijos ir netiesioginės algoritminės diskriminacijos formos darbo santykių kontekste. Daroma išvada, kad tiesioginė algoritminė diskriminacija kyla, kai automatizuota sistema generuoja išvedinius, remdamasi draudžiamaisiais diskriminacijos pagrindais (pavyzdžiui, lytimi, amžiumi ir kita), o netiesioginė algoritminė diskriminacija – kai akivaizdžiai neutrali praktika (algoritminis balas ir jį lemiantys kriterijai) daro didesnį neigiamą poveikį tam tikrai draudžiamaisiais diskriminacijos pagrindais išskirtai grupei ir tai negali būti objektyviai pateisinta.
Pagrindiniai žodžiai: algoritminė diskriminacija, kandidatas, darbuotojas, platformų darbuotojai, darbdavys, automatizuota sistema, išvedinys.

_________

Received: 09/02/2026. Accepted: 23/03/2026
Copyright © 2026 Ineta Breskienė. Published by Vilnius University Press
This is an Open Access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited.

Įvadas

Technologijų diegimas ir jų naudojimas darbo aplinkoje, darbdavio funkcijų delegavimas automatizuotoms sprendimų priėmimo sistemoms1 (toliau – automatizuotos sistemos) kelia vis naujų teisinių ir praktinių klausimų. Šios automatizuotos sistemos, naudojamos darbdavio, geba prognozuoti kandidatų būsimus darbo rezultatus2, atrinkti iš daugelio kandidatų tik vieną asmenį darbo santykiams sudaryti3, darbuotojams paskirsto darbus, vertina jų efektyvumą, produktyvumą4, atliekamo darbo kokybę5 ir panašiai. Automatizuotų sistemų generuojami išvediniai6 gali atrodyti pagrįsti, racionalūs ir neutralūs, tačiau praktikoje jų taikymas gali lemti kandidatų ar darbuotojų diskriminaciją7. Tai prieštarauja diskriminacijos darbo teisiniuose santykiuose draudimui, įtvirtintam Tarptautinės darbo organizacijos (toliau – TDO) konvencijoje Nr.  111 ,,Dėl diskriminacijos darbo ir profesinės veiklos srityje“, Europos Sąjungoje – Tarybos 2000 m. birželio 29 d. direktyvai 2000/43/EB, įgyvendinančiai vienodo požiūrio principą asmenims nepriklausomai nuo jų rasės arba etninės priklausomybės (toliau – Rasinės lygybės direktyva), Tarybos 2000 m. lapkričio 27 d. direktyvai 2000/78/EB, nustatančiai vienodo požiūrio užimtumo ir profesinėje srityje bendruosius pagrindus (toliau – Užimtumo direktyva), Europos Parlamento ir Tarybos 2006 m. liepos 5 d direktyvai 2006/54/EB dėl moterų ir vyrų lygių galimybių ir vienodo požiūrio į moteris ir vyrus užimtumo bei profesinės veiklos srityje principo įgyvendinimo (nauja redakcija) (toliau – Lygių galimybių direktyva), Europos Parlamento ir Tarybos 2019 m. birželio 20 d. direktyvai 2019/1158 dėl tėvų ir prižiūrinčiųjų asmenų profesinio ir asmeninio gyvenimo pusiausvyros, kuria panaikinama Tarybos direktyva 2010/18/ES, o nacionaliniuose teisės aktuose – Lietuvos Respublikos darbo kodekso (toliau – DK) 26 str., 41 str., Lietuvos Respublikos lygių galimybių įstatymui (toliau – LGĮ) (ypač 2 str, 7 str. ir 11 str.) ir Lietuvos Respublikos moterų ir vyrų lygių galimybių įstatymui (toliau – MVLGĮ) (ypač 2 str., 6 str., 11 str., 16 str.). Nagrinėjama tema apima ir skaitmeninėse darbo platformose darbą atliekančius asmenis (toliau – platformų darbuotojai). Nors Lietuvos Respublikos jurisdikcijoje platformų darbuotojai kol kas dirba pagal individualias veiklos pažymas ar verslo liudijimus ir jų santykiai darbo santykiais stricto sensu nepriskiriami, tačiau skaitmeninės platformos, grindžiamos algoritmais8 ir nustatydamos platformoms dirbančių asmenų darbo užmokestį, darbo tvarką, kontrolę, iš esmės užtikrina vadovavimą, kas yra artima tradiciniam darbo santykiui9. Nesiekiant čia kitaip kvalifikuoti šio santykio, šiame tyrime tikslinga aptarti ir šių asmenų teisinę padėtį dėl jų darbo panašumų su darbo santykiais, o ypač dėl to, kad būtent organizuojant jų darbą priimama daug algoritmais paremtų sprendimų.

Šios temos aktualumą patvirtina automatizuotų sistemų inovatyvus pritaikymas darbo santykiuose10, kai automatizuotas sistemas darbdaviai naudoja kandidatų, darbuotojų, platformų darbuotojų atžvilgiu, taip pat aktyvi norminių teisės aktų leidyba ir naujai besiformuojanti teismų praktika. Nors diskriminacijos aspektai darbo teisėje Lietuvos teisės doktrinoje yra išsamiai analizuoti tokių autorių kaip Dianos Gumbrevičiūtės-Kuzminskienės11, Tomo Davulio12, Tomo Bagdanskio13, algoritminės diskriminacijos14 klausimas darbo santykiuose šių autorių tyrimuose nenagrinėtas, todėl šį darbą galima laikyti originaliu ir nauju. Užsienio literatūroje aptariama tema yra gausu šaltinių. Algoritminę diskriminaciją darbo santykiuose nagrinėja Aislinn Kelly-Lyth15, Jeremias Adamsas-Prasslas16, Raphaele Xenidis, Linda Senden17, Philippas Hackeris18, tačiau tai nebuvo daroma Lietuvos teisinio reguliavimo kontekste. Taip pat algoritminę diskriminaciją automatizuotų administracinių nurodymų kontekste nagrinėjo Goda Strikaitė-Latušinskaja19, o bendrai algoritminės diskriminacijos reiškinį analizuoja Artūras Grumulaitis20, Dolores Morondo Taramundi21, Sandra Wachter, Brentas Mittelstadtas, Chrisas Russellas22 ir kiti.

Straipsnio tyrimo objektas – algoritminės diskriminacijos reiškimasis darbo santykiuose ir jos vertinimas pagal tarptautinius, Europos Sąjungos ir nacionalinius teisės aktus, įtvirtinančius diskriminacijos draudimą ir teismų praktiką. Šio straipsnio tikslas – suformuluoti algoritminės diskriminacijos darbo santykiuose apibrėžtį ir išanalizuoti jos raiškos formas diskriminacijos draudimo normų kontekste. Siekiant įvardyto tikslo, keliami šie uždaviniai: pirma, išskirti pagrindinius požymius ir pagal juos pateikti algoritminės diskriminacijos sampratą darbo santykių kontekste; antra, ištirti tiesioginės algoritminės diskriminacijos darbo santykiuose apraiškas ir pateikti jos sąvoką; trečia, išanalizuoti netiesioginės algoritminės diskriminacijos apraiškas darbo santykiuose ir suformuluoti jos sąvoką.

Atliekamas tyrimas grindžiamas sisteminės analizės metodu, kuris buvo pasitelktas tiriant teisės doktriną, susijusią su algoritminės diskriminacijos reiškiniu; lingvistinis metodas buvo naudojamas siekiant analizuoti teisės normose vartojamas sąvokas, tokias kaip „diskriminacija“, „algoritmas“, „išvedinys“ ir kitas, kurių turinio atskleidimas padėjo formuluoti straipsniui reikšmingą algoritminės diskriminacijos sampratą; lyginamasis metodas taikytas atskleisti skirtingų teisės sistemų požiūrį į algoritminę diskriminaciją darbo santykiuose. Straipsnyje analizuojami iki šiol vieninteliai Europos Sąjungos valstybėse narėse priimti du nacionalinių teismų (Italijos) sprendimai dėl algoritminės diskriminacijos, Nyderlandų lygių teisių instituto sprendimas dėl „Meta Platforms Ireland Ltd.“ naudojamų automatizuotų sistemų darbo skelbimuose, taip pat Jungtinių Amerikos Valstijų pavyzdžiai, daugiausiai susiję su automatizuotomis kandidatų atrankomis (Amazon, Derek Mobley v Workday Inc., iTutorGroup, Inc. atvejai).

Tyrime buvo plačiai analizuoti šie šaltiniai ir literatūra: Rasinės lygybės direktyva, Užimtumo direktyva, Lygių galimybių direktyva, Darbo platformoje sąlygų gerinimo direktyva, DI aktas, DK, LGĮ, MVLGĮ, Europos Sąjungos Teisingumo Teismo (toliau – ESTT) praktika, užsienio teismų praktika, Janneke Gerards in R. Xenidis mokslinė-analitinė ataskaita „Algorithmic discrimination in Europe: Challenges and opportunities for gender equality and non-discrimination law“23, P. Hacker straipsnis „Teaching fairness to Artificial intelligence: existing and novel strategies against algorithmic discrimination under EU law“, J. Adams-Prassl, R. Binns, A. Kelly-Lyth straipsnis „Directly Discriminatory Algorithms“ ir kiti darbai.

1. Algoritminės diskriminacijos samprata darbo kontekste

DI akto ir Darbo platformoje sąlygų gerinimo direktyvos preambulėse pažymima, kad darbuotojų, platformos darbuotojų įdarbinimo metu, juos vertinant, paaukštinant arba jiems esant sutartiniuose darbo santykiuose bei darbdaviui naudojant automatizuotas sistemas, šios gali atkartoti įprastinius diskriminavimo modelius (pavyzdžiui, susijusius su asmens lytimi, amžiumi, negalia ir kita) (DI akto preamb. 57 p., Darbo platformoje sąlygų gerinimo direktyvos preamb. 47 p.). Darbdavių naudojamos automatizuotos sistemos gali generuoti diskriminuojančius išvedinius, turinčius lemiamų padarinių: pavyzdžiui, darbo paieškos ar atrankos platformose dėl automatizuoto turinio atrankos ar personalizavimo mechanizmų tam tikroms saugomų asmenų kategorijoms nėra rodomi darbo pasiūlymai; tokių asmenų bandymai pretenduoti į tam tikrą darbo poziciją atmetami; saugomų asmenų kategorijoms priklausantys ir darbo atrankoje dalyvaujantys kandidatai gali būti vertinami mažiau palankiai ir negauti darbo vietos, dėl kurios kreipiasi; darbuotojų ar platformų darbuotojų darbo rezultatai gali būti vertinami nevienodai ir dėl to šie asmenys gali gauti per mažą darbo užmokestį, nebūti paaukštinti, netekti galimybės dirbti ir panašiai. Pateiktos situacijos rodo, kad dėl automatizuotų sistemų taikymo darbo santykių kontekste diskriminacija gali pasireikšti ne tik dėl darbdavio tiesioginių ar netiesioginių veiksmų kandidatų, darbuotojų, platformų darbuotojų atžvilgiu, bet darbdaviui tiesiogiai sprendimų tarsi nepriimant – jam naudojant automatizuotas sistemas ir būtent taikant jų pateikiamus išvedinius.

Tam, kad automatizuotų sistemų taikymu sukeltą diskriminaciją būtų galima nustatyti praktikoje ir tinkamai kvalifikuoti teisiškai, būtina suformuoti algoritminės diskriminacijos sampratą.

Kas laikoma diskriminacija ir kokie yra draudžiamieji diskriminacijos pagrindai numato keli teisės aktai. Lietuvos Respublikos Konstitucijos 29 str. 2 d. numatoma, jog žmogaus teisių negalima varžyti ir teikti jam privilegijų dėl jo lyties, rasės, tautybės, kalbos, kilmės, socialinės padėties, tikėjimo, įsitikinimų ar pažiūrų pagrindu24. Lietuvos Respublikos Konstitucinis Teismas (toliau – Konstitucinis Teismas) yra išaiškinęs, kad diskriminacija paprastai suprantama kaip asmens ar asmenų grupės padėties kitų asmenų atžvilgiu pakeitimas be objektyviai pateisinamo pagrindo25. 1998 m. lapkričio 11 d. nutarime Konstitucinis Teismas yra nurodęs, kad diskriminacija dažniausiai suprantama kaip žmogaus teisių varžymas ar tam tikrų privilegijų teikimas atsižvelgiant į lyties, rasės, tautybės, kalbos, kilmės, socialinės padėties, tikėjimo, įsitikinimų ar pažiūrų požymius26 27. Terminas „diskriminuoti“ reiškia tokį nepalankų asmens vertinimą (varžant tam tikras teises arba nepagrįstai teikiant privilegijas), kuris yra draudžiamas dėl teisės aktuose numatytų priežasčių (diskriminacijos pagrindų)28. Europos nediskriminavimo teisės vadove taip pat nurodoma, kad diskriminacija – tai atvejis, kai asmuo dėl vieno ar kelių draudžiamųjų diskriminacijos pagrindų kokiu nors būdu atsiduria nepalankioje padėtyje29. TDO konvencijoje Nr. 111 „Dėl diskriminacijos darbo ir profesinės veiklos srityje“, numatančioje diskriminacijos draudimą darbo teisiniuose santykiuose, pateikiama diskriminacijos apibrėžtis, reiškianti bet kokį lygias darbo ir profesinės veiklos galimybes ir lygiateisius santykius pažeidžiantį arba panaikinantį išskyrimą, apribojimą ar pranašumo teikimą dėl tam tikrų diskriminacijos pagrindų30. Taigi, galima daryti išvadą, kad diskriminacija yra asmenų ar jų grupių teisių ribojimas arba privilegijų teikimas, kai tokie asmenys išsiskiria tam tikrais požymiais, vadinamaisiais draudžiamaisiais diskriminacijos pagrindais ir dėl to atsiduria nepalankioje padėtyje be objektyviai pateisinamo pagrindo.

Algoritminę diskriminaciją galime laikyti diskriminacijos rūšimi, nes ji pasižymi tam tikrais požymiais, išskiriančiais ją iš kitų diskriminacijos apraiškų. Pirma, darbdavys naudoja automatizuotą sistemą darbo santykiuose numatytai užduočiai atlikti. Tai reiškia, kad numatytą užduotį atlieka ne fizinis asmuo, o automatizuota sistema, pavyzdžiui, ji atlieka kandidatų atranką, darbuotojų stebėjimą ir darbo vertinimą, darbo krūvio paskirstymą ir panašiai. Antra, diskriminuojantis rezultatas gaunamas dėl automatizuotos sistemos sugeneruoto išvedinio, pažeidžiančio asmenų lygiateisiškumo principą. Diskriminacija šiuo atveju kyla kaip automatizuoto sprendimų priėmimo proceso rezultatas, nepaisant to, jog galutiniame etape gaunamas išvedinys yra peržiūrimas žmogaus31. Atsižvelgiant į diskriminacijos apibrėžimą ir išskirtus požymius, būdingus algoritminei diskriminacijai, galima suformuoti jos sampratą: algoritminė diskriminacija – tai toks teisių ribojimas ar privilegijų teikimas asmenims ar jų grupėms, išskirtiems vienu ar keliais draudžiamaisiais diskriminacijos pagrindais, atsirandantis taikant išvedinius, kuriuos pateikia automatizuotos sistemos. Algoritminė diskriminacija apima tiek negatyviosios diskriminacijos, kai automatizuotų sistemų išvediniai lemia nepagrįstą nepalankų asmenų ar jų grupių traktavimą, tiek ir pozityviosios diskriminacijos, kai tam tikroms grupėms taikomos specialios priemonės ar sudaromos palankesnės sąlygos siekiant užtikrinti lygybę ir užkirsti kelią lygių galimybių pažeidimui, atvejus.

Ne kiekvienas automatizuotos sistemos šališkumas (angl. bias) bus laikomas diskriminuojančiu. Aukšto lygio ekspertų grupė dirbtinio intelekto klausimais32 yra pateikusi šališkumo apibrėžimą: tai sistemingos ir pasikartojančios klaidos kompiuterinėje sistemoje, dėl kurių gaunami nesąžiningi rezultatai33. Sąžiningumo sąvoka nėra vienareikšmė, tačiau, manytume, kad turėta omenyje tai, jog automatizuotos sistemos šališkumas laikomas diskriminuojančiu, kai tam tikra žala turi būti padaryta arba mažiau palankios sąlygos taikomos asmeniui ar tam tikrai asmenų grupei dėl draudžiamųjų diskriminacijos pagrindų. Pavyzdžiui, kandidatų atrankos platforma „Workday“, naudodama automatizuotą sistemą, rinkdavo, apdorodavo ir vertindavo kandidatų pateiktus gyvenimo aprašymus ar kitą, su įdarbinimu susijusią informaciją, o remdamasi gautais rezultatais, automatiškai atmesdavo arba perkeldavo į tolesnius atrankos procesus kandidatus, besikreipiančius dėl darbo vietos34. Ieškovo Derek Mobley teigimu, automatizuota sistema rėmėsi šališkais mokymo duomenimis ir „Pymetrics“35 bei asmenybės testų informacija, kurioje kandidatai, turintys psichikos ar kognityvinių sutrikimų, pasirodydavo prasčiau. Ieškovas D. Mobley nurodė, kad nuo 2017 m. pateikė daugiau kaip 100 paraiškų įmonėms, kurios naudojosi „Workday“ kandidatų atrankos platforma ir nė karto nepateko į tolesnius atrankos procesus, nors jo kvalifikacija ir darbo patirtis buvo tinkama. Ieškinyje D. Mobley teigia, kad platformos „Workday“ automatizuotos sistemos diskriminuoja kandidatus dėl rasės (afroamerikiečius), amžiaus (amžius didesnis nei keturiasdešimties metų) ir (arba) negalios. Teismas nusprendė, kad D. Mobley diskriminavimas buvo tikėtinas, kadangi jo sėkmės rodiklis kandidatų atrankose per ilgą laiką buvo 0 procentų, nepaisant to, kad kai kuriose įmonėse D. Mobley jau dirbo tą patį darbą kaip rangovas. Anot teismo, tai leidžia manyti, kad „Workday“ algoritmai atmeta kandidatus dėl priežasčių, nesusijusių su kvalifikacija, o būtent dėl draudžiamųjų diskriminacijos pagrindų. Šioje situacijoje automatizuotos sistemos kandidato atmetimas dėl draudžiamųjų diskriminacijos pagrindų sukėlė žalą – eliminavo ieškovo galimybę būti svarstomam tolesniuose atrankos etapuose ir gauti darbo pasiūlymą. Taigi, nagrinėjamu atveju kilo pagrįsta abejonė, ar automatizuotos sistemos išvedinys išties diskriminavo darbuotoją, tačiau galutinis teismo sprendimas dėl diskriminacijos fakto buvimo dar nėra priimtas36.

Taigi, algoritminė diskriminacija darbo santykiuose yra toks teisių ribojimas ar privilegijų teikimas asmenims (kandidatams, darbuotojams, platformų darbuotojams) ar jų grupėms, išskirtiems vienu ar keliais draudžiamaisiais diskriminacijos pagrindais, atsirandantis taikant išvedinius, kuriuos pateikia automatizuotos sistemos.

2. Tiesioginė algoritminė diskriminacija darbo santykiuose

Tiesioginės diskriminacijos sąvokos įvairiems diskriminacijos pagrindams formuluojamos labai panašiai. Pavyzdžiui, Rasinės lygybės direktyvoje įtvirtinama, kad tiesioginė diskriminacija yra tada, kai vienam asmeniui taikomos prastesnės sąlygos, nei panašioje situacijoje yra, buvo ar galėjo būti taikomos kitam asmeniui dėl rasės ar etninės priklausomybės (Rasinės lygybės direktyvos 2 str. 2 d. a p.). Tiesioginė diskriminacija kitais pagrindais (dėl religijos ar įsitikinimų, negalios, amžiaus ar seksualinės orientacijos, lyties) labai panašiai apibrėžiama ir Užimtumo bei Lygių galimybių direktyvose37. Minėtų direktyvų nuostatos perkeltos į DK, LGĮ, MVLGĮ, tik DK ir LGĮ numato platesnį draudžiamųjų diskriminacijos pagrindų sąrašą. Pažymėtina, kad kiekvienas teisės aktas gali numatyti skirtingas tiesioginės diskriminacijos išimtis, tai yra atvejus, kai teisių ribojimas siejamas su tam tikros savybės turėjimu, tačiau tai eksplicitiškai leista, todėl yra teisėta (pavyzdžiui, tik tam tikros lyties asmenų atliekamas darbas ir pan.).

Tiesioginė diskriminacija atsiranda, kai, pirma, asmeniui, pavyzdžiui, kandidatui, darbuotojui ar platformos darbuotojui, taikomos prastesnės, mažiau palankios sąlygos, palyginti su sąlygomis, kurios yra, buvo ar galėjo būti taikomos kitiems asmenims, esantiems panašioje padėtyje; antra, to priežastis yra konkreti tų asmenų savybė, patenkanti į draudžiamo diskriminacijos pagrindo taikymo sritį. Norint nustatyti, ar asmeniui buvo taikytas mažiau palankus požiūris, reikia tinkamo „palyginimo objekto“, t. y. iš esmės panašioje padėtyje esančio asmens, o pagrindinis skirtumas tarp šių dviejų asmenų būtų dėl „draudžiamo diskriminacijos pagrindo“38. Direktyvose ir kituose teisės aktuose naudojamas palyginamasis asmuo (pavyzdžiui, kitas darbuotojas ar platformos darbuotojas, atliekantis tas pačias ar panašias pagal kvalifikaciją ar gebėjimus darbo funkcijas39, bet neturi saugomos savybės), tai yra priemonė, padedanti nustatyti, ar automatizuotos sistemos priimtas išvedinys lėmė mažiau palankų elgesį su tam tikru asmeniu dėl draudžiamo diskriminacijos pagrindo (Rasinės lygybės direktyvos 2 str. 2 d. a p., Užimtumo direktyvos 2 str. 2 d. a p., Lygių galimybių direktyvos 2 str. 1 d. a p., LGĮ 2 str. 9 d., MVLGĮ 2 str. 7 d. ir teismų praktika40). Tačiau jeigu tokio realaus asmens nėra, lyginti panašioje padėtyje galima su hipotetiniu asmeniu.

Tiesioginės algoritminės diskriminacijos atveju automatizuotos sistemos nebus neutralios dėl draudžiamųjų diskriminacijos pagrindų41, t. y. dėl saugomų savybių, diskriminuos tam tikrus kandidatus, darbuotojus, platformų darbuotojus. Pavyzdžiui, skaitmeninės darbo platformos naudojamas užsakymų paskirstymo algoritmas tiesiogiai į sprendimo priėmimo modelį įtraukia platformos darbuotojų amžių, lytį ir remdamasis šiais kriterijais sistemingai suteikia mažiau užsakymų moterims ir vyresniems nei 45 metai vyrams, nepaisant to, kad jų darbo rezultatai ir kiti rodikliai yra tokie patys arba labai panašūs kaip kitų platformos darbuotojų. Kaip ir šiuo pateiktu hipotetiniu atveju, tam, kad kiltų tiesioginė algoritminė diskriminacija, automatizuotos sistemos atliekamas veiksmas turi būti tiesiogiai grindžiamas draudžiamuoju diskriminaciniu pagrindu42. Nors toliau pateikiami su tiesiogine algoritmine diskriminacija susiję praktiniai pavyzdžiai kyla tik iš kandidatų atrankos procesų, jie atskleidžia tą patį mechanizmą, galintį veikti ir darbo santykių eigoje. Pavyzdžiui, bendrovės „iTutorGroup, Inc.“43 personalo atrankos metu naudota automatizuota sistema kandidatus diskriminavo dėl amžiaus. Daugiau nei 200 vyrų, vyresnių nei 60 m., ir moterų, vyresnių nei 55 m., paraiškos dėl darbo vietos buvo atmestos ir tokie kandidatai negalėjo dalyvauti tolesniuose atrankos procesuose dėl kandidatų amžiaus44. Automatizuota sistema buvo apmokyta ankstesniais įdarbinimo duomenimis45 ir kandidatų amžių laikė darbo rezultatų prognozavimo kriterijumi, kuris buvo nepalankus vyresniems kandidatams. Ši kandidatų atranka yra tiesioginės algoritminės diskriminacijos dėl amžiaus atvejis, atsižvelgiant į tai, kad automatizuota sistema kandidatų atrankai naudojo amžių, kaip vieną pagrindinių atrankos kriterijų ir tiesiogiai rėmėsi vienu iš draudžiamųjų diskriminacijos pagrindų. Kitu atveju darbdaviai, skelbdami darbo skelbimus socialinio tinklo „Facebook“ platformoje, turėjo galimybę nustatyti tikslinę auditoriją, kuriai skelbimai būtų rodomi, pasirinkdami lytį, amžių ir pan., tokiu būdu sudarydami sąlygas automatizuotoms sistemoms naudoti draudžiamus diskriminacijos pagrindus kaip prognozavimo kintamuosius kandidatams atrinkti ir tiesioginei algoritminei diskriminacijai kilti46. Šiuo metu socialinio tinklo „Facebook“ platforma eliminavo šią funkciją47, tačiau automatizuota sistema ir toliau darbo pasiūlymus segmentuoja visuomenėje vyraujančiomis genderistinėmis nuostatomis. Pavyzdžiui, moterims rodomi mokytojų, psichologų darbo skelbimai, o vyrams rodomi piloto, mechaniko48 darbai49. Kaip paaiškinta Nyderlandų lygių teisių instituto sprendime50, „Meta Platforms Ireland Ltd.“ reklamos automatizuota sistema remiasi aukcionais51 ir sudėtingais mašininio mokymosi (angl. machine learning) modeliais, kurie nuolat mokosi ir keičiasi pagal naudotojų elgesio grįžtamąjį ryšį realiuoju laiku52. Įgyvendinus socialinio tinklo „Facebook“ platformos reklamos politikos pakeitimus ir eliminavus darbdavių galimybę reklamuojant darbo skelbimus patiems pasirinkti tikslinės auditorijos lytį, amžių, kitus kriterijus, buvo pašalinta tiesioginės algoritminės diskriminacijos rizika darbo skelbimų rodymo procese. Vis dėlto „Meta Platforms Ireland Ltd. savo parodymuose, teiktuose atlikto tyrimo metu, pripažino, kad lyties kriterijus gali būti įtrauktas į automatizuotą sistemą, bet nepaneigė aplinkybės, kad jis gali sustiprinti stereotipus. Be to, Meta Platforms Ireland Ltd. neįrodė, kad imasi stebėsenos, intervencijų ar kitaip mažina stereotipų poveikį. Todėl atsižvelgiant į tai, kad nors darbo skelbimų reklamų procesas atrodo neautralus (eliminavus pirminę darbo skelbimų rodymo tikslinei auditorijai pagal amžių, lyti ir pan. rodymo funkciją, automatizuota sistema nebuvo tiesiogiai užprogramuota diskriminuoti), vis dėlto vienos lyties asmenys gauna mažiau galimybių matyti tam tikrus darbo skelbimus53.

Automatizuotos sistemos diskriminuoja ir dėl netiesioginių požymių (angl. proxy) duomenų rinkiniuose, kai tiesiogiai draudžiami diskriminacijos pagrindai nenaudojami, tačiau dėl įvairių koreliacijų duomenyse jie gali būti lengvai atpažįstami. Netiesioginių požymių (angl. proxy) duomenų rinkiniuose sukelta diskriminacija būdingesnė toliau aptariamai netiesioginei algoritminei diskriminacijai, tačiau tam tikrais atvejais ji gali sukelti ir tiesioginę algoritminę diskriminaciją. Pavyzdžiui, bendrovės „Amazon“ automatizuota sistema atrankos į programinės įrangos inžinieriaus pareigas metu kandidatus diskriminavo lyties pagrindu54. Kandidatų atrankai buvo naudojama automatizuota sistema, kuri ieškojo sąsajų kandidatų į darbo vietą duomenyse55. Automatizuota sistema buvo apmokyta naudojant per dešimtmetį kandidatavusių asmenų gyvenimo aprašymus, iš kurių didžioji dalis buvo vyrų gyvenimo aprašymai. Automatizuota sistema išmoko nepalankiai vertinti kandidates – absolventes moteris iš dviejų moterų koledžų, o kandidato sėkmės tikimybę priskyrė vyriškajai lyčiai56. Vienodai kvalifikuotos moterys (lyginant su vyrais) gavo žemesnius įvertinimus nei panašioje padėtyje esantys vyrai vien dėl to, kad moterų išsilavinimas veikė kaip netiesioginis rodiklis (angl. proxy), susijęs su lytimi57. Mokslininkai J. Adams-Prassl, A. Kelly-Lyth teigia, kad nagrinėtas atvejis yra tiesioginės algoritminės diskriminacijos atvejis dėl lyties, nes lytis ir tik lyties pagrindu grįsta atranka į švietimo įstaigą (moterų koledžą) yra betarpiškai susiję58. Bendrovės „Amazon“ atveju jie veikė kaip netiesioginis rodiklis (angl. proxy). Tuo tarpu mokslininkės Hilde Weerts ir R. Xenidis abejoja dėl šio atvejo priskyrimo tik tiesioginei algoritminei diskriminacijai, nes jų nuomone, toks kategorizavimas priklausytų nuo to, kaip įrodymų visumoje teismas vertintų netiesioginius požymius (angl. proxy), t.y. kaip neutralų kriterijų ar kaip betarpiškai susijusius su konkrečia lytimi59.

Kandidatai, darbuotojai, platformų darbuotojai tiesioginę algoritminę diskriminaciją patirtų ir tuo atveju jeigu automatizuotos sistemos juos diskriminuotų dėl ryšio, kurie jį turėtų su saugoma grupe (nors patys tokių savybių neturėtų). Diskriminacija dėl ryšio (kitaip dar – diskriminacija dėl asociacijos) buvo išplėtota ESTT byloje S. Coleman prieš Attridge Law, Steve Law, kurioje darbuotoja, pati nebūdama neįgali, buvo vertinama nepalankiai, nes turėjo rūpintis neįgaliu sūnumi60. Diskriminacija dėl asociacijos gali įvykti, kai renkami naudotojo paieškos ir paspaudimų duomenys61. Pavyzdžiui, darbuotoja darbo metu, naudodamasi skaitmeniniais informacijos šaltiniais, sistemingai ieško informacijos apie neįgaliųjų padėtį visuomenėje, jų teises ir gydymo galimybes, kadangi jos sutuoktinis tapo neįgalus. Automatizuota sistema, kuri atlieka darbuotojų stebėseną darbovietėje ir teikia rekomendacijas darbdaviui dėl personalo valdymo klausimų, tai interpretuoja kaip situaciją, kad pati darbuotoja yra neįgali ir pradeda jai skirti žemesnius efektyvumo balus. Tai įtakoja darbuotojos paaukštinimo galimybes, gali kilti darbo sutarties nutraukimo rizika.

Apibendrinus galima teigti, kad darbo santykiuose tiesioginė algoritminė diskriminacija pasireiškia, kai kandidatams, darbuotojams ar platformų darbuotojams taikomos prastesnės, mažiau palankios sąlygos palyginti su sąlygomis, kurios yra, buvo ar galėjo būti taikomos kitiems kandidatams, darbuotojams, platformų darbuotojams esantiems panašioje padėtyje ir to priežastis yra konkreti tų asmenų savybė, patenkanti į draudžiamo diskriminacijos pagrindo taikymo sritį. Nagrinėti tiesioginės algoritminės diskiminacijos pavyzdžiai, susiję su kandidatų atrankomis, atskleidė, kad automatizuotos sistemos diskriminavo kandidatus dėl amžiaus ir lyties pagrindų. Tiesioginė algoritminė diskriminacija kilo dėl to, jog automatizuotos sistemos išvediniai buvo grindžiami draudžiamaisiais diskriminacijos pagrindais.

3. Netiesioginė algoritminė diskriminacija darbo santykiuose

Rasinės lygybės direktyva įtvirtina, kad netiesioginė diskriminacija yra tada, kai dėl akivaizdžiai neutralių sąlygų, kriterijų ar praktikos tam tikros rasės ar etninės priklausomybės asmenys gali patekti tam tikru atžvilgiu į prastesnę padėtį nei kiti asmenys, nebent tas sąlygas, kriterijus ar praktiką objektyviai pateisina teisėtas tikslas, o šio tikslo siekiama atitinkamomis ir būtinomis priemonėmis (Rasinės lygybės direktyvos 2 str. 2 d. b p.). Netiesioginė diskriminacija, pagal analogiją kaip ir tiesioginė diskriminacija, kitais pagrindais (dėl religijos ar įsitikinimų, negalios, amžiaus ar seksualinės orientacijos, lyties), panašiai apibrėžiama Užimtumo ir Lygių galimybių direktyvose62, o šių direktyvų nuostatos taip pat perkeltos į DK, LGĮ, MVLGĮ63.

Netiesioginė diskriminacija pasireiškia kai akivaizdžiai neutrali nuostata, kriterijus ar praktika, grindžiama nedraudžiamais (neutraliais) pagrindais ir formaliai taikoma visiems asmenims vienodai, faktiškai daro ar gali daryti tam tikrai asmenų grupei, išskiriamai draudžiamos diskriminacijos pagrindu, didesnį neigiamą poveikį nei kitiems panašioje padėtyje esantiems asmenims ir kuri negali būti objektyviai pateisinama, remiantis priemonių, kuriomis siekiama tikslo, proporcingumo analize, t. y. diskriminacija nekyla, jeigu tam tikra priemonė yra būtina ir tinkama, o siekiamas tikslas yra teisėtas. Nustatant netiesioginės algoritminės diskriminacijos faktą reikia įrodyti, kad dėl automatizuotos sistemos išvedinio tam tikra saugoma asmenų grupė yra nepalankioje padėtyje palyginus su kita lyginamąja grupe, nors grupių skirtumai remiasi iš pažiūros neutraliais pagrindais (pavyzdžiui, ne visas darbo laikas vyrams ir moterims, darbo stažo reikalavimai vyresniems ir jaunesniems darbuotojams ir pan.). Taip pat nėra svarbu, ar darbdavys turėjo ketinimą diskriminuoti ir vertinamas kriterijaus, taisyklės, praktikos taikymo poveikis galimai diskriminuojamai grupei asmenų64, t. y. darbdavio naudojamos automatizuotos sistemos atveju būtų vertinamas jos poveikis kandidatams, darbuotojams ar platformų darbuotojams.

Netiesioginės algoritminės diskriminacijos atveju automatizuotos sistemos išvediniui gauti naudojamas algoritminis balas ir jį lemiantys kriterijai bus laikomi neutralia nuostata, kriterijumi ar praktika, dėl kurių saugomos grupės atsidurs nepalankioje padėtyje65. Traktuojant automatizuotos sistemos naudojamą algoritminį balą ir jį lemiančius kriterijus neutralia nuostata, kriterijumi ar praktika, dėmesys sutelkiamas ne į automatizuotos sistemos techninius veikimo principus, bet į jos poveikį66. Tai reiškia, kad skirtingai nei tiesioginės algoritminės diskriminacijos atveju, kai svarbu tai, ar draudžiamieji diskriminacijos pagrindai turėjo įtakos automatizuotos sistemos pateiktiems išvediniams, netiesioginės algoritminės diskriminacijos atveju susitelkiama į poveikį, kurį automatizuotos sistemos naudojamas algoritminis balas ir jį lemiantys kriterijai, skirti išvediniui gauti, turėjo tam tikrai saugomų asmenų grupei. Netiesioginės algoritminės diskriminacijos įrodymui nereikės gilintis į automatizuotos sistemos naudojamo modelio ypatumus, tačiau reikės nustatyti nepalankią padėtį, daromą kandidatams, darbuotojams ar platformų darbuotojams, priklausantiems saugomai grupei. Pavyzdžiui, Italijos Bolonijos teismas 2020 m. gruodžio 31 d. priėmė sprendimą platformų darbuotojų algoritminės diskriminacijos byloje. Bendrovė „Deliveroo Italia S.R.L“ veiklą vykdė Italijoje, maisto pristatymo į namus sektoriuje. Darbo paskirstymas tarp platformos darbuotojų vyko per skaitmeninę darbo platformą, kuri naudojo sudėtingą rezervavimo sistemą (angl. self-service booking)67. Atliekant darbo pamainos rezervaciją platformos darbuotojas turėjo pasirinkti darbo laiką ir darbo teritoriją (-as), kur jis atliks maisto pristatymo darbus. Šioje rezervavimo sistemoje platformos darbuotojai negalėjo prisijungti bet kuriuo metu, o tik trimis nustatytais laikais: pirmadienį 11 val., 15 val., arba 17 val. Platformos darbuotojo galimybė prisijungti prie sistemos kuo ankstesniu laiku priklausė nuo dviejų rezervavimo sistemos vertintų kriterijų: platformos darbuotojo patikimumo (angl. reliability) kriterijaus ir platfomos darbuotojo darbo intensyviausiu užsakymų laikotarpiu (angl. participation) kriterijaus68. Remiantis šiais kriterijais rezervavimo sistemos apskaičiuotas algoritminis balas kiekvienam platformos darbuotojui nustatė jo galimybes rezervuoti būsimas darbo pamainas, o aukštesnį balą turintys platformos darbuotojai įgydavo teisę keliomis valandomis anksčiau rezervuotis darbo pamainas nei kiti platformos darbuotojai. Platformos darbuotojams su žemesniais balais faktiškai nelikdavo galimybės (arba likdavo nedaug pasirinkimo galimybių) rezervuoti darbo pamainas69. Bendrovės „Deliveroo Italia S.R.L“ naudota rezervacijos sistema netiesiogiai diskriminavo platformos darbuotojus jiems taikydama iš pažiūros neutralią nuostatą – algoritminius balus, apskaičiuojamus pagal platformos darbuotojų patikimumo kriterijų ir darbo intensyviausiu užsakymo laikotarpiu kriterijų, traktuodama vienodai tuos platformos darbuotojus, kurie nedalyvauja darbo pamainose dėl nepateisinamų priežasčių, ir tuos platformų darbuotojus, kurie nedalyvauja darbo pamainose todėl, kad streikuoja, serga, yra neįgalūs ar rūpinasi neįgaliu asmeniu70 ar sergančiu nepilnamečiu, ir iš tiesų sukėlė didesnį neigiamą poveikį pastariesiems platformos darbuotojams, pašalindama juos iš prioritetinės platformos darbuotojų grupės bei taip reikšmingai sumažindama jų būsimas darbo galimybes. Teismas aiškiai konstatavo netiesioginės diskriminacijos dėl platformos darbuotojų įsitikinimų (dalyvavimo profesinių sąjungų inicijuotuose streikuose) buvimo faktą, taip pat paminėjo netiesioginės diskriminacijos apraiškas dėl lyties ir negalios. Darbdavys taip pat neįrodė, kad jo naudota praktika buvo būtina ir proporcinga teisėtam tikslui siekti. Teismas pabrėžė, kad buvo įmanoma taikyti mažiau ribojančias priemones, pavyzdžiui, apskaičiuojant algoritminį balą atsižvelgti į pateisinamas neatvykimo priežastis.

Italijos Palermo teismo 2023 m. lapkričio 17 d. civilinėje byloje nagrinėta dar viena algoritminės diskriminacijos byla, kurios faktinės aplinkybės buvo panašios kaip ir Deliveroo Italia S.R.L byloje: bendrovė „Foodinho S.R.L.“ taip pat veikė maisto pristatymo srityje ir jos skaitmeninėje darbo platformoje buvo apskaičiuojamas platformos darbuotojų veiklos įvertinimo balas (angl. excellence score), grindžiamas keturiais kriterijais: klientų įvertinimais, atliktų pristatymų skaičiumi per keturias savaites, dirbtas pamainas intensyviausiu užsakymų laikotarpiu (vakarienės metu, savaitgaliais, švenčių dienomis), neatvykimai į rezervuotą darbo pamainą (angl. no-shows)71. Platformos darbuotojų veiklos įvertinimo balas (angl. excellence score) veikė tokiu pačiu principu kaip ir Deliveroo Italia S.R.L byloje analizuotas rezervavimo sistemos apskaičiuotas algoritminis balas, kadangi sudarydavo platformos darbuotojams, turintiems aukščiausius veiklos įvertinimo balus, galimybę patekti pirmumo tvarka į darbo pamainų rezervacijos sistemą. Teismas savo sprendime pabrėžė, kad bendrovė „Foodinho S.R.L.“ sukūrė tokią darbo pamainų rezervacijos sistemą, kuri sudarė tarpusavio konkurenciją, siūlydama palankesnes ir geresnes darbo galimybes produktyvesniems ir efektyvesniems platformos darbuotojams, tačiau sąmoningai ignoruodama pamainose dirbusių platformos darbuotojų individualumą dėl jų amžiaus, lyties, neįgalumo, religijos, įsitikinimų (veiklos profesinėse sąjungose)72. Teismas konstatavo, kad iš pažiūros, veikdamas kaip neutrali nuostata, kriterijus ar praktika, algoritminis veiklos įvertinimo balas, susidedantis iš pirmiau aptartų kriterijų, turėjo neigiamą poveikį platformos darbuotojams, išsiskiriantiems tam tikromis saugomomis savybėmis ir kurie dėl pateisinamų aplinkybių negalėjo dirbti tam tikrais laikotarpiais. Algoritminio veiklos įvertinimo balo kriterijai „atliktų pristatymų skaičius per keturias savaites“ ir „dirbtos pamainos intensyviausiu užsakymų laikotarpiu“ privilegijavo platformos darbuotojus, galinčius dirbti ilgesnes valandas ir lanksčiu grafiku, tačiau sukėlė neigiamą poveikį tiems platformos darbuotojams, kurie dėl šeimos pareigų, negalios, lyties ar amžiaus negalėjo atitikti šių reikalavimų73; netiesioginė diskriminacija religijos pagrindu pasireiškė taikant kriterijų „dirbtos pamainos intensyviausiu užsakymų laikotarpiu“, kadangi nebuvo atsižvelgta į platformos darbuotojų religinius įsipareigojimus (pavyzdžiui, šabo laikymąsi) ir tai sudarė mažiau palankias sąlygas tiems, kurie dėl religinių priežasčių negalėjo dirbti piko metu74; netiesioginė diskriminacija dėl veiklos profesinėje sąjungoje (dalyvavimo streikuose) pasireiškė tuo, kad apskaičiuojant algoritminį balą ir taikant kriterijų „neatvykimai į rezervuotą darbo pamainą (angl. no-shows)“, šiai grupei priklausantys platformos darbuotojai buvo vertinami lygiai taip pat, kaip ir kiti platformos darbuotojai, neatvykstantys į darbo pamainas dėl nepateisinamų priežasčių75. Kadangi darbdavys negalėjo pagrįsti automatizuotos sistemos būtinumo ir proporcingumo siekiamam jo verslo tikslui, teismas pripažino šį atvejį netiesiogine diskriminacija.

Taigi, minėtuose sprendimuose netiesioginė diskriminacija pasireiškė tuo, kad iš pažiūros visiems platformų darbuotojams vienodai taikytas algoritminis jų veiklos įvertinimo balas ir jį lemiantys kriterijai veikė kaip neutrali nuostata, kriterijus ar praktika, tačiau faktiškai sukėlė didesnį neigiamą poveikį tam tikroms saugomoms grupėms. Algoritminiai balai ir jų sudedamieji kriterijai (patikimumo, darbo intensyviausiu užsakymo laikotarpiu kriterijus, klientų įvertinimai, atliktų pristatymų skaičius per keturias savaites ir pan.) sukūrė sisteminį nepalankumą tiems platformų darbuotojams, kurie dėl teisėtai pateisinamų priežasčių, tokių kaip amžius, lytis, negalia, religija, įsitikinimai ar kitų saugomų požymių, tam tikrais laikotarpiais negalėjo prisidėti prie pamainų ir dirbti. Kadangi darbdaviai neįrodė, jog tokia praktika buvo būtina ir proporcinga teisėtam tikslui siekti, teismai kvalifikavo šias situacijas kaip netiesioginę diskriminaciją.

Pažymėtina, kad ne kiekvienas neigiamas poveikis, kylantis dėl darbo santykiuose taikomo algoritminio balo ir jį lemiančių kriterijų, laikytinas netiesiogine diskriminacija. Būtina nustatyti, kad tokio neigiamo poveikio negalima objektyviai pateisinti teisėtu tikslu ir tinkamomis bei būtinomis priemonėmis76. Galimybė pateisinti netiesioginę diskriminaciją įtvirtinta pačioje netiesioginės diskriminacijos apibrėžtyje: „pateisina teisėtas tikslas, o šio tikslo siekiama atitinkamomis (tinkamomis) ir būtinomis priemonėmis“ (Rasinės lygybės direktyvos 2 str. 2 d. b p.; Užimtumo direktyvos 2 str. 2 d. b. p. i pap.; Lygių galimybių direktyvos 2 str. 1 d. b p.; LGĮ 2 str. 1 d.; MVLGĮ 2 str. 4 d.). Esant teisiniam ginčui ir darbdaviui įrodžius, kad automatizuotos sistemos naudojimo praktika buvo siekiama teisėto tikslo ir ji buvusi proporcinga priemone, laikoma, kad diskriminacija neatsiranda.

Automatizuotos sistemos atlieka daug didesnės apimties, greitesnę ir detalesnę didžiųjų duomenų analizę, nei kad ją gali atlikti fiziniai asmenys77. Mokslininkė D. Morondo Taramundi pastebi, kad tokių sistemų „nuspėjamasis tikslumas“ yra lygiavertis tikimybiniam įvertinimui, o tai reiškia, jog, nepaisant to, kad ir kokio techninio sudėtingumo būtų automatizuotos sistemos, jų sprendimai yra grįsti tikimybėmis78. Automatizuotos sistemos, remdamosi išskaičiuotomis tikimybėms, prognozuoja tam tikrus įvykius. Nagrinėjant tikslo teisėtumo aspektą, mokslininkas P. Hacker nurodo, kad automatizuotų sistemų prognozavimo užduotis dažnai yra teisėtas tikslas (pavyzdžiui, užduotis – kandidato būsimo darbo našumo matavimas)79. Valdant įdarbinimo procesus, tokius kaip antai gyvenimo aprašymų analizė, kandidatų kompetencijų vertinimas, tinkamiausių kandidatų, kaip potencialių darbuotojų į ieškomą darbo vietą, atranka ir kita, automatizuotos sistemos gali būti naudojamos turint tikslą pagerinti įdarbinimo kokybę bei padidinti darbuotojų atrankos efektyvumą80. Automatizuotos sistemos supaprastina įdarbinimo procesus, juos pagreitina automatizuodamos daugelį darbdavio atliekamų funkcijų. Tai ypač aktualu didelio masto atrankos ir įdarbinimo kontekste, nes tokios sistemos geba išanalizuoti daugybę pateiktų duomenų (pavyzdžiui, išanalizuoti daugumą atsiųstų gyvenimo aprašymų). Darbo santykiuose automatizuotos sistemos gali būti naudojamos siekiant optimizuoti tam tikras darbuotojų ar platformos darbuotojų funkcijas, padidinti atliekamo darbo našumą ar produktyvumą81, darbuotojų saugos tikslu82 ir panašiai. Kai kurie mokslininkai teigia, kad automatizuotų sistemų pasitelkimas vien tik sumažinti įmonės kaštus ar sutaupyti, mažai tikėtina, kad galėtų būti tinkamas tikslas83. Tokia išvada daroma remiantis ankstesne ESTT teismų praktika84. Tačiau daugelis automatizuotų sistemų naudojimo atvejų bus taikoma įvairioms įmonės funkcijoms optimizuoti (kas taip pat reiškia ekonominius tikslus), tačiau tai neturėtų ypač pažeisti kandidatų, darbuotojų ar platformos darbuotojų teisių. Pavyzdžiui, negalima pagrįsti darbo paieškoje, atliekamoje pasitelkiant automatizuotą sistemą, neįgalių kandidatų atmetimo, argumentuojant, kad darbo vietos įrengimas ir paruošimas tokiems būsimiems darbuotojams brangiai kainuoja.

Jeigu tikslas, kurio siekiama, yra teisėtas, turi būti nustatyta, ar priemonės, kuriomis siekiama to tikslo, yra tinkamos ir būtinos. ESTT byloje CHEZ Razpredelenie Bulgaria AD prieš Komisia za zashtita ot diskriminatsia nurodė, kad kriterijų, priemonę galima objektyviai pateisinti tik su sąlyga, jei priemonė neviršija to, kas tinkama ir būtina teisėtiems tikslams pasiekti, ir kad dėl jos kilę nepatogumai yra proporcingi siekiamam tikslui. Tačiau taip nėra, jeigu nustatoma, jog yra kitų, mažiau diskriminuojančių alternatyvų85. Todėl turi būti keliamas klausimas, ar yra alternatyvių, mažiau varžančių priemonių, tačiau su panašiu potencialu, kaip naudojama automatizuota sistema, tikslui pasiekti (būtinumo kriterijus); ar automatizuotos sistemos išvedinio padarytą žalą nusveria kiti interesai (tinkamumo kriterijus)86. Kiekvienu konkrečiu atveju reikia įrodyti, jog automatizuota sistema buvo tinkama ir būtina bei kad mažiau žalingas jos modelis nebuvo galimas tuo metu, kai ji buvo naudota87 (Morondo Taramundi, 2022, p. 80). Proporcingumas turėtų padėti įvertinti, ar darbdavio pasirinkimas naudoti automatizuotą sistemą ir iš to gaunama nauda nusveria galimą diskriminacinį poveikį, kurį gali sukelti ši sistema.

Apibendrinant galima teigti, kad netiesioginės algoritminės diskriminacijos atveju automatizuotose sistemose išvediniui gauti naudojama iš pažiūros neutrali nuostata, kriterijus ar praktika – algoritminis balas ir jį lemiantys kriterijai, kurių taikymo neigiamas poveikis labiau pasireikš saugomai grupei. Tai iliustruoja Italijos Bolonijos ir Palermo teismų nagrinėtos Deliveroo Italia S.R.L ir Foodinho S.R.L. bylos. Jose nustatyta, kad kilo netiesioginė diskriminacija, nes darbdavio naudotos automatizuotos sistemos apskaičiuojamo algoritminio balo kriterijai, nors formaliai atrodė neutralūs, tačiau faktiškai darė neigiamą poveikį saugomai platformos darbuotojų grupei, kurie dėl pateisinamų priežasčių (pvz., dalyvavimo streikuose, religinės praktikos ir pan.) negalėjo atitikti nustatytų kriterijų. Netiesioginė algoritminė diskriminacija uždraustu pagrindu (-ais) gali būti pateisinta remiantis „trijų žingsnių testu“: pirma, siekiant pateisinti praktiką (nagrinėjamu atveju – naudojamą algoritminį balą, jį lemiančius kriterijus), turi būti nurodomas teisėtas tikslas; antra, tikslui pasiekti naudojamos tinkamos priemonės; trečia, priemonės yra būtinos (proporcingos). Netiesioginė algoritminė diskriminacija nekyla, jeigu įrodoma, kad automatizuotos sistemos naudojimu buvo siekiama teisėto tikslo ir ji buvo proporcinga (tinkama ir būtina).

Išvados

1. Algoritminė diskriminacija yra diskriminacijos rūšis, kuri pasižymi tam tikrais požymiais: pirma, darbdavys naudoja automatizuotą sistemą darbo santykiuose numatytai užduočiai atlikti ir, antra, diskriminuojantis rezultatas gaunamas dėl automatizuotos sistemos sugeneruoto išvedinio, pažeidžiančio asmenų lygiateisiškumo principą. Šie požymiai leidžia atskirti automatizuotų sistemų šališkumą (angl. bias) nuo teisiškai reikšmingos diskriminacijos ir taip pat pateikti algoritminės diskriminacijos sampratą: algoritminė diskriminacija – tai toks teisių ribojimas ar privilegijų teikimas asmenims ar jų grupėms, išskirtiems vienu ar keliais draudžiamaisiais diskriminacijos pagrindais, atsirandantis taikant išvedinius, kuriuos pateikia automatizuotos sistemos. Kandidatų, darbuotojų ir platformų darbuotojų atžvilgiu tai pasireiškia automatizuotų sistemų generuojamais išvediniais, kurie riboja galimybes matyti ir gauti darbo pasiūlymus, lemia darbo teisinių santykių nesudarymą su konkrečiu kandidatu, netolygų darbo krūvio, pamainų, darbo užmokesčio ar karjeros galimybių paskirstymą, nevienodą atliekamo darbo vertinimą ar jo veiklos tęstinumo galimybes dėl šių asmenų siejimo su draudžiamaisias diskriminacijos pagrindais.

2. Algoritminė diskriminacija gali pasireikšti kaip tiesioginė arba netiesioginė algoritminė diskriminacija. Tiesioginė algoritminė diskriminacija yra tada, kai kandidatams, darbuotojams, platformų darbuotojams taikomos prastesnės, mažiau palankios sąlygos, palyginti su sąlygomis, kurios yra, buvo ar galėjo būti taikomos kitiems kandidatams, darbuotojams, platformų darbuotojams, esantiems panašioje padėtyje, ir to priežastis yra konkreti tų asmenų savybė, patenkanti į draudžiamo diskriminacijos pagrindo taikymo sritį. Tokiu atveju darbdavio naudojama automatizuota sistema nėra neutrali ir tiesioginė algoritminė diskriminacija kyla, kai automatizuota sistema generuoja išvedinius, remdamasi draudžiamaisiais diskriminacijos pagrindais (pavyzdžiui, lytimi, amžiumi ir kita). Šis tiesioginės algoritminės diskriminacijos sąvokos aiškinimas atitinka tiesioginės diskriminacijos sampratą, įtvirtintą tiek Europos Sąjungos teisės aktuose (Rasinės lygybės direktyvos 2 str. 2 d. a p., Užimtumo direktyvos 2 str. 2 d. a p., Lygių galimybių direktyvos 2 str. 1 d. a p.), tiek nacionaliniame teisiniame reguliavime – LGĮ 2 str. 9 d., MVLGĮ 2 str. 7 d., DK 26 str. 1 d., bei tyrime nagrinėtus algoritminės diskriminacijos pavyzdžius.

3. Netiesioginė algoritminė diskriminacija pasireiškia, kai akivaizdžiai neutrali nuostata, kriterijus ar praktika – automatizuotos sistemos išvediniui generuoti naudojamas algoritminis balas ir jį lemiantys kriterijai, taikoma tam tikrai kandidatų, darbuotojų ar platformos darbuotojų grupei, išskiriamai dėl draudžiamų diskriminacijos pagrindų, darys didesnį neigiamą poveikį nei panašioje padėtyje esantiems asmenims ir kuri negali būti objektyviai pateisinama, remiantis priemonių, kuriomis siekiama tikslo, proporcingumo analize. Ši netiesioginės algoritminės diskriminacijos sąvoka atitinka Rasinės lygybės direktyvos 2 str. 2 d. b p., Užimtumo direktyvos 2 str. 2 d. b p., Lygių galimybių direktyvos 2 str. 1 d. b p. ir LGĮ 2 str. 5 d., MVLGĮ 2 str. 4 d., DK 26 str. 1 d. nuostatas. Kaip įtvirtinta minėtuose teisės aktuose pateiktose netiesioginės diskriminacijos apibrėžtyse ir kaip atskleidė tyrime atlikta ESTT bylų analizė, netiesioginė algoritminė diskriminacija uždraustu pagrindu (-ais) gali būti pateisinta: pirma, turi būti nurodomas teisėtas tikslas; antra, tikslui pasiekti naudojamos tinkamos priemonės; trečia, priemonės yra būtinos (proporcingos). Netiesioginė algoritminė diskriminacija nekyla, jeigu tam tikra priemonė yra būtina ir tinkama, o siekiamas tikslas yra teisėtas.

Literatūra

Teisės aktai

Tarptautiniai teisės aktai

Tarptautinės darbo organizacijos konvencija Nr. 111 ,,Dėl diskriminacijos darbo ir profesinės veiklos srityje“ (1958). Valstybės žinios, 1996, 28-677.

Europos Sąjungos teisės aktai

Europos Parlamento ir Tarybos 2024 m. spalio 23 d. direktyva (ES) 2024/2831, dėl darbo platformoje sąlygų gerinimo. OL L, 2024/2831, 2024, p. 1–24.

Europos Parlamento ir Tarybos 2024 m. birželio 13 d. reglamentas (ES) 2024/1689, kuriuo nustatomos suderintos dirbtinio intelekto taisyklės ir iš dalies keičiami reglamentai (EB) Nr. 300/2008, (ES) Nr. 167/2013, (ES) Nr. 168/2013, (ES) 2018/858, (ES) 2018/1139 ir (ES) 2019/2144 ir direktyvos 2014/90/ES, (ES) 2016/797 ir (ES) 2020/1828 (Dirbtinio intelekto aktas). OL L, 2024/1689, 2024, p. 1–144.

Europos Parlamento ir Tarybos 2019 m. birželio 20 d. direktyva (ES) 2019/1158 dėl tėvų ir prižiūrinčiųjų asmenų profesinio ir asmeninio gyvenimo pusiausvyros, kuria panaikinama Tarybos direktyva 2010/18/ES. OL L 188, 2019, p. 79–93.

Europos Parlamento ir Tarybos 2016 m. balandžio 27 d. reglamentas (ES) 2016/679 dėl fizinių asmenų apsaugos tvarkant asmens duomenis ir dėl laisvo tokių duomenų judėjimo ir kuriuo panaikinama Direktyva 95/46/EB (Bendrasis duomenų apsaugos reglamentas). OL L 119, 2016, p. 1–88.

Europos Parlamento ir Tarybos 2006 m. liepos 5 d. direktyva 2006/54/EB dėl moterų ir vyrų lygių galimybių ir vienodo požiūrio į moteris ir vyrus užimtumo bei profesinės veiklos srityje principo įgyvendinimo (nauja redakcija). OL L204, 2006, p. 23–36.

Tarybos 2000 m. lapkričio 27 d. direktyva 2000/78/EB, nustatanti vienodo požiūrio užimtumo ir profesinėje srityje bendruosius pagrindus. OL L 303, 2000, p. 16–22.

Tarybos 2000 m. birželio 29 d. direktyva 2000/43/EB, įgyvendinanti vienodo požiūrio principą asmenims nepriklausomai nuo jų rasės arba etninės priklausomybės. OL L 180, 2000, p. 22–26.

Nacionaliniai teisės aktai

Lietuvos Respublikos Konstitucija. Lietuvos Respublikos piliečių priimta 1992 m. spalio 25 d. referendum. Valstybės žinios, 1992, 33-1014.

Lietuvos Respublikos darbo kodekso patvirtinimo, įsigaliojimo ir įgyvendinimo įstatymas. 2016 m. rugsėjo 14 d. Nr. XII-2603. TAR, 2016, 23709.

Lietuvos Respublikos lygių galimybių įstatymas. 2003 m. lapkričio 18 d. Nr. IX-1826. Valstybės žinios, 2003, Nr. 114-5115.

Lietuvos Respublikos moterų ir vyrų lygių galimybių įstatymas. 1998 m. gruodžio 1 d. Nr. VIII-947. Valstybės žinios, 1998, Nr. 112-3100.

Specialioji literatūra

ADAMS-PRASSL, Jeremias, BINNS, Reuben and KELLY-LYTH, Aislinn. (2023). Directly Discriminatory Algorithms. Modern Law Review, 86 (1), 144–175 [interaktyvus]. https://doi.org/10.1111/1468-2230.12759.

BAGDANSKIS, Tomas; MAČIULAITIS, Vilius; MIKALOPAS, Mantas (2018). Lietuvos Respublikos darbo kodekso komentaras: individualieji darbo santykiai. Rito projects, p. 24–30.

BAGDANSKIS, Tomas (2023). Diskriminacija darbe Lietuvoje – kaip gintis? Spectrum, 1(37), 62–67.

BORGESIUS, Frederik Zuiderveen (2018). Discrimination, artificial intelligence, and algorithmic decision-making [interaktyvus]. Strasbourg: Directorate General of Democracy. DOI https://doi.org/10.48550/arXiv.2510.13465.

CARTER, Christine (2024). Why the algorithmic recruiter discriminates: The causal challenges of data-driven discrimination. Maastricht Journal of European and Comparative Law, 31(3), 333–359 [interaktyvus] https://doi.org/10.1177/1023263X241248474

CHEN, Zhisheng (2023). Ethics and discrimination in artificial intelligence-enabled recruitment practices. Humanities & Social Sciences Communication, 10(567), 1–12 [interaktyvus]. https://doi.org/10.1057/s41599-023-02079-x.

DAVULIS, Tomas (2018). Lietuvos Respublikos darbo kodekso komentaras.Vilnius: Registrų centras.

DAVULIS, Tomas (2008). Darbuotojų lygiateisiškumo įgyvendinimas. Iš: PETRYLAITĖ, Daiva; DAVULIS, Tomas; PETRYLAITĖ, Vida. (2008). Europos Sąjungos teisės aktų įgyvendinimas Lietuvos darbo teisėje. Vilnius: Registrų centras, p. 85–126.

DHIR, Keshav; CHHABRA, Amit (2019). Automated employee evaluation using fuzzy and neural network synergism through IoT assistance. Personal and Ubiquitous Computing, 23, 43–52 [interaktyvus]. https://doi.org/10.1007/s00779-018-1186-6.

Europos Taryba, Europos Žmogaus Teisių Teismas ir Europos Sąjungos pagrindinių teisių agentūra (2021). Europos nediskriminavimo teisės vadovas: 2018 m. leidimas [interaktyvus]. Liuksemburgas: Europos Sąjungos leidinių biuras. https://data.europa.eu/doi/10.2811/548413

GERARDS, Janneke and XENIDIS, Raphaele (2021). Algorithmic Discrimination in Europe: Challenges and Opportunities for Gender Equality and Non-discrimination Law [interaktyvus]. European Commission. Luxembourg: Publications Office of the European Union. https://data.europa.eu/doi/10.2838/544956.

GRAHAM, Logan; GILBERT, Abigail; SIMONS, Joshua et al. (2020). Artificial intelligence in hiring: Assessing impacts on equality [interaktyvus]. London: Institute for the Future of Work. https://www.ifow.org/publications/artificial-intelligence-in-hiring-assessing-impacts-on-equality.

GRUMULAITIS, Artūras (2025). Legal Regulation of AI and Morality: The Artificial Intelligence Act in The Context of Natural Law and Legal Positivism. Teisė, 134, 27–47. [interaktyvus]. https://doi.org/10.15388/Teise.2025.134.3

GUMBREVIČIŪTĖ-KUZMINSKIENĖ, Diana (2011). Lygių galimybių principo įgyvendinimas Europos Sąjungos ir Lietuvos darbo teisėje. Daktaro disertacija, socialiniai mokslai, teisė (01S), Mykolo Romerio universitetas. Vilnius: Mykolo Romerio universiteto Leidybos centras.

GUMBREVIČIŪTĖ-KUZMINSKIENĖ, Diana. Darbo teisės subjektų lygybė. Iš: BAGDANSKIS, Tomas; BUŽINSKAS, Gintautas; GAIŽAUSKAITĖ, Inga et al. (sud.) (2016). Darbo teisės principai ir jų taikymas Lietuvos teismų praktikoje: kolektyvinė monografija. Vilnius: Registrų centras, p. 145–232.

HACKER, Philipp (2018). Teaching fairness to Artificial Intelligence: Existing and novel strategies against Algorithmic discrimination under EU law. Common Market Law Review, 55(4), 1143–1186 [interaktyvus]. https://doi.org/10.54648/cola2018095.

HIESSL, Christina (2025). Case Law on Algorithmic Management at the Workplace: Cross-European Comparative Analysis and Tentative Conclusions [interaktyvus]. SSRN: https://ssrn.com/abstract=3982735 arba DOI http://dx.doi.org/10.2139/ssrn.3982735.

JAROTA, Maciej (2023). Artificial intelligence in the work process. A reflection on the proposed European Union regulations on artificial intelligence from an occupational health and safety perspective. Computer law & security review, 49, 105825, 1–14 [interaktyvus]. https://doi.org/10.1016/j.clsr.2023.105825.

KELLY-LYTH, Aislinn (2023). Algorithmic discrimination at work. European Labour Law Journal, 14(2), 152–171 [interaktyvus]. https://doi: 10.1177/20319525231167300.

MICHAEL, Lucy and WATERHOUSE-BRADLEY, Bethany (2020). Artificial intelligence in HR. How to address racial biases and algorithmic discrimination in HR? [interaktyvus]. Brussels: European network against racism. https://www.enar-eu.org/wp-content/uploads/2020_equal_work_algoritmic_discrimination_1_.pdf.

MORONDO TARAMUNDI, Dolores. Discrimination by Machine-Based Decisions: Inputs and Limits of Anti-discrimination Law. Iš: CUSTERS, Bart ir FOSCH-VILLARONGA, Eduard. (eds.) (2022). Law and Artificial Intelligence. Information Technology and Law Series, vol 35 [interaktyvus] T.M.C. Asser Press, The Hague, p. 73–84.

ORWAT, Carsten (2020). Risks of Discrimination through the Use of Algorithms: A study compiled with a grant from the Federal Anti-Discrimination Agency [interaktyvus]. Berlin: Federal Anti-Discrimination Agency.

ROZMYSLOWICZ, Marta; KRZYZANIAK, Piotr (2023). Automated Processing of Data on Work Performance and Employee Evaluation: A Case Study of Practices at Amazon Warehouses in Poland. Italian Labour Law e-Journal, 2(16), 149–164 [interaktyvus]. https://doi.org/10.6092/issn.1561-8048/18084.

STRIKAITĖ-LATUŠINSKAJA, Goda (2022). Automatizuoti administraciniai nurodymai Lietuvoje. Teisė, 125, 145–160 [interaktyvus]. https://doi.org/10.15388/Teise.2022.125.9

VON UNGERN-STERNBERG, Antje (2022). Discriminatory AI and the Law – Legal Standards for Algorithmic Profiling. Iš: VOENEKY, Silja, KELLMEYER, Philipp, MUELLER, Oliver, BURGAR, Wolfram (sud.) (2022) Responsible AI [interaktyvus], Cambridge University Press. https://ssrn.com/abstract=3876657.

WACHTER, Sandra, MITTELSTADT, Brent ir RUSSELL, Chris (2021a). Why fairness cannot be automated: bridging the gap between EU non–discrimination law and AI. Computer Law & Security Review, 41: 105567, 1–31 [interaktyvus]. https://doi.org/10.1016/j.clsr.2021.105567.

WACHTER, Sandra, MITTELSTADT, Brent and RUSSELL, Chris (2021b). Bias Preservation in Machine Learning: The Legality of Fairness Metrics Under EU Non-Discrimination Law. W. Va. L. Rev., 123(3), 735–784 [interaktyvus]. https://researchrepository.wvu.edu/wvlr/vol123/iss3/4.

WEERTS, Hilde; XENIDIS, Raphaele; TARISSAN, Fabien et al. (2023). Algorithmic Unfairness through the Lens of EU Non-Discrimination Law: Or Why the Law is not a Decision Tree. In Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (FAccT’23), 12–15, 805–816 [interaktyvus]. https://doi.org/10.1145/3593013.3594044.

XENIDIS, Raphaele and SENDEN, Linda (2020). EU non – discrimination law in the era of Artificial Intelligence: Mapping the challenges of algorithmic discrimination. In: Ulf Bernitz et al (eds.) (2020). General Principles of EU law and the EU Digital Order [interaktyvus] (Kluwer Law International) [interaktyvus]. https://ssrn.com/abstract=3529524.

ŽLIOBAITĖ, Indrė (2017). Measuring discrimination in algorithmic decision making. Data Mining and Knowledge Discovery, 31, 1060–1089 [interaktyvus]. https://doi.org/10.1007/s10618-017-0506-1.

Europos Sąjungos Teisingumo Teismo sprendimai

Bilka-Kaufhaus GmbH prieš Karin Weber von Hartz [ESTT], Nr. C-170/84, [1986-05-13]. ECLI:EU:C:1986:204.

G.L. prieš AB SpA (Bervidi) [ESTT], Nr. C- C-38/24, [2025-09-11]. ECLI:EU:C:2025:690.

CHEZ Razpredelenie Bulgaria AD ir Komisia za zashtita ot diskriminatsia [ESTT], Nr. C-83/14, [2015-07-16]. ECLI:EU:C:2015:480.

S. Coleman prieš Attridge Law, Steve Law [ESTT], Nr. C-303/06, [2008-07-17]. ECLI:EU:C:2008:415.

O‘Brien ir Ministry of Justice [ESTT], Nr. C-393/10, [2012-03-01]. ECLI:EU:C:2012:110.

Susanna Brunnhofer prieš Bank der österreichischen Postsparkasse AG [ESTT], Nr. C-381/99, [2001-06-26]. ECLI:EU:C:2001:358.

Zentralbetriebsrat der Landeskrankenhäuser Tirols ir Land Tirol [ESTT], Nr. C-486/08, [2010-04-22]. ECLI:EU:C:2010:215.

Lietuvos Respublikos Konstitucinio Teismo praktika

Lietuvos Respublikos Konstitucinio Teismo 1997 m. gegužės 6 d. nutarimas. Valstybės žinios, 40-977.

Lietuvos Respublikos Konstitucinio Teismo 1998 m. lapkričio 11  d. nutarimas. Valstybės žinios, 100-2791.

Lietuvos Respublikos Konstitucinio Teismo 2019 m. sausio 11 d. nutarimas. TAR, Nr. 439.

Kitų šalių teismų sprendimai

Tribunale Ordinario di Bologna 2020 m. gruodžio 31 d., byla Nr. 2949/2019.

Tribunale di Palermo 2023 m. lapkričio 17 d., byla Nr. 9590/2023.

Derek Mobley v. Workday Inc., 2024 m. liepos 12 d., byla Nr. 23-cv-00770-RFL, USA, N.D. Cal. [interaktyvus]. https://caselaw.findlaw.com/court/us-dis-crt-n-d-cal/116378658.htm.

Derek Mobley v. Workday Inc., 2024 m. vasario 20 d., bylos Nr. 3:23-cv-00770-RFL, USA, N.D. Cal. [interaktyvus]. https://storage.courtlistener.com/recap/gov.uscourts.cand.408645/gov.uscourts.cand.408645.47.0.pdf.

Kiti šaltiniai

College voor de Rechten van de Mens (2025-02-18). Meta platforms Ireland Ltd. discriminates on the ground of gender when displaying job advertisements to users of Facebook in the Netherlands [interaktyvus]. https://oordelen.mensenrechten.nl/oordeel/2025-17/4a575c22-d4b0-499f-8811-6b5e6720344d.

CORREA, Ana Maria (2023-04-18). Equality, artificial intelligence, algorithms and automated decisions: How to detect and address discrimination in the context of AI? [interaktyvus]. https://www.era-comm.eu/oldoku/Adiskri/15_AI/123DV104_Correa_EN.pdf.

DASTIN, Jeffrey (2018-10-11). Insight – Amazon scraps secret AI recruiting tool that showed bias against women [interaktyvus]. https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK0AG/.

DUFFY, Clare (2023-06-12). People are missing out on job opportunities on Facebook because of gender, research suggests. [interaktyvus]. https://edition.cnn.com/2023/06/12/tech/facebook-job-ads-gender-discrimination-asequals-intl-cmd/index.html.

DUNN, Christy (2023-09-05). Employment discrimination via artificial intelligence [interaktyvus]. https://www.youngmoorelaw.com/blog/employment-discrimination-via-artificial-intelligence/.

FairNow (2025-08-06). Workday Lawsuit Over AI Resume Screening Bias: With July 29, 2025 Court Update [interaktyvus]. https://fairnow.ai/workday-lawsuit-resume-screening/.

Global witness (2025-02-13). New evidence of Facebook‘s sexist algorithm [interaktyvus]. https://www.globalwitness.org/en/campaigns/digital-threats/new-evidence-of-facebooks-sexist-algorithm.

Independent High-Level expert group on Artificial Intelligence (set up by the European Commission) (2020). The Assessment List for Trustworthy Artificial Intelligence (ALTAI) [interaktyvus]. https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment.

KERNER, Sean Michael; TABSHARANI, Fred (2024-10-16). Types of AI algorithms and how they work [interaktyvus]. https://www.techtarget.com/searchenterpriseai/tip/Types-of-AI-algorithms-and-how-they-work.

LE, Vinhcent; MOYA, Gissela (2021-02-18). Algorithmic Bias explained: How Automated Decision-Making Becomes Automated Discrimination [interaktyvus]. https://greenlining.org/wp-content/uploads/2021/04/Greenlining-Institute-Algorithmic-Bias-Explained-Report-Feb-2021.pdf.

Lygių galimybių kontrolieriaus tarnyba, Žmogaus teisių stebėjimo institutas (2020). Lygios galimybės darbovietėje. Vadovas darbdaviams [interaktyvus]. https://lygybe.lt/wp-content/uploads/2023/05/lygiu_galimybiu_vadovas_2020.pdf.

Meta Transparency Center (n.d.). Discriminatory Practices [interaktyvus]. https://transparency.meta.com/en-gb/policies/ad-standards/unacceptable-content/discriminatory-practices/.

WIGGINS, Gia (2023-10-16). The iTutorGroup AI discrimination lawsuit settlement: a cautionary tale for employers and the role of AI in HR best practices [interaktyvus]. https://auditocity.com/the-itutorgroup-ai-discrimination-lawsuit-settlement-a-cautionary-tale-for-employers-and-the-role-of-ai-in-hr-best-practices/.