Diszkrimináció és perveszély: erre figyelmeztetnek a munkahelyi AI-eszközök miatt

Emily Metcalfe, a Square One Law munkajogi szakértője részletesen elemzi azokat a kockázatokat, amelyeket a mesterséges intelligencia (AI) eszközök jelenthetnek a munkahelyeken, és bemutatja, hogyan kellene reagálniuk erre a munkáltatóknak.

Az AI-rendszerek valós adatokból tanulnak, így átvehetik a rejtett torzításokat, amelyek utána befolyásolhatják az automatizált toborzási döntéseket, a teljesítményértékeléseket, a munkakiosztást vagy a leépítéseket. Az automatizált eredmények túlzott tisztelete oda vezethet, hogy a szervezetek figyelmen kívül hagyják a személyes körülményeket és a védett tulajdonságokat.

Az algoritmikus rendszereket egyre gyakrabban használják a dolgozók teljesítményadatok és betegszabadságok alapján történő rangsorolására is anélkül, hogy figyelembe vennék a fogyatékossághoz vagy a családhoz kapcsolódó hiányzásokat. Ezen hibák miatt a munkavállalók alaptalanul kerülhetnek fegyelmi eljárás vagy leépítés célkeresztjébe. Egy 2024-es nagy visszhangot kiváltó esetet is felidéztek, amikor egy futár, akinek a fiókját az AI arcfelismerő technológia ismételt sikertelen szelfi-ellenőrzése miatt blokkolták, faji diszkrimináció miatt perelte be a munkáltatóját.

A generatív eszközök ráadásul nemkívánatos vagy szexualizált tartalmakat is generálhatnak, ami zaklatási kockázatokat és harmadik fél általi felelősséget vonhat maga után. 

A szervezetek számára a legbiztonságosabb út az alábbi intézkedések betartása:

• Biztosítani kell, hogy minden automatizált folyamatot emberi felügyelet kísérjen.
• Folyamatosan tesztelni kell a modelleket az esetleges torzítások kiszűrésére.
• Dokumentálni kell az emberi ellenőrzéseket, elkerülve, hogy a csapatok kizárólag az automatizációra támaszkodjanak.
• Be kell vezetni egy átfogó „AI Felhasználási Szabályzatot” (AI Acceptable Use Policy), amely rögzíti az engedélyezett zárt eszközök körét és a fegyelmi szankciókat.
• Frissíteni kell az adatvédelmi tájékoztatókat, valamint a fegyelmi és alkalmassági szabályzatokat.

Forrás: Personnel Today