BTS, leader globale nella consulenza aziendale, approfondisce l'impatto dell'AI Act sui processi HR, evidenziando le cinque principali criticità che potrebbero esporre le aziende a rischi di non conformità e sanzioni nell'utilizzo dell'intelligenza artificiale per la valutazione delle competenze.
I cinque red flag che potrebbero esporre a contestazioni e rischi reputazionali: adottare un approccio responsabile permette di migliorare la qualità delle decisioni, proteggere l’equità, minimizzare i pregiudizi (bias) e rafforzare la fiducia interna e l’employer branding, trasformando la normativa in un’opportunità strategica.
A quasi due anni dall’entrata in vigore dell’AI Act dell’Unione Europea le organizzazioni sono chiamate a garantire la conformità dei sistemi di intelligenza artificiale utilizzati nei processi di selezione, promozione e valutazione delle persone. Il regolamento classifica tali sistemi come ad alto rischio, imponendo obblighi tecnici, di governance e di supervisione che stanno già trasformando il modo in cui le organizzazioni utilizzano l’IA per assumere decisioni lavorative.
Le pratiche non conformi ai requisiti del regolamento espongono le aziende in sanzioni fino a 35 milioni di euro o al 7% del fatturato globale annuo in caso di pratiche vietate, e fino a 15 milioni o al 3% per violazioni di obblighi aggiuntivi.
“L’EU AI Act segna un punto di svolta per tutte le organizzazioni che utilizzano l’IA per la gestione delle risorse umane. A quasi due anni dall’entrata in vigore del regolamento molte aziende adottano sistemi di IA classificati ‘ad alto rischio’, privilegiandoli rispetto alla supervisione umana, senza tracciabilità e ignorando completamente i rischi che certi sistemi rappresentano alla luce del nuovo quadro regolatorio”, afferma Francesco Fanelli, Managing Director e VP Italia di BTS.
In questo contesto, emerge l’urgenza di identificare le aree di maggiore esposizione normativa. A tal proposito, BTS, società di consulenza globale specializzata in strategia, leadership e trasformazione aziendale, ha individuato cinque “red flag” essenziali che le organizzazioni sono chiamate a verificare nei propri sistemi e fornitori di IA, sulla base dei requisiti dell’AI Act e degli standard professionali raccolti nella documentazione tecnica del settore.
1. Intuire emozioni, stress o sincerità tramite video o voce
L’AI Act vieta espressamente qualsiasi tecnica che tenti di valutare emozioni, onestà, stress, stabilità emotiva o tratti della personalità attraverso la voce, il volto o la biometria. Questo divieto risponde all’evidenza scientifica secondo cui tali valutazioni sono altamente imprecise e distorte, il che può portare a decisioni ingiuste a danno dell’equità e dell’inclusione.
«Le aziende che ricorrono a queste pratiche si espongono a pesanti sanzioni economiche, per non parlare dei gravi rischi reputazionali e delle controversie legali derivanti dalla discriminazione sul lavoro. Inoltre, queste tecniche possono generare sfiducia tra i dipendenti e i candidati, con ripercussioni sull’employer branding e sulla capacità di attrarre talenti», dichiara Francesco Fanelli, Managing Director e VP Italia di BTS.
2. Automatizzare le decisioni senza un’effettiva supervisione umana
I sistemi che filtrano i candidati, assegnano punteggi o prendono decisioni senza supervisione umana rientrano nella zona rossa. L’AI Act richiede che la supervisione sia reale e attiva, con la facoltà di rivedere, correggere e convalidare i risultati. Ciò significa che la tecnologia non può sostituire il giudizio umano, ma solo integrarlo.
L’assenza di una revisione effettiva aumenta il rischio di errori sistematici, pregiudizi involontari e decisioni ingiuste che possono influire sulla diversità e sulle pari opportunità all’interno dell’organizzazione. BTS sottolinea che la supervisione umana è anche la chiave per soddisfare i requisiti delle verifiche normative e dimostrare che l’IA viene utilizzata in modo responsabile ed etico.
3. Utilizzo di dati storici che alimentano pregiudizi o discriminazioni
I dataset storici, se non revisionati con rigore, possono replicare disuguaglianze preesistenti, discriminando in base a genere, età, etnia o livello di istruzione. L’AI Act continua ad analizzare i dati e dimostrarne la rappresentativitàrispetto a tutti i gruppi demografici rilevanti.
Ciò comporta l’esecuzione di analisi dell’impatto avverso (adverse impact) e test sui pregiudizi (bias testing) prima dell’implementazione di qualsiasi sistema di IA. Ignorare questo passaggio non solo può invalidare i risultati dei sistemi, ma rischia di innescare controversie legali e danneggiare la reputazione aziendale. Una gestione accurata dei dati è fondamentale per garantire che le decisioni derivanti dalle valutazioni siano eque e oggettive, sia nei processi di selezione che in quelli di promozione, retrocessione o mobilità interna.
4. Assenza di tracciabilità, log e documentazione tecnica completa
Le organizzazioni sono tenute a conservare registri completi delle decisioni, metriche di accuratezza, parametri di robustezza e tutta la documentazione tecnica che spieghi il funzionamento dei modelli e la generazione dei risultati. L’assenza di tracciabilità ostacola le attività di audit, di rilevare errori o bias e di giustificare le decisioni dinanzi alle autorità di regolamentazione o ai tribunali. Tale inadempienza può comportare severe sanzioni economiche e una perdita di fiducia da parte di dipendenti e candidati
Disporre di una documentazione dettagliata, inoltre, facilita il miglioramento continuo dei sistemi e permette alle aziende di adattarsi con agilità ai cambiamenti del quadro normativo.
5. Utilizzo di strumenti privi di chiari presupposti di validità o di pertinenza con il ruolo
L’AI Act e gli standard professionali come il SIOP esigono che ogni sistema di IA sia supportato da evidenze tecniche che dimostrino la capacità di misurare competenze effettivamente rilevanti per la posizione ricoperta. Ciò include studi di validità, analisi di correlazione con le prestazioni lavorative e coerenza dei risultati.
L’impiego di strumenti privi di tali evidenze non solo mette a rischio la conformità legale, ma compromette anche la qualità dei processi decisionali, rischiando di generare errori nelle assunzioni o nelle promozioni. La validazione scientifica garantisce che l’IA contribuisca a decisioni giuste, obiettive e in linea con gli obiettivi strategici dell’organizzazione.
“L’implementazione responsabile dell’IA nella gestione del talento non è solo una questione di conformità normativa: è un’opportunità strategica per migliorare la qualità delle decisioni, minimizzare i pregiudizi e rafforzare la fiducia interna ed esterna. Le organizzazioni che sapranno identificare e mitigare queste cinque red flag saranno meglio posizionate per sfruttare l’IA in modo etico, efficiente e coerente con i propri obiettivi di business, evitando rischi regolatori e consolidando il proprio employer branding”, conclude Francesco Fanelli.
Nessun commento:
Posta un commento