Supòsit 147
Enunciado
Inditex va anunciar l’octubre de 2023 el desplegament d’un sistema d’Intel·ligència Artificial Generativa (IAG) en els seus processos de Recursos Humans: assistent conversacional per a candidats en el procés de selecció, anàlisi predictiva de rotació i sistema de recomanació de formació personalitzada. El projecte, desenvolupat en col·laboració amb Microsoft (Azure OpenAI), va ser presentat com un exemple de “transformació digital responsable” en la convenció interna de RRHH celebrada a la Corunya el gener de 2024. No obstant això, la iniciativa planteja tensions ètiques i organitzatives de primer ordre que han generat debat intern i escrutini extern.
Es disposa de les dades següents:
Escala del projecte: 165.000 treballadors globals | 12.000 processos de selecció anuals a Espanya | 18 % de rotació anual en botigues (benchmark sector: 22 %)
Microsoft WorkLab 2023: El 70 % de treballadors que usen IA en el treball reporten menys estrés cognitiu en tasques rutinàries, però el 54 % tem que la IA avalue el seu rendiment sense supervisió humana.
AI Act (Reglament UE 2024/1689): Els sistemes d’IA utilitzats per a selecció de personal, gestió del rendiment i ascensos es classifiquen com a “alt risc” (Annex III). Obligacions: transparència, supervisió humana, dret a explicació de decisions automatitzades, avaluació d’impacte.
Estimació de cost-benefici Inditex: Inversió en IA-RRHH: 8,5 M€/any | Estalvi estimat per reducció de rotació de 18 % a 15 %: 12.400 M€ × 3 % × 9.500 € cost rotació = 35,4 M€/any
Es demana:
- Apartat a) Identificar els processos de RRHH on la IA generativa aporta major valor i classificar-los segons el marc de “treball augmentat vs. treball substituït” d’Autor (2015).
- Apartat b) Calcular el ROI del projecte d’IA en RRHH a 3 anys usant les dades de l’enunciat, i interpretar-ne les limitacions.
- Apartat c) Dissenyar un sistema de KPI d’IA en RRHH que incloga tant mètriques d’eficiència com mètriques d’equitat (biaixos algorítmics, representativitat de col·lectius).
- Apartat d) Analitzar les obligacions d’Inditex sota l’AI Act 2024 per als sistemes de selecció i gestió del rendiment classificats com a “alt risc”.
- Apartat e) Debat crític: La digitalització dels RRHH reforça o soscava l’agència dels treballadors? Perspectiva crítica de Selwyn (2019) davant l’optimisme tecnològic de Brynjolfsson-McAfee (2014).
- Apartat f) Implicacions per a l’aula: com tractar la IA en els RRHH en l’assignatura d’Economia de l’Empresa de Batxillerat.
Mostrar solución
David Autor (Why Are There Still So Many Jobs?, JEP, 2015) distingeix entre tasques rutinàries (susceptibles d’automatització: processament d’informació estructurada, aplicació de regles fixes) i tasques no rutinàries (difícils d’automatitzar: judici complex, empatia, creativitat, negociació). El seu marc prediu que la IA substitueix tasques rutinàries, augmenta les no rutinàries i polaritza el mercat laboral cap als extrems de la distribució salarial.
Aplicat als RRHH d’Inditex:
Treball substituït (automatitzable): garbellat de currículums segons criteris predefinits; resposta a preguntes freqüents de candidats (chatbot); generació de contractes estàndard; anàlisi estadística d’absentisme; informes de formació completada.
Treball augmentat (IA com a copilot): entrevista de selecció (el sistema suggereix preguntes basades en el perfil, però l’entrevistador decideix); diagnòstic de clima organitzatiu (el sistema detecta patrons en les enquestes, però el responsable de RRHH interpreta el context local); disseny de plans de carrera (la IA recomana rutes basades en dades de mercat, el manager personalitza).
Treball irreemplaçable: gestió de conflictes laborals; negociació col·lectiva; decisions d’acomiadament; suport emocional en situacions de crisi personal.
El valor de la IAG en RRHH es concentra en el “treball augmentat”: allibera temps per a les tasques d’alta complexitat relacional. El risc és que les empreses la despleguen principalment per al “treball substituït” amb l’objectiu de reduir plantilla en RRHH.
El càlcul del ROI d’una inversió en tecnologia RRHH requereix distingir beneficis quantificables i beneficis intangibles.
Inversió total a 3 anys:
Benefici anual per reducció de rotació: La rotació en botigues passa de 18 % a 15 %. La plantilla espanyola de botigues és d’aproximadament 35.000 treballadors × 18 % = 6.300 eixides anuals actuals; amb IA, 35.000 × 15 % = 5.250 eixides. Reducció = 1.050 persones. Cost de rotació per treballador de botiga (reclutament + selecció + formació + productivitat perduda): 9.500 €.
Benefici addicional per eficiència en selecció: 12.000 processos × reducció de 40 % d’hores de garbellat a 3 hores de tècnic RRHH (cost hora 25 €) × 40 % = 12.000 × 3 × 0,4 × 25 = 360.000 €/any.
Limitacions del càlcul: (i) La reducció de rotació pot deure’s a altres factors (millora salarial, cicle econòmic); (ii) el cost no inclou la formació dels tècnics de RRHH per a treballar amb la IA; (iii) els costos de compliment de l’AI Act (auditories, documentació tècnica) no estan recollits i poden ser significatius.
ROI estimat a 3 anys: 21,9 %. Positiu però moderat. El projecte es justifica econòmicament només si la reducció de rotació es materialitza. El valor intangible (millora de l’employer branding, reducció de biaixos en selecció) pot ser igual o superior al quantificable.
Un sistema de KPI robust per a IA en RRHH ha d’equilibrar quatre dimensions: eficiència operativa, qualitat de decisió, equitat i benestar del treballador.
Dimensió 1 — Eficiència: Temps mitjà de garbellat per procés (objectiu: reducció del 40 %); taxa d’abandó del procés de selecció digital (objectiu: menor que 15 %); temps fins a contractació (objectiu: menor que 21 dies).
Dimensió 2 — Qualitat de decisió: Taxa de retenció a 12 mesos dels candidats seleccionats amb assistència IA vs. sense IA; rendiment a 6 mesos (avaluació de manager vs. predicció del sistema); correlació entre puntuació de l’algorisme i avaluació d’acompliment a 1 any.
Dimensió 3 — Equitat (biaixos algorítmics): Taxa de pas de garbellat per gènere, edat i origen (objectiu: diferència menor a 5 punts percentuals entre grups); Índex de Disparate Impact (DI = taxa de selecció del grup minoritari / taxa del majoritari; llindar legal: DI major que 0,8 segons doctrina EEOC); auditoria anual de biaixos per tercer independent (obligació AI Act).
Dimensió 4 — Benestar: Percentatge de treballadors que perceben les decisions de RRHH com a “justes i explicables” (enquesta semestral, objectiu major que 65 %); nombre de sol·licituds de revisió humana de decisió automatitzada.
El KPI més crític per a l’AI Act és l’Índex de Disparate Impact: si el sistema de garbellat selecciona candidats de certs grups a menys del 80 % de la taxa del grup de referència, el sistema té biaix discriminatori que obliga a revisió de l’algorisme.
El Reglament (UE) 2024/1689 d’Intel·ligència Artificial, en vigor des d’agost de 2024 amb plena aplicació dels sistemes d’alt risc des d’agost de 2026, classifica en el seu Annex III com a sistemes d’IA d‘“alt risc” els utilitzats en: ocupació i gestió de treballadors (garbellat de candidatures, presa de decisions d’ascens, avaluació de rendiment, supervisió del comportament).
Obligació 1 — Avaluació de Conformitat: Abans del desplegament, Inditex ha de realitzar una avaluació tècnica de conformitat que certifique que el sistema està dissenyat amb dades representatives, que l’impacte en grups vulnerables ha sigut avaluat i que els resultats del sistema són reproduïbles i auditables.
Obligació 2 — Transparència i dret a explicació: Qualsevol treballador o candidat la candidatura del qual siga filtrada o el rendiment del qual siga avaluat pel sistema té dret a una explicació comprensible de la lògica del sistema (no un bolcat de pesos del model). Inditex ha de dissenyar interfícies d’explicació “en llenguatge natural” (art. 13 AI Act).
Obligació 3 — Supervisió humana significativa: Les decisions finals de selecció, ascens o acomiadament no poden ser preses exclusivament pel sistema. Ha d’existir un responsable humà identificat que revise i puga invalidar la recomanació del sistema (art. 14). El responsable ha de tindre formació suficient per a interpretar les eixides del model.
Obligació 4 — Registre i documentació tècnica: Mantindre un registre de tots els inputs, outputs i decisions del sistema durant almenys 10 anys; documentació tècnica del model disponible per a l’Autoritat Nacional de Control (a Espanya, l’AESIA — Agència Espanyola de Supervisió de la Intel·ligència Artificial).
L’AI Act converteix el compliment regulatori en un factor de competitivitat: les empreses que no garantisquen supervisió humana real (no simbòlica) en les decisions de RRHH s’exposen a sancions de fins al 3 % del volum de negoci mundial (art. 99 AI Act).
Neil Selwyn (Should Robots Replace Teachers?, 2019; Is Technology Good for Education?, 2016) representa la perspectiva crítica dels estudis de ciència, tecnologia i societat (STS): la tecnologia digital en els entorns laborals i educatius no és neutral — incorpora els valors i les relacions de poder de qui la dissenya, i tendeix a reproduir i amplificar les desigualtats existents. Aplicat a la IA en RRHH: un algorisme entrenat amb dades històriques d’Inditex pot codificar biaixos passats de selecció (sobrerepresentació de certs perfils, infrarepresentació de col·lectius) i presentar-los com a “evidència objectiva”.
Erik Brynjolfsson i Andrew McAfee (The Second Machine Age, 2014) defenen l’optimisme tecnològic: la IA augmenta la productivitat, redueix les tasques cognitives rutinàries i pot reduir els biaixos humans (que són pitjors que els algorítmics quan s’auditen correctament). Els estudis d’Amazon (2018, on l’algorisme de selecció va ser desactivat per biaix contra dones) i LinkedIn (2022, algorisme de recomanació amb biaix racial documentat) donen la raó als crítics a curt termini.
La tensió entre Selwyn i Brynjolfsson-McAfee no es resol amb una posició ideològica, sinó amb disseny institucional: la IA en els RRHH reforça l’agència del treballador si existeix supervisió humana real, auditoria externa de biaixos, dret a impugnació i transparència algorítmica. La soscava quan es desplega com a “eficiència operativa” sense cap d’estos mecanismes. L’AI Act 2024 és precisament l’intent europeu d’imposar eixe disseny institucional com a obligació legal, no com a opció ètica voluntària. Per al docent d’Economia de l’Empresa, este supòsit il·lustra una tensió central del capitalisme contemporani: la tecnologia pot ser emancipadora o disciplinària — depèn de qui la controla, com s’audita i quins drets té el treballador davant d’ella.
En el currículum d’Economia de l’Empresa de 2n de Batxillerat (LOMLOE, Reial Decret 243/2022), la gestió dels recursos humans és un contingut central del Bloc 3 (“La funció dels recursos humans”). La irrupció de la IA en els RRHH permet connectar este contingut amb competències digitals (CE7) i amb la reflexió ètica sobre l’impacte tecnològic en el treball (ODS 8).
Proposta didàctica basada en el cas Inditex: el docent presenta les dades de l’enunciat (rotació, inversió, estalvi estimat) i divideix la classe en quatre grups amb rols: equip directiu de RRHH (maximitzar ROI), representants sindicals (garantir drets), tècnic de compliance de l’AI Act (assegurar legalitat) i candidats al procés de selecció (perspectiva de l’afectat). Cada grup defèn la seua posició en un debat simulat. El docent tanca amb la pregunta d’Autor (2015): quin tipus de treball volem que facen els humans en 2040?
La metodologia d’aprenentatge basat en problemes (ABP) és especialment eficaç per a este contingut perquè el dilema IA-ocupació no té una resposta correcta única, la qual cosa obliga l’alumnat a argumentar amb dades, autors i marcs teòrics — exactament les competències que avalua l’EBAU.