Las personas van a tener que aprender mayor resiliencia frente al cambio en las organizaciones porque las modificaciones que se avecinan gracias a las mejoras de los procesos que provoca la IA nos van a permitir destinar más tiempo a tareas que hasta ahora teníamos que hacerlo brevemente y sin darle la importancia que se merecen, como relacionarnos mejor, adaptarnos rápidamente a los cambios, el pensamiento crítico sobre la IA.Las nuevas competencias van a incluir hard y soft y se mezclan los perfiles dentro de los departamentos. Se une los perfiles técnicos a comprender mejor el negocio para diseñar IA que permita que cumpla la seguridad, las alucinaciones de la IA bien regulada y los ecosistemas de agentes, asegurando la trazabilidad y la explicabilidad de los flujos de trabajo así como los riesgos derivados de la gobernanza de los datos con riesgo inaceptable, alto, limitado y mínimo gestionando con precisión, robustez, trazabilidad, supervisión humana, transparencia, documentación técnica y gestión de riesgos. Las personas de las organizaciones con perfiles humanistas, han de integrar las habilidades que requiere la IA, big data, ciberseguridad, cómo diseñar los flujos de trabajo y aprender a automatizarlos y de qué manera se integran en los procesos empresariales, en las decisiones laborales, recomendaciones médicas, evaluaciones de desempeño, selección de personas o mantenimiento industrial.
Todo esto en un momento de revisión de los perfiles a nivel salarial con la aplicación de la Directiva de transparencia salarial ya en vigor y la revisión de las competencias hard y soft para afrontar esta revolución que nos trae la IA.
Tendremos que aprender a realizar análisis predictivos todos los departamentos. Se configurará la adopción de la IA para alinearlo a la estrategia que traerá la incorporación de servicios o productos nuevos, mejoras de la atención a los clientes o cooperación humanoide con los humanos de las organizaciones. Todo esto cuando ya se tenga claro los ahorros de dinero y cómo monetizar los servicios aumentados con IA, pues se dará mejor servicio, más rápido y genera según el negocio más ingreso. Según Price Waterhouse el 22% de los CEO afirma que afecta al negocio no tener las competencias clave y KPMG afirma que el 77% de los CEOs considera el reskiling estratégico a pesar de que Gallup afirma en su último informe que desde el 2022 cayó el compromiso de los líderes. Así que mediremos las nuevas competencias y la adopción al cambio a IA pero rediseñaremos el trabajo y lo digo en futuro porque muchas organizaciones, multinacional y no, no han empezado.
Y uno de los factores clave es alinear el Reglamento de la IA a toda esta revolución de IA. Pero ¿qué mecanismos tiene la organización para detectar, registrar, corregir y aprender de los errores de la IA? Podemos hacerlo a través de agentes, que no solo responde, también planifica, ejecuta tareas, consulta sistemas, coordinar con otros agentes y tomar decisiones encadenadas. Si no existen logs claros, auditables y comprensibles, la empresa puede perder la trazabilidad de quién hizo qué, por qué se tomó una decisión, qué datos se usaron y qué persona tenía capacidad real de supervisión. Y si la gobernanza de estos logs no se realiza correctamente, para responder a las preguntas de que hizo la IA, con qué datos, cuales fueron los prompts que se dieron, con qué nivel de confianza y quien era responsable de ese prompt, no se podrá ni medir su rendimiento ni exigir responsabilidades.
A mayor autonomía de un agente, mayor la necesidad de trazabilidad. A mayor complejidad de los sistemas, mayor dificultad de las personas para comprender las decisiones más autónomos sean los agentes, mayor será la necesidad de trazabilidad; pero cuanto más complejos sean los sistemas, más difícil será que los humanos comprendan sus decisiones. La regulación tendrá que evitar una falsa sensación de control, donde existe un “humano en el circuito” solo de forma formal, pero sin tiempo, competencias ni autoridad real para detener o corregir el sistema.
Gestionar la convivencia entre personas y agentes implica rediseñar el trabajo. No basta con formar a las personas en el uso de herramientas de IA. Habrá que redefinir responsabilidades, límites de autonomía, criterios de escalado, protocolos de error, ciberseguridad, derechos de las personas trabajadoras y nuevos modelos de colaboración entre humanos, agentes digitales y, progresivamente, humanoides o sistemas espaciales inteligentes. Es decir, se genera una nueva estructura de gobernanza, donde se registra qué hizo el agente, qué datos utilizó, qué instrucciones dio, cual fue el nivel de confianza, quien intervino y qué autorizaciones tenía para hacer según qué y quien lo supervisó.
organizativo. Es cierto que se van a perder tareas repetitivas, pero va a aumentar responsabilidad de supervisión en puestos que no tenía dicha supervisión en sus puestos, además de respetar los criterios éticos y validar los datos así como coordinarse con los sistemas inteligentes. Los perfiles más técnicos aprenderán habilidades de comunicación, empatía, gestión del cambio y liderazgo, así como sesgos algorítmicos de discriminación, al igual que los perfiles más humanista aprenden las competencias de su rol desde las competencias clave de la IA, diseñan prompts y manejan la trazabilidad de datos y protegen los mismos en su área de negocio. La adopción cultural sube de peso específico en las organizaciones al igual que la regulación técnica. Habrá de computarse el nivel de satisfacción de usuarios y usuarias en el uso de la IA y conocer cómo informar a Comités, así como conocer cuándo escalar un riesgo para mitigar las dificultades y no delegar en los agentes decisiones humanas según la matriz de criticidad que resulte aplicable.
En resumen, el futuro del trabajo no dependerá únicamente de tener mejores modelos de IA. Dependerá de crear organizaciones capaces de convivir con agentes inteligentes sin delegar el juicio humano que esté fundado en hechos y genere confianza, la responsabilidad ética ni la rendición de cuentas, que se puede estructurar en:
- ALUCINACIONES: clasificación de errores por gravedad, obligación de validación humana en decisiones sensibles, fuentes verificables, umbrales de confianza y protocolos de corrección, que estará también en todos los departamentos para que a nivel transversal exista un control.
- LOGS DE AGENTES: registro de instrucciones, acciones, datos consultados, herramientas utilizadas, decisiones tomadas, intervención humana y trazabilidad entre agentes.
- COOPERACION PERSONA-AGENTE: matriz de responsabilidades, límites de autonomía, protocolos de escalado, derecho a explicación interna y formación en supervisión.
- COMPETENCIAS IA: niveles por puesto, desde alfabetización básica hasta supervisión avanzada de agentes, incluyendo ética, datos, validación, prompting, automatización, ciberseguridad y análisis crítico.
No se puede certificar solo la tecnología; también hay que certificar la capacidad humana de convivir con ella.
- Por ejemplo con el/la director/a financiero/a que ya tiene con IA la automatización de la contabilidad, y ahora quiere realizar análisis de balances y de nuevos modelos de negocio que permite la IA tras haber ahorrado horas de trabajo de la gestión diaria. Su puesto, al evaluarlo será integrando las funciones que impactan por la IA, las competencias derivadas de la predicción, control y supervisión de las tareas de la IA y el uso que le da a la IA de manera responsable. Evaluamos su capacidad de supervisar la contabilidad hecha por la IA y el ajuste al Reglamento de la IA de la UE. Se valorará su capacidad de mejorar la calidad del análisis finaciero, anticipar riesgos de exceso de costes generados por la IA y la posibilidad de auditar según la normativa. Su capacidad de definir la estrategia con el apoyo de la IA, o saber qué criterios son automatizables y cuáles no, o reconocer que una respuesta generada por IA puede ser convincente pero incorrecta y conocer los riesgos de alucinación, sesgo, falta de trazabilidad y dependencia excesiva.
Debe saber preguntarse:
- ¿De dónde salen estos datos?
- ¿Qué hipótesis ha usado el modelo?
- ¿Hay evidencia suficiente?
- ¿Qué nivel de confianza tiene la predicción?
- ¿Hay datos faltantes o anomalías?
- ¿La recomendación tiene sentido financiero y estratégico?
- ¿Qué pasaría si esta conclusión fuera falsa?
Ejemplo práctico:
Si la IA recomienda reducir costes en una unidad de negocio porque detecta baja rentabilidad, el/la directora/a financiero/a debe revisar si el modelo ha considerado estacionalidad, inversiones recientes, cambios comerciales, impacto en clientes, costes indirectos o efectos a medio plazo. Puede convertirse en una decisión de inversión, una provisión mal calculada, una previsión equivocada o una interpretación errónea del EBITDA, por lo que habrá de medirse su capacidad de diseñar controles anti-alucinación También definir quien revisa dentro del departamento según que automatización hecha por la IA.
Si un agente de IA genera una previsión de cash flow, debe quedar constancia de los datos usados, supuestos aplicados, fecha de ejecución, cambios posteriores y aprobación humana antes de presentarlo al Comité de Dirección. El/la directora/a Financiero/a debe establecer qué puede hacer la IA sola, qué puede proponer y qué nunca puede ejecutar sin validación humana y quien de su equipo lo hace y cual es la calidad de la decisión basada en una verificación real o contable.
Como este puesto, hay que definir todos los puestos y evaluar los riesgos antes de que aparezcan.
En conclusión
“La regulación europea no está preparando únicamente la adopción de la IA. Está sentando las bases para la convivencia entre personas, agentes inteligentes y sistemas autónomos. El verdadero reto de las organizaciones no será tecnológico, sino cultural: desarrollar profesionales capaces de combinar pensamiento humano, supervisión ética, competencias digitales y colaboración con agentes de IA en entornos cada vez más automatizados y espacialmente inteligentes.”
