Muchos equipos asocian la EU AI Act con el reconocimiento facial, los vehículos autónomos y el scoring social — sistemas que no les afectan. Lo que se pasa por alto: la EU AI Act define categorías de riesgo, y los sistemas de IA utilizados en un contexto laboral no caen automáticamente en la categoría de «inofensivos».
Esto no significa que cada herramienta de coaching se clasifique como sistema de alto riesgo. Significa que las empresas que implementan coaching con IA deben realizar una clasificación deliberada — y que los proveedores que no hacen transparente esta clasificación representan un riesgo.
Este artículo no constituye asesoramiento legal. Ofrece una visión pragmática: ¿Dónde se sitúa el coaching con IA dentro del marco regulatorio? ¿Qué preguntas deberían hacer las empresas ahora? ¿Y cómo es una gobernanza mínima que no sea ni burocrática ni ingenua?
La EU AI Act no es un tema para «más adelante». Ya hoy influye en cómo los equipos de compras evalúan las herramientas de IA. Quien no pueda proporcionar una clasificación de riesgo clara para su herramienta de coaching pierde en el proceso de adquisición — no ante un tribunal, sino en la selección de proveedores.
Dónde se ubica el coaching con IA en el marco de riesgo
La EU AI Act distingue cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo. La clasificación no depende de la herramienta en sí, sino de la finalidad de uso.
El umbral crítico: el contexto laboral. Los sistemas de IA utilizados en el ámbito de «empleo, gestión de trabajadores y acceso al trabajo autónomo» pueden clasificarse como de alto riesgo — especialmente cuando se utilizan para decisiones de contratación, evaluación de rendimiento o asignación de tareas.
El coaching como espacio de aprendizaje vs. sistema de evaluación. Aquí es donde la distinción se vuelve crucial — la misma distinción que es central en el contexto de los comités de empresa: ¿Se despliega la herramienta como un instrumento de formación o como un sistema de evaluación cuyos resultados influyen en las decisiones de RRHH? Una herramienta de coaching diseñada exclusivamente como un espacio seguro para el aprendizaje individual tiene un estatus regulatorio diferente al de un sistema que genera informes de gestión con puntuaciones de rendimiento individuales.
La consecuencia práctica: la clasificación no es binaria. Depende de cómo se utiliza realmente la herramienta — y de cómo el proveedor ha diseñado la arquitectura. Por eso, las preguntas al proveedor son al menos tan importantes como las preguntas al legislador.
Diez preguntas que los equipos DACH deberían hacer a los proveedores ahora
En lugar de analizar la EU AI Act en su totalidad — lo cual es tarea del departamento legal — aquí van diez preguntas que hacen sustanciales las conversaciones con los proveedores:
Finalidad y límites. ¿Para qué caso de uso está diseñado el sistema? ¿Existen límites documentados que definan lo que el sistema no debe hacer?
Clasificación de riesgo. ¿Ha realizado el proveedor su propia clasificación de riesgo según la EU AI Act? Si es así, ¿sobre qué base? Si no, ¿por qué no?
Supervisión humana. ¿Qué mecanismos existen para la intervención humana? ¿Pueden los administradores o usuarios corregir resultados, ajustar escenarios o detener el sistema?
Transparencia y explicabilidad. ¿Cómo se justifica el feedback? ¿Pueden los usuarios comprender por qué se asignó una puntuación determinada? ¿Existe un nivel de explicación más allá del número?
Registro y auditoría. ¿Qué se registra? ¿Durante cuánto tiempo? ¿Quién tiene acceso a los registros? ¿Se pueden exportar para una auditoría?
Tipos de datos y procesamiento. ¿Qué tipos de datos procesa el sistema? ¿Texto, audio, vídeo, metadatos? ¿Dónde tiene lugar el procesamiento?
Sesgo y equidad. ¿Cómo asegura el sistema que el feedback sea justo — independientemente del género, idioma, acento o estilo de comunicación? ¿Existen pruebas o monitorización?
Cambios de modelo y actualizaciones. ¿Qué sucede cuando se reemplaza el modelo de lenguaje subyacente? ¿Cambia el comportamiento del sistema? ¿Se notifica a los clientes?
Residencia de datos y seguridad. ¿Dónde se almacenan los datos? ¿Qué cifrado se utiliza? ¿Qué certificaciones están vigentes?
Modelo de roles. ¿Quién ve qué datos? ¿Es configurable el modelo de roles? ¿Sigue el principio employee-first?
Para quienes deseen ampliar estas preguntas con aspectos específicos de protección de datos, el artículo RGPD y coaching con IA: lo que realmente importa ofrece doce preguntas adicionales.
El Safe Space como principio de diseño — también regulatorio
El principio de safe space no es solo un argumento para el comité de empresa. También es un principio de diseño regulatorio:
Limitación clara de la finalidad. El sistema se utiliza exclusivamente con fines de formación individual. Sin uso secundario, sin elaboración de perfiles, sin decisiones de RRHH basadas en datos de coaching.
Voluntariedad. El uso se basa en el opt-in, no en una instrucción. Esto reduce significativamente el riesgo regulatorio — porque una herramienta de aprendizaje utilizada voluntariamente se clasifica de forma diferente a un sistema de evaluación obligatorio.
Agregación en lugar de individualización. La dirección ve las tendencias del equipo, no los datos individuales. Esta decisión arquitectónica es al mismo tiempo una decisión regulatoria: impide que el sistema se califique como instrumento de vigilancia individualizada del rendimiento.
Gobernanza mínima sin burocracia
No todas las organizaciones necesitan un comité de gobernanza de IA. Pero toda organización que utilice coaching con IA necesita tres cosas:
Un responsable. Una persona que sepa qué sistemas de IA están en uso, qué datos procesan y quién tiene acceso. No un comité — un nombre.
Una política. Un documento breve — una página es suficiente — que registre: ¿Qué sistemas utilizamos? ¿Con qué finalidad? ¿Qué datos se procesan? ¿Quién es responsable? ¿Cuál es el modelo de roles? Esta política no necesita ser perfecta. Necesita existir.
Un ritmo de revisión. Una vez por trimestre: ¿Sigue siendo precisa la clasificación? ¿Ha cambiado el caso de uso? ¿Hay nuevos requisitos regulatorios? Una revisión de treinta minutos evita que la gobernanza se convierta en papel mojado.
Para saber cómo configurar el primer piloto de forma conforme con la gobernanza, consulta el artículo Piloto de AI Sales Coaching: la hoja de ruta de 90 días.
Conclusión
La EU AI Act no es una regulación lejana que solo afecta a los fabricantes. Ya hoy influye en cómo los equipos de compras evalúan a los proveedores, qué preguntas aparecen en los RFPs y qué evidencias se esperan.
Para las herramientas de coaching con IA en la región DACH, esto significa: quien pueda presentar una clasificación de riesgo clara, ofrecer un modelo de roles transparente y documentar limpiamente la finalidad de uso tiene una ventaja — no solo regulatoria, sino en el proceso comercial. Y quienes no puedan hacerlo serán cada vez más excluidos de las listas cortas.
La buena noticia: la mayoría de los requisitos no son trabajo adicional. Son lo que un buen diseño de producto exige de todos modos — transparencia, limitación de la finalidad, explicabilidad y control.
sales-coach.ai documenta la clasificación de riesgos, la limitación de la finalidad y los modelos de roles conforme a la EU AI Act. El paquete de gobernanza incluye: documentación del sistema, vista general de los flujos de datos, arquitectura employee-first y un ritmo de revisión trimestral para clientes. Solicitar el paquete de gobernanza →