La inteligencia artificial en la empresa: marco regulatorio europeo
El Reglamento de Inteligencia Artificial de la UE (AI Act), aplicable desde 2024-2026 en función del tipo de sistema, clasifica los sistemas de IA en cuatro niveles de riesgo con obligaciones distintas: riesgo inaceptable (sistemas prohibidos, como la manipulación del comportamiento de grupos vulnerables), riesgo alto (sistemas con obligaciones intensas de evaluación y documentación), riesgo limitado (obligaciones de transparencia) y riesgo mínimo (sin obligaciones específicas). Las empresas que usan o desarrollan sistemas de IA en contextos laborales, de crédito, de recursos humanos o de vigilancia son especialmente afectadas.
Sistemas de IA de alto riesgo en el contexto empresarial
El AI Act clasifica como de alto riesgo los sistemas de IA utilizados en: (1) selección de personal (filtrado de CVs, puntuación de candidatos, entrevistas automatizadas); (2) evaluación del desempeño laboral; (3) concesión de créditos y seguros cuando se trata de personas físicas; (4) sistemas de biometría que categorizan a personas por sus características físicas o comportamentales; y (5) infraestructuras críticas. Para estos sistemas, las empresas deben implementar un sistema de gestión de riesgos, documentación técnica exhaustiva, trazabilidad de los datos de entrenamiento, supervisión humana obligatoria y registro en la base de datos de la UE.
Obligaciones de transparencia con empleados y clientes
Las empresas que usan sistemas de IA para interactuar con personas (chatbots, sistemas de recomendación, scoring automatizado) deben informar a los usuarios de que están interactuando con un sistema de IA. En el ámbito laboral, los trabajadores tienen derecho a conocer cuando una decisión que les afecta (selección, evaluación, despido) ha sido tomada o influida por un sistema de IA, y a solicitar una revisión humana de esa decisión.
Sanciones del AI Act y cómo prepararse
Las sanciones del AI Act son de las más elevadas de la regulación europea: hasta 35 millones de euros o el 7% de la facturación mundial anual para las infracciones más graves (uso de sistemas prohibidos). La preparación requiere un inventario de todos los sistemas de IA utilizados en la empresa, clasificación por nivel de riesgo, y plan de acción para cumplir los requisitos aplicables. En DirectorJuridico.es asesoramos en el cumplimiento del AI Act coordinados con LRB Tax & Legal, expertos en derecho digital y compliance tecnológico. Contacto: Contacto@LRB.es / +34 684 234 831.