El reglamento sobre inteligencia artificial establece un marco para las sanciones que los Estados miembros de la Unión Europea deben aplicar en caso de infracciones. Esto constituye un modelo para legislar en el mundo y reglamentar el uso de la IA. A continuación, se presentan ejemplos de conductas que podrían resultar en sanciones, así como la lista de los Estados miembros de la Unión Europea:
Infracciones y Sanciones:
- Multas de hasta 35,000,000 EUR o el 7% del volumen de negocios mundial total del operador:
- Incumplimiento de las prohibiciones de prácticas de IA del artículo 5:
- Ejemplo 1: Un sistema de IA utilizado para la puntuación ciudadana, que clasifica a personas por su comportamiento social, lo que resulta en un trato perjudicial o discriminatorio.
- Ejemplo 2: Uso de sistemas de identificación biométrica remota “en tiempo real” en espacios públicos sin cumplir las garantías.
- Ejemplo 3: Un sistema de IA que evalúa el riesgo de que una persona cometa un delito basándose únicamente en la elaboración de perfiles o rasgos de personalidad, sin evaluación humana y sin sospecha razonable basada en hechos.
- Incumplimiento de las prohibiciones de prácticas de IA del artículo 5:
- Multas de hasta 20,000,000 EUR o el 4% del volumen de negocios mundial total del operador:
- Incumplimiento de los requisitos para sistemas de IA de alto riesgo del Capítulo III, Sección 2:
- Ejemplo 1: Un sistema de IA en la educación que determina el acceso a instituciones o evalúa resultados de aprendizaje sin cumplir con la transparencia y supervisión humana.
- Ejemplo 2: Un sistema de IA de recursos humanos que se usa para la contratación sin evaluación de sesgos discriminatorios.
- Ejemplo 3: Un sistema de IA para el control fronterizo que no cumple los requisitos de protección de datos y precisión.
- Ejemplo 4: Un sistema de IA para evidencia en juicios criminales que carezca de transparencia, afectando el derecho a la defensa.
- Ejemplo 5: No establecer un sistema de gestión de riesgos adecuado.
- Ejemplo 6: No garantizar la calidad de los datos de entrenamiento.
- Ejemplo 7: No proporcionar la documentación técnica necesaria.
- Ejemplo 8: No establecer medidas de supervisión humana.
- Ejemplo 9: No garantizar la precisión, solidez y ciberseguridad del sistema.
- Ejemplo 10: No implementar vigilancia poscomercialización e identificar incidentes graves.
- Incumplimiento del artículo 50 sobre transparencia:
- Ejemplo 1: No informar a las personas que interactúan con un sistema de IA sobre que están interactuando con un sistema de IA.
- Ejemplo 2: No facilitar información a los responsables del despliegue sobre el funcionamiento del sistema.
- Ejemplo 3: No informar a las personas sobre decisiones tomadas por un sistema de IA de alto riesgo.
- Incumplimiento de los requisitos para sistemas de IA de alto riesgo del Capítulo III, Sección 2:
- Multas de hasta 10,000,000 EUR o el 2% del volumen de negocios mundial total del operador:
- Incumplimiento de las obligaciones de los importadores (artículo 23): Introducir sistemas de IA que no cumplen con los requisitos y no han sido evaluados.
- Incumplimiento de las obligaciones de los distribuidores (artículo 24): Comercializar sistemas de IA sabiendo que no cumplen el reglamento.
- Incumplimiento de las obligaciones de los responsables de la implementación (artículo 26): Usar sistemas de IA de alto riesgo de forma incorrecta, sin seguir instrucciones y causando daños. No realizar una evaluación de impacto antes de usar un sistema de IA de alto riesgo.
- Incumplimiento de los requisitos y obligaciones de los organismos notificados (artículos 31, 33 y 34): No realizar adecuadamente las evaluaciones de conformidad.
Estados miembros de la Unión Europea:
- Alemania
- Austria
- Bélgica
- Bulgaria
- Chipre
- Croacia
- Dinamarca
- Eslovaquia
- Eslovenia
- España
- Estonia
- Finlandia
- Francia
- Grecia
- Hungría
- Irlanda
- Italia
- Letonia
- Lituania
- Luxemburgo
- Malta
- Países Bajos
- Polonia
- Portugal
- República Checa
- Rumanía
- Suecia
El reglamento es de aplicación directa en cada uno de los Estados Miembros. Las sanciones tendrán en cuenta la intencionalidad, el daño causado y la capacidad económica del infractor, y podrán ser menores para las pymes.