El sesgo de automatización en la supervisión humana de sistemas de inteligencia artificial: el riesgo permitido en el nuevo marco normativo europeo

Resumen

La supervisión humana es una de las medidas más relevantes para el control de los riesgos derivados de la introducción de la inteligencia artificial (IA) en la vida social. Uno de los principales desafíos para que la supervisión humana pueda ser efectiva es el sesgo de automatización, la tendencia a confiar de forma rutinaria o por complacencia en el funcionamiento de los sistemas que automatizan un proceso. Cuando se producen daños como consecuencia de la materialización de este riesgo, la responsabilidad penal del supervisor humano vendrá determinada por la configuración de su posición de garante y los límites del riesgo permitido en el ejercicio de sus funciones, presentándose diversos escenarios en función de la posibilidad de aplicar la nueva regulación europea sobre IA.

Palabras clave:

sesgo de automatización, delitos imprudentes, riesgo permitido, diligencia debida, inteligencia artificial, Reglamento de IA