¿Qué es el AI Act?

El AI Act es el reglamento de la Unión Europea sobre inteligencia artificial. Su enfoque es el riesgo: en vez de regular la tecnología en abstracto, clasifica cada sistema según el daño que puede causar y exige más cuanto más alto es ese riesgo, hasta prohibir directamente algunos usos.

Que un sistema que decide sobre personas pueda ser auditado antes de ponerse en marcha, no después del incidente. Afecta a quien desarrolla el sistema y también a quien lo despliega dentro de su organización.

Un sistema se considera de alto riesgo cuando trata datos de carácter personal, cuando sus algoritmos pueden generar sesgo en decisiones sensibles como un proceso de contratación, o cuando opera en ámbitos críticos. Esos sistemas deben documentarse, evaluarse y, entre otras cosas, demostrar que resisten las técnicas de jailbreak ya conocidas antes de lanzarse al mercado.

Una herramienta que puntúa currículums automáticamente entra en la categoría de alto riesgo: maneja datos personales y puede introducir sesgo en una contratación, así que tiene que pasar por evaluación antes de usarse.

Es el marco legal donde encajan los riesgos técnicos que se ven en el día a día, como el prompt injection o las alucinaciones.