La Unión Europea aprueba la primera ley de inteligencia artificial del mundo

La Unión Europea (UE) pactó, este viernes, la primera de ley de inteligencia artificial en el mundo, después de un amplio debate que incluyó consideraciones sobre aspectos relacionados, entre otras cosas, con la seguridad ciudadana.

(Lea también: Las fotos que todos subimos a Instagram se usaron para entrenar IA que crea imágenes).

El proyecto, según lo explica el Consejo de la Unión Europea en su página web, tiene como objetivo principal regular la IA en función de sus riesgos para la sociedad. “Cuanto mayor es el riesgo, más estrictas son las reglas”, detallan.

La Ley de IA es, en sus palabras, “una iniciativa legislativa emblemática con el potencial de fomentar el desarrollo y la adopción de IA segura y confiable en todo el mercado único de la UE por parte de actores públicos y privados”.

Se trata de un acuerdo provisional que aún está sujeto a ratificación por parte del Parlamento Europeo y el Consejo de la UE, y que llega en medio de un auge vertiginoso de esta tecnología, la cual ha venido tomando protagonismo en diversos campos.

(Siga leyendo: Google anuncia Gemini, un modelo de IA multimodal: estará en celulares de forma nativa).

Este acuerdo no cobija áreas “fuera del alcance de la legislación de la UE” y la proyección es que no afecte las competencias de los Estados miembros en materia de seguridad nacional ni tampoco los fines militares o de defensa, para los cuales las regulaciones no aplicarán.

Algunos puntos importantes de la ley pactada

Clasificación de los sistemas de IA como prácticas de IA prohibidas y de alto riesgo

La ley pactada establece que los sistemas de IA que presenten un riesgo limitado estarían sujetos a “obligaciones de transparencia muy leves”. Por ejemplo, informar a la ciudadanía que el contenido fue generado por esta tecnología para que tomen sus decisiones basados en ese punto de partida.

Los sistemas de IA de alto riesgo, por otra parte, funcionarán en el mercado de la UE, pero en torno a una serie de requisitos y obligaciones; mientras que aquellos sistemas considerados inaceptables serán prohibidos. Entre ellos se encuentra “la manipulación cognitiva conductual , la eliminación no selectiva de imágenes faciales de internet o imágenes de CCTV, el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas, la puntuación social, la categorización biométrica para inferir datos sensibles, como la orientación sexual o la religión, creencias y algunos casos de vigilancia policial predictiva para individuos”, puntualiza el Consejo de la UE.

(De interés: Copilot puede usarse en varias pantallas: esta y otras mejoras que implementó Microsoft).

Arquitectura de gobernanza

Con el fin de supervisar los modelos de IA más avanzados, contribuir a fomentar estándares y prácticas de prueba, y hacer cumplir las normas comunes en todos los estados miembros, se creerá una oficina dentro de la comisión encargada.

Adicional a lo anterior, la Oficina de AI sobre los modelos GPAI contará con la asesoría de un panel de expertos independientes; en tanto la Junta de AI, compuesta por representantes de los Estados miembros, “seguirá siendo una plataforma de coordinación y un órgano asesor de la Comisión”.

Sistemas de identificación biométrica

Uno de los puntos más debatidos del acuerdo era el uso de los sistemas de identificación biométrica remota en tiempo real en espacios de acceso público. Frente a este tema, la ley, que aún no entra en vigencia, establece que sí se podrá hacer uso de esta herramienta, siempre y cuando los fines sean exclusivamente policiales.

“El acuerdo de compromiso prevé salvaguardias adicionales y limita estas excepciones a los casos de víctimas de ciertos delitos, la prevención de amenazas genuinas, presentes o previsibles, como ataques terroristas, y la búsqueda de personas sospechosas de los delitos más graves”, explican en su página web.

Cuándo entrará en vigor?

“El acuerdo provisional establece que la ley sobre IA debería aplicarse dos años después de su entrada en vigor, con algunas excepciones para disposiciones específicas”, comparte la UE.