Las claves de la nueva ley de Inteligencia Artificial

El pasado mes de diciembre, el Consejo y el Parlamento Europeo alcanzaron un acuerdo provisional sobre el que es el primer Reglamento de Inteligencia Artificial (IA). Esta ley tiene su origen en la  propuesta de la Comisión Europea del 2021 para crear primer marco regulador de la UE para la IA.

La Ley tiene dos objetivos claros:

• Garantizar que los sistemas de Inteligencia Artificial utilizados en la Unión Europea e introducidos en el mercado europeo sean seguros y respeten los derechos de los ciudadanos.
• Estimular la inversión y la innovación en el ámbito de la IA en Europa. El acuerdo establece que el Reglamento de Inteligencia Artificial debe aplicarse dos años después de su entrada en vigor.

Cabe destacar que esta es la primera propuesta legislativa en materia de Inteligencia Artificial en el mundo, de modo que puede establecerse como un referente mundial para regular la IA en otras jurisdicciones. La ley regulará la IA en base a sus riesgos. Cuanto mayor sea el riesgo, más estrictas serán las normas.

¿Qué es lo primero que se debe saber de este reglamento?

En primer lugar, el acuerdo provisional ha precisado como definición de sistema de IA el enfoque propuesto por la OCDE, con el objetivo de establecer unos criterios claros que distingan los sistemas de IA de otros softwares más sencillos.

Por otro lado, se aclara que el Reglamento no se aplicará a ámbitos fuera del ámbito de aplicación del Derecho de la UE y no afectará a las competencias de los Estados miembros en materia de seguridad nacional. Tampoco se aplicará a los sistemas utilizados exclusivamente con fines militares o de defensa; así como a los empleados con fines de investigación e innovación.

Sistemas de IA de alto riesgo y prácticas prohibidas

En el acuerdo se han establecido una serie de criterios horizontales de protección que determinarán cuándo los sistemas de IA pueden causar daños a la sociedad. De este modo, aquellos que entrañen riesgos altos estarán supeditados a una serie de requisitos y obligaciones para poder acceder al mercado de la UE.

En el caso de que sean sistemas con riesgos considerados inaceptables, su uso quedará totalmente prohibido. Se enmarcan en estos casos, por ejemplo, la manipulación cognitiva conductual o el rastreo indiscriminado de imágenes faciales sacadas de internet, entre otros.

Protección de los derechos fundamentales

El reglamento establece la evaluación del impacto que tiene cualquier nuevo sistema de IA en los derechos fundamentales antes de ser introducido en el mercado. Además, en el caso de los modelos funcionales, entendidos como sistemas de gran magnitud que pueden desarrollar diferentes tareas (generación de vídeo, texto, imágenes, etc.), deberán cumplir obligaciones más específicas en materia de transparencia.

Además, hace hincapié en la obligación de los usuarios de un sistema de reconocimiento de emociones de informar a las personas físicas a las que se exponga un sistema de este tipo.

La oficina de IA de la Comisión Europea

Con el objetivo de garantizar el cumplimiento de la nueva normativa, se va a crear la Oficina de la IA en la Comisión. Se encargará de supervisar que los Estados miembros aplican las nuevas normativas, supervisar los modelos de IA más avanzados y contribuir a fomentar las normas y prácticas de ensayo.

Si quieres conocer más en detalle las implicaciones de esta regulación, te recomendamos visitar este portar de la Comisión Europea con preguntas y respuestas.