Europa propone nuevas y más estrictas reglas para regular el uso de la Inteligencia Artificial

El uso de la Inteligencia Artificial cada vez es más común, llegando a realizar no sólo charlas en chats cerrados, o grandes cálculos dentro de superordenadores, sino cobrando un papel cada vez más presente dentro de numerosos ámbitos de la sociedad mundial. Es por eso por lo que la Unión Europea ha decidido dar un paso adelante con la publicación de su primera propuesta de regulación, con unas normativas más estrictas para regular el uso de la Inteligencia Artificial, considerada como uno de los avances científicos más importantes, pero éticamente cargados.

Tal y como detallaba el eurodiputado español Ibán García del Blanco, «el ciudadano es el centro de la propuesta«. Y es que según Margrethe Vestager, comisaria europea de Competencia, esta nueva legislación actuará cuando los derechos fundamentales estén en juego, señalando el eurodiputado alemán Axel Voss que el objetivo del texto no es otro que generar confianza al proteger a los ciudadanos.

Así pues, el borrador de las reglas describe cómo las empresas y gobiernos de todos los Estados Miembros podrán usar esta tecnología, estableciendo límites en torno al uso de la Inteligencia Artificial en una variedad de actividades, desde automóviles autónomos hasta decisiones de contratación, préstamos bancarios, selección de matrículas escolares o calificación de exámenes, e incluso su uso por parte de las fuerzas del orden y los sistemas judiciales, y otros ámbitos que amenazar la seguridad de las personas o sus derechos fundamentales.

La Comisión se centra en aquellas aplicaciones de Inteligencia Artificial de alto riesgo y aporta garantías a la seguridad de las personas, sus derechos e intereses, sin que ello implique la introducción de grandes trabas a empresas que quieran poner en el mercado productos y servicios basados en Inteligencia Artificial, evitando de esta manera frenar la capacidad de innovación.

La propuesta se presenta bajo un «enfoque basado en riesgo» alrededor de determinados usos de la Inteligencia Artificial en función del potencial impacto sobre las personas, categorizando hasta cuatro niveles diferenciados entre los que sólo quedan excluidos los usos a nivel militar.

1⃣ A legal framework on AI

We propose rules to make sure that #AI systems used in the EU are safe.

They will be categorised by risk:
⚫ Unacceptable
🔴 High risk
🟠 Limited risk
🟢 Minimal risk

More on risk categories → https://t.co/SD1ltmr9Vv#DigitalEU pic.twitter.com/u1S7rhnVJq

— European Commission 🇪🇺 (@EU_Commission) April 21, 2021

Comenzando por el «riesgo mínimo», nos encontramos con usos banales como el ocio y las inteligencias artificiales incluidas, por ejemplo, en algunos juguetes o videojuegos, o aplicaciones de creación de música o mejora y retoque de imágenes, entre otros, para los cuales la normativa no especifica la aplicación de ninguna medida restrictiva.

Medidas que comenzarán en el «riesgo limitado», donde se incluyen los sistemas cerrados de Inteligencia Artificial con los que puedan contactar los usuarios, tales como los chatbots, que deberán cumplir ahora con un nivel mínimo de transparencia, además de ser advertidos en todo momento como un contacto no humano.

En un segundo punto de «alto riesgo» se incluyen sistemas que crean un impacto adverso en la seguridad de las personas o sus derechos fundamentales, usos en infraestructuras críticas que puedan afectar a la salud, educación, sistemas de reclutamiento de personal, servicios públicos, legislación, o justicia.

Adicionalmente los sistemas de identificación biométrica remota serán también considerados de alto riesgo, sobre los que se aplicarán nuevos requisitos más estrictos. Si bien la Comisión Europea no ha decidido prohibirlos directamente, establece que el reconocimiento facial quedará prohibido para su uso en zonas públicas y en directo. Aunque existirán algunas excepciones como la búsqueda de personas dependientes o desaparecidas, la prevención de una amenaza terrorista específica e inminente, o la identificación de un perpetrador o sospechoso de un delito grave.

En el nivel más alto encontraremos el denominado «riesgo inaceptable», que englobará aquellos usos considerados como «una amenaza para la seguridad, los medios de vida y los derechos de las personas«, estableciendo la prohibición inmediata de los mismos.

Por último, una vez más se ha destacado la necesidad de la interacción y control humano, considerando que «la Inteligencia Artificial nunca debe reemplazar o exonerar a los seres humanos de su responsabilidad«. Algo que si bien se aplicará a todos los ámbitos, incide de nuevo para prohibir las armas letales autónomas habilitadas por Inteligencia Artificial.

3⃣ New rules on machinery products

🤖 Robots
🏗️ Construction machines
⚙ Production lines…

The new Machinery Regulation will ensure that the new generation of machinery guarantees the safety of users and consumers.
#DigitalEU #ArtificialIntelligence #AI pic.twitter.com/cyhmZxNtbi

— European Commission 🇪🇺 (@EU_Commission) April 21, 2021

No obstante, la Comisión Europa todavía tiene que aprobar este nuevo reglamento, un proceso que podría alargar más de un año la implementación de estas medidas. Aunque ya se ha matizado que, si bien por el momento se regularán sólo determinados usos de la Inteligencia Artificial, estas normativas contarán con un «margen para la innovación«, entrando ya en la regulación de otros nuevos temas candentes la robótica o las impresoras 3D.