• La unión europea ha propuesto un paquete de nuevas normas destinadas a limitar el uso de Inteligencia Artificial y el empleo de sistemas de reconocimiento facial en espacios públicos

El objetivo de estas medidas, es “garantizar la seguridad y los derechos fundamentales de las personas y las empresas” y fortalecer la adopción, la inversión y la innovación en IA.

“Al establecer los estándares, podemos allanar el camino hacia la tecnología ética en todo el mundo y garantizar que la UE siga siendo competitiva en el camino. Nuestras normas, preparadas para el futuro y favorables a la innovación, intervendrán donde sea estrictamente necesario: cuando estén en juego la seguridad y los derechos fundamentales de los ciudadanos de la UE”, ha destacado Margrethe Vestager, comisaria europea de Competencia.

Acorde a la comisión europea son cuatro los niveles de riesgo que son perjudiciales para el usuario, en primer lugar se encuentran los de tipo “riesgo inaceptable”, los cuales buscan cambiar el comportamiento humano, como los son juguetes que utilizan asistencia de voz que fomenta el comportamiento peligroso de los menores.

En segundo lugar se encuentran los de “alto riesgo”, en este grupo se encuentran el empleo de sistemas de Inteligencia artificial en diferentes tipos de infraestructura como lo es el transporte o en los casos en los que pueda poner en riesgo la salud del ciudadano.

De acuerdo con la comisión este tipo de sistemas están sujetos a “estrictas obligaciones” antes de que puedan comercializarse.

En tercer lugar se encuentran los sistemas que representan un “riesgo limitado” como lo son los “chatbots”, según la comisión europea “los usuarios deben ser conscientes de que están interactuando con una máquina para poder tomar una decisión informada de continuar o dar un paso atrás”.

Por último se encuentran los sistemas considerados de “bajo riesgo”, donde comprende la inteligencia artificial empleada en videojuegos o en aplicaciones de edición de imagen.

De igual forma acorde a la nueva normativa el reconocimiento facial así como la identificación biométrica, pasan a formar parte del grupo de “alto riesgo” y por consecuencia estarán sujetos a requisitos estrictos.

Por el momento, el paquete de normas solo es una propuesta y en el momento en el que sea aprobado, los miembros que conforman la UE serán obligados a darle cumplimiento.