El Parlamento Europeo aprueba una Ley de Inteligencia Artificial para dar un marco legal a su uso.
Tal y como indican en el texto de la noticia en la web de la Eurocámara, el Parlamento aprobó el miércoles 13 de marzo el Reglamento de Inteligencia Artificial, con el que pretende garantizar la seguridad y el respeto de los derechos fundamentales al tiempo que impulsar la innovación. Aprobado por mayoría absoluta, se marca como objetivo «proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo, impulsando al mismo tiempo la innovación y erigiendo a Europa en líder del sector.»
Para ello, establece salvaguardias sobre la inteligencia artificial de uso general, limita el uso de sistemas de identificación biométrica por parte de las fuerzas de segurdad, prohibe los sistemas de puntuación ciudadana, así como la IA usada para manipular o explotar las vulnerabilidades de los usuarios, además de establecer derechos de los consumidores a presentar reclamaciones y recibir explicaciones.
¿Qué supone para las empresas?
Existen menciones concretas a prohibiciones sobre aplicaciones específicas de los sistemas de IA, como son la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial, o los sistemas de categorización biométrica basados en características sensibles. También se prohibirán el reconocimiento de emociones en el lugar de trabajo.
Se imponen requisitos de transparencia para los sistemas de IA de uso general y los modelos en los que se basan. Habrá que informar sobre los contenidos que se usan para nutrir dichos modelos, respetando la legislación de la UE sobre derechos de autor. Además, las imágenes, contenidos de audio o de vídeo artificiales o manipulados («ultrafalsificaciones», también conocidas como deep fakes) deberán etiquetarse claramente como tales.
La normativa señala estas aplicaciones como casos particulares de principios con un alcance más abierto. Por lo tanto, cualquier uso que pueda considerarse que perjudica la salud, la seguridad, los derechos fundamentales o el medio ambiente, entre otros puntos, puede estar sujeta a esta normativa.
Dada la evolución reciente de los sistemas de IA, hay que considerar que muchos de estos posibles perjuicios todavía se están estudiando. Por ejemplo, no existe una estimación de la huella de carbono de estos sistemas. Hace poco el MIT publicó que «cada vez que se utiliza IA para generar una imagen, escribir un mensaje de correo electrónico o hacerle una pregunta a un chatbot, el plantea paga un precio». Se basan en un estudio (pendiente de revisión) del que extraen la conclusión que «generar una imagen utilizando un modelo de IA poderoso requiere tanta energía como cargar completamente tu móvil».
Como medidas de apoyo a la innovación y a las PYMEs, se establece que «habrá que poner a [su] disposición […] espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional para que puedan desarrollar y entrenar la IA innovadora antes de su comercialización.»
Habrá que adaptarse en pocos meses
Aunque el Reglamento será de plena aplicación veinticuatro meses después de su entrada en vigor, ciertas medidas se aplicarán antes. En concreto, las prohibiciones de prácticas (se aplicarán seis meses después de la fecha de entrada en vigor); los códigos de buenas prácticas (nueve meses después); las normas sobre la IA de uso general, incluida la gobernanza (doce meses después), y las obligaciones para los sistemas de alto riesgo (treinta y seis meses después).
Teniendo en cuenta que la aprobación definitiva de esta ley está prevista para antes del final de la legislatura, cualquier empresa que quiera utilizar IA en Europa deberá estar preparada para adecuarse al Reglamento.
En Nexus5 tenemos experiencia con procesos de conformidad a normas y estándares, como el Reglamento General de Protección de Datos, los requisitos del programa Kit Digital, el estándar SAF-T y la certificación ISO 9001:2015.