El miércoles, el Parlamento Europeo aprobó una legislación sobre inteligencia artificial, que impulsa la innovación garantizando al mismo tiempo nuestra seguridad y nuestros derechos fundamentales, escribió en su comunicado de prensa. Parlamento Europeo.
Por una mayoría de 523 votos contra 46 y 49 abstenciones, los representantes del Parlamento Europeo adoptaron una propuesta de reglamento que se negoció con los estados miembros en diciembre pasado.
La legislación tiene como objetivo proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad ambiental contra la inteligencia artificial (IA) de alto riesgo, al tiempo que estimula la innovación y consolida el liderazgo de Europa en el campo de la IA.
– lee el comunicado.
El Reglamento establece obligaciones de aplicación basadas en los riesgos e impactos potenciales de la IA relacionado.
Por fin tenemos la primera legislación vinculante del mundo sobre IA que reduce los riesgos, crea oportunidades, lucha contra la discriminación y genera transparencia. Gracias al Parlamento, las prácticas inaceptables de IA están prohibidas por ley en Europa y los derechos de los trabajadores y ciudadanos están protegidos. La Oficina de Inteligencia Artificial pronto intensificará sus esfuerzos para ayudar a las empresas a empezar a cumplir las normas antes de que entren en vigor. Nos hemos asegurado de que las personas y los valores europeos estén en el centro del desarrollo de la IA.
dijo el correlator Brando Benevi (Socialismo y Desarrollo, Italia) durante el debate general del martes.
La Unión Europea ha proporcionado. Hemos vinculado el concepto de inteligencia artificial a los valores fundamentales que fundamentan nuestras sociedades. Sin embargo, todavía queda mucho trabajo por hacer que va más allá de la propia legislación sobre IA. La inteligencia artificial nos obligará a repensar el contrato social en el corazón de nuestras democracias, nuestros modelos educativos, nuestros mercados laborales y la forma en que libramos la guerra. La Ley de Inteligencia Artificial es el punto de partida de un nuevo modelo de gobernanza basado en la tecnología. Ahora debemos centrarnos en poner en vigor esta legislación.
– Se ha añadido el corresponsal colaborador Dragos Tadurac (Renew, Rumania).
Se da prioridad a la protección de los derechos de los ciudadanos.
Según el decreto, se prohibirían los perfiles biométricos basados en datos personales sensibles o la creación de bases de datos de reconocimiento facial, “utilizando imágenes faciales que no hayan sido seleccionadas intencionalmente de Internet o de grabaciones de redes de circuito cerrado de televisión”.
Inteligencia artificial que vulnera los derechos de los ciudadanos No se permitirán solicitudes según las nuevas reglas.
Se prohibirá el uso de sistemas automatizados de reconocimiento de emociones en los lugares de trabajo y las escuelas.
Los ciudadanos no pueden ser evaluados en función de su nivel de riesgo o afiliación social, y el uso de “vigilancia policial predictiva basada en perfiles e historial criminal”, así como sistemas capaces de influir en el comportamiento de las personas o explotar su vulnerabilidad, va contra las reglas.
Las opciones para los organismos encargados de hacer cumplir la ley se están reduciendo
Aparte de algunas excepciones bien definidas, las agencias encargadas de hacer cumplir la ley tampoco pueden utilizar sistemas de identificación biométrica remota (RBI).
Según el anuncio, “el uso posterior de dichos sistemas (después de establecer el hecho del delito) se considera de alto riesgo y, por lo tanto, está sujeto a autorización judicial”.
El RBI en tiempo real sólo puede utilizarse bajo estrictas salvaguardias (limitadas en tiempo y geografía, y con autorización judicial u oficial separada) cuando, por ejemplo, se busca a una persona desaparecida o se intenta prevenir un ataque terrorista.
Requisitos de Sistemas de Alto Riesgo.
Con respecto a los sistemas de IA que representan una amenaza significativa para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho, el nuevo reglamento establece obligaciones claras.
Infraestructura crítica, educación, formación profesional, empleo, servicios esenciales públicos y privados (como la atención sanitaria y la banca), aplicación de la ley, inmigración y gestión de fronteras, así como procesos judiciales y democráticos (como las aplicaciones de inteligencia artificial utilizadas para influir en las elecciones).
– dice el comunicado de prensa del Parlamento Europeo, destacando que «en el caso de tales sistemas, el reglamento exige una evaluación y mitigación periódicas de los riesgos».
A partir de ahora los ciudadanos tendrán derecho a presentar una denuncia contra el uso de sistemas de inteligencia artificial.
Además, tendrán derecho a información detallada sobre las decisiones tomadas relacionadas con sistemas de IA de alto riesgo que afecten significativamente a sus derechos fundamentales.
El operador debe registrar el uso del sistema y, además de la transparencia y precisión del sistema, también debe garantizar la supervisión humana del mismo.
Los deepfake deben marcarse
Los sistemas de IA de uso general y los modelos de IA que los sustentan también deben cumplir ciertos requisitos de transparencia, y las normas de derechos de autor de la UE deben tenerse en cuenta al entrenar los modelos.
Será necesario marcar claramente como tales los contenidos de imágenes, audio y vídeo artificiales o manipulados (deepfake).
Se aplicarán requisitos adicionales a modelos de IA más sólidos que puedan plantear riesgos sistémicos, incluida la evaluación de modelos, la evaluación y mitigación de riesgos sistémicos y la notificación de eventos inusuales.
Es necesario crear un entorno de pruebas regulatorio y realizar pruebas en condiciones reales en los Estados miembros (con la participación obligatoria de pymes y empresas emergentes) para llevar al mercado sistemas de IA innovadores, maduros y capacitados.
El Parlamento puede adoptar el decreto en el marco del procedimiento de corrección, tras un control jurídico y lingüístico e incluso antes de que finalice la sesión legislativa. El Consejo Europeo también debe apoyar formalmente el texto final de la legislación.
El Reglamento entra en vigor el vigésimo día después de su publicación en el Diario Oficial de la Unión Europea, y en los Estados miembros 24 meses después de su entrada en vigor, la legislación debe aplicarse íntegramente, con excepción de las disposiciones sobre prácticas prohibidas.
Una vez más, 150 temas nuevos y apasionantes con respuestas sorprendentes.
¡Sigue a Index en Facebook también!
«Quiero ser un aficionado a la televisión. Entusiasta certificado de la cultura pop. Académico de Twitter. Estudiante aficionado».