La CE propone nuevas normas y acciones para la excelencia y la confianza en la IA

La Comisión ha propuesto nuevas normas y acciones con el fin de convertir a Europa en el centro mundial de la inteligencia artificial (IA) fiable. La combinación del primer marco legal sobre IA y un nuevo Plan Coordinado con los Estados miembros garantizará la seguridad y los derechos fundamentales de las personas y las empresas, al tiempo que fortalecerá la adopción, la inversión y la innovación de la IA en toda la UE. Las nuevas reglas sobre maquinaria complementarán este enfoque adaptando las reglas de seguridad para aumentar la confianza de los usuarios en la nueva y versátil generación de productos.

La nueva regulación de la IA garantizará que los europeos puedan confiar en lo que las investigaciones y resultados de la IA aplicada a las necesidades actuales. Las reglas abordarán los riesgos específicos que plantean los sistemas de inteligencia artificial y establecerán el estándar más alto en todo el mundo. El Plan describe los cambios políticos y la inversión necesarios a nivel de los Estados miembros para fortalecer la posición de liderazgo de Europa en el desarrollo de una IA centrada en el ser humano, sostenible, segura, inclusiva y fiable.

Las nuevas reglas se aplicarán directamente de la misma manera en todos los Estados miembros sobre la base de una definición de IA a prueba y siguen un enfoque basado en el riesgo:

• Riesgo inaceptable: se prohibirán los sistemas de inteligencia artificial considerados una clara amenaza para la seguridad, los medios de vida y los derechos de las personas . Esto incluye sistemas o aplicaciones de inteligencia artificial que manipulan el comportamiento humano para eludir el libre albedrío de los usuarios (por ejemplo, juguetes que utilizan asistencia de voz que fomenta el comportamiento peligroso de los menores) y sistemas que permiten la “puntuación social” de los gobiernos.

• Alto riesgo: los sistemas de IA identificados como de alto riesgo incluyen la tecnología de IA utilizada en:
  • Infraestructuras críticas (por ejemplo, transporte), que podrían poner en riesgo la vida y la salud de los ciudadanos;
  • Formación educativa o vocacional , que puede determinar el acceso a la educación y el curso profesional de la vida de alguien (por ejemplo, calificación de exámenes);
  • Componentes de seguridad de los productos (por ejemplo, aplicación de IA en cirugía asistida por robot);
  • Empleo, gestión de trabajadores y acceso al trabajo por cuenta propia (por ejemplo, software de clasificación de CV para los procedimientos de contratación);
  • Servicios públicos y privados esenciales (por ejemplo, calificación crediticia que niega a los ciudadanos la oportunidad de obtener un préstamo);
  • Aplicación de la ley que pueda interferir con los derechos fundamentales de las personas (por ejemplo, evaluación de la confiabilidad de las pruebas);
  • Gestión de migración, asilo y control de fronteras (por ejemplo, verificación de la autenticidad de los documentos de viaje);
  • Administración de justicia y procesos democráticos (por ejemplo, aplicación de la ley a un conjunto concreto de hechos).

• Los sistemas de IA de alto riesgo estarán sujetos a estrictas obligaciones antes de que puedan comercializarse:
  • Sistemas adecuados de evaluación y mitigación de riesgos;
  • Alta calidad de los conjuntos de datos que alimentan el sistema para minimizar los riesgos y los resultados discriminatorios;
  • Registro de actividad para garantizar la trazabilidad de los resultados ;
  • Documentación detallada que proporcione toda la información necesaria sobre el sistema y su propósito para que las autoridades evalúen su cumplimiento;
  • Información clara y adecuada al usuario;
  • Medidas adecuadas de supervisión humana para minimizar el riesgo;
  • Alto nivel de robustez , seguridad y precisión .

En particular, una identificación ll biométricos remoto sistemas se consideran de alto riesgo y sujeto a requisitos estrictos. Su uso en vivo en espacios de acceso público con fines de aplicación de la ley está prohibido en principio. Las excepciones limitadas están estrictamente definidas y reguladas (por ejemplo, cuando sea estrictamente necesario para buscar un niño desaparecido, para prevenir una amenaza terrorista específica e inminente o para detectar, localizar, identificar o enjuiciar a un perpetrador o sospechoso de un delito grave). Dicho uso está sujeto a la autorización de un órgano judicial u otro organismo independiente y a los límites adecuados de tiempo, alcance geográfico y bases de datos buscadas.

• Riesgo limitado , es decir, sistemas de inteligencia artificial con obligaciones específicas de transparencia: cuando se utilizan sistemas de inteligencia artificial como chatbots, los usuarios deben ser conscientes de que están interactuando con una máquina para poder tomar una decisión informada de continuar o dar un paso atrás.

• Riesgo mínimo: la propuesta legal permite el uso gratuito de aplicaciones como videojuegos habilitados para IA o filtros de spam. La gran mayoría de los sistemas de IA entran en esta categoría. El proyecto de Reglamento no interviene aquí, ya que estos sistemas de IA representan solo un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos.

En términos de gobernanza, la Comisión propone que las autoridades nacionales competentes de vigilancia del mercado supervisen las nuevas normas, mientras que la creación de una Junta Europea de Inteligencia Artificial facilitará su implementación e impulsará el desarrollo de estándares para la IA. Además, se proponen códigos de conducta voluntarios para la IA que no es de alto riesgo, así como entornos de prueba regulatorios para facilitar la innovación responsable.

La coordinación fortalecerá la posición de liderazgo de Europa en IA centrada en el ser humano, sostenible, segura, inclusiva y fiable. Para seguir siendo competitiva a nivel mundial, la Comisión se compromete a fomentar la innovación en el desarrollo y el uso de tecnología de IA en todas las industrias, en todos los Estados miembros.

Publicado por primera vez en 2018 para definir acciones e instrumentos de financiación para el desarrollo y la adopción de la IA, el Plan Coordinado sobre IA permitió un panorama vibrante de estrategias nacionales y financiación de la UE para asociaciones público-privadas y redes de investigación e innovación. La actualización integral del Plan Coordinado propone acciones conjuntas concretas de colaboración para garantizar que todos los esfuerzos estén alineados con la Estrategia europea sobre IA y el Pacto Verde Europeo, teniendo en cuenta los nuevos desafíos que trae la pandemia de coronavirus. Presenta una visión para acelerar las inversiones en IA, lo que puede beneficiar la recuperación. También tiene como objetivo estimular la implementación de estrategias nacionales de IA, eliminar la fragmentación y abordar los desafíos globales.

El Plan actualizado utilizará fondos asignados a través de los programas Europa Digital y Horizonte Europa , así como el Mecanismo de Recuperación y Resiliencia que prevé un objetivo de gasto digital del 20%, y los programas de la Política de Cohesión , para:

• Crear condiciones propicias para el desarrollo y la adopción de la IA mediante el intercambio de conocimientos sobre políticas, el intercambio de datos y la inversión en capacidades informáticas críticas;
• Fomentar la excelencia de la IA ‘del laboratorio al mercado’ estableciendo una asociación público-privada, creando y movilizando capacidades de investigación, desarrollo e innovación, y poniendo a disposición de las PYME y las administraciones públicas instalaciones de prueba y experimentación, así como centros de innovación digital;
• Asegurar que la IA funcione para las personas y sea una fuerza para el bien en la sociedad al estar a la vanguardia del desarrollo y despliegue de IA confiable, fomentando talentos y habilidades mediante el apoyo a pasantías, redes de doctorado y becas postdoctorales en áreas digitales, integrando la confianza en las políticas de IA y promover la visión europea de una IA sostenible y fiable a nivel mundial;
• Desarrollar un liderazgo estratégico en sectores y tecnologías de alto impacto, incluido el medio ambiente, centrándose en la contribución de la IA a la producción sostenible, la salud mediante la expansión del intercambio transfronterizo de información, así como el sector público, la movilidad, los asuntos internos y la agricultura, y la robótica.
  
  Los productos de maquinaria cubren una amplia gama de productos de consumo y profesionales, desde robots hasta cortadoras de césped, impresoras 3D, máquinas de construcción y líneas de producción industrial. La Directiva de Máquinas , reemplazada por el nuevo Reglamento de Máquinas , definió los requisitos de salud y seguridad para la maquinaria. Este nuevo Reglamento de Máquinas asegurará que la nueva generación de maquinaria garantice la seguridad de usuarios y consumidores, y fomente la innovación. Si bien el Reglamento de IA abordará los riesgos de seguridad de los sistemas de IA, el nuevo Reglamento de maquinaria garantizará la integración segura del sistema de IA en la maquinaria en general. Las empresas deberán realizar una única evaluación de la conformidad.

Además, el nuevo Reglamento de Maquinaria responderá a las necesidades del mercado aportando mayor claridad jurídica a las disposiciones vigentes, simplificando la carga administrativa y los costes para las empresas al permitir formatos digitales para la documentación y adaptando las tasas de evaluación de la conformidad para las pymes, garantizando al mismo tiempo la coherencia con la UE. marco legislativo para productos.

El Parlamento Europeo y los Estados miembros deberán adoptar las propuestas de la Comisión sobre un enfoque europeo para la inteligencia artificial y los productos de maquinaria en el procedimiento legislativo ordinario. Una vez adoptados, los Reglamentos serán directamente aplicables en toda la UE. Paralelamente, la Comisión seguirá colaborando con los Estados miembros para implementar las acciones anunciadas en el Plan Coordinado.