AUTORES

Elodie de Fontenay
Data & AI Centre of
Excellence Lead – UK-US

Federica Montefoschi
Lead Data Scientist & AI
Risk Expert @Bip xTech

Paul Gillingwater
Responsible Data & AI
Lead – Data & AI COE

Antonio Ponzio
Lead Data Scientist & AI
Risk Expert @Bip xTech

La inteligencia artificial (IA) es la generalización de la inteligencia demostrada por las máquinas. Hoy en día, la IA es ampliamente adoptada por organizaciones que van desde las nuevas empresas hasta las pequeñas o grandes, tanto en el sector privado como en el público. Un grupo clave de actores en el mercado está formado por los proveedores de la nube, que han integrado rápidamente las capacidades de IA en sus ofertas. Los casos de uso de la IA incluyen el marketing, la elaboración de perfiles, la eficiencia, la optimización y la detección de problemas.

Las principales preocupaciones en torno al uso ilimitado de la IA y la elaboración de perfiles consisten en la violación de los derechos humanos y el trato discriminatorio de las personas por motivos de género, edad, cultura, religión, salud y otras características protegidas. Debido a estos riesgos potenciales, la UE ha decidido iniciar el proceso de regulación, que equilibra los derechos humanos con las necesidades comerciales.  La intención del reglamento es establecer un marco normativo común para la IA en la UE. Sigue a un trabajo preparatorio que comenzó con un grupo de expertos de alto nivel de 52 miembros en 2018, que se basó en más de 500 presentaciones de las partes interesadas e incluyó una consulta pública para considerar la confiabilidad y los aspectos negativos del desarrollo y el uso de la IA.

Propuesta de ley de IA

La propuesta identifica tres tipos de sistemas de IA basados en el análisis de un sistema de gestión de riesgos:

  1. Contamos con sistemas de IA de bajo riesgo, en los que la aplicación de la tecnología se considera inofensiva y totalmente lícita dentro de un contexto empresarial, como algunos sistemas de elaboración de perfiles de marketing o sistemas destinados a analizar con mayor eficacia datos a gran escala para la optimización u objetivos empresariales relacionados.
  2. Luego tenemos los sistemas de IA de alto riesgo, que tienen dos características:
    • O el sistema de IA está destinado a ser utilizado como componente de seguridad de un producto o es en sí mismo un producto.
    • O el producto cuyo componente de seguridad es el sistema de IA, o el propio sistema de IA como producto, debe someterse a una evaluación de conformidad por parte de terceros.
  3. Por último, están prohibidas las prácticas de IA que tengan un impacto significativo en las personas, como el uso de técnicas subliminales para distorsionar la conciencia de una persona, o para evaluar la fiabilidad de las personas, lo que puede dar lugar a un trato discriminatorio, así como los sistemas de identificación biométrica en tiempo real. Hay un número limitado de excepciones en las que se pueden utilizar estos sistemas.

Nota: una cuarta categoría que queda fuera del ámbito de esta nueva ley es el uso de sistemas de IA en aplicaciones policiales, de recopilación de información y militares.

Puntos clave

Cualquier sistema que genere un alto riesgo para la salud y la seguridad o los derechos fundamentales de las personas físicas debe cumplir los requisitos de diseño y desarrollo. El núcleo del reglamento es el uso de un sistema integral de gestión de riesgos que consiste en un proceso continuo que recorre todo el ciclo de vida de un sistema de IA de alto riesgo. Refuerza las mejores prácticas requeridas para el consumo de datos y los proyectos de IA:

  • Calidad de los datos, gobierno de los datos y gestión de los datos
  • Importancia del marco de gestión de riesgos y de la supervisión.
  • Documentación, mantenimiento de registros y trazabilidad.
  • Transparencia y suministro de directrices a los usuarios y organismos pertinentes.
  • El humano dentro del ciclo
  • Solidez, precisión, resistencia y seguridad.
  • Responsabilidad

Nuestra opinión es que esta ley obligaría a centrarse en los riesgos asociados al uso de la IA, no sólo en las organizaciones sino también en la población como usuarios, consumidores o ciudadanos. Creemos que los receptores de los resultados de los sistemas de IA exigirán saber más sobre el uso de la IA y el trato justo y ético de las organizaciones. Esta propuesta tiene todo el sentido comercial. El bien empresarial más valioso es la confianza. Para mantener la confianza, las organizaciones deberían ver la creación de sus propios “códigos de conducta de la IA” que les permitan cumplir con el buen comportamiento de la IA como una decisión empresarial estratégica para competir, seguir sirviendo a su comunidad y crecer.


Si está interesado en obtener más información sobre nuestra oferta o desea mantener una conversación con uno de nuestros expertos, envíe un correo electrónico a [email protected] con el asunto “AI ACT Proposal” y nos pondremos en contacto con usted lo antes posible.

Leggi più approfondimenti

red lines

Contattaci

Milano, Italia | BIP xTech Head Office

Torre Liberty Building
Galleria de Cristoforis 1, Milan, 20121

[email protected]

    This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.