Regulación, privacidad y datos personales en la Inteligencia Artificial

22/04/2021 45

Propuesta parlamentaría en la UE sobre la limitación de la vigilancia indiscriminada con IA y prohibición del scoring social

Los legisladores europeos, así como las empresas de Inteligencia Artificial que trabajan en el marco de la legislación sobre la protección de datos, como Sherpa.ai, están preocupados por las aplicaciones de la IA que incluyen sistemas de scoring gestionadas por los gobiernos, como los que se están desarrollando en China y en general por el uso descontrola de los datos personales de los consumidores, infringiendo lo que se estipula en la GDPR.

Un caso extremo lo tenemos con el gobierno chino, que ha utilizado de manera controvertida herramientas de Inteligencia Artificial para identificar a los manifestantes a favor de la democracia en Hong Kong y para la discriminación y el control de los musulmanes uigures. Los escáneres faciales en China se utilizan para identificar y multar a los peatones imprudentes, y los ciudadanos de Shanghai pronto tendrán que verificar su identidad en las farmacias escaneando sus rostros.

Las reglas de la adopción de la Inteligencia Artificial deben estar centradas en las personas

Desde Sherpa.ai estamos totalmente alineados con la propuesta de Europa y debemos estar a la vanguardia en el establecimiento de estas reglas. Esto es precisamente lo que hoy se debate en el Parlamento Europeo y son los cimientos de la configuración del futuro digital de Europa y en concreto sobre el uso de la IA.

La Inteligencia Artificial es sin duda positiva y transformadora. Puede ser una respuesta a muchos desafíos sociales, desde el tratamiento de enfermedades hasta la minimización del impacto ambiental de la agricultura.

Pero a su vez la IA exige la aplicación de altos estándares éticos y seguridad jurídica para desarrolladores y usuarios. Para que la IA tenga éxito en Europa, es necesario confiar en ella, y las regulaciones ayudan a que los consumidores confíen, creando así el entorno adecuado para la inversión y la innovación en la aplicación de la Inteligencia Artificial en todos los sectores.

Xabi Uribe-Etxebarria, fundador & CEO de Sherpa.ai:

Es crítico para las empresas que están adoptando la IA y las empresas emergentes como Sherpa.ai crear un marco de actuación común para todas que nos permita aprovechar todo el potencial de la IA a la vez que respetamos de forma exquisita los derechos de los consumidores de la UE.

La Privacidad de los datos personales deben ser siempre respetados

Los principales riesgos relacionados con el uso de la Inteligencia Artificial se refieren a no respetar los derechos fundamentales de los consumidores, sobre todo lo relacionado a la protección de los datos personales y la privacidad.

De hecho, independientemente a lo que dicte Europa en los próximos meses, los desarrolladores y empresas que ofrecen soluciones de IA ya están sujetos a la legislación europea sobre los derechos fundamentales de protección y privacidad de datos, protección del consumidor y normas de seguridad y responsabilidad de los productos.

Lógicamente los consumidores esperan el mismo nivel de seguridad y respeto de sus derechos, ya sea que un producto o un sistema se base en la IA o no. Sin embargo, algunas características específicas de la IA, por ejemplo, la opacidad, pueden dificultar la aplicación y el cumplimiento de esta legislación. Por esta razón, es necesario examinar si la legislación actual es capaz de abordar los riesgos de la IA y puede aplicarse de manera efectiva, si se necesitan adaptaciones de la legislación o si se necesita una nueva legislación.

Sherpa.ai propone asegurar por diseño la privacidad de los datos personales

Precisamente, en Sherpa.ai la privacidad es una de las líneas de investigación y desarrollo más importantes y para las que ya dispone de un frameworkpara ser explotada por sus clientes.

El Framework AI Privacy de Sherpa.ai permite entrenar modelos avanzados de IA con fuentes de información complementaría e incluso distintas, por ejemplo, entre organizaciones de diferentes sectores con data set dispares u organizaciones descentralizadas con mismo tipo de datos, pero con data set distintos.

Este tipo de soluciones se han venido usando en el ámbito médico para la predicción y diagnóstico de enfermedades donde diferentes hospitales colaboran para crear un modelo de IA, pero cada uno con sus datos y siempre respetando la privacidad de los pacientes.

Desde Sherpa.ai estamos convencidos que este tipo de soluciones va a habilitar nuevos modelos colaborativos y de negocio en muchos otros sectores.

El Framework AI Privacy de Sherpa.ai permite la generación de modelos de IA avanzados evitando en todo momento la compartición de datos personal ya que estos nunca salen de la instalación de las partes. En este sentido, pensamos que esta normativa supondrá un espaldarazo a la propuesta de Sherpa.ai desde su plataforma de AI y su framework de AI Data Privacy, que ya por diseño están concebidas para cumplir con las regulaciones sobre privacidad.