La inteligencia artificial está transformando la forma en que operan las organizaciones, pero su incorporación también plantea nuevos desafíos en materia de cumplimiento normativo, gestión de riesgos y protección de los derechos de las personas. ¿Cómo pueden las empresas aprovechar las oportunidades de esta tecnología sin comprometer la confianza, la seguridad y la continuidad de sus operaciones?

En un nuevo episodio del podcast del Observatorio de Privacidad y Derechos Digitales de AUTELSI, nuestro socio Óscar López tuvo la oportunidad de hablar con Rosa Lago, delegada de Protección de Datos de MAPFRE, sobre la IA desde una perspectiva que va mucho más allá de la tecnología: la de los derechos, la responsabilidad y la capacidad de las organizaciones para responder ante nuevos riesgos.

 

Más allá de la protección de datos

Uno de los principales temas de la conversación fue la necesidad de ampliar la perspectiva desde la que las organizaciones abordan los riesgos asociados a la inteligencia artificial. Aunque la protección de datos personales continúa siendo esencial, el uso de esta tecnología puede afectar a otros derechos y libertades, incluso cuando no intervienen datos personales.

En este sentido, Rosa Lago señaló la importancia de “quitarse las gafas de Protección de Datos” y adoptar un enfoque más amplio, basado en riesgos, similar al que establece el Reglamento General de Protección de Datos (RGPD). Los distintos riesgos no pueden analizarse de manera aislada: deben formar parte de un mismo marco que permita identificar, evaluar y supervisar los sistemas de IA durante todo su ciclo de vida.

Esto implica establecer mecanismos que permitan identificar, evaluar y supervisar los riesgos durante todo el ciclo de vida de los sistemas, integrando su gestión en los procesos habituales de las organizaciones.

La aplicación del Reglamento Europeo de Inteligencia Artificial añade una nueva dimensión a este desafío, al hacer necesario abordar de forma complementaria las obligaciones relacionadas con la protección de datos y las exigencias específicas de los sistemas de IA.

 

Las personas, en el centro de la transformación tecnológica

La formación de los profesionales fue otro de los asuntos tratados durante la conversación. La incorporación de herramientas de inteligencia artificial generativa requiere que los empleados conozcan tanto sus posibilidades como los riesgos que pueden derivarse de su utilización. El objetivo no es frenar el uso de estas tecnologías, sino conseguir que los empleados conozcan sus riesgos y puedan utilizarlas de forma responsable. En este sentido, resulta especialmente importante recordar que la IA es una herramienta al servicio de las personas y no un sustituto de su criterio, experiencia o capacidad de decisión.

Este enfoque también está estrechamente relacionado con la confianza. La adopción de sistemas de IA exige prestar atención no solo a la protección de los datos personales, sino también a sus posibles efectos sobre los derechos de clientes y ante el riesgo de que puedan producirse situaciones de discriminación.

En este sentido, la transparencia y la revisión periódica de las condiciones contractuales adquieren especial relevancia para reforzar la confianza en las relaciones con clientes y proveedores.

 

Integrar el cumplimiento desde el diseño

Uno de los principales desafíos para las organizaciones es incorporar el cumplimiento normativo desde las primeras fases de desarrollo e implantación de los sistemas de inteligencia artificial. Para ello, resulta importante conocer qué herramientas se están utilizando, identificar sus casos de uso y evaluar los riesgos asociados. Disponer de un inventario de sistemas y modelos de IA facilita su clasificación y permite establecer mecanismos de seguimiento y supervisión adecuados.

Otro reto relevante aparece en la cadena de suministro de los proveedores de IA. La irrupción de la IA obliga a revisar las cláusulas de contratos, por cuanto que se requiere un análisis exhaustivo del sistema facilitado por el proveedor como muestra de la diligencia debida.  

Pero si hay un concepto que resume buena parte de la conversación es el de resiliencia algorítmica. Es decir, ¿qué ocurre cuando un algoritmo falla o empieza a generar resultados incorrectos? A este respecto, las organizaciones deben disponer de mecanismos de supervisión y, especialmente, de alternativas que permitan continuar prestando sus servicios esenciales.

La gestión de riesgos no consiste únicamente en tratar de evitar posibles incidencias. También implica disponer de mecanismos de supervisión y alternativas que permitan responder ante los fallos y garantizar la continuidad de los servicios esenciales.

Por ello, la resiliencia debe formar parte de la estrategia de gobernanza de la IA, junto con la protección de los derechos, el cumplimiento normativo y la supervisión continua.

 

Una gobernanza alineada con la estrategia empresarial

La incorporación de la inteligencia artificial responde, en muchos casos, al objetivo de mejorar procesos y avanzar en la transformación tecnológica de las organizaciones. Sin embargo, aprovechar sus posibilidades requiere acompañar su adopción de mecanismos adecuados de control y gestión de riesgos.

En este escenario, el cumplimiento del RGPD y del Reglamento Europeo de Inteligencia Artificial debe abordarse de manera complementaria, integrando las exigencias normativas en la estrategia empresarial y en el funcionamiento de los sistemas.

La formación de los profesionales, la transparencia, la supervisión de los proveedores y la capacidad de respuesta ante posibles incidencias son aspectos que deben formar parte de este enfoque.

El reto no consiste únicamente en incorporar inteligencia artificial, sino en garantizar que su utilización sea responsable, segura y compatible con la protección de los derechos de las personas. Solo desde una visión integral de la gobernanza será posible avanzar en la transformación tecnológica sin perder de vista los riesgos que la acompañan.

 

Autor:  Óscar López, del equipo de Reg Tech