Gobierno de la inteligencia artificial: del cumplimiento normativo a la confianza empresarial

Hace apenas dos años, hablar de inteligencia artificial en el entorno empresarial significaba hablar del futuro. Hoy, ese futuro ya forma parte del día a día de muchas organizaciones. La inteligencia artificial está presente en tareas tan cotidianas como redactar documentos, resumir reuniones, consultar información, buscar asistencia e incluso analizar volúmenes de información o crear agentes como chats para atender a clientes, por ejemplo. En muchos casos, su incorporación no responde a proyectos estratégicos de transformación digital, sino a una realidad mucho más sencilla: los propios trabajadores o profesionales han descubierto herramientas, normalmente modelos de IA más conocidos como Claude, ChatGPT, Gemini o Copilot, que les permiten trabajar de forma más rápido y, al parecer, más eficiente.

Sin entrar a valorar si esta fe ciega en la IA es lo que más nos conviene y si es imprudente fiarse de la IA o no, esta adopción acelerada ha cambiado el debate. La cuestión ya no es si las empresas van a utilizar inteligencia artificial, sino si están preparadas para hacerlo de manera segura, responsable y conforme al nuevo marco regulatorio europeo.

Reglamento Europeo de Inteligencia Artificial

El Reglamento Europeo de Inteligencia Artificial (RIA o AI Act), constituye el primer marco jurídico integral sobre inteligencia artificial aprobado por una gran economía. Su finalidad no es frenar la innovación, sino establecer unas reglas comunes que permitan aprovechar el potencial de esta tecnología garantizando, al mismo tiempo, la protección de los derechos fundamentales, la seguridad y la confianza.

Las organizaciones llevan años (o deberían) desarrollando modelos de gestión y gobierno para ámbitos como la protección de datos, la ciberseguridad, la prevención del blanqueo de capitales o el cumplimiento normativo. La inteligencia artificial debe incorporarse a esa misma lógica de gestión del riesgo, Gobierno y control.

El uso de IA es una cuestión, no solo de necesidad tecnológica u operativa, con foco en los requerimientos legales, sino una cuestión de Gobierno estratégico. Usar la inteligencia artificial implica tomar decisiones sobre los datos que se emplean, los proveedores con los que se trabaja, la supervisión humana de los resultados, la calidad de la información generada o la responsabilidad cuando una herramienta produce un resultado incorrecto. También exige planificar hacia donde va la Organización, como planifica su futuro y que papel tiene e la IA en ese futuro. Requiere un enfoque multidisciplinar que permita conectar la regulación con la gestión del riesgo, los procesos internos y los objetivos de negocio.

Uno de los aspectos que más llama la atención cuando analizamos cómo se está incorporando la inteligencia artificial en las empresas es que, en muchas ocasiones, la organización desconoce el alcance real de su utilización. No resulta extraño encontrar Modelos de IA generativa utilizadas por distintos departamentos sin que exista una política común, un procedimiento de validación o unas directrices claras sobre qué información puede introducirse en ellas.

¿Cuáles son los riesgos?

La rapidez con la que evoluciona esta tecnología hace que, en muchos casos, su implantación avance más deprisa que los mecanismos de control de la propia organización. Y ahí es donde aparecen los riesgos.

Por eso, el primer paso debería ser preguntarse qué inteligencia artificial se está utilizando realmente dentro de la organización. Ese ejercicio de identificación permite saber qué herramientas se utilizan, con qué finalidad, qué información procesan y qué riesgos pueden derivarse de su utilización. Solo a partir de ese conocimiento es posible establecer un modelo de gobierno eficaz.

Gobernar la inteligencia artificial significa definir responsabilidades, establecer procedimientos de evaluación, implantar mecanismos de supervisión, documentar las decisiones relevantes y revisar periódicamente que los controles continúan siendo adecuados. La mayoría de las incidencias relacionadas con la inteligencia artificial no tienen su origen en un fallo técnico, sino en un uso inadecuado de la herramienta o en una confianza excesiva en los resultados generados.

Por ello, resulta fundamental que los profesionales comprendan no solo cómo utilizar estas soluciones, sino también cuáles son sus limitaciones y en qué situaciones es necesaria una revisión humana antes de adoptar una decisión. El gobierno de la inteligencia artificial debe concebirse como un proceso continuo de revisión y mejora, integrado dentro del sistema general de gestión de riesgos de la organización.

Las empresas que adopten este enfoque estarán mejor preparadas para responder no solo a las exigencias regulatorias, sino también a las expectativas de clientes, empleados, inversores y otros grupos de interés, cada vez más sensibles al uso responsable de la tecnología.

La inteligencia artificial representa una oportunidad extraordinaria para mejorar la productividad, impulsar la innovación y transformar la forma en que trabajan las organizaciones. Pero esa oportunidad solo generará valor si va acompañada de un modelo sólido de gobierno. Y ese será, probablemente, uno de los principales factores diferenciales entre las empresas que simplemente incorporen inteligencia artificial y aquellas que consigan integrarla de forma responsable, sostenible y alineada con su estrategia de negocio.

Por último, recordar que, el uso de la IA puede ser el futuro; un futuro descontrolado si no hay un Gobierno de la IA y un futuro sin visión si no hay un plan de estratégico de transformar la organización en torno al uso de la IA.