Un enfoque unificado de gobernanza de datos e IA permite innovar con responsabilidad, cumplir normativas y maximizar el valor empresarial.
Otros Artículos de Interés:
- Octubre 2025 – Boletín Tributario y Legal Alfredo López
- Enfoque unificado para la IA y la gobernanza de datos: clave para la innovación responsable y el cumplimiento normativo
- 9 pasos para construir una organización financiera fuerte y orientada al futuro
- Informes ESG 2025: cómo prepararse para las nuevas normas de sostenibilidad del ISSB
- Régimen Simple de Tributación 2025: Una Herramienta Estratégica para Reducir Carga Fiscal en Colombia
Las organizaciones están adaptando la IA a un ritmo vertiginoso y existen grandes expectativas por parte de los consejos de administración y los altos directivos de obtener un valor significativo a través de estas iniciativas de IA. Estamos avanzando a un ritmo frenético desde la implementación de soluciones basadas en el aprendizaje automático (ML) hasta la IA generativa y los agentes de IA. Los pioneros del sector están impulsando la carrera hacia la inteligencia artificial general (AGI) y la superinteligencia artificial (ASI).
Este entorno hace que sea fundamental que las organizaciones inviertan y construyan marcos sólidos de gobernanza de la IA que no sean solo directrices, sino que tengan fuerza para hacer cumplir las prácticas. Sin embargo, un estudio reciente reveló que la adopción de la IA está superando significativamente a la gobernanza de la IA. Según el estudio, que abarcó a 975 ejecutivos de alto nivel en 21 países, el 75 % de los encuestados utiliza IA generativa, pero solo un tercio cuenta con controles responsables.
En general, las organizaciones que implementan la IA se enfrentan cada vez más a preguntas difíciles en múltiples frentes:
- ¿Sus iniciativas de IA avanzan al ritmo necesario para mantener la ventaja competitiva?
- ¿Sus iniciativas de IA están proporcionando un valor cuantificable?
- ¿Es capaz de gestionar los riesgos y el cumplimiento normativo a través de un marco organizado de gobernanza de la IA?
Naturalmente, se presta más atención a los dos primeros puntos, lo que hace que se preste menos atención al tercero. Si bien la gobernanza de la IA en sí misma es deficiente, el otro factor crítico al que se enfrentan la mayoría de las organizaciones es la falta de alineación entre la gobernanza de los datos y la gobernanza de la IA. Aunque todo el mundo entiende que los datos son el alma de todas las formas de IA, incluso las empresas que han implementado prácticas de IA seguras y responsables tienden a adoptar un enfoque aislado de la gobernanza de los datos y la gobernanza de la IA.
Desafíos actuales en la gobernanza empresarial de datos.
La mayoría de las empresas han implementado una herramienta de gobernanza de datos o, en algunos casos, varias herramientas para gestionar la calidad, el linaje, la seguridad y la retención de los datos de la organización.
Problemas de calidad, linaje y disponibilidad de datos.
Muchas corporaciones de gran escala presentan la ausencia de una única fuente de verdad en varios ámbitos, ya que han intentado mantenerse al día con las soluciones tecnológicas emergentes a lo largo de las décadas, desde los RDBMS hasta los almacenes de datos y los lagos de datos.
Latencia y uso de datos en tiempo real.
La proliferación de datos dificulta inherentemente su gestión y gobernanza. La latencia de los datos es otro problema que afecta a los casos de uso que requieren datos en tiempo real. En su prisa por subirse al carro de la IA, las organizaciones tienden a utilizar el estado actual de los datos, que está plagado de problemas, y por lo tanto no pueden obtener el máximo valor de sus inversiones en IA.
Retos en la gobernanza de la inteligencia artificial: sesgos, cumplimiento y riesgos éticos.
Como se ha señalado anteriormente, la mayoría de las organizaciones aún no han implementado un marco sólido de gobernanza de la IA. Las que han implementado alguna forma de gobernanza de la IA tienen un enfoque centralizado a través de un centro de excelencia de IA. (COE de IA).
Sesgos y alucinaciones en modelos de IA.
En la mayoría de los casos, estos COE están gestionados por un director de IA (CAIO). El CAIO tiende a centrarse en consideraciones de gobernanza de la IA, como la gobernanza de modelos, el sesgo, la toxicidad, las alucinaciones, los jailbreaks y similares, y no tanto en los datos subyacentes, ya que estos suelen ser gestionados por el director de datos.
Cumplimiento normativo y auditoría de modelos.
El impacto de este enfoque fragmentado tiene implicaciones legales, normativas, de seguridad y éticas. Las organizaciones se enfrentan a preguntas como:
- ¿Son fiables los datos utilizados por los sistemas de IA?
- ¿Cumplen los modelos con los requisitos legales y éticos?
- ¿Las soluciones de IA implementadas respetan las leyes de privacidad en todas las jurisdicciones?
- ¿Existe un control adecuado sobre el uso de la IA generativa y los sistemas agenticos?
- ¿Pueden estos sistemas explicar sus decisiones cuando se les cuestiona?
Impacto de la IA generativa en privacidad y seguridad.
Los riesgos son elevados para las empresas globales que operan en múltiples geografías con leyes y normativas de privacidad dispares y un panorama normativo emergente y aún desconocido en materia de IA. Los ejecutivos de alto nivel suelen ser más conscientes de estos riesgos, pero es posible que no conozcan plenamente las causas subyacentes, como el enfoque aislado de la IA y la gobernanza de los datos.
Importancia de un enfoque unificado en gobernanza de datos e inteligencia artificial.
Dada la situación actual y los retos que conlleva, es hora de que las organizaciones adopten un enfoque unificado en materia de IA y gobernanza de datos. Este enfoque no solo ayudará a liberar el valor de sus inversiones en IA, sino que también garantizará el cumplimiento normativo y mitigará los riesgos. A continuación, se expone un enfoque práctico para lograrlo.
1. Diseño basado en los datos.
A diferencia del enfoque tradicional de gobernanza de la IA, que se centra en los modelos o las herramientas, las organizaciones deben centrarse en el punto de partida de toda IA: los datos. Al reconocer que los datos son el alma de la IA, las organizaciones pueden gobernar la IA desde cero, utilizando la calidad, la sensibilidad y el ciclo de vida de los datos para evaluar y controlar dinámicamente el riesgo, mucho antes incluso de que se entrene un modelo.
2. Marco de gobernanza adaptable y por niveles.
Las organizaciones deben adoptar una gobernanza adaptativa, utilizando la clasificación y jerarquización de riesgos en tiempo real. Esto les permite aplicar controles más estrictos cuando el riesgo es alto (por ejemplo, PII, PHI, acciones autónomas) y controles más ligeros cuando la velocidad de la innovación es fundamental, gobernando a la velocidad del negocio sin comprometer la seguridad.
3. Aprovechar la IA generativa para mejorar la calidad de los datos.
El potencial de la IA generativa puede aprovecharse en los datos para resolver varios problemas, como por ejemplo:
- Clasificación de datos
- Limpieza de datos
- Gestión de metadatos
4. Invertir en canalizaciones de datos y operaciones de datos.
Las organizaciones suelen tener problemas con sus canalizaciones e integraciones de datos, lo que provoca problemas de fiabilidad y rendimiento. A medida que las organizaciones comienzan a utilizar la IA en casos de uso en tiempo real, los problemas con las canalizaciones de datos tienden a dar lugar a malos resultados en esos casos de uso. Las organizaciones deben invertir en la creación de integraciones y canalizaciones de datos robustas y en la observabilidad de estas canalizaciones.
5. Gobernanza impulsada por la IA.
Crear agentes de gobernanza con capacidad de autoaprendizaje que supervisen los riesgos cambiantes, los cambios normativos y el comportamiento de los modelos en todos los casos de uso y geografías. Estos agentes pueden activar alertas de forma autónoma, sugerir controles y adaptar políticas, convirtiendo la gobernanza en un sistema vivo e inteligente en lugar de una lista de verificación manual y estática.
6. Ejecución centralizada pero federada.
Diseñe un modelo de gobernanza centralizada con ejecución localizada, perfecto para organizaciones con múltiples regiones o unidades de negocio. Garantiza unas barreras de protección coherentes en toda la empresa, al tiempo que permite la flexibilidad local, una necesidad fundamental para las empresas globales que se enfrentan a la fragmentación normativa.
7. Ampliar el comité de gobernanza de la IA.
El comité de gobernanza de la IA debe ampliarse más allá de la representación tradicional de TI y negocios. Debe haber representación de los departamentos jurídico, de privacidad, de cumplimiento normativo, de seguridad de la información, de gestión de terceros y de recursos humanos. Este nivel de diversidad garantizará que las políticas de IA tengan en cuenta no solo las prioridades técnicas y empresariales, sino también las consideraciones legales, éticas y sociales, así como el impacto en las partes interesadas dentro y fuera de la organización.
Ventajas del enfoque unificado de gobernanza para IA y datos.
Un enfoque sólido de gobernanza de la IA y los datos es fundamental para ofrecer una IA responsable. Las ventajas se pueden apreciar en múltiples facetas.
1. Privacidad.
La privacidad es clave para generar confianza entre las partes interesadas y evitar riesgos para la reputación. La preocupación más habitual en el uso generalizado de la IA genérica es que los datos privados se utilicen para entrenar modelos sin garantías de seguridad. Un marco sólido de gobernanza de datos que utilice herramientas para mejorar la privacidad (como la anonimización) y que sirva de base para la IA contribuirá en gran medida a garantizar el cumplimiento de las normativas de privacidad y a mejorar la confianza en la marca.
2. Ciberseguridad.
Con la rápida adopción de la IA y los agentes de IA, los equipos de ciberseguridad de las organizaciones se enfrentan al enorme reto de mitigar este nuevo y emergente panorama de amenazas. Los marcos de gobernanza de la IA que incorporan la ciberseguridad garantizan que las organizaciones estén bien posicionadas para actuar con rapidez e innovar sin comprometer sus vulnerabilidades.
3. Preparación normativa.
A medida que el panorama de la IA evoluciona a una velocidad vertiginosa, el panorama normativo intenta mantenerse al día. Los organismos reguladores a nivel federal, estatal y en otros países fuera de los Estados Unidos se esfuerzan por definir políticas sin frenar la innovación. Las organizaciones que se mantienen a la vanguardia con un marco de gobernanza de la IA tienen más posibilidades de adaptarse con éxito al cambiante panorama normativo.
4. Riesgo de terceros.
Las organizaciones trabajan con varios terceros, como proveedores y subcontratistas, que han comenzado a utilizar ampliamente la IA en sus productos y servicios. Incluir la función de gestión de terceros (TPM) dentro de la organización como parte de la gobernanza de la IA y formar al equipo de TPM sobre los riesgos y las estrategias de mitigación reducirá las fricciones y permitirá el crecimiento a través de asociaciones eficaces.
Gobernanza: un facilitador empresarial, no un centro de costes.
En resumen, el enfoque unificado descrito anteriormente para la gobernanza de la IA supone un cambio de paradigma: de controles fragmentados a una supervisión unificada, de un enfoque basado en el cumplimiento a uno basado en el riesgo, y de marcos estáticos a una gobernanza con autoaprendizaje. Este enfoque dará lugar a que la gobernanza se impulse como un facilitador del negocio y no como un centro de costes. También proporcionará una ventaja estratégica, mejorará la confianza y la escalabilidad a largo plazo de las iniciativas de IA.
Gerente Comercial
