No hay dudas de que la gobernanza de datos es una práctica esencial para las organizaciones del siglo XXI. Sin embargo, a medida que las empresas buscan implementar nuevas soluciones de inteligencia artificial, incluyendo GenAI, su implementación se vuelve cada vez más compleja y desafiante. Te contamos cómo una buena gobernanza de datos puede ayudar a que los proyectos de datos corporativos prosperen en el contexto de la IA.
Puntos clave:
- Un conjunto de procesos, políticas y estándares que garantizan que los datos de una organización sean seguros, precisos y utilizables.
- El rol de Chief Data Officer (CDO), creado en 2002 en Capital One, es cada vez más central para resolver conflictos entre áreas por el manejo de la información.
- Aunque la IA asista una decisión, el dueño del dato sigue siendo humano: la responsabilidad no se le puede delegar a un modelo.
- Las organizaciones con una cultura data-driven madura y un CDO empoderado están mejor posicionadas para gobernar sus datos de forma responsable al adoptar GenAI.
Qué es la gobernanza de datos
La gobernanza de datos es un conjunto de procesos, políticas y estándares que ayudan a las organizaciones a garantizar que los datos sean seguros, precisos y utilizables. Surgió a principios de los 2000, pero más recientemente, con la explosión de datos en las organizaciones y la transformación digital, su adopción se volvió más necesaria.
De hecho, representa un nuevo enfoque de gestión de datos para extraer información significativa que respalde la toma de decisiones estratégicas. La adopción de políticas de gobernanza de datos facilita la transformación de la información en recursos de alto valor, mientras mitiga vulnerabilidades en su implementación.
Algunos de los aspectos clave de la gobernanza de datos incluyen:
- Definir quiénes son los dueños de los activos de datos.
- Desarrollar una política que especifique quién es responsable de los distintos aspectos del dato.
- Definir procesos para almacenar, archivar, asegurar y proteger los datos.
- Desarrollar un conjunto de estándares y procedimientos que definan cómo se usarán los datos.
- Establecer controles de auditoría y procedimientos para asegurar el cumplimiento de los estándares de gobierno.
En Argentina, un ejemplo común donde se puede ver esta práctica es el Registro Nacional de las Personas, RENAPER, ya que muchas organizaciones consultan datos y no solo existen políticas muy claras respecto a la seguridad, confiabilidad y privacidad de la información, sino que además hay regulaciones específicas sobre qué datos se pueden consultar. Es el caso del nombre, apellido e identidad de género, ya que se necesitan permisos especiales para acceder a esos datos, y ese es un ejemplo claro del aporte nodal de una buena gobernanza.
Cambio de escala y organización interna
A medida que crece la escala de datos en las organizaciones, surgen varias preguntas clave sobre la organización interna entre las áreas que gestionan o influyen en la información corporativa, y el rol que cumple cada una:
- ¿Quién es el dueño del dato?
- ¿Quién es responsable si el dato es inexacto o se cargó de forma incorrecta? Esta es la famosa noción de accountability, que incluye la capacidad de asumir responsabilidad y su importancia para las organizaciones.
- ¿Qué áreas o perfiles de la empresa son responsables de definir los estándares y la protección de los datos?
- ¿Cuáles son los riesgos de no tener una estructura clara de políticas y responsabilidades?
- ¿Dónde y cómo deben almacenarse y manejarse los datos sensibles? Acá también entra en juego la aparición de entornos cloud más modernos.
Con la proliferación de sistemas, datos e integraciones, es claro que los conflictos entre departamentos van en aumento. Es el problema clásico entre tecnología, legales, contabilidad, operaciones y las áreas más comerciales o de recursos humanos, donde se disputa la responsabilidad y la definición de información clara y transparente.
Por ejemplo, cuando la empresa tiene que preparar los estados financieros anuales, es esencial que exista una voz clara que defina cuál es la ganancia de la compañía y cómo se define esa variable de forma objetiva. No es solo un tema de software, es un tema de gestión.
Un rol emergente en este proceso fragmentado es la importante figura del Chief Data Officer (CDO), un ejecutivo senior responsable de gestionar los datos de una empresa para que las decisiones puedan tomarse en base a ellos y así alcanzar los objetivos de negocio.
Este rol se creó por primera vez en 2002 en la empresa de servicios financieros Capital One. Inicialmente, el rol se enfocaba en gestión de riesgo y cumplimiento normativo, pero con el tiempo evolucionó: una gestión de datos efectiva permite a las empresas adaptarse al cambio y anticiparse a lo que viene.
Una de las funciones centrales del CDO es definir la estrategia de uso de datos de la empresa y centralizar la gobernanza de datos, entre otras cosas. El CDO se sienta con las áreas clave del negocio vinculadas a los datos y provee una definición clara de las políticas de gestión de información interna y externa.
Muchas veces las personas usan software as a service pensando que no es su problema, que es solo un tema de tecnología. Y el cambio fundamental para las organizaciones es pasar de una visión tradicional, donde ciertas personas tenían un monopolio vertical sobre los datos o los cargaban de forma poco efectiva o desestructurada, a tener una política que analiza, clasifica y transforma datos crudos en estadísticas y modelos que se pueden compartir, que pueden innovar, y que pueden contribuir de manera transversal a tomar decisiones alineadas con el core del negocio de la organización.
Cuando la gobernanza de datos se encuentra con la Inteligencia Artificial
Es un hecho que las empresas quieren usar cada vez más Inteligencia Artificial y soluciones de GenAI en sus procesos y en la toma de decisiones basada en datos.
Sin embargo, con la clara necesidad de definir quién es responsable de los datos, crece también la necesidad de políticas claras, estándares en toda la organización, y la capacidad de definir qué datos son éticamente correctos para entrenar un modelo.
Tomemos el ejemplo de la industria de oil and gas. Supongamos que existen observaciones donde un analista de seguridad e higiene clasifica esas observaciones de seguridad y etiqueta si el riesgo es alto, medio o bajo. El analista firma y asume responsabilidad, así que es una tarea importante.
Ahora bien, el área de data science de la empresa provee un nuevo software de inteligencia artificial para apoyar esas clasificaciones. ¿Quién es responsable de esa clasificación en este proyecto complejo? ¿El área de seguridad e higiene o el área de data science? Incluso si el área de seguridad e higiene dice que la responsabilidad ahora pasó a data science, si la gerencia descubre que el dato está mal, el área de seguridad e higiene seguiría siendo responsable de ese dato. Entonces el analista va a cuestionar el proceso, porque ahora que la IA está involucrada, sigue siendo su culpa.
Por supuesto, cuando esto sucede, el sistema necesita mejorarse con formas de que el usuario pueda controlar esa IA. El modelo tiene que tener nuevos flujos de control para que el analista de seguridad e higiene pueda decir si el dato es correcto o no.
Y así pueden surgir nuevas preguntas, por ejemplo: si el modelo necesita ajustarse, ¿de qué sector viene el dato para hacer ese fine tuning? Si el modelo no funciona bien porque da respuestas completamente erróneas, ¿quién es responsable de esas alucinaciones?
Entonces existe un dilema entre el concepto de la IA como asistente de los humanos o como reemplazo de su trabajo. Desde la perspectiva de la gobernanza de datos, quien gobierna el dato sigue siendo un humano, el dueño del dato. Y esa persona no puede delegar esa responsabilidad; conceptualmente es muy fuerte: hoy una IA solo puede verse como una asistente, porque los dueños principales siguen siendo los humanos.
Otro tema importante surge con los entornos cloud y los data warehouses: hoy, los data lakes son repositorios centralizados que almacenan, procesan y protegen grandes cantidades de datos. Son ideales para el procesamiento de big data, machine learning y analítica predictiva.
Sin embargo, con la proliferación de proveedores de servicios cloud, es necesario tener una política clara sobre quién en la organización tiene acceso al dato, pero también sobre cómo proteger la información sensible. De hecho, existen políticas que permiten anonimizar datos privados y personales para que las empresas comerciales no tengan acceso a datos de tarjetas de crédito o información de pago, algo que hasta hace poco no estaba resuelto.
Si la empresa tiene una base de datos de seguridad e higiene con información personal de empleados, puede que eso no sea posible, o no sea tan sencillo.
Por otro lado, GenAI plantea la pregunta de cómo usar datos corporativos o información general en modelos de lenguaje de gran escala. ¿Deberíamos pedir permiso legal para enviar información corporativa a ChatGPT? Esta es una discusión donde el CDO tiene una influencia absoluta, y es esencial integrar el uso de GenAI dentro de las estrategias de uso de datos.
Las organizaciones tradicionales con una cultura digital reciente encontrarán más difícil resolver estos conflictos, mientras que aquellas que ya avanzan hacia una cultura data-driven y que han incorporado un CDO —no tanto como una forma de resolver conflictos urgentes, sino como un estratega con visión de largo plazo— tendrán mejores chances de resolver estos problemas.
— 7Puentes
Al mismo tiempo, usando IA generativa, las organizaciones pueden lograr varios beneficios, como mejorar la calidad del dato, mejorar la seguridad del dato, lograr una mayor integración de datos (visión holística), y empoderar a los usuarios de datos (un uso más consciente y eficiente de la información).
7Puentes: la llave maestra para la gobernanza de datos y la consultoría en GenAI
Con más de 15 años de experiencia y más de 100 proyectos de Inteligencia Artificial, Machine Learning y Data Science en empresas líderes, en 7Puentes tenemos una comprensión profunda de los nuevos desafíos que la gobernanza de datos plantea para las organizaciones complejas de hoy.
Si tu organización tiene dudas o necesidades respecto a la adopción de modelos de IA y soluciones que impacten en tu gobernanza de datos, nuestros equipos de AI Consulting y Agile Data Squad te pueden ayudar a construir el marco correcto desde el día uno.
Preguntas frecuentes
¿Qué es la gobernanza de datos?
Es un conjunto de procesos, políticas y estándares que ayudan a las organizaciones a garantizar que los datos sean seguros, precisos y utilizables, para que puedan respaldar la toma de decisiones estratégicas en toda la empresa.
¿Quién es responsable del dato cuando interviene la IA?
El dueño humano del dato sigue siendo responsable, incluso cuando la IA asiste una decisión o clasificación. La IA puede actuar como asistente, pero la responsabilidad no se le puede delegar al modelo.
¿Qué rol cumple el CDO en la estrategia de datos de una organización?
El Chief Data Officer define la estrategia de uso de datos de la empresa, centraliza la gestión entre departamentos, y ayuda a resolver conflictos entre las áreas de tecnología, legales y negocio sobre cómo se define y se usa el dato.
Contactá a nuestros especialistas para una asesoría integral.
Contact
