Seguridad de la IA: ¿qué datos no debes compartir con la inteligencia artificial?

¿Qué no debes pegar en una herramienta de IA?

Como regla estricta, no ingreses las siguientes categorías de datos en modelos de acceso público:

• datos personales: nombres, apellidos, direcciones, números de documento de identidad, números de teléfono o correos electrónicos, ya sean tuyos, de clientes o de empleados;
• expedientes médicos: historiales clínicos, resultados de pruebas y diagnósticos de pacientes, sujetos a normas legales estrictas, como el GDPR o HIPAA;
• información empresarial confidencial: informes financieros no publicados, estrategias de marketing, bases de datos de clientes y planes de fusiones, adquisiciones o despidos;
• secretos comerciales: código fuente de software, fórmulas de producción, algoritmos propios y documentación técnica interna de la empresa;
• contraseñas y credenciales: claves API, datos de acceso, tokens de autorización, datos de tarjetas de pago y claves de cifrado de cualquier tipo;
• material protegido por derechos de autor: textos completos de libros, artículos académicos de pago o guiones para los que no cuentes con las licencias correspondientes;
• contenido ilegal: materiales que promuevan la violencia o el odio, o instrucciones para realizar actividades contrarias a la ley aplicable.

¿Qué sucede con los datos que ingresas en una IA?

Los datos enviados a proveedores de servicios en la nube pasan por varias etapas de procesamiento y análisis. Su ciclo de vida no termina cuando se genera una respuesta.

Entrenamiento de modelos

Los datos ingresados en las versiones de consumo estándar de las herramientas de IA generativa suelen utilizarse para seguir entrenando los modelos. Esto significa que la información proporcionada podría influir en los parámetros de una red neuronal y, en teoría, aparecer en el futuro como parte de una respuesta dirigida a otro usuario.

Revisión manual y moderación

Además del procesamiento automatizado, los sistemas de IA cuentan con filtros de seguridad. Si un algoritmo considera sospechosa una consulta —por ejemplo, porque podría infringir las condiciones de uso—, la conversación puede marcarse y enviarse a revisión manual. En ese caso, empleados del proveedor o auditores externos, conocidos como etiquetadores de datos, podrían acceder directamente al contenido ingresado para mejorar los mecanismos de moderación.

Almacenamiento de datos y copias de seguridad

Los proveedores de IA almacenan registros de conversaciones en sus servidores para mantener la continuidad del servicio, diagnosticar errores y conservar el contexto de futuras sesiones. Es importante tener en cuenta que eliminar un chat desde la interfaz rara vez implica que la información desaparezca de inmediato de los servidores. Los datos pueden permanecer durante un tiempo en los sistemas de respaldo del proveedor, lo que aumenta considerablemente el riesgo de exposición de información confidencial si se produce un ciberataque exitoso contra su infraestructura en la nube.

Cuentas personales y empresariales: diferencias en la protección

Las cuentas personales estándar, gratuitas o de pago de muchos servicios populares pueden utilizar de forma predeterminada la información enviada para entrenar modelos. Por ello, si se comparten datos confidenciales, cada sesión conlleva el riesgo de que esos recursos queden expuestos fuera de tu control.

En entornos empresariales y corporativos —como las cuentas Enterprise y los servicios implementados en nubes privadas mediante las API de proveedores como Microsoft Azure, AWS o Google Cloud—, los estándares de protección son más estrictos. Los proveedores garantizan el cumplimiento de normas de seguridad como ISO 27001, SOC 2 y GDPR, y establecen en sus acuerdos SLA o DPA que los datos de sus clientes no se utilizan para entrenar modelos públicos de uso general. En estos entornos, las restricciones sobre los datos que se ingresan pueden ser menos severas, pero sigue siendo necesario aplicar políticas de gestión de riesgos y control de acceso.

¿Qué puedes ingresar de forma segura en una IA?

A pesar de estas restricciones, hay muchos tipos de información que, en general, puedes ingresar y procesar con una herramienta de IA. Entre ellos se encuentran:

• materiales de acceso público: artículos de fuentes abiertas, publicaciones de blogs, informes de mercado públicos, leyes y contenido de sitios web, como Wikipedia;
• información no confidencial: instrucciones generales, preguntas sobre conceptos teóricos, reglas gramaticales y ortográficas, ecuaciones matemáticas o consultas de vocabulario;
• fragmentos de documentación anonimizados: plantillas de documentos, modelos de contratos o fragmentos de código de los que se hayan eliminado por completo las variables identificables, claves, nombres de clientes y detalles de la arquitectura interna;
• textos propios: borradores de correos electrónicos, publicaciones para redes sociales, esquemas de presentaciones o artículos que no contengan datos empresariales sensibles;
• conjuntos de datos abiertos: datos sintéticos o estadísticas de repositorios públicos que se utilicen para aprender a analizar o dar formato a la información.

¿Cómo anonimizar mensajes y datos antes de enviarlos a una IA?

Sustitución de identificadores y tokenización

La tokenización consiste en reemplazar datos sensibles por equivalentes ficticios. Por ejemplo, puedes sustituir el nombre «Juan Pérez» por el marcador «[Cliente_1]» o el nombre «Empresa ABC» por «[Organización_A]». De este modo, el modelo de lenguaje conserva la estructura, la sintaxis y el contexto del documento sin recibir la identidad original de las personas u organizaciones mencionadas.

Técnicas para ocultar información sensible

El enmascaramiento oculta directamente secuencias de caracteres críticas, por lo general sustituyéndolas por caracteres especiales; por ejemplo, un número de tarjeta puede mostrarse como 4532 **** **** ****. Otra técnica eficaz es generalizar los datos: en lugar de indicar una cifra exacta, como un salario de USD 4,500, puedes dar un rango, como «salario de entre USD 4,000 y USD 5,000». Esto reduce el riesgo de que se vuelva a identificar a la persona.

Automatización del proceso: herramientas DLP y RegEx

Eliminar información manualmente de textos largos facilita que se pasen por alto algunos datos. En entornos profesionales se utilizan scripts basados en expresiones regulares (RegEx) o sistemas DLP de prevención de pérdida de datos. Estas herramientas pueden analizar automáticamente un prompt antes de enviarlo y detectar, bloquear o sustituir secuencias que coincidan con formatos de números de documento de identidad, números de identificación fiscal, direcciones de correo electrónico o números de cuentas bancarias.

Datos compartidos con la IA: ¿cómo impedir que se usen para entrenar modelos?

Configurar la herramienta también ayuda a reducir los riesgos asociados con la información que ingresas. La mayoría de los proveedores ofrecen mecanismos para impedir que tu contenido se utilice en el entrenamiento de modelos.

• ChatGPT (OpenAI): en la configuración de la cuenta (Settings), dentro de «Data controls», encontrarás la opción «Improve the model for everyone». Al desactivarla, impides que los textos que ingreses se utilicen para entrenar el modelo. En la versión actual de la interfaz, esta acción no elimina las conversaciones de tu vista: el historial de chats se conserva. Independientemente de este ajuste, OpenAI puede conservar registros en sus servidores durante 30 días para supervisar posibles abusos y garantizar la seguridad antes de eliminarlos definitivamente.
• Gemini (Google): en la configuración de privacidad, desactiva «Gemini Apps Activity». Así, las nuevas conversaciones no se guardarán en tu cuenta de Google ni se utilizarán para entrenar modelos. Sin embargo, el cambio no elimina de inmediato los registros de la infraestructura del proveedor: Google puede conservarlos hasta 72 horas para mantener la seguridad del servicio.
• Claude (Anthropic): las versiones de consumo gratuitas y estándar tienen actualmente una configuración predeterminada que permite usar los datos ingresados para mejorar los modelos. Esto representa un cambio importante respecto de los primeros años de la empresa, cuando Anthropic destacaba que no utilizaba las conversaciones de los usuarios para entrenarlos. Para desactivar este mecanismo, ve a la sección de privacidad de la configuración de tu cuenta y deshabilita la opción «Help improve Claude».

Ten presente que los cambios en la configuración de privacidad y la decisión de impedir el uso de tus datos para entrenamiento solo se aplican en adelante. La información enviada antes de modificar esos ajustes podría haberse incorporado ya al proceso de entrenamiento y no puede retirarse de los parámetros del modelo mediante ese cambio.