Usar inteligencia artificial con datos de personas no es un acto neutro. Cuando una empresa pega un correo en un asistente, carga un contrato, conecta su CRM a un chatbot o permite que un sistema recomiende a quién contratar, sigue decidiendo para qué se utilizará esa información. La herramienta puede cambiar; la responsabilidad no desaparece. El criterio sensato no es prohibir toda IA ni aceptarla por moda, sino entender qué datos entran, qué ocurre con ellos, quién puede acceder, qué produce el sistema y qué efecto tendrá ese resultado sobre una persona.
La inteligencia artificial no es una sola cosa
El nombre IA reúne herramientas muy diferentes: un asistente que redacta, un algoritmo que detecta fraude, un sistema que transcribe reuniones, un modelo que ordena currículums o un agente capaz de consultar bases de datos y ejecutar acciones. Por eso el riesgo no depende principalmente de la marca. Depende de la función, la información disponible y las consecuencias. Pedir ayuda para mejorar un texto público no se parece a resumir fichas médicas; y un chatbot que solo responde preguntas no se parece a un agente con acceso al correo, al CRM y a la facturación.
- ¿Qué problema concreto queremos resolver y quién es responsable del uso?
- ¿Qué datos recibirá la herramienta y necesita realmente conocer la identidad de las personas?
- ¿El proveedor conserva la información, la utiliza para mejorar modelos o la comparte con subprocesadores?
- ¿La salida solo ayuda a una persona o influye directamente en una decisión sobre un cliente o trabajador?
- ¿Alguien puede detectar un error, corregirlo y detener el proceso antes de que cause un daño?
- ¿La empresa podría explicar el uso y mostrar por qué lo consideró razonable?
Lo que se debe hacer antes de usar IA con información real
- Definir el propósito. Es distinto resumir solicitudes de soporte que evaluar la confiabilidad de clientes. Un objetivo preciso evita recopilar datos por si acaso.
- Usar la menor cantidad de información posible. Para probar una función, comenzar con datos ficticios o adecuadamente anonimizados, no con una copia de la base de producción.
- Clasificar lo que se pretende entregar. Nombres, identificadores, salud, biometría, remuneraciones, credenciales y secretos comerciales no presentan el mismo nivel de riesgo.
- Revisar al proveedor y la configuración: conservación, entrenamiento, eliminación, accesos, subprocesadores, ubicación, seguridad, incidentes y condiciones contractuales.
- Limitar permisos. Una IA conectada a sistemas internos debe acceder solo a lo necesario, durante el tiempo necesario y con controles externos al propio modelo.
- Probar antes de desplegar. Comprobar errores, respuestas inventadas, sesgos, exposición de información y comportamiento frente a instrucciones maliciosas.
- Mantener una revisión humana real. La persona revisora debe comprender el asunto, poder rechazar la recomendación y disponer de tiempo e información para hacerlo.
- Documentar y volver a revisar. Registrar finalidad, responsable, proveedor, datos, controles, incidentes y cambios relevantes sin copiar el contenido sensible en los logs.
Lo que no se debe hacer
- Pegar bases completas de clientes, fichas de salud, liquidaciones de sueldo, expedientes legales o documentos de identidad en una herramienta no aprobada.
- Incluir contraseñas, tokens, llaves de acceso o instrucciones secretas dentro de un prompt confiando en que permanecerán ocultos.
- Suponer que una cuenta pagada o empresarial resuelve por sí sola la finalidad, los permisos, la seguridad y las obligaciones aplicables.
- Tratar toda información publicada en internet como libre de límites de privacidad, confidencialidad, propiedad intelectual o condiciones de acceso.
- Permitir que una IA contrate, despida, rechace, asigne precios, bloquee cuentas o acuse fraude sin reglas, evidencia y una revisión humana efectiva.
- Dar a un agente permisos amplios para leer, modificar, borrar o enviar información solo porque resulta más cómodo técnicamente.
- Usar una respuesta convincente como si fuera un hecho comprobado. La fluidez del lenguaje no demuestra exactitud.
- Guardar prompts, documentos y respuestas completas en logs de soporte o analítica sin una necesidad definida y controles de acceso.
Una regla sencilla: a mayor impacto, mayor control
No todos los usos necesitan las mismas precauciones. Corregir la redacción de un anuncio construido con información pública suele presentar menos riesgo que analizar reclamos identificados. El nivel aumenta cuando aparecen datos sensibles, grandes volúmenes, vigilancia, perfiles o decisiones capaces de afectar empleo, crédito, salud, seguros o acceso a servicios. En esos casos puede ser necesaria una evaluación más profunda y asesoría especializada. El fundamento jurídico concreto depende del país, la relación con la persona y la finalidad; pedir consentimiento no es una solución automática ni la única posibilidad.
- Atención al cliente: es razonable probar un resumen con conversaciones ficticias. No lo es conectar el historial completo de clientes a un chatbot sin separar permisos ni revisar qué retiene el proveedor.
- Recursos humanos: una IA puede ayudar a preparar preguntas de entrevista. No debería descartar candidaturas automáticamente por señales opacas que nadie sabe explicar o revisar.
- Contratos y documentos: puede reducirse el riesgo ocultando nombres y secretos antes de pedir un resumen. No conviene subir contratos completos a una cuenta personal cuando se desconocen la retención y los usos posteriores.
- Agentes conectados: puede otorgarse acceso de solo lectura a una fuente acotada y exigir confirmación antes de actuar. No debería permitirse enviar correos, modificar registros o borrar archivos con permisos generales.
La pregunta útil no es «¿esta IA es segura?», porque ninguna herramienta es segura en abstracto. La pregunta correcta es: «¿este uso, con estos datos, este proveedor, estos permisos y esta consecuencia, está suficientemente controlado y podemos demostrar por qué lo aprobamos?»
