Usar inteligencia artificial con datos de personas no es un acto neutro. Cuando una empresa pega un correo en un asistente, carga un contrato, conecta su CRM a un chatbot o permite que un sistema recomiende a quién contratar, sigue decidiendo para qué se utilizará esa información. La herramienta puede cambiar; la responsabilidad no desaparece. El criterio sensato no es prohibir toda IA ni aceptarla por moda, sino entender qué datos entran, qué ocurre con ellos, quién puede acceder, qué produce el sistema y qué efecto tendrá ese resultado sobre una persona.
La inteligencia artificial no es una sola cosa
El nombre IA reúne herramientas muy diferentes: un asistente que redacta, un algoritmo que detecta fraude, un sistema que transcribe reuniones, un modelo que ordena currículums o un agente capaz de consultar bases de datos y ejecutar acciones. Por eso el riesgo no depende principalmente de la marca. Depende de la función, la información disponible y las consecuencias. Pedir ayuda para mejorar un texto público no se parece a resumir fichas médicas; y un chatbot que solo responde preguntas no se parece a un agente con acceso al correo, al CRM y a la facturación.
- ¿Qué problema concreto queremos resolver y quién es responsable del uso?
- ¿Qué datos recibirá la herramienta y necesita realmente conocer la identidad de las personas?
- ¿El proveedor conserva la información, la utiliza para mejorar modelos o la comparte con subprocesadores?
- ¿La salida solo ayuda a una persona o influye directamente en una decisión sobre un cliente o trabajador?
- ¿Alguien puede detectar un error, corregirlo y detener el proceso antes de que cause un daño?
- ¿La empresa podría explicar el uso y mostrar por qué lo consideró razonable?
Lo que se debe hacer antes de usar IA con información real
- Definir el propósito. Es distinto resumir solicitudes de soporte que evaluar la confiabilidad de clientes. Un objetivo preciso evita recopilar datos por si acaso.
- Usar la menor cantidad de información posible. Para probar una función, comenzar con datos ficticios o adecuadamente anonimizados, no con una copia de la base de producción.
- Clasificar lo que se pretende entregar. Nombres, identificadores, salud, biometría, remuneraciones, credenciales y secretos comerciales no presentan el mismo nivel de riesgo.
- Revisar al proveedor y la configuración: conservación, entrenamiento, eliminación, accesos, subprocesadores, ubicación, seguridad, incidentes y condiciones contractuales.
- Limitar permisos. Una IA conectada a sistemas internos debe acceder solo a lo necesario, durante el tiempo necesario y con controles externos al propio modelo.
- Probar antes de desplegar. Comprobar errores, respuestas inventadas, sesgos, exposición de información y comportamiento frente a instrucciones maliciosas.
- Mantener una revisión humana real. La persona revisora debe comprender el asunto, poder rechazar la recomendación y disponer de tiempo e información para hacerlo.
- Documentar y volver a revisar. Registrar finalidad, responsable, proveedor, datos, controles, incidentes y cambios relevantes sin copiar el contenido sensible en los logs.
Lo que no se debe hacer
- Pegar bases completas de clientes, fichas de salud, liquidaciones de sueldo, expedientes legales o documentos de identidad en una herramienta no aprobada.
- Incluir contraseñas, tokens, llaves de acceso o instrucciones secretas dentro de un prompt confiando en que permanecerán ocultos.
- Suponer que una cuenta pagada o empresarial resuelve por sí sola la finalidad, los permisos, la seguridad y las obligaciones aplicables.
- Tratar toda información publicada en internet como libre de límites de privacidad, confidencialidad, propiedad intelectual o condiciones de acceso.
- Permitir que una IA contrate, despida, rechace, asigne precios, bloquee cuentas o acuse fraude sin reglas, evidencia y una revisión humana efectiva.
- Dar a un agente permisos amplios para leer, modificar, borrar o enviar información solo porque resulta más cómodo técnicamente.
- Usar una respuesta convincente como si fuera un hecho comprobado. La fluidez del lenguaje no demuestra exactitud.
- Guardar prompts, documentos y respuestas completas en logs de soporte o analítica sin una necesidad definida y controles de acceso.
Una regla sencilla: a mayor impacto, mayor control
No todos los usos necesitan las mismas precauciones. Corregir la redacción de un anuncio construido con información pública suele presentar menos riesgo que analizar reclamos identificados. El nivel aumenta cuando aparecen datos sensibles, grandes volúmenes, vigilancia, perfiles o decisiones capaces de afectar empleo, crédito, salud, seguros o acceso a servicios. En esos casos puede ser necesaria una evaluación más profunda y asesoría especializada. El fundamento jurídico concreto depende del país, la relación con la persona y la finalidad; pedir consentimiento no es una solución automática ni la única posibilidad.
- Atención al cliente: es razonable probar un resumen con conversaciones ficticias. No lo es conectar el historial completo de clientes a un chatbot sin separar permisos ni revisar qué retiene el proveedor.
- Recursos humanos: una IA puede ayudar a preparar preguntas de entrevista. No debería descartar candidaturas automáticamente por señales opacas que nadie sabe explicar o revisar.
- Contratos y documentos: puede reducirse el riesgo ocultando nombres y secretos antes de pedir un resumen. No conviene subir contratos completos a una cuenta personal cuando se desconocen la retención y los usos posteriores.
- Agentes conectados: puede otorgarse acceso de solo lectura a una fuente acotada y exigir confirmación antes de actuar. No debería permitirse enviar correos, modificar registros o borrar archivos con permisos generales.
La pregunta útil no es «¿esta IA es segura?», porque ninguna herramienta es segura en abstracto. La pregunta correcta es: «¿este uso, con estos datos, este proveedor, estos permisos y esta consecuencia, está suficientemente controlado y podemos demostrar por qué lo aprobamos?»
Preguntas frecuentes
¿Está prohibido usar inteligencia artificial con datos personales?
No de manera general. La respuesta depende de la finalidad, los datos, la herramienta, las personas afectadas y la legislación aplicable. Algunos usos pueden ser razonables con controles proporcionados; otros, especialmente los que involucran datos sensibles o decisiones de alto impacto, requieren una evaluación reforzada y pueden no ser aceptables si el riesgo no puede reducirse.
¿Siempre se necesita consentimiento?
No necesariamente. Las leyes de protección de datos suelen reconocer distintos fundamentos para tratar información, y su aplicación cambia según el país y el contexto. El consentimiento tampoco corrige una finalidad injustificada, una recolección excesiva o una medida de seguridad deficiente. Debe revisarse el fundamento adecuado para el caso concreto.
¿Si la información está en internet puede utilizarse libremente para entrenar o consultar una IA?
No debe asumirse. Que un dato sea visible no elimina automáticamente los derechos de la persona ni otros límites, como confidencialidad, propiedad intelectual o condiciones de acceso. Es necesario revisar el origen, la finalidad de la publicación, el uso previsto y las reglas aplicables.
¿Una versión empresarial de la herramienta elimina el riesgo?
Puede ofrecer mejores controles contractuales, de seguridad, retención o administración, pero eso no resuelve por sí solo el caso de uso. La empresa todavía debe definir una finalidad, limitar datos y permisos, revisar el proveedor, controlar las decisiones y conservar evidencia de sus evaluaciones.
¿Anonimizar los datos permite utilizarlos sin restricciones?
Solo si la anonimización es efectiva y la persona ya no puede identificarse razonablemente. Reemplazar un nombre por un código no basta cuando existe una tabla, contexto u otros datos que permiten reconstruir la identidad. En ese escenario puede tratarse de información seudonimizada que todavía requiere protección.
¿Quién responde cuando la IA pertenece a un proveedor externo?
La distribución exacta depende del contrato y la legislación, pero contratar un proveedor no elimina la responsabilidad de la organización por el uso que decide realizar. Deben revisarse los roles, las instrucciones, la seguridad, los subprocesadores, los incidentes y las posibilidades reales de atender derechos o eliminar información.
Checklist antes de aprobar un uso de IA
- Existe una finalidad concreta y un responsable interno.
- Se identificaron los datos personales, sensibles y confidenciales.
- Se redujo la información a lo estrictamente necesario.
- Se revisaron proveedor, contrato, retención, entrenamiento y subprocesadores.
- Los accesos y permisos siguen el principio de mínimo privilegio.
- La herramienta fue probada con casos controlados antes de usar datos reales.
- Hay revisión humana competente cuando el resultado puede afectar a una persona.
- Existen mecanismos para corregir errores, detener acciones y responder incidentes.
- La decisión y sus evidencias quedaron documentadas sin duplicar datos sensibles.
- Se definió cuándo volver a evaluar el uso o al proveedor.