Artico Consultores · Análisis · Mayo 2026
El filtro que te hace más guapo
también sabe dónde vives,
dónde trabajas y cómo es tu cara.
Las aplicaciones de inteligencia artificial que generan avatares atractivos a partir de fotos se han convertido en un fenómeno viral. Lo que sus políticas de privacidad describen en letra pequeña — y sus interfaces de usuario ocultan con cuidado — es que la imagen que subes no es lo único que se llevan.
El Departament de Ciberseguretat i Prevenció de Delictes d'Alta Tecnologia alertó esta semana de que estas herramientas exponen al usuario a riesgos que van más allá del filtro de moda. Es una advertencia correcta y necesaria. Pero la imagen completa del problema — técnica, jurídica y organizativa — es más profunda que los titulares que está generando.
Este artículo analiza exactamente qué datos se exponen, qué dice el marco jurídico vigente en 2026 y qué consecuencias tiene, para usuarios y para empresas, ignorar ambas cosas.
Art. 9
RGPD — Los datos biométricos son categoría especial. Su tratamiento requiere consentimiento explícito o excepción tasada
Art. 50
AI Act — Obliga a marcar el contenido sintético generado por IA. En vigor desde agosto 2026
Garante
Italiano (dic. 2025) — Primera autoridad europea en declarar los deepfakes tratamiento biométrico prohibido
1. La pantalla que ves
y los datos que no ves
La interfaz de estas aplicaciones es engañosamente simple. Subes entre diez y veinte fotografías tuyas, pagas unos pocos euros, esperas unos minutos y recibes cincuenta avatares en distintos estilos: artístico, cinematográfico, profesional, fantástico. El resultado es llamativo. El precio que realmente pagas no aparece en la pantalla de pago.
El problema fundamental de estas apps no es lo que hacen con la imagen — es lo que hacen con la información que va dentro de la imagen y alrededor de ella. Hay una diferencia enorme entre lo que el usuario percibe que está entregando y lo que realmente está entregando.
El iceberg de datos de un avatar de IA
Lo que el usuario ve · Lo que realmente se transfiere
Lo que el usuario cree que entrega
📷 Sus fotografías personales para generar el avatar
Lo que realmente se transfiere con esas fotos
👤
Datos biométricos faciales — categoría especial RGPD art. 9
El modelo de IA extrae un mapa geométrico de los rasgos del rostro: distancia entre ojos, contorno de mandíbula, proporción facial. Estos vectores biométricos son tan identificativos como una huella dactilar y, a diferencia de una contraseña, no pueden cambiarse si se exponen.
📍
Metadatos EXIF — ubicación exacta, fecha y hora
Cada fotografía tomada con un smartphone lleva incrustados metadatos invisibles al ojo humano: coordenadas GPS precisas de dónde se tomó la foto, modelo exacto del dispositivo, fecha y hora. Una foto de tu salón revela tu domicilio exacto. Una foto en la oficina revela tu lugar de trabajo. Una foto en el colegio de tus hijos lo revela también.
👥
Terceras personas en el fondo o en la imagen
Si en alguna de las fotos aparecen otras personas — un familiar, un compañero de trabajo, un amigo — sus datos también se transfieren sin que ellas lo sepan ni hayan prestado ningún consentimiento. El RGPD protege los derechos de los interesados con independencia de quién sube la fotografía.
🎓
Material de entrenamiento para modelos futuros
La mayoría de términos de servicio de estas plataformas incluyen, en letra pequeña, la autorización para usar las imágenes subidas con el fin de mejorar la plataforma o entrenar los modelos de IA. Las fotografías que subes hoy pueden convertirse en parte del conjunto de datos de entrenamiento de versiones futuras de la herramienta — con una cesión que el usuario ha aceptado sin leer.
🌍
Transferencia a países sin protección equivalente
Muchas de estas aplicaciones tienen servidores o empresas matrices en países fuera del Espacio Económico Europeo — con marcos jurídicos de protección de datos muy diferentes al RGPD europeo. Una vez que los datos salen del EEE sin las garantías adecuadas, el control sobre ellos se diluye prácticamente de forma irreversible.
2. El patrón que comparten
estas aplicaciones
Hay docenas de herramientas en el mercado — algunas consolidadas, otras efímeras. Sin ánimo de señalar a ninguna en particular ni de realizar análisis jurídicos individuales, el patrón que comparten es relevante para entender el riesgo estructural del fenómeno.
Aplicaciones de avatares estilo artístico
Generan retratos en estilos pictóricos o ilustrativos. Las más populares permiten el reuso de imágenes generadas "para mejorar la plataforma". Algunas han sido criticadas por utilizar obras de artistas sin consentimiento para entrenar sus modelos.
Uso de datos para entrenamiento IA
Apps de filtros de envejecimiento o cambio de apariencia
Procesan la cara en el servidor (no en el dispositivo) y ceden datos a empresas del grupo sin identificar exactamente los destinatarios. Este patrón de cesión sin identificación de terceros es uno de los más criticados por las autoridades de protección de datos.
Cesión a terceros sin identificar
Apps de mejora de retrato con IA
Piden acceso a la galería fotográfica completa para "resultados óptimos". El acceso a toda la galería no es necesario para generar un avatar — es una solicitud de permisos desproporcionada que va más allá de la finalidad declarada.
Permisos desproporcionados
Plataformas de generación de imagen profesional
Algunas solicitan fotos de carnet y foto de empresa para generar perfiles profesionales de LinkedIn. Mezclan datos biométricos con datos laborales, creando un perfil combinado especialmente sensible que puede incluir información de terceros (colegas en el fondo).
Datos laborales + biométricos
⚡ El problema de origen de la app: muchas de las aplicaciones más populares tienen matrices en países con legislaciones de protección de datos radicalmente distintas a la europea. Cuando el usuario acepta los términos de servicio sin leerlos, está aceptando que sus datos biométricos pueden ser tratados bajo una normativa que no ofrece las garantías del RGPD. Una vez que los datos cruzan esa frontera jurídica, los derechos de acceso, rectificación y supresión son, en la práctica, difíciles o imposibles de ejercer.
3. La conexión con los deepfakes:
lo que ocurre después
Hay una consecuencia del modelo biométrico que estas aplicaciones construyen que no está siendo suficientemente discutida en el debate público sobre este fenómeno: los vectores biométricos del rostro que la IA extrae de las fotos que subes son exactamente el tipo de dato que necesita un sistema de generación de deepfakes para replicar tu cara de forma convincente.
No hablamos de una amenaza teórica. Los datos biométricos de rostro — una vez en circulación fuera del control del titular — pueden utilizarse para generar vídeos o imágenes falsas con la cara de la persona, para fraudes de identidad en sistemas de verificación facial, para campañas de extorsión con contenido íntimo no consentido y para suplantaciones en videollamadas corporativas. El artículo 9 del RGPD clasifica los datos biométricos como categoría especial precisamente porque el daño que puede causar su exposición es desproporcionado y, en muchos casos, irreversible.
⚠️ El precedente del Garante italiano (diciembre 2025): la autoridad de protección de datos italiana fue la primera en Europa en declarar explícitamente que los deepfakes generados con datos biométricos pueden constituir un tratamiento de categoría especial prohibido bajo el artículo 9 del RGPD. Su argumento: la voz y las imágenes son identificadores directos de la persona, y cuando se usan para generar contenido sintético que permite su identificación ante terceros, estamos ante datos biométricos en el sentido del RGPD — independientemente de que el sistema no opere como verificador de identidad tradicional. La cadena es directa: foto en app de avatar → vectores biométricos → potencial deepfake.
4. El marco jurídico en 2026:
tres frentes simultáneos
RGPD
Artículo 9 — Tratamiento de categorías especiales de datos personales
Prohibición general
Los datos biométricos dirigidos a identificar de manera unívoca a personas físicas son categoría especial. Su tratamiento está prohibido salvo que concurra una de las excepciones del artículo 9.2.
Consentimiento explícito — no implícito
La única base legal válida para una app de avatares es el consentimiento explícito del interesado. No basta con que el usuario suba la foto. No basta con aceptar los términos generales. Debe ser un consentimiento informado, libre, específico y verificable para el tratamiento biométrico.
Minimización de datos
El tratamiento debe limitarse a lo estrictamente necesario para la finalidad declarada. Pedir acceso a toda la galería fotográfica para generar un avatar viola el principio de minimización. El tratamiento de metadatos EXIF cuando no son necesarios para el servicio también.
Transferencias internacionales
Si los datos se tratan fuera del EEE, deben existir garantías adecuadas (cláusulas contractuales tipo, decisión de adecuación). Sin ellas, la transferencia es ilegal independientemente del consentimiento del usuario para el servicio principal.
AI Act
Artículo 50 — Obligaciones de transparencia sobre contenido sintético
Marcado obligatorio del contenido generado
Desde agosto de 2026, los sistemas de IA que generan contenido sintético de imagen, audio o vídeo deben marcar sus resultados como generados artificialmente. Los avatares generados por IA entran directamente en esta obligación.
Aplica a todas las empresas del EEE
No solo a las grandes tecnológicas. Cualquier empresa o profesional que use estas herramientas para generar contenido con imágenes de personas y lo publique sin marcar como generado por IA puede estar en infracción a partir de agosto.
Categorización biométrica — sistema de alto riesgo
Los sistemas de IA que categoricen personas basándose en datos biométricos son sistemas de alto riesgo bajo el AI Act. Las apps que construyen perfiles basados en rasgos faciales pueden entrar en esta categoría con obligaciones adicionales de documentación y supervisión humana.
Nota Técnica ANPD Brasil (enero 2026)
La autoridad brasileña fue más allá del Garante italiano: el contenido sintético que se refiera a personas identificables es dato personal; si implica datos biométricos, es dato sensible. Esta interpretación está ganando terreno en el debate europeo.
5. El riesgo que las empresas
no están viendo
Hasta aquí el análisis centrado en el usuario. Pero hay una dimensión del problema que afecta directamente a las organizaciones y que está pasando prácticamente inadvertida: los empleados que usan estas apps con fotografías tomadas en entornos laborales.
No hace falta que el empleado sea negligente ni que tenga malas intenciones. Basta con que suba a una de estas plataformas una fotografía de una reunión de equipo, una foto con el badge de empresa visible, una imagen con el logotipo corporativo al fondo, o una selfie desde su puesto de trabajo. En ese momento está transfiriendo, sin autorización de la empresa y sin consentimiento de sus compañeros, datos que pueden incluir información confidencial de la organización.
Qué puede exponer un empleado sin saberlo
Vectores de riesgo corporativo en el uso de apps de avatares de IA
Datos biométricos de colegas
Si en la foto aparecen compañeros de trabajo, sus datos biométricos también se transfieren sin su consentimiento. La empresa puede ser responsable de ese tratamiento si no tiene políticas de uso de IA documentadas.
Información confidencial en el fondo
Pantallas con documentos, pizarras con información de proyectos, tarjetas de acceso, equipos con etiquetas de activo corporativo. Todo lo que el modelo de IA procesa al analizar la foto puede formar parte de los datos que la plataforma almacena.
Ubicación exacta de instalaciones
Los metadatos EXIF de una foto tomada en las oficinas revelan las coordenadas exactas de la instalación. Para empresas con requisitos de seguridad — sector defensa, infraestructuras críticas, sanidad — esto puede tener consecuencias más allá de la privacidad.
Infracción de políticas internas de seguridad
La mayoría de empresas con políticas de seguridad de la información tienen cláusulas sobre el uso de herramientas externas con datos corporativos. El uso de estas apps con fotos del entorno laboral puede constituir una infracción de esas políticas, con consecuencias disciplinarias.
La respuesta correcta de las organizaciones no es prohibir sin más. Es informar, formar y regular. Los empleados que usan estas herramientas no lo hacen con intención de dañar a su empresa — lo hacen por desconocimiento del riesgo real. Una política interna de uso de herramientas de IA generativa, acompañada de formación breve y concreta, reduce ese riesgo de forma sustancial.
📌 Lo que el RGPD exige a las empresas en este contexto: si la empresa trata datos biométricos de sus empleados — incluso de forma indirecta a través del uso de herramientas externas — debe tener base legal documentada, una evaluación de impacto en la protección de datos (EIPD) si el tratamiento implica riesgo elevado, y debe informar a los interesados. La ausencia de política de uso de IA en la empresa puede considerarse una falta de medidas organizativas adecuadas bajo el artículo 32 del RGPD.
6. Qué hacer:
guía práctica para usuarios y empresas
Para usuarios — cinco comprobaciones antes de subir una foto a cualquier app de IA
01
Lee la política de privacidad — específicamente el apartado de datos biométricos. Busca si mencionan el término "biométrico" o "facial recognition". Si no lo mencionan siendo una app de fotos, es una señal de alerta. Si lo mencionan pero no especifican la base legal bajo el RGPD, también.
RGPD art. 9 + 13
02
Elimina los metadatos EXIF de las fotos antes de subirlas. En iPhone: duplica la foto en Fotos y compártela desde ahí — el sistema ofrece eliminar la ubicación. En Android: usa la app "Photo Exif Editor" o equivalente. En 30 segundos eliminas las coordenadas GPS de la imagen.
Minimización de riesgo
03
No concedas acceso a toda la galería. Cuando la app pida permisos de galería, elige "seleccionar fotos" en lugar de "acceso completo". Si la app no permite esa opción y exige acceso total, es una solicitud desproporcionada que no deberías aceptar.
Principio minimización RGPD
04
Comprueba dónde está registrada la empresa. Si la empresa que opera la app está en un país sin decisión de adecuación de la Comisión Europea, tus datos biométricos pueden estar fuera de la protección del RGPD. La lista de países adecuados está publicada en la web de la AEPD.
RGPD art. 45 — transferencias
05
Después de generar el avatar, solicita la eliminación de tus datos. La mayoría de apps tienen un proceso de eliminación de cuenta y datos. Ejercer el derecho de supresión tras obtener el resultado es lo más razonable. Recuerda que los datos biométricos no pueden "recuperarse" una vez expuestos.
RGPD art. 17 — derecho supresión
Para empresas — cuatro medidas organizativas que protegen a la organización
01
Política de uso de herramientas de IA generativa. Documenta qué herramientas están autorizadas, qué tipo de datos pueden introducirse en ellas y cuáles están expresamente prohibidas. Una política de dos páginas reduce de forma drástica el riesgo de exposición inadvertida.
RGPD art. 32 — medidas organizativas
02
Formación específica para el equipo. Los empleados que saben qué pueden y qué no pueden hacer con herramientas de IA no cometen los errores por desconocimiento. Una sesión de 30 minutos anual es suficiente para cubrir los casos más habituales.
RGPD art. 39 — formación
03
EIPD si la empresa usa estas herramientas para procesos internos. Si la empresa está evaluando usar apps de generación de avatar IA para producir contenido corporativo, fotos de perfil de empleados o material de marketing con imágenes de personas, la Evaluación de Impacto en la Protección de Datos es preceptiva antes de implementar el sistema.
RGPD art. 35 — EIPD
04
Cumplimiento del AI Act art. 50 desde agosto 2026. Si la empresa publica imágenes o avatares generados con IA en sus canales de comunicación, debe marcarlos como generados artificialmente. No hacerlo a partir de agosto puede constituir una infracción del AI Act.
AI Act art. 50
La pregunta que nadie formula
pero todos deberían hacerse
El atractivo de estas aplicaciones es genuino. La tecnología es fascinante y los resultados son vistosos. El problema no está en la IA — está en el modelo de negocio que la sustenta. Cuando el servicio es gratuito o barato y el output tiene valor, hay que preguntarse qué parte del precio real no aparece en la pantalla de pago.
En el caso de las apps de avatares, esa parte oculta del precio es el perfil biométrico del rostro del usuario, los metadatos de ubicación de sus fotos y — potencialmente — el material de entrenamiento con el que la siguiente versión del modelo será más precisa. Eso no es un precio pequeño. Los datos biométricos son los únicos datos personales que no pueden cambiarse si se exponen. Una contraseña comprometida se puede cambiar. Un número de tarjeta se puede cancelar. Un mapa geométrico del rostro, una vez cedido, no tiene marcha atrás.
El RGPD y el AI Act europeos ofrecen un marco de protección robusto. El problema es que ese marco solo protege al usuario que entiende qué está cediendo — y la mayoría de interfaces de estas apps están diseñadas específicamente para que no lo entienda.
A
Artico Consultores
Consultoría especializada en Protección de Datos e Inteligencia Artificial · DPOs certificados AEPD/ENAC · Zaragoza · portalartico.es
¿Tu empresa tiene política de uso
de herramientas de IA generativa?
En Artico asesoramos sobre el uso corporativo de IA, elaboramos políticas de uso interno de herramientas generativas y verificamos el cumplimiento del RGPD y el AI Act. DPOs certificados AEPD/ENAC · 25 años de experiencia · Primera consulta gratuita.
1APD (Associació Professional del Dret Tecnològic de Catalunya), "La herramienta que genera avatares atractivos con IA también revela datos que el usuario considera privados", 18 de mayo de 2026. Basado en alerta del Departament de Ciberseguretat i Prevenció de Delictes d'Alta Tecnologia.
2RGPD (Reglamento UE 2016/679), artículo 9 — Categorías especiales de datos personales. Los datos biométricos tratados para identificar de manera unívoca a personas son categoría especial. Su tratamiento requiere consentimiento explícito o una de las excepciones del art. 9.2.
3Garante per la Protezione dei Dati Personali (Italia), advertencia de diciembre de 2025 sobre deepfakes y datos biométricos. Primera autoridad europea en declarar que los deepfakes pueden constituir tratamiento de categoría especial prohibido bajo el art. 9 RGPD cuando permiten la identificación de la persona ante terceros.
4ANPD (Autoridade Nacional de Proteção de Dados, Brasil), Nota Técnica 1/2026, enero de 2026. El contenido sintético generado por sistemas de IA generativa que se refiera a personas naturales identificadas o identificables debe considerarse datos personales; si implica datos biométricos, datos sensibles.
5Reglamento (UE) 2024/1689 — AI Act, artículo 50. Obligaciones de transparencia sobre contenido generado o manipulado por IA. Fecha de aplicación para la mayoría de obligaciones: 2 de agosto de 2026.
6Bitdefender / El Comercio (Perú), análisis de riesgos de privacidad en apps de avatares IA, diciembre 2022 — datos biométricos como vector de riesgo para deepfakes y actividades malintencionadas. Actualizado con análisis propio Artico mayo 2026.
Escríbenos por WhatsApp