En corto: vigilar
- La IA permite vigilar a mucha gente a la vez: reconocer caras, cruzar datos y sacar conclusiones sobre nosotros.
- Desde el 2 de febrero de 2025, el Reglamento europeo de IA prohíbe varias prácticas, como la puntuación social o el reconocimiento de emociones en el trabajo y en clase.
- La identificación facial en tiempo real por la policía en la calle está prohibida, salvo excepciones muy concretas y con autorización previa.
- Como ciudadano, puedes revisar qué se sabe de ti en internet y reclamar ante la AEPD si crees que se usan mal tus datos.
La inteligencia artificial no se cansa, no parpadea y puede mirar miles de cámaras a la vez. Eso la convierte en una herramienta muy útil para la seguridad. Y también en una herramienta muy peligrosa para la privacidad.
La pregunta de fondo no es técnica, es ética: ¿hasta dónde estamos dispuestos a ser vigilados a cambio de sentirnos más seguros? En Europa, una parte de esa respuesta ya está escrita en una ley.
Qué hace la IA cuando la usan para vigilar
La vigilancia de siempre necesitaba personas mirando pantallas. La IA cambia la escala. Algunos ejemplos de lo que puede hacer:
- Reconocer caras entre una multitud y compararlas con una base de datos.
- Seguir a una persona de cámara en cámara por una ciudad.
- Cruzar datos de redes sociales, ubicaciones y compras para construir un perfil.
- Intentar adivinar emociones a partir de la cara, la voz o la postura.
- Predecir comportamientos, por ejemplo, quién «podría» cometer un delito.
Algunas de estas funciones tienen usos razonables, como buscar a un niño desaparecido. El problema aparece cuando se usan sobre todo el mundo, sin control y sin que lo sepamos.
Los riesgos éticos, explicados sin rodeos
Pérdida de privacidad
Cruzando muchos datos pequeños, un sistema puede deducir cosas muy íntimas: con quién te relacionas, a qué hora sales de casa, qué ideas tienes. Nada de eso lo has contado tú directamente.
Sesgos y discriminación
Un algoritmo aprende de los datos con los que se entrena. Si esos datos reflejan desigualdades, el sistema las repite. El resultado puede ser que ciertos grupos sean vigilados o señalados más que otros.
El efecto de «mejor me callo»
Cuando sabes que te observan, cambias tu forma de actuar. Hay gente que deja de ir a una manifestación o de opinar en público. Ese efecto disuasorio es un daño para cualquier democracia, aunque no haya ninguna detención.
Uso para otros fines
Un sistema montado para «seguridad» puede acabar usándose para controlar a periodistas, activistas u opositores. Una vez que la infraestructura existe, cambiar su uso es fácil.
La lectura de emociones, un caso especial
Que una máquina diga que estás «nervioso» o «desmotivado» mirando tu cara es muy discutible desde el punto de vista científico. Y si esa conclusión la usa tu empresa o tu centro de estudios, las consecuencias pueden ser serias.
Qué prohíbe ya el Reglamento europeo de IA
La Unión Europea aprobó en 2024 el Reglamento de Inteligencia Artificial. Su artículo 5 enumera las prácticas prohibidas. Según la Comisión Europea, estas prohibiciones se aplican desde el 2 de febrero de 2025:
- Manipulación y engaño dañinos mediante técnicas subliminales o engañosas.
- Aprovecharse de vulnerabilidades de las personas por su edad, discapacidad o situación social o económica.
- Puntuación social: clasificar a la gente por su comportamiento o rasgos personales cuando eso lleva a un trato perjudicial o desproporcionado.
- Predecir delitos solo a partir de un perfil o de rasgos de personalidad.
- Crear bases de datos de reconocimiento facial recogiendo caras de forma indiscriminada de internet o de cámaras de videovigilancia.
- Reconocer emociones en el trabajo y en centros educativos, salvo por motivos médicos o de seguridad.
- Categorización biométrica para deducir datos sensibles, como la raza, las opiniones políticas, la religión o la orientación sexual.
- Identificación biométrica remota en tiempo real en espacios públicos con fines policiales, con excepciones.
Puedes leer el texto completo del artículo 5 en esta versión consultable.
Lo importante: en la UE ya no es legal que una empresa use IA para leer las emociones de sus empleados o de sus alumnos, ni que alguien cree bases de datos de caras recopilando fotos de internet sin control. No es una recomendación ética: es una prohibición.
Las excepciones del reconocimiento facial policial
La identificación facial en tiempo real en la calle no queda prohibida del todo. La policía puede usarla solo cuando sea estrictamente necesaria para:
- Buscar a víctimas concretas de secuestro, trata o explotación sexual, o a personas desaparecidas.
- Prevenir una amenaza concreta e inminente para la vida o un atentado terrorista real o previsible.
- Localizar a sospechosos de delitos graves de una lista cerrada, castigados con al menos cuatro años de prisión.
Además, necesita una autorización previa de un juez o de una autoridad independiente. En casos urgentes puede empezar sin ella, pero debe pedirla en 24 horas. Si se deniega, hay que parar y borrar los datos.
Multas y novedades
Saltarse estas prohibiciones puede costar hasta 35 millones de euros o el 7 % de la facturación mundial anual, la cifra que sea mayor, según el artículo 99 del Reglamento.
La lista sigue creciendo. Según la Comisión, la reforma conocida como ómnibus digital añade una nueva prohibición a partir de diciembre de 2026: los sistemas de IA que generan contenido sexual íntimo sin consentimiento o material de abuso sexual infantil, como las aplicaciones para «desnudar» fotos.
35 millones de euros
o el 7 % de la facturación mundial anual: multa máxima por usar prácticas de IA prohibidas.
Fuente: Reglamento de IA, artículo 99
Entonces, ¿dónde está el límite?
Yo lo resumiría en cuatro ideas que recoge, en parte, la propia ley:
- Límites claros. Qué datos se recogen, para qué y durante cuánto tiempo.
- Transparencia. Saber cuándo un sistema de IA nos está analizando y quién tiene esos datos.
- Control independiente. Que un juez o una autoridad externa supervise, no solo quien usa el sistema.
- Proporcionalidad. No vigilar a todos para encontrar a unos pocos.
La ley es un buen punto de partida, pero no cierra el debate. Habrá que ver cómo se aplica, cómo se inspecciona y qué se permite en la práctica.
Qué puedes hacer tú
- Pregunta. Si en tu trabajo o tu centro de estudios usan cámaras o programas con IA, tienes derecho a saber qué hacen y con qué base legal.
- Desconfía de la «lectura de emociones». Si alguien te propone evaluarte por tu cara o tu voz en una entrevista o en clase, pide explicaciones por escrito.
- Revisa tu huella. Busca tu nombre en internet y comprueba qué fotos y datos tuyos están públicos. Herramientas como Resultados sobre ti de Google ayudan a localizar tu teléfono, dirección o correo.
- Reclama. Si crees que se tratan tus datos de forma ilegal, puedes acudir a la Agencia Española de Protección de Datos.
- Pide ayuda. Ante dudas de seguridad digital, el 017 es la línea gratuita y confidencial de INCIBE.
La tecnología no decide sola qué sociedad tendremos. Lo decidimos nosotros, también con lo que aceptamos sin preguntar.
Para seguir leyendo: Inteligencia artificial para torpes · Qué trabajos cambiará antes la IA
