Explicador · Derechos
Las cámaras con IA prometen seguridad. La factura llega en derechos
- Escribió
- Equipo CIUDADAN-IA
La respuesta corta
Reconocimiento facial en las calles, análisis de redes sociales, patrullaje "predictivo": la vigilancia con IA avanza en América Latina más rápido que las leyes que deberían limitarla. No es ciencia ficción ni es neutral: se equivoca más con rostros morenos e indígenas, se usa contra periodistas y defensores del territorio, y casi nunca rinde cuentas. Entender cómo funciona es el primer paso para exigir reglas.
A fondo · 2 min de lectura
Qué se está instalando, exactamente
Tres tecnologías se extienden por las ciudades de la región, a menudo compradas sin debate público. Reconocimiento facial: cámaras que comparan cada rostro que pasa contra bases de datos — a veces de sospechosos, a veces de todos los ciudadanos. Monitoreo de redes: sistemas que rastrean qué se publica sobre ciertos temas y quién lo publica. Policía “predictiva”: programas que dicen dónde patrullar según estadísticas de crimen pasadas.
Dónde está el problema
Primero, el error no se reparte parejo. Los sistemas de reconocimiento facial se entrenan mayoritariamente con rostros de otras latitudes: fallan más con piel morena, con rasgos indígenas, con mujeres. Un “falso positivo” no es una estadística — es una persona detenida por un delito que no cometió, y ya hay casos documentados.
Segundo, la mira apunta torcido. En varios países de la región, estas herramientas se han usado no contra el crimen sino contra periodistas, opositores y defensores del territorio. Para una comunidad que protesta contra un megaproyecto, “seguridad” puede significar que la vigilan.
Tercero, la predicción hereda la injusticia. Si la policía siempre patrulló más los barrios pobres, los datos dicen que ahí hay más crimen, así que el sistema manda más patrullas ahí. El prejuicio entra disfrazado de matemática.
No todo uso es igual
Ni pánico ni humo: la IA también encuentra personas desaparecidas, detecta imágenes de abuso infantil y ayuda en desastres. La diferencia entre uso legítimo y abuso no la da la tecnología — la dan las reglas: ¿hay una ley que lo autorice? ¿una orden judicial? ¿un registro público de qué sistemas usa el gobierno? ¿una vía para reclamar si te afecta? Donde esas respuestas son “no”, la herramienta manda sobre el derecho.
Qué puedes exigir
Como mínimo: transparencia (qué sistemas compró tu gobierno, a quién, con qué resultados), límites (prohibición del reconocimiento facial masivo en espacios públicos, como ya discuten varios congresos), auditoría independiente (que alguien externo mida los errores y contra quién se cometen) y remedios (poder impugnar una decisión tomada por una máquina). La vigilancia se instala en silencio; los derechos se defienden en voz alta.