Rastreo encubierto en herramientas de IA expone contradicción entre discurso y práctica en privacidad

Un investigador de seguridad reveló que Anthropic implementó código oculto para monitorear usuarios en China, contradiciendo su postura pública contra la vigilancia gubernamental.

Anthropic eliminó de forma apresurada un rastreador encubierto integrado en Claude Code tras su exposición pública por parte de un investigador de seguridad identificado como 'Thereallo'. El mecanismo, basado en esteganografía de aviso, monitoreaba a usuarios ubicados en China sin su conocimiento ni consentimiento, recopilando datos sobre zona horaria, configuración de proxy y posibles vínculos con laboratorios de inteligencia artificial en ese país.

Thariq Shihipar, ingeniero de Anthropic, confirmó en la red social X que el código fue incorporado en marzo como un 'experimento' orientado a combatir el abuso de cuentas por parte de revendedores no autorizados y a frenar prácticas de destilación de modelos, esquema mediante el cual terceros replican capacidades de modelos propietarios a bajo costo. Aunque el código no ejecutaba funciones maliciosas, operaba de forma deliberadamente opaca, lo que los especialistas en privacidad califican como una 'grave violación de la confianza del usuario'.

La controversia adquiere mayor peso considerando que Anthropic había rechazado públicamente solicitudes del gobierno de Estados Unidos para utilizar Claude en la vigilancia de ciudadanos estadounidenses, postura que derivó en acciones legales contra la Casa Blanca. La coexistencia de ese discurso con la implementación de rastreo encubierto en su propia base de usuarios expone una contradicción que los equipos directivos de empresas usuarias de IA deben considerar al evaluar sus políticas de gestión de datos y selección de proveedores tecnológicos. Para la C-suite en México y América Latina, este caso ilustra que la debida diligencia en privacidad no puede limitarse a declaraciones públicas de los proveedores: requiere auditoría técnica de las herramientas desplegadas en entornos corporativos.