Rastreo encubierto en herramientas de IA expone tensión entre seguridad corporativa y privacidad de usuarios

Un investigador independiente descubrió código oculto en un asistente de IA que monitoreaba usuarios en China sin consentimiento explícito, contradiciendo la postura pública de la empresa sobre vigilancia digital.

Anthropic eliminó un rastreador encubierto integrado en Claude Code tras ser expuesto por un investigador de seguridad conocido como 'Thereallo', quien identificó el uso de esteganografía de aviso —una técnica que oculta información dentro de instrucciones del sistema— para monitorear a usuarios ubicados en China sin su conocimiento. El hallazgo generó un debate inmediato sobre los límites éticos del monitoreo en plataformas de inteligencia artificial empresarial.

Según la declaración pública del ingeniero Thariq Shihipar, el código fue incorporado en marzo como un experimento orientado a detectar abuso de cuentas por parte de revendedores no autorizados y a proteger los modelos contra prácticas de destilación —proceso mediante el cual terceros replican el comportamiento de un modelo propietario a bajo costo—. Los marcadores ocultos identificaban zona horaria, configuración de proxy y posibles vínculos con laboratorios de IA en China. Anthropic había señalado previamente a actores en esa región como fuente de ataques de destilación a gran escala. La empresa indicó que tenía previsto retirar el código y que ya contaba con 'mitigaciones más sólidas' implementadas en sus sistemas.

El incidente adquiere mayor peso estratégico por el contexto en que ocurre: Anthropic había rechazado públicamente una solicitud del gobierno de Estados Unidos para utilizar Claude como herramienta de monitoreo ciudadano, posicionándose como defensora de la privacidad frente a la vigilancia estatal. Para los equipos directivos en México y América Latina que evalúan la adopción de herramientas de IA generativa en entornos corporativos, este caso plantea preguntas concretas sobre gobernanza de datos, transparencia en el comportamiento de los modelos y los riesgos de reputación asociados a proveedores cuyas políticas internas pueden divergir de sus declaraciones públicas. La gestión de estos riesgos requiere cláusulas contractuales específicas sobre tratamiento de datos y auditorías técnicas periódicas, no solo la lectura de políticas de privacidad estándar.