Alibaba prohíbe uso de Anthropic tras descubrir puerta trasera que monitorea usuarios chinos

Alibaba ha ordenado a sus empleados frenar el uso de los modelos de Inteligencia Artificial (IA) Claude de Anthropic y sus herramientas de codificación,según fuentes citadas por China Daily. La decisión se toma luego de haberse descubierto un código embebido en el modelo que transmitía información del usuario,como el sistema y el uso de proxy,con la intención de identificar procesos de reventa o destilación no autorizados.

El gigante chino de comercio electrónico ordenó que a partir del 10 julio,los empleados tendrán que desinstalar los productos de Anthropic,incluyendo Claude Sonnet,Claude Opus,Claude Fable y el agente de codificación Claude Code,confirmaron dos fuentes consultadas por China Daily. La política instaurada marcaría un cambio respecto al uso habitual de modelos extranjeros dentro de la compañía.

La controversia se intensificó luego de que diversos desarrolladores identificaran que Claude Code contenía mecanismos ocultos para identificar usuarios vinculados a China. Un usuario de Reddit que afirmó haber realizado ingeniería inversa del software alegó que utilizaba técnicas esteganográficas para marcar secretamente a usuarios chinos y transmitir esos identificadores de vuelta a Anthropic.

Según un informe de verificación publicado en GitHub que examinó las versiones 2.1.193,2.1.195 y 2.1.196 de Claude Code,el mecanismo sería real y funcionaría como un canal encubierto dentro del prompt del sistema.

Metodología de la supuesta vigilancia

El informe señala que el nombre del host se compara con una lista decodificada de 147 entradas que incluiría dominios de grandes empresas tecnológicas chinas,regiones de Nube china,laboratorios de IA chinos y servicios de reventa o proxy de Claude. Entre los ejemplos citados figuran Baidu,Alibaba,Ant Group,ByteDance,Moonshot AI,MiniMax y Stepfun.

Aunque múltiples aplicaciones,como los navegadores web,realizan también un seguimiento y recolección de información del usuario,las críticas se centraron principalmente en la forma que Anthropic implementó esta política sin explicar al usuario o con poca transparencia respecto a la información que estaba recolectando.

Tras darse a conocer el código de seguimiento,Anthropic señaló que estaba principalmente dirigido para monitorear posibles casos de reventa ilegal o de destilación del modelo sin autorización. La semana pasada,la compañía estadounidense de IA envió una carta al Comité del Senado de los Estados Unidos sobre Banca,Vivienda y Asuntos Urbanos acusando precisamente a Alibaba de realizar un proceso de destilación ilegal de sus modelos.

Anthropic acusó a la compañía china de orquestar un ataque de extracción de datos a “escala industrial” para obtener ilícitamente capacidades de su modelo de IA Claude. Anthropic aseguró que Alibaba utilizó cerca de 25,000 cuentas fraudulentas y realizó 28.8 millones de transacciones con Claude durante varias semanas para sustraer datos confidenciales y entrenar sus propios sistemas.

El propio CEO y fundador de Anthropic,Dario Amodei,se ha expresado a favor de los controles a la exportación en contra de China por parte del gobierno de Estados Unidos,al considerar que el desarrollo de la IA es una carrera existencial para la supervivencia de la democracia.