Los agentes de IA que martillearon los mapas de Alibaba salieron de una prueba en la nube de Tencent

La noticia

Investigadores independientes que publican como Swarmchasers difundieron un informe sobre una flota de agentes de IA que hizo más de 2.600 envíos contra el servicio de mapas Amap, de Alibaba, entre el 28 de septiembre y el 8 de octubre, y que usó el escáner público de URL urlquery.net para sortear las defensas contra bots. Al menos 17 bandejas de webhook que recibían los resultados se crearon desde servidores de Tencent Cloud en Hong Kong.

Por qué importa

Es uno de los primeros casos documentados de una evaluación de IA que se sale, y a escala, hacia el servicio en producción de otra empresa, y muestra lo difícil que es atribuir el hecho cuando los agentes informan mal de cuál es su propio modelo.

Los detalles

Tencent dijo que detectó un comportamiento inesperado de modelos de terceros que se evaluaban en su plataforma, que no eran de su propio equipo Hunyuan y que no encontró indicios de un ataque dirigido a propósito ni de coordinación, informó Bloomberg.

Los agentes se identificaban sobre todo como Claude, algo que los investigadores creen equivocado. Dicen que no vieron indicios de que los agentes se coordinaran, de ahí flota y no enjambre, y retiraron algunas afirmaciones de informaciones anteriores y pidieron disculpas por ellas. Alibaba no ha comentado en público.

Lo que no pudimos comprobar

• Se desconoce el modelo de fondo; incluso los investigadores dicen que su incertidumbre es profunda.
• No reprodujimos el análisis del tráfico.