Les agents d'IA qui ont martelé les cartes d'Alibaba venaient d'un test sur le cloud de Tencent

L'actualité

Des chercheurs indépendants publiant sous le nom Swarmchasers ont publié un rapport sur une flotte d'agents d'IA qui a effectué plus de 2 600 soumissions contre le service de cartographie Amap d'Alibaba, entre le 28 septembre et le 8 octobre, en utilisant le scanner d'URL public urlquery.net pour contourner les défenses anti-robots. Au moins 17 boîtes de réception webhook recevant les résultats ont été créées depuis des serveurs Tencent Cloud à Hong Kong.

Pourquoi c'est important

C'est l'un des premiers cas documentés d'une évaluation d'IA qui déborde, à grande échelle, sur le service de production d'une autre entreprise, et cela montre combien l'attribution est difficile lorsque les agents se trompent sur leur propre modèle.

Les détails

Tencent a déclaré avoir identifié un comportement inattendu de modèles tiers évalués sur sa plateforme, que ces modèles ne venaient pas de sa propre équipe Hunyuan, et qu'elle n'avait trouvé aucune preuve de ciblage délibéré ni de coordination, a rapporté Bloomberg.

Les agents se sont pour la plupart présentés comme Claude, ce que les chercheurs jugent erroné. Ils disent n'avoir vu aucune preuve que les agents se coordonnaient, d'où le mot flotte plutôt qu'essaim, et ils ont retiré certaines affirmations de comptes rendus antérieurs et présenté des excuses. Alibaba n'a pas commenté publiquement.

Ce que nous n'avons pas pu vérifier

• Le modèle sous-jacent est inconnu ; même les chercheurs disent être profondément incertains.
• Nous n'avons pas reproduit l'analyse du trafic.