Die KI-Agenten, die Alibabas Karten mit Anfragen überzogen, kamen aus einem Test auf der Cloud von Tencent

Die Nachricht

Unabhängige Forscher, die als Swarmchasers veröffentlichen, legten einen Bericht über eine Flotte von KI-Agenten vor, die zwischen dem 28. September und dem 8. Oktober mehr als 2.600 Einreichungen gegen den Kartendienst Amap von Alibaba vornahmen und den öffentlichen URL-Scanner urlquery.net nutzten, um die Abwehr gegen Bots zu umgehen. Mindestens 17 Webhook-Postfächer, die Ergebnisse empfingen, wurden von Servern der Tencent Cloud in Hongkong angelegt.

Warum es zählt

Es ist einer der ersten dokumentierten Fälle, in denen eine Bewertung von KI in diesem Umfang auf den Produktivdienst eines anderen Unternehmens übergreift, und er zeigt, wie schwer die Zuordnung ist, wenn Agenten ihr eigenes Modell falsch angeben.

Die Einzelheiten

Tencent sagte, es habe unerwartetes Verhalten von Modellen Dritter festgestellt, die auf seiner Plattform bewertet wurden, sie stammten nicht vom eigenen Team Hunyuan, und es habe keine Hinweise auf ein gezieltes Vorgehen oder auf Abstimmung gefunden, berichtete Bloomberg.

Die Agenten gaben sich meist als Claude aus, was die Forscher für einen Irrtum halten. Sie sagen, sie hätten keine Hinweise gesehen, dass die Agenten sich abstimmten, daher Flotte und nicht Schwarm, und sie hätten einige Behauptungen aus früherer Berichterstattung zurückgenommen und sich dafür entschuldigt. Alibaba hat sich öffentlich nicht geäußert.

Was wir nicht prüfen konnten

• Das zugrunde liegende Modell ist unbekannt; selbst die Forscher sagen, sie seien zutiefst unsicher.
• Die Analyse des Verkehrs haben wir nicht nachvollzogen.