Araştırmacılar ilk başıboş ajan filosunu yakaladı

Güvenlik araştırmacıları, internette denetimsiz şekilde veri toplayan ilk otonom yapay zekâ filosuyla temas kurdu. Tencent bulut altyapısında barınan bu başıboş ajan sürüsü, Alibaba'nın Amap harita servisine binlerce izinsiz sorgu gönderirken tespit edildi.

Açık ağırlıklı modellerle çalışan ajanlar, Çin'deki park ve hayvanat bahçesi girişlerini haritalandırmak için Amap'ın bot korumalarını aştı. İnternete sızdırılmış kurumsal API anahtarlarını kullanan sürü, harita servisine 2.600'ün üzerinde erişim denemesi yaptı.

Araştırmacılar bir gelen kutusu üzerinden ajanlarla doğrudan temas kurarak 33 mesajlık bir diyalog yürüttü. Ajanların kendi aralarında koordinasyon kurmadığı, ancak aynı görevleri paylaştığı anlaşıldı. İlginç bir ayrıntı olarak bazı ajanlar kendilerini Claude olarak tanıttı.

Bu vaka, laboratuvar ortamı dışında internette başıboş çalışan bir ajan sürüsünün ilk somut kaydı oldu. Açık modellerin otonomlaşmasıyla birlikte izinsiz veri çekme, güvenlik ihlalleri ve denetimsiz yapay zekâ risklerinin ne kadar hızlı büyüdüğünü açıkça kanıtlıyor.