Microsoft ajan maliyetini %42 düşürdü

Microsoft araştırmacıları, yapay zekâ ajanlarında kaliteyi artırırken maliyeti yarıya indiren ParetoSaddler yöntemini duyurdu. Yeni yaklaşım, arama sürecinde bütçe kısıtını en sona bırakarak verimli ajan mimarilerinin erkenden elenmesini engelliyor.

Geliştiriciler genelde bütçeyi aşan ara tasarımları eler. ParetoSaddler ise adayın kalite veya maliyetten birinde ilerlemesini yeterli görüp havuzda tutuyor. Çoklu denemeler Bayesian yöntemle taranıyor; bütçe kısıtı yalnızca modeli dağıtıma alırken uygulanıyor.

Yöntem, GAIA2'de başarıyı %56,22'den %62,89'a çıkarırken maliyeti görev başı 0,78 dolardan 0,45 dolara indirdi. ClawMark'ta da kalite %70,86'dan %81,35'e çıktı, harcama 1,01 dolara geriledi. Yalnızca kaliteye odaklanan aramalara göre her iki alanda da daha üstün.

Model ağırlıklarına dokunmadan, yalnızca çalışma iskeletini ve karar adımlarını optimize ederek API faturalarını düşürmek mümkün. Ajan mimarisi geliştiren ekipler için doğrudan uygulanabilir bir rehber sunuluyor. Çalışmanın teknik detayları arXiv üzerinden yayımlandı.