Nvidia araştırmacıları, kodlama odaklı yapay zeka ajanlarının operasyonel mantığını yöneten kontrol katmanını otomatik olarak optimize eden "SoL-Pi" sistemini tanıttı. Yeni yöntem, temel yapay zeka modeline veya sunucu altyapısına müdahale etmek yerine ajan ile ortam arasındaki iletişim sürecini düzenleyerek token tüketimini performansı koruyarak neredeyse yarıya indiriyor.
Araştırma kapsamında geliştirilen sistem; eylem birleştirme, dinamik bağlam sıkıştırma, gözlem özetleme ve hata kayıtlarını küçültme olmak üzere dört temel mekanizma içeriyor. EdgeBench değerlendirmelerinde token tüketimini yüzde 44,7 ila yüzde 49 oranında düşüren SoL-Pi, mevcut API tarifelerine göre saatte 8,75 ila 13,50 dolar maliyet avantajı sağlıyor. Model, GPT-5.6 Sol üzerinde eğitilmesine rağmen Opus 5 üzerinde de yüksek performans sergiliyor.
Elde edilen verimlilik kazanımları bazı kıyaslama testlerinde performans ödünlerini de beraberinde getiriyor. Terminal-Bench 4 üzerindeki görevlerde çözüm başarısı standart modellerin gerisinde kalırken, kısalan bağlam boyutunun istem önbelleği yeniden kullanımını düşürebildiği aktarılıyor. Uzmanlar, kontrol katmanının önceden eğitilmesi yaklaşımının büyük ölçekli yazılım ajanlarında kritik bir adım olduğunu belirtiyor.
KAYNAK: the-decoder.com