Üretime Geçen ve Geçemeyen Yapay Zeka Ajanları Arasındaki Farklar

Kurumsal yapay zeka tartışmaları sessizce yön değiştirdi. İki yıl önce yöneticiler, kurumlarının bir yapay zeka ajanı inşa edip edemeyeceğini soruyorlardı. Bugün ise kurumlarının bir yapay zeka ajanına güvenip güvenemeyeceğini soruyorlar.

Güven sorusu iki cephede ilerliyor: halihazırda üretimde çalışan kendi inşa ettikleri ajanlar ve geliştiricilerinin yazılım oluşturmak için her gün güvendiği kodlama ajanları. Çoğu kurum her iki durumda da ajanlarına güvenemiyor.

Yapay zeka ajanlarının çalışan demoları yaygındır, ancak müşterilerin her gün güvendiği, zamanla gelişen ve gerçek dünyadaki uç vakalara karşı dayanan ajanlar nadirdir.

Aradaki boşluğu kapatmak bir modelleme sorunu değil. Bu bir doğrulama sorunudur. Kurumlar ajan hızında yazılım geliştirebilirler ancak yazılımı henüz ajan hızında doğrulayamıyorlar.

Geleneksel yazılım testi çözülmüş bir sorundur: Mühendisler birim testleri yazar, sürekli entegrasyon regresyonları engeller ve dağıtımlar kontrollü yapılır. Ancak yapay zeka ajanları bu stratejinin arkasındaki her varsayımı bozar. Deterministik değildirler. Aynı girdi farklı çıktılar üretebilir. Bir sistem istemindeki veya araç açıklamasındaki küçük değişiklikler, yalnızca çok adımlı iş akışlarında ortaya çıkan hatalara dönüşebilir. Performansı artırmak için yapılan bir model yükseltmesi, müşteriler bildirene kadar kimsenin fark etmediği sessiz regresyonlara neden olabilir.