Amex, yapay zeka aracılarının yetkisiz satın alımlarını önlemek için yeni bir çerçeve duyurdu

Kişisel yapay zeka temsilcileri giderek daha fazla kullanıcıları adına işlemler gerçekleştiriyor, ancak büyük dil modellerinin deterministik olmayan doğası gereği, yapay zeka botları yapmamaları gereken şeyleri yapmaya meyillidir. Bu durum, bu vakada yapay zekanın yanlış kararlar vermesi ve yetkisiz işlemler gerçekleştirmesi olasılığını artırıyor.

Bu sorunun önüne geçmek için American Express, bir yapay zeka temsilcisi işlemi tamamlamadan önce müşterinin satın alma niyetini yakalamak ve doğrulamak için tasarlanmış yeni bir çerçeve sunuyor.

Amex, fikrin satın almadan sonraki her şeye kadar işlem yaşam döngüsü boyunca müşterinin satın alma talimatlarının yerine getirilmesini sağlamanın bir yolu olması gerektiğini söylüyor.

“Intent Intelligence Framework” (Niyet Zekası Çerçevesi) olarak adlandırılan bu sistemin şirket, yapay zeka destekli işlemler için bir endüstri standardı haline gelmesini umuyor.

Amex’in Temsili Ortaklıklar ve Strateji Başkan Yardımcısı Hannah Bozian, TechCrunch ile yaptığı röportajda “Bu yeni işlemlerde bir tüketici, bir satıcı ve bir temsilci olacak,” diye açıkladı. Şirketin, temsili işlemlerin kart üyelerinin beklediği şekilde hala “sorunsuz, güvenilir ve güvenli” olmasını sağlamak istediğini belirtti.