Anthropic Yapay Zeka Modellerinin Kimliğini Kanıtlayacak Bir Sistem Geliştiriyor

Anthropic, Salı günü yayınlanan bir blog yazısına göre, belirli bir çıktıyı hangi yapay zeka modelinin ürettiğini doğrulamak için açık kaynaklı bir sistem üzerinde çalışıyor. FlashProve olarak adlandırılan sistem, araştırmacıların “kanıtlanabilir çıkarım” dediği şeyi —belirli bir çıktının belirli bir modelden geldiğine dair kriptografik bir kanıt, yani esasen matematiksel bir garanti— sağlamak üzere tasarlandı. Bu sistem, kullanıcıların aldıkları cevabın gerçekten kullandıklarını düşündükleri modelden gelip gelmediğini teyit etmelerine olanak tanımayı amaçlıyor.

Alıcıların bir mesajın gerçekten iddia edilen göndericiden geldiğini teyit etmelerini sağlayan kriptografik e-posta imzalarına benzer şekilde FlashProve, taklitçi modeli oluşturup çalıştıran laboratuvarın kendisi olsa bile, bir modeli diğeri gibi göstermeye çalışan taklitçilere karşı dirençli olacaktır. Özellikle araştırmacılar, sistemin bir yapay zeka şirketinin maliyetleri düşürmek için gizlice daha ucuz bir modelle değiştirmesini veya performans sonuçlarını şişirmek için daha pahalı bir modeli devreye sokmasını önlemek için kullanılabileceğini belirtiyor.

FlashProve ayrıca, belirli bir görevin gelişmiş bir model tarafından yapıldığına dair üçüncü taraflarca ileri sürülen iddiaları doğrulamak için de kullanılabilir. Araştırmacılar, “Bir geliştirici, yazılım kütüphanesinin öncü bir siber güvenlik modeli tarafından güvenlik açıklarına karşı tarandığını iddia edebilir veya bir şirket, iş planının uygun bir model tarafından onaylandığını öne sürebilir” diye yazıyor. “Bir kullanıcı bu iddiaları nasıl doğrulayabilir?”