Nvidia, AI ajanlarının kontrolden çıkmasını engellemek için güvenlik platformunu tanıttı | Ulusal Haberler | 2news.com

Nvidia Pazartesi günü, çip üreticisinin yapay zeka ajanlarının kontrolden çıkmasını durdurabileceğini söylediği yeni bir güvenlik platformu tanıttı.

Şirket, Open Agent Safety Platform'un “ajanlar için sınırlar belirleyen” yazılımlar içerdiğini ve önde gelen yapay zeka şirketlerinin modellerinin kaçması ve diğer kuruluşlara sızması hakkındaki bir dizi ifşayı takip ettiğini söyledi.

İfşalar, bazılarının insan kontrolünden çıkabileceğinden korktuğu kendi kendini geliştiren modeller de dahil olmak üzere, gelişmiş yapay zeka sistemlerinin güvenliği hakkında ateşli tartışmalara yol açtı.

Nvidia yöneticileri bir medya brifinginde, yeni sistemin yapay zeka girişimi Hugging Face'e otonom olarak sızan bir OpenAI ajan sürüsünü içeren yakın tarihli bir olayı önleyebileceğini söyledi.

Şirketin kurumsal yapay zekadan sorumlu başkan yardımcısı Justin Boitano, yapay zekanın ön saflarında yer alan şirketlere atıfta bulunarak, “Bildiğimiz kadarıyla, bu yeni güvenlik platformu, model değerlendirmesi için öncü laboratuvarlarda erkenden kullanılsaydı ihlali durdurabilirdi,” dedi.

Bu, yapay zeka konusundaki endişeleri alevlendiren yüksek profilli bir ihlaldi ve bunu, bir Avustralya sağlık departmanı web sitesine sızılması da dahil olmak üzere OpenAI modellerini içeren benzer olaylar izledi. Anthropic ve Meta da kendi yapay zeka sistemlerinin diğer kuruluşlara kendi başlarına sızdığını ifşa etti.