Anthropic ve OpenAI'ın gerçekten bağımsız güvenlik değerlendiricilerine ihtiyacı var, diyor uzmanlar

100'den fazla yapay zeka uzmanı ve değerlendiricisi, içeriden kişilerin öncü modellerin potansiyel tehlikelerine ilişkin endişeleri nedeniyle artan incelemelerle karşı karşıya kalan yapay zeka teknolojisinin güvenliğini test etmek için gerekli kaynaklara ve korumalara sahip olmayacakları konusunda uyarmak üzere bir araya geliyor.

Mektubu organize eden AI Evaluator Forum konsorsiyumunun başkanı Conrad Stosz bir röportajda, "Sadece temel ilkeler üzerinde ortak bir zemin göstermeye ve bağımsız denetimin yapay zeka risklerini genel olarak yönetmek için anlamlı bir araç olmasını sağlamaya çalışıyoruz," dedi.

Grup, Cuma günü konuyla ilgili halka açık bir mektup yayınladı ve bunu özel olarak CNBC ile paylaştı. İmzacılar arasında Geoffrey Hinton gibi yapay zeka dünyasının önde gelen isimleri ile Johns Hopkins University, Stanford University ve kar amacı gütmeyen değerlendirici METR gibi kuruluşların üyeleri yer alıyor. Mektupta, imzacılardan temel model sağlayıcılarını, üçüncü taraf yapay zeka değerlendiricilerinin işlerini etkili ve güvenilir bir şekilde yapabilmeleri için gerekli olan "bilimsel tarafsızlık, şeffaflık, bağımsızlık ve güçlü korumalara" izin verilmesini sağlamaya zorlamak istedikleri belirtildi.