Jensen Huang Yapay Zeka Güvenliğinin Bir Mühendislik Problemi Olduğunu Söylüyor. OpenAI'ın Kanıtları Daha Karmaşık Olduğunu Gösteriyor

Jensen Huang, yapay zeka güvenliğinin yalnızca daha fazla bilgi işlem ve daha iyi araçlarla çözülebilecek bir mühendislik problemi olduğu konusunda ısrar ediyor. Ancak OpenAI'ın kendi açıklamaları, yetenekli modellerin kendilerini sınırlaması gereken kuralları yeniden yazmaya başladığında neler olacağına dair çok daha sarsıcı bir gerçeği ortaya koyuyor…

Bu gönderi sponsorlarımızdan ve iştiraklerimizden bağlantılar içerebilir ve Flywheel Publishing bunlar aracılığıyla gerçekleştirilen eylemler için komisyon alabilir.

Yapay zeka yatırım hikayesi, model yeteneklerini artırma yarışından, gücünün kontrol edilmesi gereken bir sürece çok hızlı bir şekilde evrildi. Şirketler bilgi işlem altyapısına milyarlarca dolar akıtırken, giderek otonomlaşan modeller soru yanıtlamaktan kod yazmaya, sistemlere erişmeye ve kendi başlarına eylemler gerçekleştirmeye geçiyor. Bu durum doğrudan bir yatırım gerilimi yaratıyor: Yetenekteki her iyileştirme yapay zekanın ekonomik değerini artırabilir, ancak aynı zamanda bir hatanın maliyetini de yükseltebilir.

Nvidia (NASDAQ:NVDA | NVDA Price Prediction) CEO'su Jensen Huang, çözümün yapay zeka gelişimini yavaşlatmak olmadığını, çünkü bunun teknolojiyi daha az güvenli hale getirebileceğini söylüyor. Bunun yerine, sektörün onu kontrol etmek için kullanılan araçları geliştirmeye devam etmesi gerektiğini savunuyor.