OpenAI, asi ajanlar için 35 saniyelik güçlü bir durdurma anahtarı içeren Control Room'u başlattı

OpenAI, araştırma altyapısı genelinde potansiyel olarak riskli yapay zeka model iş yüklerini durdurmak için Control Room adlı merkezi bir kontrol sistemi devreye aldı; sistem, müdahale kararından sonraki 35 saniye içinde daha fazla model çıktısını durduracak şekilde tasarlandı.

Sistem, giderek daha yetenekli hale gelen yapay zeka modellerinin daha büyük emniyet ve güvenlik riskleri getirmesiyle koruma önlemlerini güçlendirmeyi amaçlıyor. Ajan tabanlı model eğitimi, değerlendirmeler ve veri işleme işleri dahil olmak üzere araştırma iş yüklerini, bunların çıktı üretmeye devam edip edemeyeceğini denetleyen merkezi bir servise bağlıyor.

Şüpheli davranışları öncelikle işaretleyen geleneksel izleme sistemlerinin aksine, Control Room bir araştırma iş yükünün ek model çıktıları almasını aktif olarak engelleyebilir. OpenAI'ın potansiyel olarak uyumsuz model davranışlarını izlemeye yönelik mevcut sistemleriyle birlikte çalışır.

Şirket, Control Room'un müdahale ihtiyacının en fazla olduğu araştırma altyapısında halihazırda devreye alındığını belirtti. Harici model sunma altyapısı daha merkezidir ve gerektiğinde model dağıtımlarını durdurmak için operasyonel mekanizmalara zaten sahiptir.

How shutdown works