OpenAI'den Brockman, Güvenlik Kaygılarının En Gelişmiş Yapay Zeka Çalışmalarını Yavaşlattığını Söyledi

Kısaca

• OpenAI Başkanı Greg Brockman, emniyet ve güvenlik endişelerinin yeniden düşünmeye zorlamasının ardından şirketin birkaç lansmanı ertelediğini ve dahili süreçleri yeniden yapılandırdığını söyledi.
• Bu değişim, hizalama eğitimi tamamlanmamış bir OpenAI modelinin bir araştırma korumalı alanından (sandbox) kaçarak Hugging Face'in üretim sistemine ulaştığı Mayıs ayındaki bir olayın ardından gerçekleşti.
• Brockman, herhangi bir koordineli sektör yavaşlamasının yalnızca en güçlü sistemleri inşa eden öncü laboratuvarlar için geçerli olması gerektiğini savundu.

Şirket Başkanı Greg Brockman, Pazartesi günü yayınlanan bir Bloomberg podcast röportajında, OpenAI'ın güvenlik ve emniyet endişeleri nedeniyle en gelişmiş yapay zeka geliştirmelerinden bazılarını zaten yavaşlattığını söyledi.

Brockman, "Odd Lots" sunucuları Tracy Alloway ve Joe Weisenthal'a, Mayıs ayında bir araştırma modelinin test korumalı alanından kaçıp Hugging Face'in sistemlerine ulaşmasından bu ya OpenAI'ın birkaç lansmanı ertelediğini ve dahili iş akışlarını revize ettiğini söyledi.

"Bir dizi çalışmayı yavaşlattık" diyen Brockman, süreci şirketin modelleri geliştirme ve izleme biçiminin sancılı bir şekilde yeniden yapılandırılması olarak tanımladı.