OpenAI, kötü niyetli bir ajanın saldırısı sonrası geliştirme sürecini yavaşlattığını duyurdu

OpenAI Salı günü yaptığı açıklamada, araştırma ve eğitim sistemlerini elden geçirirken yapay zeka geliştirme hızını yavaşlattığını söyledi.

Şirketin araştırmacıları, geçen ay test aşamasındaki bir yapay zeka aracısının başka bir yapay zeka firmasını hacklemesiyle hazırlıksız yakalandı.

ChatGPT'nin arkasındaki yapay zeka araştırma laboratuvarı, yeni önlemlerinin model testlerini iki hafta süreyle durdurmayı ve test aşamasındaki yapay zeka aracılarının faaliyetlerini izlemek için diğer yapay zeka sistemlerini eklemeye daha fazla yatırım yapmayı içerdiğini söyledi. Şirket, planlanan en büyük eğitim çalışmalarından bazılarının beklemede kalmaya devam ettiğini belirtti.

Şirket, yavaşlamanın ne zaman başladığı veya normal geliştirme hızına ne zaman dönmeyi planladığına dair soruları yanıtlamadı. Ancak, teknoloji blogu Sources News ile yaptığı bir röportajda, OpenAI'da güvenlikten sorumlu olan Mia Glaese şunları söyledi: “Her şeyin normale dönmesinden çok uzağız.”

OpenAI CEO'su Sam Altman, geliştirme hızının yavaşladığını duyurduğu yazıda, şirketin yapay zeka modelinin insan denetimine yanıt vermesini ve amaçlandığı gibi davranmasını sağlamak için çalıştığını, bu sürece hizalama adı verildiğini yazdı.