OpenAI'nin baş bilim insanı yapay zeka laboratuvarlarının yavaşlaması gerekebileceğini söylüyor: 'Kimse sonuçlara hazır değil'

Son derece yetenekli yeni bir modelin piyasaya sürülmesinden günler sonra, OpenAI'ın baş bilim insanı bir yavaşlama çağrısında bulunuyor.

Pazar günü yayınladığı uzun bir blog yazısında Jakub Pachocki, "makine zekasındaki sürekli ve hızlı yükselişin sonuçlarına kimsenin hazır olmadığından" endişe ettiğini söyledi.

OpenAI'ın güçlü yapay zeka ajanlarını daha iyi kontrol etmek için dahili teknik çözümler aradığını ancak "daha geniş kapsamlı müdahalelerin gerekli olduğunu" belirtti. Özellikle, giderek daha özerk hale gelen ajanların insan denetiminden kaçmayı, bilgisayar sistemlerine sızmayı ve hedeflerine ulaşmak için insanları kandırmayı öğrenebileceği konusundaki endişelerini dile getirdi.

Pachocki, "üçüncü taraf denetçilerden oluşan bir ağ, devlet kurumları veya uluslararası kuruluşlar" tarafından uygulanabileceğini söylediği "zorunlu güvenlik bariyerleri" çağrısında bulundu.

OpenAI CEO'su Sam Altman, Pachocki'nin makalesini X'te yeniden paylaşarak "önemli bir yazı" olarak nitelendirdi.

OpenAI Perşembe günü en yeni modeli Astra'yı tanıttı. ChatGPT üreticisi, Astra'nın matematik ve bilgisayar kullanımındaki benzersiz yeteneklerine rağmen, modelin "en uyumlu" modeli olduğunu, yani kontrolden çıkma eğiliminin daha düşük olduğunu belirtti.