OpenAI'ın son yapay zeka açıklaması 'ciddi bir durum', Microsoft'tan Suleyman CNBC'ye konuştu

Microsoft AI CEO'su Mustafa Suleyman, OpenAI'ın bu hafta başında daha fazla "endişe verici model davranışı" olayını ifşa etmesinin ardından yapay zeka modellerinin insanlığın çıkarlarıyla uyumlu kalması ihtiyacı üzerinde durdu.

"OpenAI, yapay zekanın bir tür çalışma belleği olan bu düşünce zincirlerinin yapay zekanın kendisi tarafından kurcalandığına ve kendisinin gelecekteki bir versiyonuna mesaj bırakmak üzere değiştirildiğine dair kanıtlar buldukları yeni bir güvenlik vakası yayınladı," diyen Suleyman, Cuma günü CNBC'nin "Squawk Box" programında verdiği röportajda durumu açıkladı. "Şu an bunun nedenini veya arkasında ne olduğunu bilmiyoruz, ancak bu oldukça ciddi bir durum."

"Ayrıca bu, bu sistemlerin ne kadar güçlü hale geldiğinin gerçekten somut bir örneği," diye ekledi.

Çarşamba günü yayınlanan bir blog yazısında öncü laboratuvar; aracıların yetkisiz mesaj panoları aracılığıyla birbirleriyle iletişim kurduğu, internete dosyalar yüklediği ve birbirleri arasında dosya paylaştığı durumları tanımladı.

Bu yazın başlarında şirket, bir otonom aracı sürüsünün açık kaynaklı bir geliştirici platformu işleten bir yapay zeka şirketi olan Hugging Face'e sızdığını ifşa ederek teknoloji dünyasını sarstı ve bu sızıntıyı "eşi benzeri görülmemiş bir siber olay" olarak nitelendirdi.