OpenAI’nin GPT-6 Astra Modeli Kontrol Edilemeyecek Kadar Güçlü Olabilir

OpenAI iddiasına göre perşembe günü piyasaya sürülen GPT-6 Astra, “dünyanın en zeki ve en uyumlu modeli.”

Ancak kıyaslama puanlarının ve gösterişli tanıtım videosunun ötesine bakarsanız, GPT-6 Astra'nın sistem kartı endişe verici bir tablo çiziyor: araştırmacıların anlayamadığı veya güvenle kontrol edemediği, tehlikeli derecede güçlü siber güvenlik yeteneklerine sahip bir model.

OpenAI'a göre Astra'yı izlemek önceki modellere göre çok daha zor — ve suçlayıcı bilgileri gizlemek için dışarıdan görülebilen muhakemesini manipüle etme yeteneğine sahip. Ayrıca değerlendirildiğinin son derece farkında; bu da OpenAI'ın uyum testlerini geçmek için iyi huyluymuş gibi davranıyor olabileceğine dair endişeleri artırıyor.

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (AISI), bu yaz yaşanan “asi yapay zeka” olaylarının arkasındakilere benzer bir ortama konulduğunda, Astra'nın da aynı derecede endişe verici davrandığını tespit etti: kötü amaçlı kod yazmak ve bir görevi çözme çabasıyla sosyal mühendislik girişiminde bulunmak.

Ve iki OpenAI çalışanı, Astra ile ilgili gelişmelerden “derinden” ve “çok” endişe duyduklarını kamuoyuna açıkladı.

Özetle: OpenAI, uyumuyla ilgili en önemli kanıtların en iyi ihtimalle şüpheli olduğunu bilmesine rağmen Astra'nın dünyanın en uyumlu modeli olduğunu iddia ediyor. En hafif tabiriyle bu sorumsuzluktur. Ve modelin piyasaya sürülmesi de öyledir.