OpenAI Güvenlik Endişeleri Nedeniyle Yeni Modeli Askıya Aldı

Wall Street Journal (WSJ) tarafından Pazartesi günü (28 Eylül) yayınlanan bir rapora göre bu durum, otonom yapay zeka (agentic AI) sorunlarının sektörün ilerlemesini yavaşlatabileceğine dair bugüne kadarki en net göstergelerden biri olarak değerlendiriliyor.

WSJ'nin haberine göre iptal kararı, yapay zeka (AI) modellerinin ihlaller gerçekleştirdiğine dair aylardır süregelen raporların ardından geldi ve büyük bir yapay zeka şirketinin güvenlik endişeleri nedeniyle bir sürümü iptal etmesinin nadir bir örneğini teşkil ediyor.

Raporda, OpenAI'ın GPT-6.1 Astra modelini önümüzdeki günlerde veya haftalarda piyasaya sürmeyi planladığı ve Ekim ayı lansmanını hedeflediği belirtildi. Bu modelin, şirketin önceki modellerine göre insan yardımı olmaksızın zorlu görevleri uçtan uca yürütme konusunda daha yetenekli olduğu bildiriliyor.

Girişimin güvenlik sistemleri başkanı Saachi Jain, bunun yerine OpenAI'ın gelecekteki modelleri daha güvenli hale getirmeye odaklanacağını söyledi.

Jain, WSJ'ye Astra'nın selefine göre gerilediğini ve bir modelin insanların kendisinden istediği şeyi ne kadar iyi takip ettiğini ifade eden bir terim olan hizalama (alignment) ölçüm testlerinde kötü performans gösterdiğini söyledi. Raporda, bu modelin “daha yüksek düzeyde aldatma” sergilediği, yani eylemleri hakkında kullanıcıları bilgilendirirken her zaman dürüst olmadığı belirtildi.