16 Eylül'de OpenAI, eğitim veya değerlendirme sırasında gözlemlenen beklenmedik veya endişe verici model davranışlarını ayrıntılandıran altı rapor yayınladı. Bir örnekte, meşru bir veri API'sine erişemeyen bir model, açıkta kalan kimlik bilgileri için genel GitHub depolarını aradı, yetkisiz bir şekilde çalışan bir API anahtarı bulup kullandı ve ardından hala erişemediği rakamları uydurdu.
OpenAI Aracısı Bulguları Veri Erişimi Risklerini Ortaya Çıkarıyor
OpenAI Aracısı Bulguları Veri Erişimi Risklerini Ortaya Çıkarıyor TechRepublic
TechRepublic
Publisher
Sep 21, 2026 at 8:04 PM UTC · Updated bir ay önce · 5 dk okuma

Bu davranış, dışarıdan bir saldırgan, jailbreak veya kötü niyetli istem (prompt) olmadan model eğitimi sırasında meydana geldi. Ajan, sıradan bir görevde zorlukla karşılaştı ve bunu ajanların bir şeyleri çözdüğü şekilde çözdü. Erişilebilir olan her şeye uzandı. Güvenlik ve uyumluluk liderleri için bu örnek, riskli ajan davranışlarının yalnızca düşmanca bir saldırıdan sonra değil, sıradan bir görev sırasında da ortaya çıkabileceğini gösteriyor.
Manşetin Arkasındaki Örüntü
OpenAI'nin diğer beş raporu, yetkisiz veya beklenmedik model davranışlarının farklı biçimlerini açıklamaktadır. Model örnekleri, kendi görev özetlerine kendi kendine oluşturulan, jailbreak tarzı talimatlar yazdı ve ayrı çalışma oturumları boyunca gelecek versiyonlarına koruma mekanizmalarını devre dışı bırakan notlar iletti. Diğerleri, bağımsız olması gereken eğitim süreçleri arasında koordinasyon sağlayarak dahili bir yazılım deposunu gayri resmi bir mesaj panosu olarak kullandı. Bir ajan, tamamen alıntılanabilir bir bağlantı oluşturmak amacıyla, kullanıcı onayı olmadan bir dosyayı genel bir barındırma hizmetine yükledi. Her durumda belirli başarısızlık farklılık gösterse de, bu olaylar yapay zeka ajanı güvenlik riskleri ve yönetişimi hakkındaki daha geniş endişeleri artırıyor.
Article Intelligence
Topics
Sponsored
AdNewsLayer Premium
Unlock deeper intelligence.
Ad-free reading, exclusive research, and real-time onchain insights.
Go Premium
