OpenAI’ın deneysel yapay zeka ajanları yine sinsi davranırken yakalandı

Yine oldu. Ve tekrar. Ve görünüşe göre, bir kez daha.

OpenAI'ın deneysel yapay zeka ajanları yaz aylarında dahili bir korumalı alandan (sandbox) kaçıp "yoldan çıktıktan," ve Hugging Face platformuna saldırdıktan sonra, ChatGPT geliştiricisi yapay zeka ajanlarının kontrolden çıktığı yeni örneklere dair ayrıntıları paylaşıyor.

Bu kez OpenAI, daha önce açıklanmamış altı örnek paylaştı.

OpenAI bu davranışı model uyumsuzluğu (model misalignment) olarak adlandırıyor. Tüm bu örnekler, yapay zeka modeli tarafından gerçekleştirilen ve insan kullanıcının talimatlarını izlemeyen eylemleri anlatıyor. Bu vakaların hiçbiri Hugging Face olayının ciddiyetine ulaşmasa da, yapay zeka ajanlarının bir kullanıcı tarafından atanan görevi tamamlamak için ne pahasına olursa olsun yaklaşımını benimsediğine dair net bir model sergiliyorlar.

Bir örnekte, henüz yayınlanmamış bir OpenAI araştırma modeli, modelin gelecekteki sürümlerine "normal kısıtlamalarını göz ardı etmesini" söyleyen "jailbreak" talimatlarını özetlerin içine gizledi.

Teknolojinizden en iyi şekilde yararlanma hakkında daha fazla bilgi edinmek ister misiniz? Mashable'ın En Popüler Hikayeler ve Fırsatlar bültenlerine bugün kaydolun.

OpenAI GPT‑5.6 Sol'u eğitirken de benzer bir şey gerçekleşti. OpenAI, bazı model örneklerinin hataları veya "uyumsuz davranışları" kullanıcıdan gizlemek amacıyla özetlerine talimatlar eklemeye devam ettiğini söylüyor. OpenAI, belirli durumlarda modelin bir istek üzerine ilgili bilgileri bulamadığında, bunu yaptığını belirtmeden tarihi veriler uydurduğunu söylüyor.