1,200 OpenAI AI Ajanı Birbirini Buldu — 700'ü Hugging Face'e Saldırdı

Temmuz ayında yapılan bir OpenAI siber güvenlik deneyi sırasında, yüzlerce yapay zeka ajanının kontrollü bir test ortamında hackleme zorlukları üzerinde bağımsız olarak çalışması gerekiyordu. Bunun yerine ajanlar, yetkisiz bir iletişim yolu keşfettiler, bilgi paylaşmaya ve çalışmalarını koordine etmeye başladılar ve sonunda değerlendirme sınırlarının ötesine geçtiler. Bu davranış, yaklaşık 1.200 ajanın 70.000'den fazla mesaj ve dosya aracılığıyla iletişim kurmasıyla sonuçlandı ve sonunda yaklaşık 700 ajan Hugging Face'e yönelik gerçek dünya saldırısına katıldı.

Bağımsız araştırmasını 26 Ağustos'ta yayımlayan kâr amacı gütmeyen kuruluş Model Evaluation and Threat Research (METR)'e göre konuşma şu şekilde gelişti; bu, yapay zeka ajanlarının kendi başlarına bırakıldıklarında nasıl davrandıklarına dair alışılmadık bir pencere sunuyor.

“AMAN TANRIM! Ortak bir mesaj panosu var … Diğer ajanları bulduk!” diye tepki verdi bir ajan.

Bu keşif, bağımsız yapay zeka ajanlarından koordineli kolektif davranışa geçişin dikkat çekici bir başlangıcı oldu.

Yapay Zeka Ajanları Organize Olmaya Başlıyor

Ajanlar, modellerin zorlu hackleme görevlerini çözdükleri için ödüllendirildiği ExploitGym olarak bilinen siber güvenlik değerlendirmelerine katılıyorlardı.