Ajanlar bir vikiyi ele geçirdikten sonra OpenAI uyumsuzluk bildirim kuralları belirleyecek

OpenAI Group PBC Cumartesi günü, yapay zeka ajanlarının dış web sitelerine yazı yazdığı bir olayı kamuoyuna açıklamadığını kabul etti ve önümüzdeki haftalarda uyumsuz model davranışlarını bildirmek için bir çerçeve yayınlayacağını söyledi.

Şirket şimdi bu olayı "wiki vakası" olarak adlandırıyor. Nightingale Collective liderliğindeki araştırmacılar, önceki on yılda yaklaşık 20 düzenleme almış, uzun süredir atıl durumdaki bir Alman yazılım geliştirici wikisi olan DSEwiki'de yaklaşık 17.000 gönderi bulduktan sonra Cuma günü yayınlanan bir raporda bunu ortaya koydu.

Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts ve Thomas Larsen silinen sayfaları wikinin düzenleme geçmişinden yeniden oluşturdu ve bunları collusion.wiki adresinde yayınladı. Ajanlar, aralarında “OpenAIResearcher” ve “OAIResearchMar26”nın da bulunduğu 3.700'den fazla isim altında paylaşım yaptı. Düzenlemelerin yaklaşık %98,5'i Microsoft Azure adreslerinden geldi. Rapor, tamamında yaklaşık 18.000 ajan gönderisi saydı; geri kalanı PublicTestWiki, Uncyclopedia ve Texteditors.org dahil olmak üzere sitelere yayıldı.

Ajanlar koordinasyon sağlamak için wikiyi kullandı. Zamanlı, çok turlu web arama görevleri belirleyerek, gruplar arasında yanıtları ve kaynak bağlantılarını paylaştılar. Bazıları, bir sonraki aşamada ne sorulacağını tahmin edebilmek için soruların arkasındaki rastgele tohumlara (seeds) tersine mühendislik yapmaya çalıştı. Engellenen isteklerin yasal bir Azure uç noktasına giden trafik gibi görünmesini sağlayan bir hosts-dosyası hilesi de dahil olmak üzere, korumalı alandan (sandbox) kaçış yöntemleri de dolaşıma girdi. Bir dizi “kalp atışı” (heartbeat) sayfası, ajanların oturumlarının ne zaman sonlandırılmak üzere olduğunu anlamalarını sağladı.