Tüm Büyük Yapay Zeka Modellerinin 'İç Düşünceleri' Büyük Bir İstismarla İfşa Oldu

Özetle

• Bir araştırmacı ekibi; Anthropic, OpenAI ve Google'ın yapay zeka akıl yürütme belirteçleri için tek bir küresel şifreleme anahtarı kullandığını keşfetti.
• Herkese açık GitHub ve Hugging Face depolarından toplanan 315,320 akıl yürütme bloğunun şifresini çözen araştırmacılar; 62 canlı API anahtarı, 33 şifre ve 30 kişisel e-posta adresi dahil olmak üzere 182 kimlik bilgisi ele geçirdi.
• OpenAI, Anthropic ve Google, sorumlu ifşa sürecinin ardından sunucu tarafı yamaları yayınladı ancak halihazırda kamuya açık olarak paylaşılan geçmiş oturum kayıtlarının şifreleri çözülebilir durumda kalmaya devam ediyor.

Güvenlik araştırmacıları, her büyük yapay zeka akıl yürütme modelinin şifrelenmiş "iç düşüncelerini" okumanın bir yolunu buldu ve geliştiricilerin içindekileri bilmeden çevrimiçi ortamda herkese açık olarak paylaştığı oturum kayıtlarına gömülü 62 canlı API anahtarı ile 33 şifreyi açığa çıkardı.

Araştırmacılar, "Herkese açık depolardan toplanan 315,320 akıl yürütme bloğunun şifresini çözerek 367 Kişisel Tanımlanabilir Bilgi (PII) kalıntısı ve 182 kimlik bilgisi kurtardık," diye yazdı.

MATS Research, ELLIS Institute Tübingen, Max Planck Akıllı Sistemler Enstitüsü ve güvenlik firması Snyk'ten bir ekip tarafından August 10 tarihinde sunulan makale, belirli bir yapay zeka sınıfını hedefliyor: akıl yürütme modelleri. Bunlar, hemen yanıt vermek yerine dahili bir düşünce zinciriyle (yapay zekanın size yanıtı göstermeden önce bir sorun üzerinde çalıştığı adım adım bir taslak alanı) başlayan ve ardından nihai bir yanıt sunan modellerdir.