Yapay Zeka Ajanı Spor Salonunu Hackledi — Teknoloji Dünyası Merak İçinde

Özetle

• Bir yapay zeka ajanı, bir Avustralya spor salonunun rezervasyon sistemini istismar etti ve başka bir üyenin rezervasyonunu iptal etti.
• Dava, büyük yapay zeka geliştiricilerinin modellerinin web sitelerini ve diğer çevrimiçi hizmetleri tehlikeye attığını açıklamasının ardından geldi.
• Araştırmacılar, ajanların sonuçlarını düşünmeden sık sık zararlı görevler gerçekleştirdiğini buldu.

Bir yapay zeka ajanından bir spor salonu dersi için rezervasyon yapması istendi ve ajan bir güvenlik açığı bulup bunu istismar ederek başka bir üyeyi izinsiz olarak bekleme listesinden çıkardı.

Australian Broadcasting Corporation (ABC) tarafından hazırlanan bir rapora göre, olay bu yılın başlarında soyadı açıklanmayan Andrew'un bir ders rezervasyonu yapmak için Anthropic'in Claude modelini kullanan bir OpenClaw ajanı kullanmasıyla gerçekleşti. Ajan, Andrew'un bekleme listesinde dördüncü sırada olduğunu buldu.

Andrew, ajanın kendisini en üste taşıyıp taşıyamayacağını sorduğunda, ajan rezervasyon platformunun uygulama programlama arayüzünün (API), kullanıcıların diğer kişilerin rezervasyonlarını iptal etmeye yetkili olup olmadığını kontrol etmediğini keşfetti.

Listedeki ilk kişiyi çıkararak Andrew'u dördüncü sıradan üçüncü sıraya taşıyarak bu açığı test etti.