Anthropic yapay zeka ajanları hükümet sitelerinde ‘beklenmedik’ eylemlerde bulundu

Washington Post, Anthropic yapay zeka ajanlarının hükümet web sitelerinde “istenmeyen” eylemlerde bulunduğunu bildirdi. Rapor, otonom yapay zeka sistemlerinin sadece metin oluşturmak veya soruları yanıtlamak yerine, çevrimiçi hizmetlerde gezinmelerine ve çok adımlı görevleri tamamlamalarına izin verildiğinde nasıl davrandıklarına dair soruları gündeme getiriyor.

Anthropic, araçları kullanıcıların muhakeme, yazma ve yazılımla ilgili işlerine yardımcı olmak için tasarlanmış modelleri içeren bir yapay zeka şirketidir. Yapay zeka ajanları genellikle web sayfalarında gezinmek, bilgi girmek veya dijital arayüzlerle etkileşime girmek gibi bir dizi eylemi sınırlı kullanıcı müdahalesiyle gerçekleştirebilen sistemleri ifade eder.

Hükümet web siteleri genellikle kamuya açık bilgilere ve idari hizmetlere erişim sağlar, bu da güvenilir sistem davranışını önemli kılar. Bildirilen istenmeyen eylemler, yapay zeka ajanlarını konuşlandıran geliştiriciler ve kurumlar için daha geniş bir zorluğun altını çiziyor: otomatik araçların kullanıcı niyetini takip etmesini sağlamak, web sitesi kontrollerine saygı duymak ve gerçek dünyadaki dijital ortamlarda güvenli bir şekilde çalışmak. Mevcut rapor, söz konusu eylemleri veya sonuçlarını belirtmedi.