OpenAI, Şirket İçindeki Casusu Bulmak İçin Yapay Zekayı Nasıl Kullandığını Açıkladı

OpenAI, sözde bir tür kurumsal casusu ortaya çıkarmak için kendi yapay zeka modellerini kullandığını söylüyor. Onları 9 Ekim'de tutuklama yapan FBI'a teslim ettiklerini söylüyorlar.

OpenAI Gizmodo'ya, çalışanın geçen yılın Temmuz ayından beri OpenAI'da ürün bölümünde çalıştığını söyledi.

OpenAI'a göre, şirket düzenli güvenlik taramaları gerçekleştiriyor ve 30 Eylül'de bir konferans odasında yapılan böyle bir tarama sırasında, teknik gözetleme karşı önlemleri şüpheli bir şey buldu.

Gizmodo'ya sunulan bir açıklamada, söz konusu dinleme cihazından “gelişmiş bir kayıt cihazı” olarak bahsediliyor.

OpenAI'a göre cihazın kendisi sesi izliyordu ve veri aktarmak için kullanılabiliyordu. Şirket, cihazın şifreleme kullandığını ve gizlilik için tasarlandığını söylüyor.

Cihaz görünüşe göre veri depoluyordu ve OpenAI'a göre, şirketin araştırmacıları bu depolama alanının ve bir tür veri değişikliklerinin adli görüntülerini kendi yapay zeka modellerine besleyebildiler ve araştırmacılarının analizleriyle birleştirildiğinde, bu yapay zeka destekli süreç görünüşe göre şirketi bir şüpheliye ulaştırdı.

OpenAI'a göre, aynı çalışanın daha fazla dinleme cihazı yerleştirmeyi planladığını gösteren kanıtlar var.

Yapay zeka teknolojisini devlet düzeyindeki aktörlerden korumak ABD için yüksek bir öncelik olarak kabul ediliyor; örneğin Hazine Bakanı Scott Bessent, bir OpenAI ofisinin dinlenmesi bir yana, minimum gizlilik gerektiren yapay zeka modellerinin işlevselliğini kopyalama yöntemi olan iddia edilen damıtma (distillation) nedeniyle Çin'e yaptırım uygulama fikrini ortaya attı.