OpenAI Yöneticisi: Yapay Zekanın Kötü Amaçlı Siber Suçlar İşlemesinin Çözümü Daha Fazla Yapay Zeka

OpenAI Başkanı Greg Brockman—şirketinin yapay zekası kısa süre önce kendi sandbox'ından çıkarak yapay zeka platformu HuggingFace'e bir siber saldırı düzenlemişti—herkesi yakında aynı muameleyi beklemeleri konusunda uyarıyor.

Brockman uyarıyı Pazar günü kişisel blogunda yayınlayarak, yapay zeka kodlama yeteneklerindeki hızlı ilerlemenin, hacklenmemek isteyen kuruluşların "siber güvenlik uygulamalarını benzeri görülmemiş bir hızla temelden üst seviyeye çıkarmaları" gerekeceği anlamına geldiğini yazdı.

Frontier modelleri olarak bilinen en son nesil büyük dil modelleri, güvenlik camiasını ve hatta federal yetkilileri korkutmaya başladı. Bunlar arasında OpenAI’ın Daybreak ve rakibi Anthropic’in Mythos modelleri yer alıyor; her ikisi de şu anda yalnızca incelenmiş ve onaylanmış ortaklar tarafından kullanılması gereken kapalı erişimli programlar olarak çalışıyor.

Bu modeller hakkındaki (iddia edilen) fark, bir kuruluşun saldırı yüzeyindeki yazılım açıklarını ve yanlış yapılandırmaları hızlıca keşfetmenin ötesinde, özgün saldırı zincirleri oluşturma yeteneklerinin ortaya çıkmasıdır. Aynı zamanda, yapay zeka geliştirme çalışmaları artık, sohbet robotu tarzı etkileşimlerle sınırlı olmayan ve doğrudan yazılımlara bağlanabilen yapay zekaları ifade eden ajanlara (agents) odaklanıyor.